随着医学图像处理技术与深度学习网络的快速发展,宫颈脱落细胞学诊断对病理信息的获取需求越来越高。我国细胞学病理专家级别的阅片人员匮乏且经验有限,人工判读的敏感性仅65%,存在严重的漏诊、误诊。目前,宫颈图像中单个细胞在DNA定量分析技术等智能图像处理中已获得较好的检测识别效果。重叠细胞（包括黏连细胞和簇团细胞）作为一种不可避免的客观存在,它和恶性细胞间的相似性会导致重叠区域的分类错误。因此,重叠细胞的分割和检测是医学图像处理中的难点和重点。一般信号处理算法都有信息损失,像素被理解为最原始的无损特征。如何基于像素以及细胞形态学估计进行细胞核和细胞质的分割是本文首要研究的重点内容之一。其次,如何利用深度学习网络的优势来完成细胞分割和检测任务也是本文的研究重点。本文基于旋转椭圆形态学估计的分水岭算法以及U-net、Faster R-CNN、Mask R-CNN等完成了宫颈脱落细胞的分割和检测等多任务学习,对病理医师进行病理诊断有辅助作用。主要研究工作体现在细胞分割和细胞检测这两个方面:1.在分割任务中,基于公开数据集ISBI2014,分别进行了基于旋转椭圆的细胞形态学估计的多相分水岭算法、U-net和基于融合标记的Mask R-CNN的细胞核和细胞质分割。其中,基于U-net进行细胞核的分割效果较分水岭算法好,但对于重叠细胞质的实体分割效果并不显著。针对上述问题,提出一种新型的具有融合标记功能的Mask R-CNN,实现了宫颈脱落细胞的深度分割。2.在检测任务中,首先基于宫颈脱落细胞核灰度图像提出了一种多标签多尺度的Faster R-CNN细胞检测算法。从数据集的制作和模型设计出发,利用价值信息对感兴趣区域进行标签设计。基于细胞核考虑了重叠区域中黏连细胞的再分割和细分类,最终实现了正常上皮细胞、异常上皮细胞等五类宫颈脱落细胞的检测。实验对比了基准网络分别为VGG-16、ResNet-50和ResNet-101时的检测效果,在基准网络为ResNet-101时的平均准确度达到91.61%。其次,基于双摄图像运用引入膨胀卷积的Mask R-CNN在基准网络为ResNet-101时,分别进行了三类宫颈脱落上皮细胞的检测以及类上皮细胞、中心粒细胞、淋巴细胞等七类宫颈脱落细胞的深度检测,其AP_0.5均值分别为0.9421和0.8265,平均准确度分别为93.16%和79.42%。由此,基于双摄图像的Mask R-CNN进一步深化了宫颈脱落细胞的检测和分类。