虽然集成电路的设计工艺早已经发展至45nm以下,但主流的光刻制造波长仍停留在193nm,两者的差距会使光刻图形产生形变,影响芯片的性能。即使已经提出各种分辨率增强技术来提高光刻精度。但版图中仍存在许多难以制造的热点设计,因此在芯片生产前对热点进行检测就变得十分重要。本文围绕着热点检测展开了以下研究工作:1、针对基于机器学习的热点检测算法需手动提取特征的问题,本文提出了一种基于迁移学习的热点检测方法。通过迁移预训练好的深度网络实现热点检测,其能在有限的样本量下得到优异的检测结果。对三种经典的卷积神经网络模型进行了迁移和对比,得到了最适合热点检测的网络架构是VGG16。2、为了提升热点的检测效果,增强网络的泛化能力,主要从超参数、数据集以及网络模型三个方面做了分析及优化:分析了学习率、动量以及随机失活三个常用超参数的原理及作用,并且通过对这三个超参数的调优,有效地优化了网络的训练过程,提高了网络的泛化能力。针对集成电路版图设计数据集中存在的类别不平衡问题,本文通过对比加权和采样两类方法的检测结果以及对类别权重比值扫描调优,发现在代价函数中引入类别加权能有效提高热点检测的查全率,并且在权重比例设置为3:1时,能够得到查全率和查准率平衡下的最优结果。由于预训练网络时使用的ImageNet图像与版图设计图像之间存在较大差异,为了改善这种差异所带来的迁移效果下降,本文对模型迁移的深度进行了调优,搜索出最优的迁移深度。得到在迁移网络最开始的2~4个卷积层时,能达到最优的检测结果。3、基于ICCAD 2012竞赛所使用的数据得到了本文的原始数据集,此时本文方法能得到98.1%的查全率,0.5136的查准率,0.6765的调和平均值F1以及0.8313的F2值,能有效提高现有检测方法的调和平均值。此外,该方法在减少训练集样本时仍能获得良好的检测结果,在只有原始训练集中1/4的热点样本以及1/2的无热点样本时,能得到97.62%的查全率和0.6116的F1值。4、本文发现原始数据集存在训练集和测试集分布不同的问题,并且通过对数据集的总体分布和样本具体的分析进行了验证。最后还验证了采用训练集和测试集合并后随机采样的方法能够解决分布不同的问题。