面向卷积神经网络的软错误可靠性分析及提升研究

来源 :吉林大学 | 被引量 : 0次 | 上传用户:shgrx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
卷积神经网络(Convolutional Neural Networks,CNNs)凭借其较高的准确性在图像识别、自动驾驶等领域很受欢迎。随着大规模图像数据的产生以及相关应用场景的开发,CNNs对计算性能的要求不断提高。而且受到工艺发展等条件的限制,传统处理器执行CNNs的能效过低。因此,芯片开发人员利用CNN加速器来提高CNNs的计算性能。但是随着制程工艺的发展,芯片尺寸的缩小和集成度的提高在带来能效提升的同时,也造成了软错误发生概率的提高。对于具有较高可靠性需求的新型CNNs应用程序(例如自动驾驶汽车)来说,软错误可能导致图像识别结果出错。而计算机系统基于错误的图像识别结果做出的决策可能造成车祸等无法挽回的后果。因此,分析并提升CNNs的软错误可靠性非常重要。本文分别从CNN模型和CNN加速器体系结构角度建立软错误可靠性量化分析模型,并提出了两种CNN模型软错误可靠性提升策略。首先,我们基于CNN模型可靠性特征,提出SERN模型。通过分析CNN模型的结构特点发现CNN模型的可靠性与软错误发生的位置有关。例如,发生在正数中的软错误比发生在负数中的软错误对CNN模型的图像识别结果影响更大;发生在32位浮点数的阶码符号位(第30位)中的软错误比发生在其他位中的软错误对CNN模型的图像识别结果影响更大。基于上述CNN模型软错误可靠性特性,提出的SERN模型仅需要少量的CNN模型参数就可以计算出CNN模型中发生的软错误导致图像识别结果出错的概率,具有通用性和普适性。基于SERN,我们发现位置靠前的层,软错误可靠性较差;计算量大越大的层,软错误可靠性较差。同时,本文通过对几种常见CNN模型进行错误注入实验,验证了所提SERN模型可以高效、准确地对CNN模型进行软错误可靠性分析。其次,我们基于CNN加速器的硬件结构特点和动态使用特性,提出CNNArcAVF模型。CNNArc-AVF根据对图像识别结果有影响的关键计算在CNN加速器中的驻留时间计算软错误导致图像识别结果出错的概率。根据CNNArc-AVF,我们探索了CNN加速器在不同架构设计下的可靠性特征,包括数据流映射策略,脉动阵列大小。借助CNNArc-AVF,我们发现了CNN加速器的可靠性瓶颈。例如,我们观察到与其他数据流映射策略相比,CNN加速器采用输出固定数据流映射策略时最容易受软错误的影响。我们进一步对CNN加速器中各处理单元进行可靠性分析,发现处理单元的利用率越高,其软错误可靠性越差。通过分析执行不同CNN模型时CNN加速器的可靠性,发现CNN加速器执行卷积层中的计算时比执行全连接层中的计算时更容易受到软错误的影响。我们还对CNN加速器的可靠性和性能进行了权衡。上述结论可以帮助芯片设计人员对可靠性瓶颈提出有针对性的可靠性提升策略,避免了对CNN加速器中所有操作盲目的添加纠错设计带来的计算资源和计算速度开销。最后,我们基于CNN模型的软错误可靠性特性,提出两种CNN模型软错误可靠性提升策略。分别为用纠错码(Error Correcting Code,ECC)保护易受软错误影响的数据位和冗余执行易受软错误影响的CNN模型层。通过实验证明上述策略可以以可接受的能耗和执行时间开销显著降低软错误对CNN模型的影响,提高CNN模型的图像识别准确率。
其他文献
现阶段,中国的航空事业正处于高速发展阶段,停机坪是机场的重要组成部分,人员配备、设备情况、气候环境、管理现状等方面对整个机场作业环境的安全运营起着巨大的影响。因此,本文在停机坪事故原因分析的基础上,利用ISM解释结构模型和网络层次分析法(ANP)对停机坪安全影响因素进行分析;采用实地调研、文献综述、模型验证的方法对停机坪风险评估模型进行构建和应用分析。通过对国内停机坪安全事故案例统计分析,将停机坪
受全球疫情的影响,各个国家的汉语课堂纷纷从线下转移到了线上,使得“线上汉语教学”出现在大众的视野。与传统的线下授课相比,“线上汉语教学”是一种全新的教学方式,因此有很多问题值得深入研究。笔者是马来西亚的汉语教师志愿者,负责玛拉工艺大学九个班级汉语选修课的教学,授课方式是线上授课,授课软件是Microsoft Teams。本文为笔者在此次线上汉语教学过程中遇到的问题及采取的解决措施,希望能为广大线上
近些年来,随着工业领域的回暖、人工成本的逐年增加和人口老龄化的影响,机器人代替人已经成为未来许多领域的主流趋势。机器人分拣作为机器人常用的技术,广泛应用于家庭服务、工业制造和物流仓储等领域。机器人分拣是一项具有复杂性的任务,主要涉及了场景感知、目标检测、位姿估计和抓取规划等,已经成为研究人员研究的热点。但是,目前大多数机器人分拣系统仅能够对单类目标物体或相互分离的多类目标物体完成分拣任务,而针对非
自甲骨文發現以來,眾多甲骨文學者投入於甲骨文字的釋讀工作中,產生了豐富的成果。這些考釋成果發佈在各種各樣的雜誌報刊中,為了通盤了解甲骨文字的考釋情況,以及學者對某一字形認識的發展和變化,學界曾多次整理總結甲骨文的考釋成果。本論文即是在前(5相關成果的基礎上,對以往甲骨文考釋所取得的成績進行的一次全面的匯集,以提要方式,用簡潔的話語陳述諸家考釋過程及成果。論文搜集的範圍主要是1899年至2005年甲
学位
近年来随着国家“退城进园”和“退二进三”政策的实施,污染土壤修复工作在各地大量开展。直接热脱附技术以其高效、快速、适应性强等特点被作为主要的土壤修复技术。现有直接热脱附回转窑和二燃室的燃气燃烧器普遍不具备低氮设计,在土壤修复过程中存在NOx排放浓度高的问题,部分设备排放浓度超过200 mg/m~3,严重危害大气环境。由于土壤直接热脱附行业起步晚,缺乏针对性的大气污染物排放标准,本文以锅炉和工业窑炉
学位
学位
随着网络技术的发展以及定位技术在人们生活中的广泛应用,基于位置的社交网络得到快速发展并逐步融入到人们的日常生活中。其中包含的地理位置信息为研究人们的行为模式,挖掘人们的移动规律,提供了丰富的数据支持。兴趣点推荐作为基于位置的社交网络的应用之一,在近年来受到很大关注。兴趣点推荐从用户的历史签到地点序列中,挖掘用户的兴趣偏好,从而为用户推荐其感兴趣的地点,省去了用户自己从众多地点中选取自己感兴趣地点的
归园田居(其一)陶渊明少无适俗韵,性本爱丘山。误落尘网中,一去三十年。羁鸟恋旧林,池鱼思故渊。开荒南野际,守拙归园田。方宅十余亩,草屋八九间。榆柳荫后檐,桃李罗堂前。暧暧远人村,依依墟里烟。狗吠深巷中,鸡鸣桑树颠。户庭无尘杂,虚室有余闲。久在樊笼里,复得返自然。赏析在我们年少的时候,或多或少都学过陶渊明的文章,甚至还背诵过他的《饮酒(其五)》——结庐在人境,而无车马喧。问君何能尔?心远地自偏
期刊