【摘 要】
:
卷积神经网络在各领域的应用十分广泛,尤其在图像分类问题上取得了很高的准确率。然而设计一个好的网络需要手动设定大量超参数。这些超参数的取值范围庞大、组合方式多样,需要依靠大量的手工试错来寻找合适的值。因此,如何设计一种高效的、能够自动选择超参数的方法极具挑战性和意义。本文设计了一种改进型粒子群算法来优化卷积神经网络的超参数。该算法包含类适应的超参数粒子化编码方法,高效粒子搜索策略和卷积神经网络的设计
论文部分内容阅读
卷积神经网络在各领域的应用十分广泛,尤其在图像分类问题上取得了很高的准确率。然而设计一个好的网络需要手动设定大量超参数。这些超参数的取值范围庞大、组合方式多样,需要依靠大量的手工试错来寻找合适的值。因此,如何设计一种高效的、能够自动选择超参数的方法极具挑战性和意义。本文设计了一种改进型粒子群算法来优化卷积神经网络的超参数。该算法包含类适应的超参数粒子化编码方法,高效粒子搜索策略和卷积神经网络的设计与优化方案三部分。围绕这三部分内容,本文首先根据不同种类超参数的特点,分别提出了相应的编码方案:对于结构型超参数,要求粒子能够表达block的结构信息,并保证结构的多样性;对于数值型超参数,用粒子的每个维度编码一类超参数,保证了不同超参数的多种组合方式。然后,引入了范围适应的学习因子和基于云模型的最差粒子替换算法,提高了粒子的搜索能力;针对超参数优化任务上fitness计算成本过高的问题,提出了基于最小二乘法的粒子性能预测算法。最后,本文阐述了卷积神经网络超参数的设计与优化方案,使粒子群算法不仅可以优化确定结构的卷积神经网络超参数,也可以设计新的网络结构。本文通过一系列实验分析了所提出的算法。然后将算法分别应用于几种典型的卷积神经网络,针对图像分类、语音识别、文本识别三类问题分别进行了实验。以图像分类任务为例,经过本文所提算法优化后的网络,准确率最高提升13.41%,最小提升1.14%,相与目前最好的优化算法提高了 5.38%。之后,将本文算法与当前广泛使用的卷积神经网络结构优化算法MetaQNN和NAS进行了对比。以图像分类任务为例,本文算法比MetaQNN提高了 1.52%。虽比NAS v3低1.4%,但优化时间和使用资源分别减少了 4倍和100倍。实验证明本文算法不仅在准确率上优于同类算法,在优化成本上也大大减少。
其他文献
会话是日常生活中常见的语言现象,话轮转换作为会话分析的核心内容,在会话交际中起着至关重要的作用。本文将电视剧《父母爱情》与话轮转换理论相结合,论述了话轮转换理论在电视剧中的具体运用方式。这不仅能够更加清楚地理解《父母爱情》中的人物对话,也加深了对话轮转换的深层理解。现阶段关于话轮转换的研究主要以文学作品、访谈类节目和课堂师生对话为研究对象,对电视剧中的人物对话的研究较少。因此本文以电视剧《父母爱情
近几年,随着各界人士对人工智能技术研究的兴趣激增,人工智能开始走进大众的视野,并逐渐渗透进日常生活中的各个角落。金融、电商、自动驾驶、客服助理等领域都可见人工智能
资源可为医院病患的需求提供支持,是缓解困境病患医疗经济压力大、疾病适应难、社会交往受限等社会问题的关键。但住院患者需求多元化、复杂化,特别是弱势病患的自我调动资源能力不足,在社会工作服务资源体系还不完善的背景下,为了解决病患及家属的社会问题,保障社会工作服务的有效性,进行医务社会工作资源链接研究成了重要任务。通过个案研究发现患者有增强资源需求认识、拓展资源获取渠道、提高资源获取能力等资源需求,而医
甘蒙柽柳(Tamarix austromongolica Nakai)是我国黄河流域特有种,具有较强的抗逆性,耐寒耐旱、耐盐碱,是维护岸堤稳定、改良土壤、防风固沙的优良树种。为了探寻甘蒙柽柳居群间
互联网作为一项科学技术,为人们的生产和生活提供了巨大的便利,它涵盖了当下最热的物联网、人工智能、量子计算机、无人驾驶等诸多领域。尽管互联网以及它所涵盖的诸多领域目前还处于初级阶段,但在互联网的推动下,行业之间的壁垒逐渐被打破,网络把它们连接在一起,相互促进,发展融合。分工理论作为马克思研究的主要内容,贯穿他的一生。马克思在批判资本主义社会时,他看到精细化分工所带来的促进作用,提高生产力,增加社会财
很多桥梁倒塌是桥墩周围水流的冲刷引起埋深逐渐减小而导致的。大跨度桥梁多采用群桩基础。群桩阻水导致其附近产生局部冲刷、桩基周围的床面降低、桩基埋深减小,甚至于危及到桥梁的安全。因此,桥梁桩基础周围的冲刷发展过程、冲刷机理及安全防护是十分值得研究的工程问题。本文特别针对群桩在周期性非恒定波流环境下的群桩冲刷发展规律以及群桩抛石防护展开了研究,对桥梁工程具有一定的实际意义。本文通过30组井字形群桩冲刷水
“人”的观念是哲学中最重要的主题词之一。从古希腊哲学家提出关注人本身起,“人”的观念开始进入学者的讨论范围;在文艺复兴的推动之下,人战胜了神,占据主体地位;在近代哲学中,德国古典哲学家关于人的理论论述呈现一片繁盛之象,这都为马克思关注“人”提供了理论来源。选取“人”的观念作为本文的核心概念,是因为“观念”一词相较于“内涵”、“概念”等词语更能体现出对马克思早期思想中关于“人”的主观与客观认识的系统
沉水植物是湿地生态系统的重要组成部分,对维持生态系统稳定具有关键作用,其分布和生长受环境因子和水文情势决定。洞庭湖是长江中游重要的通江湖泊,近年来受人为干扰和气候变化影响,水文节律发生改变,导致沉水植物出现衰退现象,急需开展科学研究。本研究通过野外调查与控制实验相结合,分析西洞庭湖沉水植物分布及生长对环境条件、水文情势与种间竞争等控制因子的响应,为通江湖泊沉水植物的保护和恢复提供科学依据。本研究于
恶性肿瘤(癌症)已经成为严重威胁我国人群健康的主要公共卫生问题之一。随着核磁共振成像(Magnetic Resonance Imaging,MRI)、计算机断层扫描(Computed Tomography,CT)等医学影像技术的不断发展,医学影像可以清晰地观察人体内部的组织结构与代谢状态,为现代医学诊断提供了重要的参考信息。肿瘤影像分割指的是对肿瘤或者肿瘤子结构做出精确描绘,在肿瘤的诊断与治疗中有