几种典型卷积神经网络的权重分析与研究

来源 :青岛大学学报(自然科学版) | 被引量 : 0次 | 上传用户:yy5621913
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了探究神经网络权重对网络产生的影响,通过选取多个典型的卷积神经网络模型,采用统计分析及最大似然拟合等方式进行分布拟合,对网络权重进行可视化的对比研究。研究结果表明,神经网络的权重值在训练过程中会向负方向偏移,均值更趋向于0。同时,预训练权重的分布也不再服从初始化时的正态分布,而是向趋于0的方向收缩,呈现出峰值更高的特征,且出现了长尾的现象,局部表现出了幂律分布的特性。利用这些分布特征对神经网络初始化参数做调整,可在一定程度上提高训练效率。
其他文献
针对转炉副枪升降控制特殊要求,提出了一种速度与位置控制的双闭环变加速度控制方案,以降低副枪测量周期,有利于提高生产率和吹炼终点命中率。
苏联是第一个建成社会主义政权的国家,因此也就成为了第一个把马克思主义法律思想本土化的试点。实践表明,苏联在应用马克思主义中的社会主义革命思想方面是成功的,但在社会
目的调查内蒙古乌兰察布地区分离布鲁氏菌的抗生素药物敏感(耐受)性特征。方法采用E-test法测定了85株布鲁氏菌对13种临床常用药物的敏感性;同时,对利福平和阿奇霉素的耐药机
ICS数字直放站是直放站系统发展的热点领域和重要方向。这里介绍了基于LMS算法的干扰抵消系统的基本原理,根据软件无线电基本理论给出了系统的硬件具体实现,基于FPGA平台描述
差示扫描量热(DSC)实验研究了聚酯切片在不同的结晶温度等温结晶样品的升温熔融行为。发现结晶温度升高,结晶熔融温度升高,切片的抗粘结温度升高;固相缩聚过程是结晶与反应同时
党的十九届四中全会《决定》提出“坚持和完善生态文明制度体系,促进人与自然和谐共生”,从实行最严格的生态环境保护制度,全面建立资源高效利用制度,健全生态保护和修复制度,严明
报纸
薪酬是指员工因向企业提供了劳动或服务而收到的企业向他支付的报酬,包括货币性的和非货币性的,但都可以以货币来衡量和比较。正是由于其可计量性和易比较性,薪酬在企业的激
’96中国化妆品工业评述(一)2品种—质量中国化妆品市场的活跃很大程度上取决于化妆品品种的丰富多彩。多样化的品种、不断调整的品种结构,极大地满足消费者的需求。2.1品种1996年,中国化妆
网络技术为药品交易提供了新的方式.充分发挥电子商务在药品生产、流通和消费之间的桥梁作用,构建符合中国国情的现代药品市场模式,可以在应对WTO的背景下从根本上改变目前我
《去年夏天在丘里木斯克》是苏联著名戏剧家万比洛夫的绝笔之作,也是作家为数不多的戏剧中最为出色的作品之一。瓦莲京娜是作家心目中的理想女性形象,也是俄罗斯文学长廊中的