基于模型定义设计的深度网络相机图像处理器研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:zhairui15
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文工作源自于我国探月工程月表作业监视相机图像处理科研任务。在数字图像处理系统中,相机原始输入图像的质量对系统后续图像质量提升、智能分析和压缩存储等都有重要的影响。相机输出图像的质量在很大程度上决定于图像处理器(ISP,Image Signal Processor)的性能。传统的ISP系统结构复杂,处理流水线长,不同的ISP芯片所设计的功能模块在处理流水线上的顺序不尽相同,大部分情况下取决于工程师的设计经验。到目前为止,ISP芯片仍存在部分场景下处理效果不佳,处理流水参数无法满足所有应用场景的痛点。针对以上问题,本文考虑采用基于深度学习模型的算法来解决传统ISP系统存在的问题,通过数据驱动的算法设计方式解决场景适应性问题。并且将算法部署到FPGA上实现算法的功能和性能验证。由于ISP的处理质量更多地取决于主观质量,数据标注难度大,目前针对ISP的数据集相对较少,但后续随着参与改进的人员不断增加,数据集将逐步扩大,深度网络结构也将不断改进。鉴于传统的FPGA设计方式不适用于持续改进的算法硬化任务,本文研究了基于模型定义设计(MBD,Model Based Design)的设计和验证方式,将这一设计方式应用于ISP的深度网络FPGA设计实现,并完成了整个验证平台的搭建。论文的主要创新包括以下三个方面:(1)深入研究了传统ISP的框架和相关处理算法,通过对比不同ISP处理流水线的处理模块和流水顺序,分析了传统ISP设计的不足。在此基础上研究了基于卷积神经网络的ISP框架,结合传统ISP的优点,加入传统ISP的预处理,提出了一种改进后的基于卷积神经网络的ISP处理器设计,并对算法的性能进行了分析对比。(2)为了在数据集不断扩充,算法网络结构不断更新的情况下,快速实现ISP的硬件验证,本文提出了一种基于MBD的深度网络ISP设计和验证平台设计方法。平台采用MATLAB的Simulink作为基本工具,在MATLAB中实现完整的测试数据生成和传输、ISP神经网络处理和处理结果验证。所有的设计采用高级语言完成。(3)面向硬件实现,本文针对改进后的基于卷积神经网络的ISP处理器,提出了一种灵活高效的卷积神经网络ISP系统硬件加速架构。采用MBD的设计方法,本文完成了所提出的硬件加速架构的模型设计。为了解决面向硬件实现时ISP系统中卷积神经网络部分存在的数据吞吐量大、乘加数量大、通用性差、迭代速度慢等问题,本文使用基于模型的设计的方法设计了一种卷积神经网络硬件加速结构,解决了卷积神经网络硬件设计过程中卷积运算、反卷积运算、填充、池化、数据存储方式等难点,提高了卷积神经网络的运算速度,最终完成了整体ISP系统硬件加速架构设计。本文利用Simulink中的在环验证功能,在ZYNQ Ultra Scale+系列的ZCU106板卡上完成了本文提出的卷积神经网络ISP系统硬件加速结构的部署,其工作频率可达85 MHz,处理的图像分辨率最大可达4K(3968×2944)。其中卷积神经网络模块的算力达到了536.84 GOPS。对于卷积神经网络硬件加速的关键资源,本架构消耗的DSP为1548,BRAM为1244,资源效率分别可达34.7%和43.2%。本架构在拥有高算力的同时能提高资源利用率,具备高效、灵活和高速的特点,满足在实际应用过程中替代传统ISP的需求。
其他文献
随着5G基础设施的建立和完善,城市交通、安防等系统必将迎来进一步的升级,对于获取的视频图像的质量也有了更高的要求。然而,在雾霾天气下,由于悬浮颗粒对光线的散射和吸收,设备所采集到的视频的对比度、色彩饱和度等都会有不同程度的下降,这将影响后续的一些图像处理任务,给视频监控、智慧交通、航空拍摄、汽车导航等现实应用场景带来困难。此外,目前关于去雾的研究主要在单幅图像去雾方面,多数是在PC平台用软件实现,
学位
合成孔径雷达作为一种用于微波成像的传感设备,与传统光学遥感设备相比具有全天时、全天候的成像处理能力。因此在民用遥感、测绘和军事侦察等领域得到了广泛的应用。随着我国高分系列卫星的成功发射,为实现舰船目标的检测提供了有力的数据支撑。传统的SAR图像的舰船目标检测方法主要是将统计学习与恒虚警率(Constant False Alarm Rate,CFAR)方法结合。但是该类方法多依赖于对海洋杂波的建模,
学位
空间通信相比于其他通信场景,其通信距离要远很多,通信信号在自由空间中远距离传播时会有非常大的损耗,从而导致接收端接收到的信号强度非常弱。所以在空间通信系统的设计中,一般会通过提高通信系统的功率利用率来克服这个问题,而为了满足空间通信中日益增长的编译码器高速率的需求,研究低时延、高吞吐率的Turbo码编译码器具有重要的价值。本文以空间通信中星间、星地之间的无线通信为背景,研究了Turbo码高效编译码
极化(Polar)码是第一类被证明能够达到任意二进制离散无记忆信道(B-DMC)对称容量的信道编码方案,自它问世以来受到了学术界和工业界广泛的关注。由于其在有限码长下的纠错性能不尽人意,学者们提出通过级联一个外码的编码方案,使得Polar码的纠错性能得到提升,能够与现有最好的码,如低密度奇偶校验(LDPC)码、Turbo码相竞争。最小距离作为衡量Polar码性能的重要指标,直接影响了Polar码的
随着医学影像处理技术的不断发展,多中心研究日益兴起。医学影像数据的获取是医学影像处理中的基本问题,多中心研究通过联合多个医疗中心进行影像数据的收集,可以有效地增广医学影像的数据量,提高数据效力,尤其对于部分罕见疾病的研究具有重大意义。扩散磁共振成像对于成像过程中使用的采集设置较为敏感,不同医疗中心的采集结果通常存在一定的中心间差异,因此,在进行多中心数据的整合前,需要首先对影像数据进行同质化处理。
众所周知,对于海洋资源的开发利用是不可能离开对海洋数据的获取与传输,因此水下通信技术的发展对人类社会的发展具有重大战略意义。水下无线光通信技术的特点包含带宽不易受环境因素影响、可用载波频率高、通信传输时延小等等,这些特点正好能够解决新时代背景下水下通信所面临的一些难题。然而,在水下无线光通信系统中,海洋湍流现象、吸收与散射效应等因素的存在,会导致通信系统中信号的能量在传输过程中受到一定的能量衰减,
学位
伴随着科学的进步以及技术的日益发展,计算机、智能手机等信息媒介逐渐变成人们生活生产的主要工具,随之而来的便是实时通讯、摄像摄影、扫描成像等方面日益增加的需求,从早期的音频信息传递,发展到现在的图像视频信息传递,数字图像技术早已成为诸多领域中不可或缺的关键技术。但是,随着数字图像技术的不断发展,人们逐渐发现传统的基于软件平台的数字图像处理技术已经无法满足处理速度和处理效率方面的需求,而FPGA拥有运