基于时空特征融合的多目标跟踪与分割算法研究

来源 :南京信息工程大学 | 被引量 : 0次 | 上传用户:memory_prince
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来随着深度学习技术的兴起,卷积神经网络的算法依靠互联网的丰富数据与强大的特征提取能力,在各种视觉任务中取得跨越式的进步。多目标跟踪与分割是集检测、跟踪和分割于一体的新颖的机器视觉任务,其要求对视频帧中出现的目标进行实例级别的分割并且在帧间进行轨迹关联,在各种实际场景中有着广阔的应用价值。本文依托于深度卷积神经网络的技术,在基于时空特征融合的多目标跟踪与分割算法研究上做出探索性和创新性的研究,并取得了如下成果。本文提出了一种基于关联特征增强的多目标跟踪网络框架,从时间和空间两个维度增强关联特征的表达。算法首先通过主干网络提取到聚合了不同层次信息的特征,其次本文设计的特征分离模块用于从空间维度上增强关联特征的表达,通过设计不同的注意力机制,将检测分支与外观表达分支的特征解耦,同时也可以解决两个分支对于网络优化方向的矛盾。接着本文设计了长时外观记忆模块,从时间维度上加强关联特征,通过将多帧的跟踪轨迹的外观信息输入到长短期记忆模块,可以实现网络对于多帧外观特征的融合,而以此解决多目标跟踪中的巨大形变频繁遮挡等问题。两个模块分别从空间维度和时间维度上增强关联特征,来保证多目标跟踪中检测结果与跟踪轨迹的连接效果。该方法在两个公开的多目标跟踪基准数据集上都取得了优越的指标,在其中难度较大的MOT17数据集上对比同期方法提升0.4个百分点。在上一个工作实现的多目标跟踪算法的基础上,本文将检测的细粒度拓展到像素精度,这也就是多目标跟踪与分割问题,并且提出了基于时空特征融合的多目标跟踪与分割算法。算法网络由2D编码器和3D解码器构成。首先,将多张连续帧图像输入到2D编码层,提取出不同分辨率的图像特征;然后,从低分辨率的特征开始通过本文设计的空间三坐标注意力模块得到重要的空间特征,同时通过本文设计的时间压缩自注意力模块获得含有关键帧信息的时间特征,再将两者与原始特征融合,然后与较高分辨率的特征共同输入3D卷积层,反复聚合不同层次的特征,以此得到融合多次的既有关键时间信息又有重要空间信息的特征;最后,得到跟踪和分割结果。该算法可以端到端训练,在两个公开的多目标跟踪与分割基准数据集上的指标均明显超越了同期方法,在其中难度较大的KITTI MOTS数据集上提升了0.9个百分点。
其他文献
学生的成长过程是多元化的,同时如何帮助学生发展也是教育课程设立的方向,在随着社会的改变而一直变动着的,在过程中需要教师观察学生的学习情况进行合理的改动,使其符合对学生的发展水平发展规律,不断对教学方式进行反思改变。从不同角度上看,教育和学生之间的关系对教学效果有着重要的影响,教育包含了学校的还有家庭的,在幼儿学生的学前教育,需要幼儿园与家庭之间共同努力,解决在教学课程中存在的教育矛盾和问题,通过家
学位
随着信息化时代的到来,实现教育信息化已经成为我国教育事业发展的重要任务。教育信息化体现在教育的诸多方面,对高中而言,教学管理的信息化是最为基础和关键的部分,故而受到了广泛关注与普遍重视。不过就目前来看,高中教学管理信息化发展不够顺利,还有着一些不能忽视的问题与缺陷,需要及时采取合理措施加以应对。本文简单介绍教育信息化对高中教学管理的重要意义,分析当前高中教学管理信息化存在的问题,并就如何进行改善优
乡村振兴战略正在全面实施,“治理有效”是乡村振兴的五大总要求之一,也是乡村振兴的重要保障。党组织是乡村治理的“领导力量”,是加强和创新乡村治理所依靠的最基本、最直接、最关键的力量,推动党建引领优势转化为乡村治理效能,是提高乡村治理能力的有力举措。但目前一些地方还存在理念、体制、能力等方面的制约因素,必须采取强化党建引领、提升村干部战斗力、切实发挥基层民主协商作用、完善运行机制等对策,有力推动党建引
革命文物是历史革命时期的遗迹或遗物。川陕革命根据地存在的两年多时间里,留下了许多革命文物。川陕革命根据地博物馆(纪念馆)作为革命文物的保存地,是人们了解这段历史最直观的窗口。以往学者对于革命文物的研究主要集中在史料、红色资源、展览陈列方面,对于博物馆展览的叙事性而言,则侧重于对博物馆历史叙事性、主题叙事性、叙事性情节与叙事性语言以及空间叙事性的研究,并未涉及川陕革命根据地博物馆(纪念馆)展览的叙事
《湘鄂西、湘鄂川黔革命根据地历史展览》的内容设计中提出了许多需要研究的问题。本人仅就这个展览在湘西自治州博物陈列体系中的地位和作用、展览的性质、内容结构、主题、重点以及设计的原则谈一些粗浅的认识。一、地位与作用《湘鄂西、湘鄂川黔革命根据地历史展览(以下简称《两湘展》)在湘西土家族苗族自治州博物馆的陈列体系中应处于什么地位,对于内容设计的同志来说,是应该首先搞清楚的一个问
会议
红外热成像技术在中医领域的应用日趋广泛,而体质辨识又是其未来重要的发展领域,目前存在的红外热成像技术与体质辨识的成果多是成人的,红外热成像技术在儿童体质研究中同样适用,但目前相关研究尚少,因此若能形成一套完整的辨识系统,将来可建立一个能够对儿童体质完全或部分辨识的云平台,对儿童体质相关研究、疾病防治、日常调护有更加针对性的指导。
舟政办发[2018] 155号各县(区)人民政府,各功能区管委会,市政府直属各单位:《舟山市推进"进口非特"化妆品产业发展三年行动计划(2018-2021年)》已经市政府第27次常务会议审议通过,现印发给你们,请结合实际,认真贯彻执行。2018年11月28日舟山市推进"进口非特"化妆品产业发展三年行动计划(2018-2021年)
期刊