实验动物行为分析广泛应用于运动功能和学习、记忆等高级中枢神经功能的研究,较电生理、生化等其它参数分析方法,具有全面反应实验动物整体状态的特点。因此动物行为实验已成为神经生理学、行为药理学等神经科学领域的重要研究手段之一。早期的动物行为学研究,主要依靠人工观察和记录,存在诸多不便。近年来,随着视频和计算机图像识别技术的发展,动物自发活动的自动化监测和记录方法有了很大改进。但是,由于动物活动体态的多样和复杂,现有的方法和技术还存在不足,主要是两点,第一,动物在运动过程中形体会发生改变;第二,动物的运动速度可能有比较大的加速度,例如,动物的突然启动、突然停止等。本论文针对这两个挑战,以小鼠作为实验动物,重点研究了小鼠位置的获取方法,对现有的追踪方法做了改进,开创建立了一套更适合动物行为监测的方法,选用核相关滤波(KCF)算法并加入了尺度自适应的方法,用于小鼠视频图像中运动轨迹的跟踪,实现了对小鼠自由活动的追踪,并得到运动轨迹。对动物行为学的研究提供了一种更好的监控方法。本文主要的研究工作归纳如下:考虑到动物的运动具有目标小,目标体系变化,运动目标速度的突然变化的问题,本文从实时性、稳定性、精确性的要求出发,对实验装置的设计、相关视频动态目标跟踪算法的研究和运动轨迹的确定方面进行了研究。设计了一套综合动物行为学实验装置、动态跟踪算法和运动轨迹的系统。研究了运动目标检测跟踪常用的几种算法,通过比较常用在动物行为学研究上的meanshift算法和近几年刚研究出的核相关滤波算法,经过分析,采用了核相关滤波算法,同时,由于动物在运动中,体形会发生变化,加入了尺度自适应方法对核相关滤波算法进行了改进。用此方法,对动物进行实时追踪并输出移动的坐标、移动的视频以及提供了动物的运动轨迹。研究表明,通过采用本文提出的基于核相关滤波算法的动态目标检测和跟踪方法,实现了对小鼠运动位置的追踪、运动方向的确定以及运动轨迹的描述。动物行为学的研究提供了一种更好的监控方法,为相关的生物医学,尤其是动物行为学研究提供有效的信息。