随着多媒体业务的需求在不断地增加,视频编码技术随之成为通信领域日益关注的焦点。目前,H.26x和MPEG等国际标准均已采纳基于块的混合视频编码方案,作为它们基本的视频编码框架。熵编码器是视频编码框架中的一个重要组成部分,其压缩效率的高低直接影响着整个视频编码系统的输出码率。熵编码方法一般可分为变长编码(VLC)和算术编码(AC)两种。在我国最新制定的音视频编码标准AVS中,采用了变长编码方法Context-based 2D-VLC对残差系数进行熵编码。相比目前国际上领先的变长编码技术,该方法在压缩效率上仍存在较大的差距。在此背景下,本文依托国家863重大攻关项目——“数字视音频编码、传输、测试与应用示范系统”(项目编号:2002AA119010),研究拥有自主知识产权的高性能变长编码方法。本文在介绍了视频编码的基本原理,分析了主流视频标准中熵编码部分的技术特点之后,提出了一种针对残差系数的新型变长编码方法。该方法通过引入三种新的变长编码技术——二次游程编码、动态码表截取和自适应码字选取,充分挖掘和利用了视频的上下文信息,从而取得了更高的压缩效率。首先,在传统Run-Level游程编码的基础上提出了二次游程编码的方法,有效地压缩了传统游程编码之后level序列和run序列中仍然存在的大量编码冗余。在分析了多数自适应编码技术所利用的上下文预测信息之后,定义了另一种有指导意义的上下文信息:信源约束信息。为了使VLC具有更强的内容自适应能力从而具备更高的编码效率,提出了能充分利用信源约束信息的动态码表截取算法,并将它应用在对二维符号序列的编码中,同时也避免使用大量的VLC码表。另外,在变长编码中设计了自适应的码字选取机制,可以在不增加任何计算复杂度的前提下进一步提高编码效率。实验结果表明,与Context-based 2D-VLC相比,本文提出的新型VLC取得了0.25dB ~0.79dB的PSNR增益,相应于节省5.30% ~11.58%的输出码率。本文针对视频编码中大量的残差系数,提出了一种基于二次游程编码和动态码表截取的新型VLC方法。相比AVS标准目前采用的Context-based 2D-VLC,新型VLC在压缩效率上具有明显的优势。采用这种VLC方法可以有效地降低视频编码系统的输出码率,提高系统的整体编码性能。