为了节约传输带宽、存储空间,视频编码早已成为国内外研究和工业应用的热点之一。至今国际上已制定了一系列的视频编码标准,如MPEG-1/2/4,H.261/H.263等,最近国际上新制定的H.264/AVC视频编码标准以及国内的AVS视频编码标准,虽然其框架与以前的标准类似,但其压缩效率比以往的任何标准都提高了至少一倍以上,这一突破已得到了各研究机构以及多媒体工业界的高度重视,并将引发多媒体产业中一场新的变革。因此对数字视频编码中的新技术进行深入研究,并根据其机理进行性能优化,具有十分重要的理论与现实意义。首先,本文简要介绍了国内外流行的视频编码标准,深入分析了AVS在变换/量化、帧内预测、帧/场自适应编码、像素插值、环路滤波、熵编码等关键技术的实现细节。并通过实验详细对比了AVS和H.264在标清、高清序列上的编码性能。其次,本文通过对现有AVS标准中的帧内预测技术的分析,提出了一种新的帧内预测模式。通过分析其中的5种亮度帧内预测模式和新帧内预测模式的相关性利用度,证明该模式很好地利用了隔行视频像素的空间分布特点,与原有的预测模式相比,更好地去除了图像块之间的空间相关性。实验表明该模式可以在标清、高清隔行视频的帧内预测上获得平均0.12db以上的信噪比增益,平均减少1.77%的码流,是一种有效提高编码效率的预测模式。最后,通过分析AVS1-P2中的扫描模式、游程编码及DCT域系数的分布规律,改造并实现了一种基于边缘模式分类的自适应扫描技术,同时提供了两张新的扫描表用于AVS1-P2的残差系数扫描。该扫描方式很好的利用了残差系数在变换域的分布规律,形成了利于2D-VLC编码方式的游程。实验表明在AVS中使用该技术PSNR平均可以提高0.05db以上,Bit减少也在0.6%以上。是一种有效的提高编码性能的扫描技术。