H.264/AVC是由国际电信联盟(ITU)和国际标准化组织(ISO)共同制定的新一代视频压缩编码标准,其压缩效率较H.263和MPEG-4 Simple Profile有显著提高。在相同的重建质量下,H.264比H.263节约50%左右的码率,此外H.264还具有更好的IP和无线信道适应性,并在视频通信领域、数字广播视频以及视频存储播放领域得到了日益广泛的应用。与以往的视频编码标准相比,H.264标准的改进主要体现在预测、整数变换量化和熵编码方法上。H.264以编解码复杂度的增加来换取对视频压缩性能的提升,从而给H.264在实时视频上的应用带来困难,因此采用FPGA硬件来实现一些计算相对密集的算法成为了视频压缩领域的研究热点。本文深入研究了H.264的编码原理,并对H.264/AVC的硬件实现复杂度进行了分析,结合现有的硬件实验平台,设计了一种可行的H.264编码器系统方案。论文详细阐述了H.264中的帧内预测编码技术,并通过Matlab仿真,直观的给出了各种预测模式的亮度与色度预测效果。提出了使用求和与算术移位结构实现各种帧内预测模式,极大地减小了预测电路的实现复杂度,同时使用多模式并行搜索的决策算法进行最佳模式选择,充分发挥了硬件的并行处理能力。论文对整数DCT变换、残差系数量化、色度直流系数的Hadamard变换与量化以及相应的反量化反变换原理进行了详细的分析,设计了基于快速蝶形运算的整数变换结构,显著了降低了矩阵运算的实现复杂度。论文详细分析了CAVLC的编码原理,借助统计的方法对CAVLC编码过程中的编码参数进行了分析;并采用多时钟域处理技术和流水技术显著的提高了电路运算的吞吐量,并使用算术运算替代部分规律性的查表处理,节约了硬件的存储资源。论文最后使用ALTERA CycloneII系列FPGA对所设计的H.264编码器系统中各功能模块进行了实验验证,并给出了各部分关键电路的实现效果。对实验结果进行了分析,验证了系统的可行性与有效性。