H.264由于采用先进的帧间预测与帧内预测、整数变换编码及量化、去块效应滤波等技术，获得了比以往标准都好的编码性能，但却增加了编码器的计算复杂度。作为视频编码系统的重要组成模块，运动估计占整个编码器编码时间的60%以上。在保证图像编码质量的前提下，如何提高运动估计的效率，已成为目前的研究热点之一。基于块的运动估计包括整像素运动估计和分像素运动估计两个阶段。因此，本文对整像素和分像素运动估计的方法进行了深入的研究，所做的主要工作如下：1、为了减少整像素运动估计的计算量，提出了一种面向H.264的多层次十字菱形快速整像素搜索算法(MCDS)。该算法首先利用绝对误差和(SAD)值的空间相关性自适应设置阈值；其次利用运动矢量场的时空相关性预测初始搜索点；然后根据当前最小代价值和阈值的关系进行提前终止判断和自适应搜索模板选择；最后采用提前终止判断和自适应搜索模板选择技术精确定位多层次十字模板。实验结果表明，与现有算法相比，该算法在保持了搜索精度的同时大大降低了运动估计时间。2、为了减少分像素运动估计的计算量，提出了一种基于运动矢量空间相关性的H.264分像素运动估计算法(MVSCBS)。该算法利用运动矢量空间相关性来预测整像素运动块，并对整像素运动块进行分像素搜索过程跳过。实验结果表明，MVSCBS算法与全分像素搜索算法结合使用，在基本保持搜索精度不变的情况下，比单纯的全分像素搜索算法减少了60%左右的分像素搜索点。MVSCBS算法可与其他快速分像素搜索算法结合使用，以获得更好的编码性能。3、进行了MCDS&MVSCBS融合算法的实验研究。针对运动估计的两个阶段，将适用于整像素搜索的MCDS算法和适用于分像素搜索的MVSCBS算法用三种方法进行了融合，并从搜索精度和搜索速度两方面考虑，得出了一种性能最好的MCDS&MVSCBS融合算法。该算法首先采用MCDS算法进行整像素搜索，然后采用MVSCBS算法和FFPS算法相结合的方法进行分像素搜索。实验结果表明，该算法既能保持图像编码质量，又能比其他算法节省大约50%左右的总搜索点数。