X264编码流程详解

对H.264编码标准一直停留在理解原理的基础上，对于一个实际投入使用的编码器是如何构建起来一直感觉很神秘，于是决定在理解理论的基础上潜心于编码器实现框架。关于开源的H264编码器有很多，JMVC，T264、X264，这里选择X264，因为网上关于X264源码分析资源很多。X264编码器是一个开源的经过优化的高性能H.264编码器，目前最新的源码在本人的I5处理器的PC机上，编码1920x1080分辨率的视频序列在使用ultrafast配置的情况下，可以实现160fps左右的编码速度。

这里对源码分析并没有选择最新的源码，而是选用2009年2月份的版本，原因有二：一是这个版本是从网上下载下来的，已经是一个建立好的VS2008工程，对于像我这种用惯IDE调试的程序员来说，这可以大大提高源码阅读速度；二是虽然X264源码虽然几乎每天都有更新，但是从这个版本以后，最大的改动基本是针对多Slice编码的支持，其他都是在输入输出方面的一些改动，从这个版本学习可以较快进入编码部分的学习；三是这个版本当中已经有别人的很多的注释，便于自己理解；

一般将编码分为帧级、片级、宏块级编码，依次从上到下。下面就从这三个级分析X264编码流程：

一、帧级编码分析

定位到x264_encoder_encode这个函数，这个函数应该是H264编码最上层的函数，实现编码一帧视频。在进行下一步分析之前有必要了解，控制X264编码的全局性结构体x264_t，这个结构体控制着视频一帧一帧的编码，包括中间参考帧管理、码率控制、全局参数等一些重要参数和结构体。
下面是x264_t这个结构体的定义（这里仅对几个关键的结构和变量进行分析）：

struct x264_t
{
    x264_param_t    param;//编码器编码参数，包括量化步长、编码级别等等一些参数

...........
    int             i_frame;//编码帧号，用于计算POC（picture of count 标识视频帧的解码顺序）
...........
    int             i_nal_type;     /* Nal 单元的类型，可以查看编码标准，有哪几种类型，需要理解的类型有：不分区（一帧作为一个片）非IDR图像的片；片分区A、片分区B、片分区C、IDR图像中的片、序列参数集、图像参数集 */

    int             i_nal_ref_idc;  /* Nal 单元的优先级别取值范围[0,1,2,3]，值越大表示优先级越高，此Nal单元就越重要*/

    /* We use only one SPS（序列参数集） and one PPS（图像参数集） */
    x264_sps_t      sps_array[1];//结构体的数组
    x264_sps_t      *sps;
    x264_pps_t      pps_array[1];
    x264_pps_t      *pps;
    int             i_idr_pic_id;

......

    struct
    {
//这个结构体涉及到X264编码过程中的帧管理，理解这个结构体中的变量在编码标准的理论意义是非常重要的
        x264_frame_t *current[X264_BFRAME_MAX*4+3];/*已确定帧类型，待编码帧，每一个GOP在编码前，每一帧的类型在编码前已经确定。当进行编码时，从这里取出一帧数据。*/
        x264_frame_t *next[X264_BFRAME_MAX*4+3];//尚未确定帧类型的待编码帧，当确定后，会将此数组中的帧转移到current数组中去。
        x264_frame_t *unused[X264_BFRAME_MAX*4 + X264_THREAD_MAX*2 + 16+4];/*这个数组用于回收那些在编码中分配的frame空间，当