xcompressCU函数中划分模式的确定

xcompressCU()函数中inter,intra等模式的选择是由initCULevel()函数确定的

// Add unit split modes

  if( !cuECtx.get<bool>( QT_BEFORE_BT ) )
  {
    for( int qp = maxQP; qp >= minQP; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_QT, ETO_STANDARD, qp } );
    }
  }

  if( partitioner.canSplit( CU_TRIV_SPLIT, cs ) )
  {
    // add split modes
    for( int qp = maxQP; qp >= minQP; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_TT_V, ETO_STANDARD, qp } );
    }
  }

  if( partitioner.canSplit( CU_TRIH_SPLIT, cs ) )
  {
    // add split modes
    for( int qp = maxQP; qp >= minQP; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_TT_H, ETO_STANDARD, qp } );
    }
  }

  int minQPq = minQP;
  int maxQPq = maxQP;
  xGetMinMaxQP( minQP, maxQP, cs, partitioner, baseQP, *cs.sps, *cs.pps, CU_BT_SPLIT );
  if( partitioner.canSplit( CU_VERT_SPLIT, cs ) )
  {
    // add split modes
    for( int qp = maxQP; qp >= minQP; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_BT_V, ETO_STANDARD, qp } );
    }
    m_ComprCUCtxList.back().set( DID_VERT_SPLIT, true );
  }
  else
  {
    m_ComprCUCtxList.back().set( DID_VERT_SPLIT, false );
  }

  if( partitioner.canSplit( CU_HORZ_SPLIT, cs ) )
  {
    // add split modes
    for( int qp = maxQP; qp >= minQP; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_BT_H, ETO_STANDARD, qp } );
    }
    m_ComprCUCtxList.back().set( DID_HORZ_SPLIT, true );
  }
  else
  {
    m_ComprCUCtxList.back().set( DID_HORZ_SPLIT, false );
  }

  if( cuECtx.get<bool>( QT_BEFORE_BT ) )
  {
    for( int qp = maxQPq; qp >= minQPq; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_QT, ETO_STANDARD, qp } );
    }
  }

  m_ComprCUCtxList.back().testModes.push_back( { ETM_POST_DONT_SPLIT } );//这里会加入一个cu_dont_split

  xGetMinMaxQP( minQP, maxQP, cs, partitioner, baseQP, *cs.sps, *cs.pps, CU_DONT_SPLIT );

  int  lowestQP = minQP;

cansplit()：确定是否将这个划分模式加入RDO列表中。

QT_BEFORE_BT：配合函数使用，为true，则将QT加入。为false，也是加入QT.但这里注意两个函数的顺序，如果BT 先于QT，则QT入栈的顺序在BT,TT之前，这意味着调用时不会用到QT这个划分模式。而QT先于BT时，这个函数在BT,TT函数之后，意味着调用时肯定是先调用QT。所以都是加入QT模式，但加入时机有区别

 if( !cuECtx.get<bool>( QT_BEFORE_BT ) )
  {
    for( int qp = maxQP; qp >= minQP; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_QT, ETO_STANDARD, qp } );
    }
  }

 这个加入BT

if( cuECtx.get<bool>( QT_BEFORE_BT ) )
  {
    for( int qp = maxQPq; qp >= minQPq; qp-- )
    {
      m_ComprCUCtxList.back().testModes.push_back( { ETM_SPLIT_QT, ETO_STANDARD, qp } );
    }
  }

这个加入QT

注意：划分模式确定后总会加入一个CU_DONT_SPLIT，但每次intra被从栈顶消除后，剩下的都是划分模式。原因是因为在xcompressCU()函数第939行while( m_modeCtrl->nextMode( *tempCS, partitioner ) );

的nextmode函数

bool EncModeCtrl::nextMode( const CodingStructure &cs, Partitioner &partitioner )
{
  m_ComprCUCtxList.back().lastTestMode = m_ComprCUCtxList.back().testModes.back();

  m_ComprCUCtxList.back().testModes.pop_back();

  while( !m_ComprCUCtxList.back().testModes.empty() && !tryModeMaster( currTestMode(), cs, partitioner ) )
  {
    m_ComprCUCtxList.back().testModes.pop_back();
  }

  return !m_ComprCUCtxList.back().testModes.empty();
}

前面现将当前测试过的模式从栈顶去除（一般是intra）,然后在while循环里判断，把CU-DONT-SPLIT也从栈顶消除。

其中的trymode函数很重要，但有600多行，之后再看

然后intra和inter模式的选择参考

H.266/VVC-VTM代码学习23-编码块RDO选择模式（Intra与Inter）initCULevel()_liaojq2020的博客-优快云博客

H.266/VVC-VTM代码学习19-CU层确定测试模式函数initCULevel_liaojq2020的博客-优快云博客

 2，模式先后

xcompressCU()函数中do-while结构中有个numRoundRdo参数，代表当前RDO循环几次，运行两种模式。

initCULevel()运行出来的结果是按顺序存放在一个栈中的，先进后出。

举例，现在有个在xCheckModeSplit()中才被划分的16 X 8的块，此时调用xcompressCU()函数，在initCULevel()中根据当前块的宽高，依次填入了BT，TT(v,h),BT(V,H) intra,然后继续运行。

按照先进后出的原则，intra首先被调用，运行了xCheckRDCostIntra()函数。此时跳出循环，在while处运行nextmode()函数，消除栈顶的intra.继续循环，此时的模式就为BTH，这个模式被传输到xCheckModeSplit()中，再将块划分成 16 X 4。

这里具体可以运行代码看一遍