本文主要是介绍HM代码阅读1: 帧间预测函数Void TEncSearch::predInterSearch(),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
AMVP理论知识简单回顾(含GPB)
MVP主要是为了给当前PU提供一个运动矢量的预测,可加快ME的计算速度以及提升准确性。并且在后续编码中也只用编码MVD,减少了传输bit数。
HM中获取每个参考图像列表最佳MVP的流程:
- 遍历refPicList0中的每一帧,为每一帧创建AMVP候选。RDO选出最优MVP。
- 根据最优MVP进行运动估计,得到当前最优的MV。
- 根据MV再次比较AMVP候选中哪一个MVP最优,获取最优MVP存入cMVPred中,还需存储最优MVP在当前候选列表中的索引,将计算得到的bit数、cost存入变量中用于后续对比。
- 对比当前cost与最优cost,若当前cost更小,则将tempMV存入cMV中,并存下当前参考帧在参考图像列表中的索引值。
- 重复步骤1-4,直到遍历完所有参考帧。
此时能够获得,当前参考图像列表中 最优MV 以及对应的参考帧索引。 refPicList1同理计算。但是在遍历refPicList1的所有参考帧时,若当前参考帧能在List0中找到对应的参考帧,则属于无效MV,不需要存储。若找不到,则存在mvValidList1中。
GPB:
广义B帧,主要用于low-delay B帧下的视频编码。 此时把P帧看作B帧,依然有两个参考图像列表,但是List0和List1中存入相同的参考帧。
在compressGOP中,设置好参考图像列表后,会检查是不是广义B帧,若两个参考图像列表相同,则是广义B帧,对应的MVDzeroFlag会被置为1
HM代码入口:
xCompressCU() -> xCheckRDCostInter() -> predInterSearch()
代码跟踪:
#if AMP_MRG
Void TEncSearch::predInterSearch( TComDataCU* pcCU, TComYuv* pcOrgYuv, TComYuv* pcPredYuv, TComYuv* pcResiYuv, TComYuv* pcRecoYuv DEBUG_STRING_FN_DECLARE(sDebug), Bool bUseRes, Bool bUseMRG )
#else
Void TEncSearch::predInterSearch( TComDataCU* pcCU, TComYuv* pcOrgYuv, TComYuv* pcPredYuv, TComYuv* pcResiYuv, TComYuv* pcRecoYuv, Bool bUseRes )
#endif
{for(UInt i=0; i<NUM_REF_PIC_LIST_01; i++){m_acYuvPred[i].clear(); //清空两个参考图像列表的YUV预测数据}m_cYuvPredTemp.clear();pcPredYuv->clear(); //清空该CU预测YUV数据if ( !bUseRes ){pcResiYuv->clear();}pcRecoYuv->clear();TComMv cMvSrchRngLT;TComMv cMvSrchRngRB;TComMv cMvZero;TComMv TempMv; //kolyaTComMv cMv[2];TComMv cMvBi[2];TComMv cMvTemp[2][33];Int iNumPart = pcCU->getNumPartitions();Int iNumPredDir = pcCU->getSlice()->isInterP() ? 1 : 2; //预测方向,P帧单向预测,B帧双向预测TComMv cMvPred[2][33];TComMv cMvPredBi[2][33];Int aaiMvpIdxBi[2][33];Int aaiMvpIdx[2][33];Int aaiMvpNum[2][33];AMVPInfo aacAMVPInfo[2][33];Int iRefIdx[2]={0,0}; //If un-initialized, may cause SEGV in bi-directional prediction iterative stage.Int iRefIdxBi[2];UInt uiPartAddr;Int iRoiWidth, iRoiHeight;UInt uiMbBits[3] = {1, 1, 0};UInt uiLastMode = 0;Int iRefStart, iRefEnd;PartSize ePartSize = pcCU->getPartitionSize( 0 );Int bestBiPRefIdxL1 = 0;Int bestBiPMvpL1 = 0;Distortion biPDistTemp = std::numeric_limits<Distortion>::max(); //初始化为unsigned int型的最大值TComMvField cMvFieldNeighbours[MRG_MAX_NUM_CANDS << 1]; // double length for mv of both listsUChar uhInterDirNeighbours[MRG_MAX_NUM_CANDS];Int numValidMergeCand = 0 ;for ( Int iPartIdx = 0; iPartIdx < iNumPart; iPartIdx++ ) //遍历当前划分后的PU{Distortion uiCost[2] = { std::numeric_limits<Distortion>::max(), std::numeric_limits<Distortion>::max() };Distortion uiCostBi = std::numeric_limits<Distortion>::max();Distortion uiCostTemp;UInt uiBits[3];UInt uiBitsTemp;Distortion bestBiPDist = std::numeric_limits<Distortion>::max();Distortion uiCostTempL0[MAX_NUM_REF];for (Int iNumRef=0; iNumRef < MAX_NUM_REF; iNumRef++){uiCostTempL0[iNumRef] = std::numeric_limits<Distortion>::max();}UInt uiBitsTempL0[MAX_NUM_REF];TComMv mvValidList1;Int refIdxValidList1 = 0;UInt bitsValidList1 = MAX_UINT;Distortion costValidList1 = std::numeric_limits<Distortion>::max();xGetBlkBits( ePartSize, pcCU->getSlice()->isInterP(), iPartIdx, uiLastMode, uiMbBits); //根据条类型及划分尺寸来确定bitpcCU->getPartIndexAndSize( iPartIdx, uiPartAddr, iRoiWidth, iRoiHeight ); //根据划分类型 选择ROI区域大小;确定PU的位置索引#if AMP_MRGBool bTestNormalMC = true;if ( bUseMRG && pcCU->getWidth( 0 ) > 8 && iNumPart == 2 ) //若使用merge模式且,CU尺寸大于8x8,划分为两块PU,则不进行运动补偿.{bTestNormalMC = false;}if (bTestNormalMC){
#endif// Uni-directional prediction //对两个参考图像列表分别选出最佳MVP以及最佳MVfor ( Int iRefList = 0; iRefList < iNumPredDir; iRefList++ ){RefPicList eRefPicList = ( iRefList ? REF_PIC_LIST_1 : REF_PIC_LIST_0 );for ( Int iRefIdxTemp = 0; iRefIdxTemp < pcCU->getSlice()->getNumRefIdx(eRefPicList); iRefIdxTemp++ ) //遍历参考图像列表中的所有参考帧{uiBitsTemp = uiMbBits[iRefList];if ( pcCU->getSlice()->getNumRefIdx(eRefPicList) > 1 ){uiBitsTemp += iRefIdxTemp+1;if ( iRefIdxTemp == pcCU->getSlice()->getNumRefIdx(eRefPicList)-1 ){uiBitsTemp--;}}/*预测AMVP:input:*当前CU,pcCU*原始YUV数据,pcOrgYuv*当前PU索引,*参考图像列表,*当前参考帧,*当前参考帧的MVP信息*是否填满了候选*当前失真情况output:当前参考帧最佳MVP*/xEstimateMvPredAMVP( pcCU, pcOrgYuv, iPartIdx, eRefPicList, iRefIdxTemp, cMvPred[iRefList][iRefIdxTemp], false, &biPDistTemp);aaiMvpIdx[iRefList][iRefIdxTemp] = pcCU->getMVPIdx(eRefPicList, uiPartAddr); //0 or 1aaiMvpNum[iRefList][iRefIdxTemp] = pcCU->getMVPNum(eRefPicList, uiPartAddr); //2if(pcCU->getSlice()->getMvdL1ZeroFlag() && iRefList==1 && biPDistTemp < bestBiPDist) //GPB? low-B模式中 将P帧按B帧处理,此时list0与list1是一样的{bestBiPDist = biPDistTemp;bestBiPMvpL1 = aaiMvpIdx[iRefList][iRefIdxTemp];bestBiPRefIdxL1 = iRefIdxTemp;}</
这篇关于HM代码阅读1: 帧间预测函数Void TEncSearch::predInterSearch()的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!