일반기술

영상 부호화에서 매크로블록의 인트라 모드 결정 방법

본 기술은 영상 코덱에 관한 것으로서 H.264/AVC(Advanced Video Coding)의 율-왜곡 최적화(Rate-Distortion Optimization, RDO) 등과 같은 영상 코덱에서 매크로블록의 인트라 모드를 결정하는 절차에 관한 것이다.본 기술에 의하면, 매크로블록을 구성하는 4×4 블록 크기의 영상에 대한 주파수 분석을 이용하여 LumaIntra4×4의 각 모드에 대한 수학적인 제약 조건을 유도한다. 수학적인 제약 조건은 각 모드에 대한 주파수 에러 비용(Frequency Error Cost)을 구하는데 이용되는데, 최소의 FEC를 갖는 모드가 주 예측 모드(Primary Predicted Mode, PPM)로 선택된다. LumaIntra4×4에 대하여 제안되는 후보 모드 세트(Candidate Mode Set, CMS)는 PPM, PPM의 방향에 이웃하는 2개의 방향의 예측 모드 및 DC 모드를 포함하며, 또한 가장 가능성이 높은 모드를 더 포함할 수도 있다. 본 발명에 의하면, LumaIntra4×4에 대한 베스트 모드는 전체 모드에 대해서가 아니라 CMS에 포함되는 모드들에 대해서만 RDCost를 계산하여 선택된다. 게다가, 이전에 계산된 4×4블록 각각의 FEC를 이용하여 추정된 LumaIntra16×16의 가능한 모드들에 대한 FEC를 계산함으로써, LumaIntra16×16에 대한 CMS를 제한할 수 있다. 마지막으로, LumaIntra16×16의 베스트 모드를 이용하여 ChromaIntra8×8에 대한 CMS를 제한한다.