FHD 영상은 x265 코덱으로 인코딩하지 마세요! 라는 블로그 글을 읽었는데
아직 초보라 잘 모르겠더라구요.
링크 - http://gskool.tistory.com/422
중요부분은 요약하자면
1. HEVC(H.265) 코덱은 4K UHD 기준으로 만들어져 디노이징 처리를 하여 H.264코덱 보다 디테일이 떨어진다.
2. HEVC(H.265) 코덱으로 FHD1080p는 코딩 블록 크기 ctu를 16으로 해주시고 max-tu-size를 8 qg-size를 8로 해야한다.
3. HEVC(H.265) 코덱은 기본 10-Bit 이상으로 인코딩할 때 그 진가를 발휘한다.
4. HEVC 코덱은 자원을 많이 사용하고 사용기기가 한정적이다.
이 정도 이겠네요
샤나 인코더 사용자 여러분들 생각은 어떠신지요?
4번과 3번은 사실입니다. 하지만 1번과 2번은 논란의 여지가 있긴 하겠네요.
특히 1번은 dynamic range와 dithering과도 관련 있는 문제 같습니다.
"HEVC이 HDR & UHD 영상을 타겟으로 만든 코덱이기 때문에 SDR 및 FHD 이하의 해상도에서는 dithering을 소홀히해서 (본문에서는 denoise 필터가 자체적으로 적용된다고 표현) color banding(등고선 현상, '계조가 무너진다'고도 표현) 문제가 발생한다(본문에서는 디테일이 떨어진다고 표현)."
뭐 이렇게 주장하는 것 같은데, 실제로 사실이 그런지는 HEVC의 알고리듬을 속속들이 알고 있지 않은 한 객관적인 판단은 힘든 것 같습니다. 결국 각자의 경험에 의존할 수밖에 없는데, 그건 솔직히 사람마다 기준이 다 다르기 때문에 본인의 필요에 따라 결정할 문제가 아닌가 싶습니다.
제 개인적인 경험으로는 어느 정도 맞는 부분이 있다고 생각합니다. 단, x265에서는 충분한 옵션과 시간을 두고 인코딩하면 거의 나타나지 않지만 옵션 설정이 빈약한 NVENC로 인코딩하면 color banding 문제가 나타나는 경우가 가끔 있더군요.
그렇다고 x265 설정을 2번처럼 하는 게 얼마나 효과가 있을지는 의문입니다. x265의 default max CU size(CTU)가 64, min CU size가 8이고 qg size가 64입니다. Max TU size의 기본값이 32구요. Adaptive quantization과 관련 있는 qg size를 8로 줄이는 건 효과가 있을지 모르지만, compression efficiency와 관련 있는 TU size를 줄이는 게 화질 개선에 효과가 있을지는 잘 모르겠습니다. 아는 분이 있으시면 알려 주시길...
사족을 달자면, 제 경험으론 대부분의 경우 거의 눈에 띄지 않는 미세한 color banding 문제보다는, 깍두기 현상과, 충분하지 못한 비트레이트와 motion estimation의 부족함의 결합 때문에 발생하는 일그러진 B-프레임들이 화질 체험에 더 영향을 주는 것 같습니다. 그런데 이 부분은 macroblock(HEVC에서는 CU 또는 CTU라고 부르는) 단위로 인코딩하는 현대의 코덱들이 대부분 갖고 있는 문제이고, 인코딩 옵션을 어떻게 잘 맞춰야 하느냐의 문제로 귀결됩니다. 경험상 비트레이트/crf 값과 프리셋, 그리고 frame control(frame-type 옵션)과 rate control, motion estimation과 기타 설정을 '적절하게' 맞춰주면 화질 저하를 최소화할 수 있더군요. 하지만 모든 문제가 그렇듯이 '절대적으로 좋은' 인코딩 옵션은 없습니다. 원본의 화질과 목적에 따라 달라져야 하니까요.
샤나에서는 H264에 대해서는 고급 옵션 설정을 제공하기 때문에 편하게 옵션 설정을 할 수 있는 반면, HEVC에 대해서는 제공하지 않기 때문에 F8 키를 눌러 매개변수 설정창에서 직접 인코딩 옵션을 설정해야 한다는 불편함이 있긴 하지요. x265를 사용할 때만이라도 고급 옵션 설정이 따로 있었으면 하는 소박한(?) 바람이 있긴 합니다.
아, 그리고 개인적인 예상으로는 앞으로 길게 잡아 2년 내로 HDR이 대세가 될 것이라 생각합니다. 요즘 HDR UHD TV들이 쏟아지고 있기도 하지만, 컴퓨터 용으로도 HDR 모니터와 그래픽 카드도 슬슬 저렴(?)한 HDR 용이 나오고 있죠. (HDR 그래픽 카드들에 대해서는 이 글을 참조하시길...) 과거 CD 시대에 DivX/Xvid 코덱이 주류였다가 DVD와 블루레이, 그리고 HDTV가 등장하면서 H264가 주류로 자리잡았듯, 앞으로는 HDR 컨텐츠와 하드웨어에 맞춰 HEVC이 주류로 잡을 거라 확신합니다. 단지 라이센스에 발목잡힌 컨텐츠 제공사와 하드웨어 제조업체들이 그걸 벗어나기 위해 대안으로 AV1을 밀고 있는 상황이니, 몇 년 안 돼 HEVC 대신 AV1이 자리잡을 수도 있겠지요. 아직은 먼 얘기입니다만...
qg-size=8, ctu=16, max-tu-size=8
이 고급 설정들에 대한 경험담을 추가로 적습니다.
1. qg-size=8
Quantization Group size(qg-size)를 기본값인 ctu 값이 아닌 최소 cu 값인 8로 하는 것은 AQ(adaptive quantization)를 보다 세세히 적용하는 데 도움이 되는 면이 있는 것 같습니다. 물론 차이는 미세합니다만.
2. ctu=16
Coding Tree Unit(ctu. 이것은 maximum CU(coding unit) 값이 됨.)을 16으로 하는 것은 최대 16x16까지를 인코딩에 고려하고 그보다 큰 블록들은 무시하므로 이론적으로는 x265의 기본값인 64일 때보다 계산 시간은 줄이고 압축 효율은 떨어지게 됩니다. 그래서 결과적으로는 인코딩 속도는 높이지만 비트레이트는 증가하게 됩니다. 그리고 오히려 디코딩 속도는 떨어뜨린다고 합니다. 특히 해상도가 높을수록 그렇습니다. 자세한 내용은 위키피디어의 해당 문서를 참조하시면 되겠습니다.
실제로 ctu=16을 적용해 본 결과 1) 어느 정도 인코딩 속도 개선 효과도 있고, 2) 깍두기(blocking) 제거에 어느 정도 도움이 되지만, 3) 노이즈를 보존해야 하는 영상, 특히 film grain 필터가 적용된 영상에 적용해 보니 노란색과 푸른색으로 얼룩이 지는 부분이 간간이 나타나더군요. 그리고 4) 부분 부분 일그러짐(blurring/denoising)이 개선 안 된 부분이 나타납니다. 이득보다는 손해가 큰 옵션입니다.
3. max-tu-size=8
Maximum Transform Unit size(max-tu-size)를 기본값인 32가 아닌 8로 하는 것은 ctu를 줄이는 것과 같은 원리로 계산 시간은 줄이고 압축 효율은 떨어지게 되어 결과적으로는 인코딩 속도는 높이지만 비트레이트는 증가하게 됩니다.
실제로 max-tu-size=8을 적용해 본 결과 ctu를 줄일 때와 마찬가지 현상이 나타났습니다. 아니, 푸른색/노란색 얼룩은 오히려 더 심하더군요. 역시 이득보다는 손해가 큰 옵션입니다.
추가로 덧붙이자면, 화면 전체에 적용되는 디노이징/블러링 효과를 억제하기 위해서는 ctu나 max-tu-size를 줄여 색 왜곡을 초래하기보다는 reference frame 수를 4나 5 정도로 늘리고 motion estimation을 umh 이상으로, 그리고 rc-lookahead를 충분히 주고, b-frame 수를 줄이는 등 x265의 고급 설정을 손대는 것이 나은 듯합니다.
그리고 화면 일부의 디테일이 망가지는 것을 억제하는 것은 AQ를 적용하는 게 더 효과적이더군요. x265는 bit depth가 8인 영상이나 10이라도 비트레이트가 낮은 영상의 경우 디노이징/블러링 효과의 결과로 나타나는 color banding/blocking을 억제하기 위해서 aq-mode=3 옵션을 주고 aq-strength와 qg-size를 적절하게 조절할 것을 권장합니다. 이와 관련된 내용은 팁 게시판에 따로 올리도록 하겠습니다.
용량대비 화질때문에 사용하는중