NVENC로 인코딩할 때,

 

1. FHD 영상의 비트레이트는 어느 정도로 할지
2. H264로 할지, HEVC으로 할지

 

결정하는 문제에 화질에 관한 두 지표값의 도움을 받아 볼까 해서 테스트해 보았습니다.

 

개인적으로는 평소 FHD 영상을 HEVC(NVENC)로 2,000 Kbps 정도로 자주 재인코딩하는데, 제 눈으로 보기엔 크게 거슬리는 artifact가 없어 보입니다. (물론 원본이 충분히 괜찮아야 한다는 전제가 붙긴 합니다.) 그리고 H264보다는 HEVC이 화질이 좀더 나아 보여 HEVC을 선호하는 편인데, 객관적인(?) 지표값을 뽑아 보아도 과연 그런지 궁금하여 테스트했습니다.

 

1. 원본 정보와 인코딩 정보

<원본 정보>

길이: 1시간 16분

해상도: 1920x1012 (준 FHD)

비디오 스트림 크기: 2GB (비트레이트: 3,748 Kbps)

비디오 코덱: H264 (x264로 2pass 4,000 Kbps로 인코딩)

(드라마 '아는 XXX' 1화입니다. 릴은 알아서 파악하시길... ^^;;)

<인코딩 정보>

길이 변경, 해상도 변경 없음

타겟 파일 크기: 1.5 GB = 1,536 MB (비디오 비트레이트: 2,000 Kbps)

-> 실제 인코딩된 비디오 스트림 크기: 1.03GB (비디오 비트레이트: 1,940 Kbps)

 

비트레이트를 원본보다 반으로 줄였으니 당연한 얘기겠지만, 원본의 50% 정도로 파일 크기가 감소했습니다.

 

인코딩할 때 HEVC(NVENC)과 H264(NVENC) 모두 인코딩 옵션을 customize 하지 않고 샤나인코더의 기본 rate control(-shanarcmode variable)을 이용했습니다.

 

2. H264(NVENC) 코덱과 HEVC(NVENC) 코덱으로 인코딩한 영상의 화질 지표값

<H264(NVENC)>

[SSIM] Y:0.986794 (18.792259) U:0.990432 (20.191679) V:0.990341 (20.150580) All:0.987991 (19.205075)

[PSNR] y:40.307308 u:47.948815 v:47.772416 average:41.702540 min:8.391338 max:61.591968

<HEVC(NVENC)>

[SSIM] Y:0.987739 (19.114811) U:0.989455 (19.769405) V:0.989348 (19.725855) All:0.988293 (19.315671)

[PSNR] y:40.508644 u:47.904351 v:47.727796 average:41.883497 min:8.395822 max:61.4422622

 

SSIM은 HEVC(NVENC)가 H264(NVENC)보다 아주 조금 높아 근소하게나마 화질이 낫다는 것을 보여 줍니다만 무시해도 될 정도입니다. 어차피 둘 다 99% 가량으로 원본과 상당히 유사함을 알 수 있습니다.

 

PSNR 역시 HEVC(NVENC)가 H264(NVENC)보다 약 0.18 정도 값이 높아 근소하게 화질이 나음을 보여 주고 있습니다만 이 역시 무시해도 될 수준입니다. 둘 다 42 정도의 값으로 준수한 수준을 보여 주고 있습니다. (PSNR은 8비트 영상에서 보통 30~50 정도 수준이며 값이 높을수록 화질이 낫다고 평가함.)

 

※ 참고로, 정확히 계산해 보면 H264(NVENC)의 MSE가 HEVC(NVENC)의 MSE보다 약 4.25% 정도 큽니다.

     = 약 1.0425

 

두 지표값을 두고 판단했을 때 NVENC 계열은 H264와 HEVC 둘 간에 차이가 거의 없음을 알 수 있습니다. 경험상 화질도 FHD 정도의 해상도에서는 HEVC(x265)가 H264(x264)보다 나아 보이고, 실제로 공식적으로도 "평균적으로 HEVC이 H264보다 효율이 30~50%까지 개선되었다"고 하는데 이게 NVENC에서는 나타나지 않습니다. 이번 샘플만 그런 건지, 아니면 대부분 그런 건지는 확인이 필요하겠습니다만...

 

인코딩 속도도 둘이 거의 차이가 나지 않습니다. HEVC(x265)가 H264(x264)보다 확실히 인코딩 속도가 느린 것과 비교했을 때 확연히 다르죠.

 

3. 결론

결론적으로 말씀드리자면, "(원본이 충분히 괜찮다면) FHD의 경우 비트레이트 2,000 Kbps로 하드웨어 인코딩을 해도 결과 역시 충분히 괜찮고, 화질에 대한 평가는 주관적인 기준에 따라 엇갈린다. HEVC(NVENC)의 H264(NVENC)에 대한 화질 우위와 속도 저하는 거의 없다."고 말씀드릴 수 있겠습니다.

 

다만 이 포스팅의 한계라고 할 만한 것은,

 

1. 샘플이 하나라서 충분한 객관성을 담보할 수는 없다는 점
2. 소프트웨어 인코딩(x264, x265)과 비교한 자료는 없다는 점
3. 원본의 화질에 따라 결과가 어떻게 변할지 알 수 없다는 점(이건 1과도 관련 있습니다.)
4. 결정적으로, SSIM과 PSNR이 절대적인 지표가 될 수는 없다는 점

 

입니다. 제가 논문을 쓰려는 것이 아니기 때문에 굳이 귀차니즘을 무릅쓰고 다양한 샘플에서 여러 인코딩 방법을 동원해 결과를 측정하지는 않았으니, 어디까지나 여러분이 판단하시는 데 참고 자료로만 사용하셨으면 좋겠습니다.