퀀타이저 말고 퀄리티(crf) 계산해주는 프로그램은 있긴 합니다.

alexheretic/ab-av1: AV1 re-encoding using ffmpeg, svt-av1 & vmaf. (github.com)

(ffmpeg처럼 환경변수 설정 해주셔야 쓰기 편합니다.)

영상을 샘플인코딩 한 뒤 vmaf 점수를 계산해서 crf 값을 찾아내는 프로그램 입니다.

시간은 체감 상 인코딩 2번 정도 하는 느낌이고, vmaf 점수는 1.0 안쪽으로 오차 있는 것 같더군요.

ab-av1 crf-search -e libx264 -i "파일이름.mp4" --preset slow

이런식으로 사용하시면 되고,

-e는 libx264 libx265 libsvtav1 hevc_nvenc 등 ffmpeg 지원하는 코덱이면 거의 다 지원한다고 합니다.