http://www.fosshub.com/MKVToolNix.html

여기서 맞는버전 다운받으신 다음

mkvmerge.exe 실행하셔서 

인코딩 하려는 파일을 add로 불러온 다음 start muxing 버튼 눌러주세요.

그럼 불러왔던 파일이 있던 폴더에 내용물이 같은 MKV 파일이 하나 더 생성 될겁니다.

그걸로 인코딩 한 번 해보세요. 보통 이렇게 하면 오류는 다 해결 되더군요.