일단 샤나인코더 최신 버전으로 업그레이드한 다음에 얘기하시죠.

샤나인코더는 FFmpeg 기반이라 웬만한 코덱은 거의 다 읽히는데 희한하군요.

이렇게 되면 오디오 따로, 비디오 따로 작업을 해야 합니다.

오디오 변환 프로그램으로 AAC나 MP3 코덱으로 변환하실 수 있다면 변환하시고, MKVToolNix 같은 프로그램으로 기존 동영상 파일과 변환한 오디오 파일을 불러와서 기존 동영상 파일의 오디오 트랙을 지우고 먹싱을 하셔서 변환한 오디오를 오디오 트랙으로 가진 mkv 파일을 만드시면 됩니다.

비디오 쪽도 인코딩이 필요하다면 샤나인코더에서 그 mkv 파일을 불러와서 오디오는 스트림 복사, 비디오만 인코딩 설정해서 인코딩하시면 됩니다. 비디오 코덱이 H264나 HEVC라면 출력 파일 형식은 mp4나 mkv가 가장 무난합니다.

신경써야 할 부분은 비디오와 오디오가 싱크가 맞지 않는 것인데, 특별한 경우 빼고는 그런 일은 잘 일어나지 않으니 문제가 생길 경우만 다시 질문하시면 됩니다.