용어를 명확히 해주십시오. "인코딩을 했다"는 게, "자막을 입혔다(영상에 자막을 burning하는 것)"는 겁니까? 자막을 입히지 않고 따로 자막 트랙으로 먹싱하는 것(closed caption)도 인코딩하는 겁니다만...

그리고 자막을 "씌우고 봤다"는 게, 외부 자막 파일을 불러들여서 봤다는 겁니까, 아니면 mkv 파일로 따로 자막 트랙으로 먹싱해서 closed caption으로 봤다는 겁니까?

샤나인코더의 용어를 기준으로 설명을 하셔야 질문을 이해할 수 있습니다.

그리고 가장 기본적인 사항인데, Aegisub에서 'libass 사용'으로 세팅을 바꿔서 자막을 수정해도 그런가요?

https://shana.pe.kr/shanaencoder_tip/44440

또, '자막 입히기'를 했다면 '영상에 자막 입히기' 밑에 'ASS/내장 자막 스타일 강제 적용' 체크는 해제하고 입히기를 하셨나요? 이걸 체크하고 하시면 [자막 스타일 설정] 버튼을 눌러서 나오는 설정대로 자막이 입혀집니다.