원본과 코덱, 코덱 설정에 따라 다르겠지만, 거의 대부분의 경우 당연히 있지 않을까 싶습니다.

1) O라는 원본을 A라는 설정으로 한 번에 인코딩할 경우

VS

2) O라는 원본을 A'이라는 설정으로 인코딩해서 O'이라는 결과를 얻었다가 O'을 A라는 설정으로 인코딩할 경우

두 경우를 비교하면, 2)의 경우 A'이라는 설정이 적절하지 못한 것이라면 - 텔레시네된 영상을 IVTC 처리하지 않고 그냥 디인터레이싱만 적용하거나, 적절하지 못한 비트레이트/프레임레이트를 적용한다든지 하는... - O'은 이미 많은 정보가 유실되거나 원본과 다르게 변조가 된 상태일 거고, 그걸 다시 원본으로 해서 A의 설정으로 다시 인코딩한다고 해도 O' 자체의 한계 때문에 1)의 방법보다 화질이 저하될 확률이 무척 높다고 할 수 있겠네요. (정확하게 말하면, "O와의 차이가 더 많이 납니다.")

하지만 2)의 경우에도 첫 번째 인코딩에 A'이 아닌 애초에 의도했던 A 설정으로 인코딩을 두 번 반복한다면 과연 1)과 얼마나 차이가 날지, 그런 문제는 궁금해지긴 합니다. 실질적으로는 아무 의미 없는 짓이지만 말이죠.

대개의 경우, 다른 사람이 A'의 설정으로 한 번 인코딩한 걸 가지고 다시 자신이 A의 설정으로 인코딩을 하니까 A'이 정확히 어떻게 되는지 파악하기는 힘듭니다. 특히나 필터 작업이 병행된 경우엔 아예 불가능하죠.

그렇더라도 좋은 코덱이라면 동일한 설정으로 여러 번 반복해서 인코딩하더라도 원본에 상관없이 화질 손실이 거의 없어야 하지 않을까 하는 생각은 듭니다. 시간 낭비일 것 같아 직접 해보고 싶지는 않습니다만.