모델 붕괴(Model Collapse)는 생성 모델을 이전 모델이 만든 데이터로 학습시킬 때, 세대를 거듭할수록 다양성·정확도·희소 사례가 점점 사라지는 품질 저하 현상입니다.
효과는 누적됩니다. 다른 모델의 출력으로 주로 학습한 모델은 현실을 조금 좁혀 배우고, 그 출력으로 다시 학습한 다음 모델은 또 좁힙니다. 몇 세대가 지나면 분포의 꼬리, 즉 사기 탐지나 희귀 질환처럼 가장 중요한 드문 사건이 얇아지다 사라질 수 있습니다.
모델 붕괴는 모델 문제가 아니라 데이터 품질 문제입니다. 해법은 합성 데이터를 피하는 게 아니라 검증하는 것입니다. 학습에 쓰기 전에 원본의 통계 분포와 희소 사례 커버리지를 보존하는지 확인해야 합니다.