현재 생성형 AI 모델들은 기술적으로 상향 평준화되었으나, ‘인공 집단지성’이라는 중대한 리스크에 직면했습니다. 이는 서로 다른 개발 주체와 아키텍처를 가진 모델들이 특정 질문에 대해 놀라울 정도로 유사하고 정형화된 답변으로 수렴하는 현상을 말합니다.
본 보고서는 이러한 현상을 단순한 기술적 수렴이 아닌, ‘인간 사고의 동질화’를 초래하는 지적 생태계의 위기로 규정합니다. 획일화는 현재의 확률적 학습 구조와 보상 모델이 가진 구조적 한계에서 기인하며, 이를 방치할 경우 AI는 사고의 외연을 가두는 거대한 감옥이 될 것이라고 경고합니다.
DeepSeek-V3와 qwen-max-2025-01-25 간의 유사도가 0.82에 달하며, gpt-4o와의 유사도 역시 0.81을 기록했습니다. 전 세계 25개 주요 모델의 답변은 단 두 개의 클러스터로 수렴하는 현상을 보입니다.
공격적인 샘플링 설정에서도 생성 답변 간 유사도가 0.8을 초과하는 사례의 비율
공유된 데이터 파이프라인, 합성 데이터(Synthetic Data)에 의한 오염, 그리고 정렬(Alignment) 과정에서 발생하는 단일 가치 추종이 주요 원인입니다. 이는 특정 문화를 대표하는 은유만을 강화하여 인류 지식의 다양성을 훼손합니다.
기존의 협소한 벤치마크를 탈피한 INFINITY-CHAT 데이터셋(26K 쿼리)은 정답이 없는 ‘오픈엔드(Open-ended)’ 질문을 통해 모델의 진정한 창의적 사고력을 평가합니다.
분석 결과, 현재 AI 생태계를 지탱하는 평가 체계 자체가 동질화를 가속화하는 주범임이 드러났습니다. LM Judge의 경우, 품질이 유사한 답변 군에서 상관관계가 0.176으로 급감합니다.
"인간은 두 답변을 모두 훌륭하다고 평가할 때, 보상 모델은 미세한 확률 차이로 한쪽에만 과도한 보상을 부여하여 특정 스타일만을 강화합니다."
단순 정확도가 아닌 INFINITY-CHAT과 같은 개방형 체계를 통해 동질화를 상시 모니터링해야 합니다.
다양한 고품질 답변을 동등하게 인정하는 다원적 정렬 알고리즘 도입이 필수적입니다.
공유 데이터 파이프라인 의존도를 낮추고 자가 잠식 현상을 엄격히 통제해야 합니다.
본 요약은 제공된 논문의 핵심 내용을 재구성한 것입니다.
논문 보기