과학 특화 거대언어모델 개발을 위한
에이전틱 데이터 에이전트 연구 동향
자율적 데이터 큐레이션·생성 에이전트의 부상과 지식 생산 패러다임의 전환: 2024년 하반기 ~ 2025년 상반기 SOTA 문헌 기반 종합 분석
Agentic Data Agent(ADA) 학술적 정의
Agentic Data Agent(ADA)는 과학 특화 거대언어모델(SciLLM)의 사전학습, 정렬, 평가 단계에 투입될 데이터를 자율적으로 탐색, 수집, 정제, 생성, 검증, 갱신하는 LLM 기반 멀티 에이전트 시스템입니다.
목표 지향성
상위 목표를 하위 데이터 요구사항으로 자동 분해
도구 사용성
API, 시뮬레이터, 코드 실행기 등 외부 도구 호출
자기 수정성
품질 자체 평가 및 반복적 개선 루틴
메타 학습성
성능 피드백을 통한 큐레이션 정책 수정
가상 연구실 비유
ADA의 작동 원리는 '자율 운영되는 가상 연구실'과 동형(isomorphic)입니다.
- PI 전략적 계획 수립 및 데이터 부족 진단
- RA 외부 자원 질의 및 도구 활용
- REV 타당성 채점 및 멀티 에이전트 토론
"24/7 병렬 확장 가능한 기계적 이점"
도입 배경: '데이터 벽(Data Wall)'의 돌파구
2024년 하반기 이후 고품질 자연어 토큰 공급 부족 현상이 심화되면서, FineWeb-Edu와 같은 정밀 큐레이션이 핵심 결정 변수로 부상했습니다. 과학 도메인은 유료 장벽과 도메인별 이질성으로 인해 '단편화된 군도(archipelago)' 형태로 지식이 존재하며, ADA는 이들을 연결하는 자율적 항해자 역할을 수행합니다.
과학 LLM에 Agentic 접근이 필요한 이유
양식의 이질성
화학식, 단백질 서열, 이미지 등 복합 데이터를 Nougat 같은 도구로 동적 수집
참값의 유동성
지식의 지속적 갱신이 필요한 과학적 특성상 정적 파이프라인보다 에이전트가 적합
검증의 비가역성
학습 데이터 오염 방지를 위해 생성 시점의 즉각적인 외부 도구 검증(Validation) 필수
기술적 한계 및 학술적 난제
환각 폭포(Hallucination Cascade): 생성 모델의 편향이 재귀적 루프에서 증폭되어 모델 붕괴 유발 위험.
검증 병목: 평가 모델의 지식이 부족할 때 발생하는 '무능한 채점자(blind grader)' 현상.
도메인 사각지대: 도구가 닿지 않는 미탐사 영역(Long Tail)에 대한 데이터 소외 현상.
책임 분산: 시스템 생성 오류에 대한 인과 사슬 및 책임 소재의 불분명함.
핵심 방법론 및 아키텍처
검색 증강 데이터 합성 (RADS)
OpenScholar 등 수천만 편의 문헌 인덱스를 기반으로 사실성 제고 및 인용 정확도 극대화
자기 개선 루프 (STaR/Self-Refine)
정답 도출에 성공한 추론 사슬만 필터링하여 다음 세대 학습 데이터로 환류
멀티 에이전트 토론 합의
단일 모델의 체계적 오류를 상쇄하기 위한 에이전트 간 앙상블 효과 창출
과학 분야 핵심 활용 사례
-
신약 개발
Coscientist의 합성 계획 & AlphaFold 3 데이터 큐레이션
-
소재 공학
GNoME/MatterGen의 결정 구조 후보 자동 필터링
-
자율 연구
The AI Scientist의 가설 생성부터 논문 작성까지의 폐쇄 루프
-
유전체학
ESM 시리즈 기반 진화적 변이 데이터 합성
Future Horizons (2025+)
실세계 폐쇄 루프
자율 실험실(Self-Driving Lab)과 연계하여 데이터를 실제 실험으로 검증·생성
인과 추론의 통합
패턴 인식을 넘어 do-calculus 등 형식적 인과 그래프 기반의 데이터 생성
규제 친화적 계보
라이선스 및 동의 여부를 추적하는 데이터 계보(Data Lineage) 관리의 고도화
주요 참고문헌
Wang, Y. et al. (2022). Self-Instruct: Aligning Language Models. arXiv:2212.10560. View
Lu, C. et al. (2024). The AI Scientist: Fully Automated Discovery. arXiv:2408.06292. View
Shumailov, I. et al. (2024). AI models collapse... Nature, 631, 755–759. View
Asai, A. et al. (2024). OpenScholar: Synthesizing Scientific Literature. arXiv:2411.14199. View
Boiko, D. A. et al. (2023). Autonomous chemical research... Nature, 624, 570–578. View
Merchant, A. et al. (2023). Scaling deep learning (GNoME). Nature, 624, 80–85. View