과학적 발견을 위한 에이전틱 AI:
블랙박스에서 증명 가능한 파트너로

도입 (Introduction)

거대 언어 모델(LLM) 중심의 기존 블랙박스 AI는 과학적 발견 과정에서 결정적인 한계에 직면해 왔습니다. 의사결정 과정을 설명하지 못하는 불투명성과 소위 '환각(Hallucination)' 현상은 결과의 신뢰도를 저하시킵니다. 예를 들어, 추론 근거가 불분명한 신약 후보 물질 제안은 실제 실험 단계에서 막대한 비용 낭비를 초래할 수 있습니다.

이러한 배경 속에서 2025-2026년 등장한 과학적 발견을 위한 에이전틱 AI (Agentic AI for Scientific Discovery)는 '수학적 엄밀성'을 그 핵심 동력으로 삼고 있습니다. 이는 단순한 예측 모델에서 벗어나, 스스로 계획하고 실행하며 학습하는 '증명 가능한 에이전트(Provable Agents)'로의 패러다임 전환을 의미합니다. 이러한 에이전트들은 고차원 탐색 공간에서의 수렴을 증명하거나, 정형 검증(Formal Verification)을 통해 환각을 수학적으로 제어할 수 있습니다.

"2025년 ICML, NeurIPS, ICLR 워크숍의 공통적인 화두는 AI의 자율성과 엄밀함의 결합이었습니다."

정의 및 핵심 개념 (Definition & Core Concepts)

2025년 이후, 에이전틱 AI의 엄밀함은 '검증 가능한 자율성(Verifiable Autonomy)'으로 재정의되었습니다. 핵심 역량은 단순히 외부 도구를 호출하는 수준을 넘어, 자신의 계획을 정형 논리로 재구성하고 스스로 검증하는 자기 성찰적 추론(Self-reflective Reasoning)입니다.

주요 수학적 지표

• 제약 조건 충족률 (Constraint Satisfaction Rate): 지시사항을 1차 논리(FOL) 공식으로 변환한 후 Z3 SMT 솔버를 통해 검증.
• 구조적 해밍 거리 (Structural Hamming Distance): 인과 그래프 복원 정확도를 측정 (ACHT 프레임워크).
• NeurIPS 스타일 평가 지표: 과학적 산출물의 타당성(Soundness), 중요성(Significance), 재현성(Reproducibility)을 평가.

마치 다음 수를 예측하는 것뿐만 아니라 전체 게임 트리를 정형적으로 증명할 수 있는 체스 AI와 같은 원리입니다. 이 개념은 2025 ICLR 워크숍 'Towards Agentic AI for Science'에서 공식화되었습니다.

주요 과제 (Challenges)

가장 큰 기술적 장벽은 고차원 탐색 공간에서의 수렴 증명입니다. 방대한 분자 구조나 복잡한 생물학적 인과 네트워크를 탐색하는 에이전트는 강화학습의 탐색-활용(Exploration-Exploitation) 딜레마 속에서 정책 수렴에 대한 수학적 보장을 받기 어렵습니다.

또한, 환각의 수학적 제어는 여전히 치명적인 과제입니다. 문헌 검토나 가설 생성 단계에서 발생하는 사소한 오류가 전체 에이전트 워크플로우로 확산되는 '오류 전파 효과(Propagation Effect)'는 시스템 전체의 실패를 유도할 수 있습니다.

접근법 및 방법론 (Approaches & Methods)

2025-2026년의 핵심 연구는 다음의 세 가지 기둥으로 수렴됩니다.

1. 신경-기호 AI (Neuro-symbolic AI)

LLM의 패턴 인식 능력과 기호 논리의 엄밀함을 결합합니다.

• ACHT (Active Causal Hypothesis Testing): LLM이 가설을 생성하고, NOTEARS 알고리즘이 인과 구조를 학습하며, 기호적 제약 조건이 메커니즘을 검증합니다. 알츠하이머 질환 역전 연구에서 F1 스코어 0.90을 기록했습니다.
• NSVIF (Neuro-Symbolic Verification of Instruction-Following): Z3 SMT 솔버를 사용하여 지시 이행 여부를 정형 검증합니다.

verify(I, O) = 
  SAT if O ⊨ ⋀_i check(c_i, O)
  UNSAT otherwise

2. 확률론적 프로그래밍 및 베이지안 접근

AutoDiscovery (NeurIPS 2025)는 베이지안 서프라이즈(Bayesian Surprise)를 활용하여 개방형 발견을 수행하며, 환각을 수학적으로 억제하는 검증 가능한 보상 체계를 구축합니다.

3. 범주론 기반 설계 (Category Theory Based Design)

에이전트 워크플로우를 '펑터(Functors)'로 취급하여 모듈식 검증을 수행하는 연구가 진행 중이며, 이는 AutoGen이나 LangGraph 같은 프레임워크의 합성성(Composability)을 보장합니다.

주요 응용 분야 (Key Applications)

생물학 분야에서는 ACHT가 NAD+ 항상성 및 알츠하이머 역전과 관련된 8가지 중재 방향을 모두 정확하게 예측하며 그 실효성을 증명했습니다.

미해결 문제 및 향후 연구 방향