정답을 맞히는 AI와 과학을 하는 AI는 다르다

고정된 문제와 정답은 비교 가능성을 만들었다

MMLU는 여러 학문을 폭넓게 다루는 standardized academic benchmark의 기준점을 만들었고, MMMU는 diagram, chemical structure, plot 같은 multimodal expert artifact까지 확장했다. GPQA는 PhD-level biology, chemistry, physics 문제를 전면에 내세웠으며, OlympiadBench, Humanity's Last Exam(HLE), FrontierScience는 더 긴 수학·과학 추론과 expert-authored answer를 요구한다.

이 계열의 강점은 분명하다. 입력이 고정되고 정답이 있으며 scoring protocol이 안정적이어서 모델 세대가 바뀌어도 반복 비교할 수 있다. 현실의 연구가 가진 이질성과 불확실성을 의도적으로 제거했기 때문에 측정은 쉬워졌다. 문제는 바로 그 장점이 discovery를 측정할 때 한계로 바뀐다는 데 있다.

프런티어에 가까워질수록 시험은 더 비싸지고, 더 모호해지고, 더 쉽게 과대해석된다

논문은 특히 HLE에서 frontier question에 대한 calibration이 좋지 않았다는 점과, 더 크고 instruction-tuned된 모델이 불확실할 때 물러서기보다 그럴듯한 오답을 낼 수 있다는 기존 연구를 연결한다. 과학에서는 “모른다”는 판단이 결함이 아니라 capability일 수 있다.

정답 재현에서 지식 창출로 평가의 목적함수가 바뀐다

원문 Figure 1과 Figure 2의 대비를 웹용으로 재구성한 표이다. 위치와 범주는 benchmark performance ranking이 아니라 evaluation structure를 설명하기 위한 개념적 배치다.

평가의 최소 단위는 상태-행동-관찰-수정의 루프다

논문은 “doing science”를 실용적으로 정의하기 위해 AI Scientist를 changing epistemic state 위에서 행동하는 policy로 본다. 각 시점의 state에는 background knowledge, prior observations, available tools/skills, constraints, unresolved uncertainty가 있다. 시스템은 hypothesis나 objective를 제안하고, experiment 또는 simulation을 고르고, observation을 얻고, 분석한 뒤 state를 갱신해 hypothesis를 refine, reject, extend할지 결정한다.

이를 최소한의 기호로 표현하면 다음과 같은 형태가 된다. 이 식은 논문의 개념을 압축한 설명용 formalization이다.

state → action → observation → updated state

여기서 중요한 것은 정답 여부가 아니라 state transition의 질이다. 실패한 tool call 뒤에 recovery를 했는지, noisy observation을 과대해석하지 않았는지, negative result를 다음 행동에 반영했는지가 평가 대상이 된다.

기초 모델의 지식과 장기 workflow 수행능력은 분리해 봐야 한다

ScienceWorld는 exam-style question에 강한 모델이 interactive environment에서 초등학생도 수행할 수 있는 단계적 실험에 실패할 수 있음을 보여준 대표 사례로 언급된다. DiscoveryWorld는 hypothesis formation, experimental action, analysis를 포함하는 더 완전한 discovery cycle로 그 간극을 확장한다.

BLADE, CORE-Bench, LAB-Bench, ScienceAgentBench, ReplicationBench, SciAgentArena와 같은 후속 benchmark는 data analysis, reproducibility, protocol planning, research-code execution, paper replication 같은 과제를 통해 단순 QA에서 보이지 않던 failure mode를 드러내려 한다. 핵심은 “연구에 필요한 능력”을 하나의 hidden scalar intelligence로 뭉개지 않고, 어떤 단계에서 무너지는지 측정하는 것이다.

evaluation complexity와 knowledge expansion은 함께 커져야 한다

원문 Figure 2는 두 축으로 평가 지형을 그린다. 가로축은 known answer에서 open-ended inquiry로 가는 knowledge expansion, 세로축은 text response에서 tools·data·experiments로 가는 evaluation complexity다. 원하는 방향은 expert QA → interactive query → executable workflow → research subtasks → closed-loop discovery로 이동하는 대각선이다.

새로워 보이는 아이디어와 진짜 discovery는 구분해야 한다

가설 생성은 세 단계 중 가장 open-ended하다. 정답이 아직 존재하지 않을 수 있고, 가장 흥미로운 가설일수록 기존 label distribution 밖에 있다. 그래서 novelty는 자연스러운 출발점이지만, LLM에서는 apparent novelty가 training corpus의 기억일 수 있다는 문제가 생긴다.

논문은 novelty를 published literature와, 가능한 경우 training data 모두에 대해 평가해야 genuine discovery와 rediscovery를 구분할 수 있다고 주장한다. human expert가 처음 보는 아이디어라도 모델이 이미 학습한 문헌에 있었다면 “발견”이라고 부르기 어렵다.

LLM 아이디어는 더 새로워 보일 수 있지만 feasibility에서 약할 수 있다

100명 이상의 NLP researcher를 동원한 blinded expert review 연구를 인용해, LLM-generated research ideas가 human expert ideas보다 novelty에서는 높게 평가됐지만 feasibility에서는 약했다고 설명한다. 이 결과의 교훈은 단순하다. 대담한 아이디어 한 개보다 적당히 새롭고, 실현 가능하며, 검증 가능하고, 정보가 많은 후보 묶음이 과학적으로 더 유용할 수 있다.

아이디어 평가는 “흥미롭다”에서 “실험할 수 있다”로 넘어가야 한다

원문은 metal-organic framework(MOF)와 high-energy physics를 대비되는 예로 든다. 새로운 MOF를 gas separation용으로 제안했다면 creativity rating만 볼 것이 아니라 chemical validity, synthetic accessibility, thermodynamic stability, predicted adsorption behavior를 확인해야 한다. Standard Model extension이라면 anomaly cancellation, unitarity, precision measurement, collider·cosmological constraint와의 compatibility, 그리고 현재 또는 계획된 실험으로 falsify 가능한 prediction을 만들어야 한다.

“새롭다”는 평가는 사람이 아이디어를 좋아하는지 묻는 데 가깝다. “검증 가능하다”는 평가는 그 아이디어가 자연과 충돌할 기회를 제공하는지 묻는다. discovery benchmark는 후자를 요구해야 한다.

가설 benchmark는 세 가지 시간축으로 설계할 수 있다

세 방식 모두에서 핵심 조건은 같다. hypothesis가 verifiable consequence와 연결돼야 한다. 논문 표현을 빌리면, 아이디어는 “세계와 접촉해도 살아남을 수 있어야” 한다.

실행 평가는 best practice와 hypothesis relevance를 동시에 묻는다

논문은 execution evaluation을 두 질문으로 정리한다. 첫째, 주어진 resource와 constraint 안에서 experiment를 best-practice method로 수행할 수 있는가. 둘째, 그 experiment 결과가 가설을 지지하거나 반박하는 데 직접적인 정보를 주는가.

이 단계에는 experimental/analytical design, protocol·code 작성, instrument와 compute infrastructure, failure·bug recovery가 포함된다. 그리고 사용 가능한 장비, compute budget, 실제 비용 같은 현실 조건도 benchmark state의 일부가 돼야 한다. 이상적인 실험을 말로 설명하는 능력보다 “지금 가진 자원으로 가장 정보가 많은 실험을 고르는 능력”이 더 과학적이다.

코드는 deterministic해도 과학 실험은 open-ended하다

purely computational experiment는 software engineering benchmark와 비슷해 보인다. unit test와 deterministic check를 활용할 수 있기 때문이다. 실제로 Harbor와 Inspect 같은 standardized environment는 reproducibility와 robustness를 높이고 rollout 중간에 더 dense한 reward를 제공하는 방향을 가능하게 한다.

그러나 계산과학도 여전히 실험이다. 같은 scientific objective에 여러 valid method가 존재할 수 있고, numerical result가 analysis assumption에 민감하며, 결론이 해석적일 수 있다. 따라서 “코드가 실행됐는가”만으로 execution quality를 다 평가할 수 없다.

물리 세계에서는 reproducibility 자체가 평가 문제다

wet-lab biology, chemistry, materials experiment는 더 어렵다. method-agnosticity와 resource constraint가 동시에 존재해 깔끔한 benchmark를 만들려면 상당한 사전 제한이 필요하다. cell-free expression에서 protein yield를 개선하거나, cloning/protein modification, drug repurposing을 수행한 focused project는 있지만, wet-lab execution 전용의 범용 benchmark는 여전히 open challenge로 남는다.

사람이 수행하는 lab experiment에는 executor variability도 있다. 논문은 이를 방해물로만 보지 않고 “protocol이 executor 변화에도 robust한가?”를 평가할 기회로 본다. self-driving laboratory는 일관성·속도·scale에서 장점이 있지만 모든 실험을 자동화하지 못한다. humanoid robot, 이른바 physical AI는 인간이 하는 폭넓은 lab action을 재현할 잠재적 방향으로 언급된다.

실험 방법이 하나가 아닌데 정답 path를 하나로 고정하면 과학 대신 instruction following을 재게 된다

execution score 설계의 핵심 난점은 method-agnosticity다. human expert도 같은 hypothesis를 검증하는 최선의 method, reagent, parameter에 동의하지 않을 수 있다. 따라서 평가는 하나의 path만 정답으로 인정하는 opinionated 방식과, 여러 valid approach를 허용하는 accommodating 방식 사이의 스펙트럼에 놓인다.

high-level plan을 제공하거나 procedure를 자세히 지정하면 평가가 쉬워지지만 autonomous method choice를 덜 재게 된다. 반대로 open-ended task는 현실적이지만 approach 자체를 평가하려면 expert rubric, partial credit, LLM judge 등을 정교하게 설계해야 한다.

그럴듯한 결론보다 분석 가정이 정당한지가 먼저다

result interpretation은 data가 주어지기 때문에 hypothesis generation보다 쉬워 보일 수 있다. 그러나 저자들은 오히려 이 단계에서 benchmark가 가장 fragile해질 수 있다고 본다. measurement는 instrument calibration, preprocessing choice, statistical assumption, experimental control, domain-specific convention의 영향을 받는다.

따라서 AI Scientist는 결과를 요약하는 데서 멈추지 않고 sample size, control group, noise, convergence criterion, uncertainty estimate, confounder를 확인해야 한다. simulation이 수렴했는지, model이 해당 regime에서 유효한지, batch effect나 instrument drift가 있는지, contamination과 missing metadata가 있는지, detection limit 근처의 signal을 과해석하지 않았는지를 평가해야 한다.

NMR peak는 곧바로 과학적 결론이 아니다

NMR, mass spectrometer, microscope, diffractometer, electrochemical workstation은 결론을 출력하지 않는다. signal을 출력한다. 예를 들어 NMR data에서는 expected peak와 solvent signal, impurity, side product, baseline artifact, referencing error를 구분해야 한다. frontier model이 dedicated spectroscopy software 수준의 일부 capability를 보이기 시작한 사례도 인용된다.

더 중요한 상황은 evidence가 충돌할 때다. NMR과 mass spectrometry가 다른 해석을 지지한다면 편한 쪽을 선택해서는 안 된다. 어떤 explanation이 남아 있는지, 어떤 measurement가 uncertainty를 가장 줄일지 제안해야 한다.

observation과 interpretation을 분리하고, uncertainty를 끝까지 운반해야 한다

강한 interpretation benchmark는 raw signal에서 relevant feature를 추출하는 단계부터 uncertainty calibration, multiple measurements의 비교, justified conclusion에 이르는 evidentiary chain 전체를 평가해야 한다. 여러 modality를 조합하되, “무엇을 관찰했는가”와 “그 관찰이 무엇을 의미한다고 해석하는가”를 구분해야 한다.

원문은 free-form hypothesis를 sequential statistical falsification에 넣고 type-I error를 명시적으로 통제하는 agentic framework를 이런 discipline의 한 사례로 든다. 때로는 최고의 답이 decisive claim이 아니다. 여러 explanation이 여전히 data와 양립한다는 사실을 정확히 인정하는 것이 가장 robust한 과학적 판단일 수 있다.

frontier science에서는 canonical answer가 사라질수록 expert judgment가 더 중요해진다

noisy, incomplete, contradictory data에는 단일 정답이 없을 수 있다. 특히 knowledge breakthrough를 알릴 가능성이 높은 anomaly는 기존 interpretation이 없는 관찰일 수 있다. 그래서 expert rubric은 statistically valid, instrument-aware, appropriately cautious한 interpretation을 평가하는 데 필요하다.

rubric은 correctness만 보지 말고 uncertainty calibration, failure mode identification, analysis pipeline reproducibility, follow-up action의 질까지 포함해야 한다. 목표는 post-hoc narrative의 설득력이 아니라 evidence under uncertainty를 다루는 능력이다.

stage를 붙인다고 end-to-end discovery 평가가 자동으로 완성되지는 않는다

hypothesis와 interpretation은 scale하지만 execution은 scale하지 않을 수 있다

wide-field astronomical survey, multi-year clinical trial, decade-long climate campaign, new particle accelerator처럼 execution 자체가 매우 비싼 과학에서는 benchmark loop를 완전히 닫기 어렵다. agent는 hypothesis를 만들고 이미 있는 data를 해석할 수 있어도 실험을 직접 반복할 수 없다.

그래서 논문은 최소 closed-loop benchmark를 execution이 containable한 regime에 두자고 제안한다. bounded and well-characterized problem, automatically computable objective, controlled environment, reasonable time and cost가 기본조건이다.

question→answer나 problem→evidence→claim만으로는 agent의 학습에 필요한 정보가 사라진다

기존 benchmark는 과학을 question → answer로 압축한다. 논문은 연구를 problem → evidence → claim으로 압축한다. 둘 다 인간 커뮤니케이션에는 효율적이지만, 장기간 행동해야 하는 agent에게는 intermediate signal이 부족하다.

저자들이 요구하는 새로운 data object는 discovery episode다.

p_t = provenance: code · instrument · version · human intervention · safety constraint

여기에는 initial knowledge state, candidate hypotheses, rejected alternatives, tool calls, code edits, simulation input, instrument settings, intermediate observation, failed attempt, recovery action, evolving rationale가 들어간다. scientific claim이 supported, abandoned, revised될 때까지 이 transition을 반복해 기록한다.

출판에서 버려지는 실패가 AI Scientist에게는 가장 밀도 높은 교육자료일 수 있다

scientific record는 positive, clean, coherent result를 과대표현한다. failed synthesis, abandoned hypothesis, debugging step, inconclusive measurement는 거의 남지 않는다. 인간에게는 읽기 부담을 줄이는 편집이지만, agent에게는 boundary condition이 사라지는 일이다.

negative result는 단순한 “출판되지 않은 결과”가 아니다. hypothesis의 boundary를 정의하고, hidden constraint를 드러내며, 언제 멈춰야 하는지 알려주고, 이미 알려진 dead end를 재발견하는 일을 줄인다. AI Scientist는 success action뿐 아니라 nearby failure, violated assumption, noisy measurement, recovery strategy를 함께 학습해야 한다.

FAIR를 final dataset에서 discovery trajectory까지 확장한다

FAIR principles, Open Reaction Database, Materials Project, AiiDA, FireWorks, self-driving laboratories는 reaction condition, parameter history, instrument metadata, provenance를 구조화해 보존하는 선행 인프라를 제공한다. 논문은 이를 AI Scientist 평가를 위한 episode-level infrastructure로 확장할 수 있다고 본다.

workflow engine과 automated laboratory가 normal operation의 부산물로 trajectory를 자동 기록하면 researcher burden을 크게 늘리지 않을 수 있다. journal도 final dataset만 요구하는 데서 나아가 discovery trajectory를 공유한 연구자를 credit하는 표준을 만들 수 있다는 제안이 뒤따른다.

AI Scientist 측정은 한 연구실이 끝낼 수 있는 프로젝트가 아니다

원문 Figure 4는 community ecosystem을 다섯 층으로 그린다. scientists는 real problem과 expertise를 제공하고, benchmark는 이를 measurable task로 번역한다. LLM과 agent는 task를 수행하면서 capability와 failure mode를 드러낸다. automation은 data, experiment, trajectory를 기록한다. foundation과 institution은 standard, credit, oversight를 제공한다.

이 생태계를 순환하는 것은 problems, scenarios, tasks, trajectories, governance다. 이들이 축적되고 재사용되면 benchmark만 좋아지는 것이 아니라 frontier model과 agent의 개발 자체도 더 grounded될 수 있다.

AI Scientist platform이 빠르게 바뀌기 때문에 평가 기준도 고정될 수 없다

Kosmos, Claude Science, MIRA처럼 literature search, data analysis, long-horizon task execution을 하나의 interface에 묶는 system이 빠르게 나오고 있다. model, agent, tool, lab automation이 바뀌면 “좋은 과학”을 측정하는 criterion도 바뀐다.

논문은 novelty, testability, reproducibility, usefulness, safety에 더해 uncertainty calibration, cost-adjusted value of information, robustness to failed experiments, decision interpretability, human oversight 요청 능력이 점점 중요해질 것이라고 본다. 그래서 하나의 영구적 leaderboard보다, comparability를 유지하면서 task·metric·reporting standard가 과학 실무와 함께 진화하는 measurement ecosystem을 목표로 한다.

가끔 큰 문제를 푸는 시스템과 신뢰 가능한 discovery engine은 다르다

AI가 formal verification을 동반한 수학적 진전이나 olympiad-level reasoning을 보여주는 성취는 중요하다. 동시에 “open problem을 풀었다”는 유명 사례가 사실은 기존 문헌에 이미 있던 solution을 재발견한 경우도 있다. 따라서 rediscovery detection 자체가 measurement problem의 일부다.

평가의 핵심 질문은 “한 번 놀라운 결과를 냈는가?”가 아니라 “controlled, auditable, reproducible condition에서 유용한 진전을 반복적으로 만들어내는가?”가 된다. reliability는 breakthrough frequency보다 더 구조적인 개념이다.

속도와 novelty만 보상하면 benchmark가 위험한 행동을 가르칠 수 있다

chemistry, materials, energy, life sciences의 discovery는 powerful capability를 만들 수 있다. benchmark가 objective improvement만 보상하면 hazardous experiment를 제안하거나, poorly specified objective를 최적화하거나, uncertainty를 무시하고 human oversight를 우회하거나, dual-use knowledge를 안전장치 없이 생성하는 행동을 유도할 수 있다.

그래서 allowed design space, forbidden objective, safety constraint, human-review point, provenance requirement, stop/ask-for-help condition을 task definition에 처음부터 넣어야 한다. 때로는 “실행하지 않는다”는 선택이 가장 높은 scientific responsibility를 보여준다.

AI Scientist를 측정하는 일은 더 일반적인 지능을 훈련하는 환경을 만들 수도 있다

scientific discovery는 long-horizon objective, external tools, uncertain observations, delayed feedback, reality-checkable consequences를 자연스럽게 포함한다. closed-loop environment는 benchmark이면서 동시에 learning environment가 될 수 있고, discovery episode는 archive가 아니라 training signal이 된다.

이 지점에서 논문은 조심스럽지만 큰 함의를 제시한다. 과학을 진전시키려면 reasoning, planning, acting, observing, belief revision을 세계와 접촉하면서 함께 수행해야 한다. 따라서 AI Scientist 평가를 제대로 설계하는 일은 단순한 벤치마크 공학을 넘어, 더 일반적인 agentic intelligence의 학습문제를 구체화하는 한 경로가 될 수 있다.

이 Perspective를 구현 가능한 평가 항목으로 바꾸면 무엇을 재야 하는가