AI Research NotesAI Co-Scientist · Scientific Skill Memory · Long-Horizon Evaluation
AI Co-Scientist × Drug Discovery Research Watch · 01 Sep 2026

더 잘 답하는 AI에서
경험을 쌓고 긴 연구를 끝내며
자기 결과를 검증하는 AI로

HypoForge, BixBench3, and human-aligned evaluation reveal the next frontier of scientific agents.

FOUNDATIONMODELMULTI-AGENTSCIENTIFICSKILL MEMORYLONG-HORIZONEXECUTIONARTIFACTVERIFICATIONHUMAN-ALIGNEDEVALUATIONEXPERIMENT+ LEARNINGsuccess and failure → contextual scientific skill → reproducible artifacts → expert calibration → prospective validation
Central Shift

이번 업데이트의 세 연구는 AI Co-Scientist 경쟁축이 동시에 세 방향으로 이동하고 있음을 보여준다. 고정된 multi-agent workflow에서 경험을 축적하는 self-improving scientist로, 단일 답변 평가에서 연구 전체 수행능력 평가로, LLM-as-a-Judge의 편의적 사용에서 인간 전문가와 정렬된 검증체계로 이동한다.

HypoForge는 foundation model을 다시 fine-tuning하지 않고 가설 생성·검증 경험을 scientific skill로 축적한다. BixBench3는 raw biological data에서 논문 수준 scientific result까지 이어지는 장기 workflow를 평가하며 현재 frontier agent의 한계를 드러낸다. AstraZeneca ChatInvent 평가 연구는 agent score를 생성하는 LLM judge 자체도 전문가 기준으로 calibration해야 한다는 원칙을 만든다.

다음 Co-Scientist의 질문은 “몇 개 agent가 협력하는가?”가 아니다. “이 시스템이 이전 연구에서 무엇을 배웠는가, 수십 단계의 연구를 끝까지 수행했는가, 중간 artifact가 재현 가능한가, 그리고 그 판단이 실제 과학자의 판단과 실험결과에 맞는가?”이다.
Part I · Three Structural Shifts

멀티에이전트 자체가 더 이상 충분한 신규성은 아니다

§1 · Update Map
ResearchWhat changesScientific-agent implication
HypoForge한 세션의 경험을 reusable scientific skill로 축적workflow 자체가 연구경험에 따라 개선
BixBench3question answering이 아니라 research-study-scale execution 평가long-horizon data system과 artifact provenance가 핵심 병목
ChatInvent EvaluationLLM judge를 human expert annotation에 맞춰 calibrationjudge score와 scientific quality를 분리
§2 · Old vs New

기존 구조는 단순했다.

Foundation Model → Multi-Agent → Tool Call → Answer

현재 구조는 훨씬 길다.

Foundation Model → Multi-Agent → Scientific Skill Memory → Long-Horizon Execution → Artifact Verification → Human-Aligned Evaluation → Experiment → Learning

핵심은 agent 수의 증가가 아니라 경험, 장기 실행, 검증, 평가, 실험 피드백이 하나의 폐루프를 이루는가이다.

Part II · HypoForge

AI Scientist가 “경험을 축적하는 과학자”로 이동한다

§3 · Self-Improving Scientific Skill Learning

Qian et al., “HypoForge: A Self-Improving Multi-Agent Framework for Automated Hypothesis Generation and Testing via Scientific Skill Learning”는 2026년 8월 26일 공개됐다. 문제의식은 기존 AI Co-Scientist의 prompt, workflow, agent role이 대체로 고정되어 있고 한 연구 session에서 얻은 경험이 다음 연구로 충분히 축적되지 않는다는 점이다.

HypoForge는 가설 생성과 가설 검증에서 얻은 경험을 reusable scientific skill로 저장·학습한다. Foundation model 자체를 fine-tuning하지 않고도 연구수행 방식이 지속적으로 개선되는 것이 핵심이다.

§4 · Two Kinds of Supervision

Hypothesis Generation

명확한 ground truth가 없으므로 generator–discriminator adversarial critique를 이용해 더 나은 hypothesis-generation skill을 학습한다.

Hypothesis Testing

실행결과와 ground truth가 있으므로 실제 testing outcome을 이용해 testing skill을 학습한다.

즉 “아이디어를 만드는 문제”와 “아이디어를 검증하는 문제”가 같은 supervision regime을 갖지 않는다는 사실을 architecture에 반영한다.

§5 · Drug-Discovery Meaning

Agentic Drug Discovery는 프로젝트마다 비슷한 docking failure, assay incompatibility, ADMET trade-off를 반복한다. HypoForge식 memory가 있다면 다음과 같은 경험을 reusable scientific skill로 축적할 수 있다.

Example skills

“특정 kinase family에서 docking score만으로 hit를 선택하면 실패한다.”

“특정 assay condition에서는 permeability가 candidate ranking을 뒤집는다.”

Google AI Co-Scientist의 Generate → Debate → Evolve가 현재 hypothesis set을 진화시킨다면, HypoForge는 연구를 수행하는 방법 자체를 학습한다는 점에서 한 단계 더 나아간다.

§6 · The Missing Context

그러나 drug discovery에서 “성공한 전략”은 target family, assay, cell line, species, concentration에 따라 실패할 수 있다. 따라서 flat skill memory만으로는 위험하다. source가 제안하는 다음 단계는 다음과 같다.

Scientific Skill + Hyper-Relational Context + Provenance + Uncertainty

즉 skill을 unconditional rule이 아니라 조건·출처·불확실성을 가진 context-conditioned scientific skill로 관리해야 한다.

Part III · BixBench3

“질문에 답할 수 있는가?”에서 “연구 한 편을 끝낼 수 있는가?”로

§7 · Research-Study-Scale Benchmark

Koch et al., “BixBench3: Benchmarking AI agents on research-study-scale computational biology tasks”는 published biological study의 raw data에서 실제 scientific result까지 전체 분석을 agent에게 위임한다. 20개 연구 규모 task에서 138개의 intermediate/final artifact를 생성하게 하고, 원 논문에서 실제 생성된 differential-expression table, peak-call matrix 등과 programmatically 비교한다.

이는 단일 분석·질문·코드실행을 평가하는 benchmark와 본질적으로 다르다. workflow의 중간 산출물이 모두 평가대상이 된다.

§8 · Frontier Models Still Struggle
0.48Best overall score
0.10>100 GB datasets
6.8 hAvg task time
102MAvg tokens/task
ConditionResultInterpretation
13 frontier models최고 점수 0.48현재 frontier agent도 연구 전체 자동화에는 큰 여유가 남음
Raw data ≤100 GB vs >100 GB평균 0.36 → 0.10대용량 data handling이 직접 병목
1–2 analysis steps vs ≥30.36 → 0.24sequential dependency가 길어질수록 error accumulation
Average cost약 $43 / task장기 scientific workflow는 inference budget 자체가 연구문제
Longest attempt>24h, >1B tokenscheckpoint/recovery와 budget control의 필요성
§9 · Drug-Discovery Benchmark Must Become a Workflow

현재 많은 benchmark는 다음처럼 끝난다.

Prompt → Molecule / Answer

그러나 실제 신약개발 workflow는 다음과 같이 길다.

raw assay → preprocessing → QC → statistics → model → evidence integration → candidate ranking

따라서 hit discovery/selection도 최종 docking score 하나로 평가해서는 부족하다. source가 제안하는 benchmark는 다음 전체 artifact를 검증한다.

ChEMBL/PDB raw data → target evidence → candidate retrieval → affinity → selectivity → ADMET → uncertainty → final hit
§10 · DBMS/Data Systems Becomes Core

BixBench3의 가장 큰 연구공백은 long-horizon scientific data systems다. 대용량 데이터 관리, intermediate artifact tracking, checkpoint/recovery, provenance, consistency가 LLM reasoning만큼 중요한 bottleneck이 된다.

Drug-Discovery Co-Scientist는 LLM 연구만이 아니라 DBMS/Data Systems 연구문제가 된다.

Part IV · AstraZeneca ChatInvent Evaluation

Agentic Drug Discovery의 LLM Judge도 다시 검증해야 한다

§11 · Human Alignment

Granqvist, Mercado & Genheden, “Designing a Robust LLM-Based Evaluation System for Agentic AI in Drug Discovery Through Human Alignment”는 AstraZeneca의 agentic drug-discovery assistant ChatInvent를 평가하기 위한 framework다.

문제는 많은 agent benchmark가 LLM-as-a-Judge를 사용하지만, judge model의 점수가 실제 drug-discovery 전문가 판단과 정렬되어 있는지 충분히 검증하지 않는다는 점이다.

§12 · Four Semantic Dimensions + Deterministic Correctness
Evaluation dimensionRole
Completeness요청된 정보와 분석이 충분히 포함되었는가
Relevancy응답이 drug-discovery 질문과 직접 관련되는가
Structural Clarity전문가가 결과와 근거를 이해·검토하기 쉬운 구조인가
Scope Adherence지정된 scientific scope와 제약을 지켰는가
Tool Call Correctnesssemantic judge와 분리된 deterministic correctness

5명의 전문가 annotation을 기준으로 Gemini 3.1 Pro, Claude Opus 4.7, GPT-5, Llama 3.1 70B를 비교했다. Few-shot human examples로 judge를 조정하면 human majority vote와 alignment가 0.80 → 0.86으로 향상된다.

§13 · A Critical Principle
\[\text{Agent Quality}\neq\text{LLM Judge Score}\]

이 연구의 차별점은 “LLM judge가 준 점수”를 다시 인간 연구자의 annotation으로 calibration했다는 점이다. 앞으로 scientific-agent benchmark는 최소 세 층을 가져야 한다.

Deterministic correctness → Expert-aligned semantic evaluation → Prospective experimental validation

다만 이 연구도 주로 agent output 품질과 tool-call correctness를 평가한다. molecule/target 추천이 실제 wet-lab에서 성공하는지는 별도의 prospective validation이 필요하다.

Part V · What Changes for Drug Discovery?

성공과 실패를 모두 기억하고, 모든 중간 artifact를 검증한다

§14 · Four Questions that Matter

Experience

이 시스템은 이전 연구의 성공과 실패에서 무엇을 배웠는가?

Horizon

수십 단계의 연구 workflow를 실제로 끝까지 수행했는가?

Reproducibility

중간 data, code, artifacts, evidence가 재현 가능하게 남았는가?

Alignment

판단이 실제 scientist의 판단과 prospective experiment에 맞는가?

§15 · Failure Must Be First-Class Memory

신약개발에서는 성공만 기억해서는 안 된다. docking false positive, assay incompatibility, selectivity failure, permeability reversal, ADMET trade-off 같은 실패도 condition·source·uncertainty와 함께 저장해야 다음 연구에서 같은 오류를 반복하지 않는다.

따라서 memory는 단순 text summary가 아니라 scientific skill/evidence graph에 가까워져야 한다.

Part VI · Experience-Grounded Drug-Discovery AI Co-Scientist

이번 업데이트를 하나의 연구주제로 압축하면

§16 · Target Architecture
1 · Foundationmolecule, protein, omics, assay를 처리하는 multimodal scientific FM
2 · Multi-Agentplanner, retriever, analyst, critic, experiment agent
3 · Skill Memory성공·실패를 context, provenance, uncertainty와 함께 축적
4 · Long Horizonraw data부터 candidate decision까지 checkpointed execution
5 · Artifact Verify중간 table, model, evidence, code, provenance를 검증
6 · Human Alignexpert calibration과 deterministic correctness를 결합
7 · Prospectivewet-lab 결과를 다시 skill/evidence memory와 다음 action에 반영
§17 · Proposed Definition
Experience-Grounded Drug-Discovery AI Co-Scientist는 molecule·protein·omics·assay를 처리하는 과학특화 multimodal foundation model과 multi-agent system이 성공뿐 아니라 실패 실험까지 조건·출처·불확실성과 함께 scientific skill/evidence graph에 축적하고, 그 경험을 사용해 다음 분석·계산·실험을 선택하며, 전체 workflow artifact와 prospective wet-lab 결과로 성능을 평가하는 시스템이다.
§18 · Final Takeaway

이번 신규 결과가 강화하는 신호는 분명하다. AI Co-Scientist 경쟁의 중심은 “더 잘 생성하는 AI”에서 “경험을 축적하고, 긴 연구를 끝까지 수행하며, 자신의 결과를 검증할 수 있는 AI”로 이동하고 있다.

그리고 drug discovery에서는 그 세 요소가 분리될 수 없다. 경험은 context-conditioned memory가 되어야 하고, 장기 실행은 data-system support를 필요로 하며, 검증은 deterministic check·expert alignment·prospective experiment의 세 층으로 구성되어야 한다.

§19 · Evidence Boundary

How to read this research watch

HypoForge, BixBench3, ChatInvent 평가 연구의 방법·수치와 한계는 첨부 메모가 정리한 source-derived 내용이다. 반면 Experience-Grounded Drug-Discovery AI Co-Scientist와 context-conditioned scientific skill/evidence graph는 세 연구의 흐름을 연결해 첨부 메모가 도출한 후속 연구방향이다. 이미 실증이 완료된 단일 시스템의 명칭으로 읽어서는 안 된다.

Primary Sources

이번 업데이트의 세 연구

01
HypoForge: A Self-Improving Multi-Agent Framework for Automated Hypothesis Generation and Testing via Scientific Skill Learning
Qian et al. · arXiv:2608.25770 · 26 Aug 2026
02
BixBench3: Benchmarking AI agents on research-study-scale computational biology tasks
Koch et al. · arXiv:2608.25286 · 26 Aug 2026
03
Designing a Robust LLM-Based Evaluation System for Agentic AI in Drug Discovery Through Human Alignment
Granqvist, Mercado & Genheden · arXiv:2608.21057 · 21 Aug 2026

본 게시물은 첨부된 AI Co-Scientist-0901.md의 전체 내용을 기준으로 재구성했다. 외부 사실을 임의로 추가하지 않았으며, 논문별 직접 결과와 첨부 메모가 제안한 후속 연구방향을 구분해 서술했다.