Hypothesis Generation
명확한 ground truth가 없으므로 generator–discriminator adversarial critique를 이용해 더 나은 hypothesis-generation skill을 학습한다.
HypoForge, BixBench3, and human-aligned evaluation reveal the next frontier of scientific agents.
이번 업데이트의 세 연구는 AI Co-Scientist 경쟁축이 동시에 세 방향으로 이동하고 있음을 보여준다. 고정된 multi-agent workflow에서 경험을 축적하는 self-improving scientist로, 단일 답변 평가에서 연구 전체 수행능력 평가로, LLM-as-a-Judge의 편의적 사용에서 인간 전문가와 정렬된 검증체계로 이동한다.
HypoForge는 foundation model을 다시 fine-tuning하지 않고 가설 생성·검증 경험을 scientific skill로 축적한다. BixBench3는 raw biological data에서 논문 수준 scientific result까지 이어지는 장기 workflow를 평가하며 현재 frontier agent의 한계를 드러낸다. AstraZeneca ChatInvent 평가 연구는 agent score를 생성하는 LLM judge 자체도 전문가 기준으로 calibration해야 한다는 원칙을 만든다.
| Research | What changes | Scientific-agent implication |
|---|---|---|
| HypoForge | 한 세션의 경험을 reusable scientific skill로 축적 | workflow 자체가 연구경험에 따라 개선 |
| BixBench3 | question answering이 아니라 research-study-scale execution 평가 | long-horizon data system과 artifact provenance가 핵심 병목 |
| ChatInvent Evaluation | LLM judge를 human expert annotation에 맞춰 calibration | judge score와 scientific quality를 분리 |
기존 구조는 단순했다.
현재 구조는 훨씬 길다.
핵심은 agent 수의 증가가 아니라 경험, 장기 실행, 검증, 평가, 실험 피드백이 하나의 폐루프를 이루는가이다.
Qian et al., “HypoForge: A Self-Improving Multi-Agent Framework for Automated Hypothesis Generation and Testing via Scientific Skill Learning”는 2026년 8월 26일 공개됐다. 문제의식은 기존 AI Co-Scientist의 prompt, workflow, agent role이 대체로 고정되어 있고 한 연구 session에서 얻은 경험이 다음 연구로 충분히 축적되지 않는다는 점이다.
HypoForge는 가설 생성과 가설 검증에서 얻은 경험을 reusable scientific skill로 저장·학습한다. Foundation model 자체를 fine-tuning하지 않고도 연구수행 방식이 지속적으로 개선되는 것이 핵심이다.
명확한 ground truth가 없으므로 generator–discriminator adversarial critique를 이용해 더 나은 hypothesis-generation skill을 학습한다.
실행결과와 ground truth가 있으므로 실제 testing outcome을 이용해 testing skill을 학습한다.
즉 “아이디어를 만드는 문제”와 “아이디어를 검증하는 문제”가 같은 supervision regime을 갖지 않는다는 사실을 architecture에 반영한다.
Agentic Drug Discovery는 프로젝트마다 비슷한 docking failure, assay incompatibility, ADMET trade-off를 반복한다. HypoForge식 memory가 있다면 다음과 같은 경험을 reusable scientific skill로 축적할 수 있다.
“특정 kinase family에서 docking score만으로 hit를 선택하면 실패한다.”
“특정 assay condition에서는 permeability가 candidate ranking을 뒤집는다.”
Google AI Co-Scientist의 Generate → Debate → Evolve가 현재 hypothesis set을 진화시킨다면, HypoForge는 연구를 수행하는 방법 자체를 학습한다는 점에서 한 단계 더 나아간다.
그러나 drug discovery에서 “성공한 전략”은 target family, assay, cell line, species, concentration에 따라 실패할 수 있다. 따라서 flat skill memory만으로는 위험하다. source가 제안하는 다음 단계는 다음과 같다.
즉 skill을 unconditional rule이 아니라 조건·출처·불확실성을 가진 context-conditioned scientific skill로 관리해야 한다.
Koch et al., “BixBench3: Benchmarking AI agents on research-study-scale computational biology tasks”는 published biological study의 raw data에서 실제 scientific result까지 전체 분석을 agent에게 위임한다. 20개 연구 규모 task에서 138개의 intermediate/final artifact를 생성하게 하고, 원 논문에서 실제 생성된 differential-expression table, peak-call matrix 등과 programmatically 비교한다.
이는 단일 분석·질문·코드실행을 평가하는 benchmark와 본질적으로 다르다. workflow의 중간 산출물이 모두 평가대상이 된다.
| Condition | Result | Interpretation |
|---|---|---|
| 13 frontier models | 최고 점수 0.48 | 현재 frontier agent도 연구 전체 자동화에는 큰 여유가 남음 |
| Raw data ≤100 GB vs >100 GB | 평균 0.36 → 0.10 | 대용량 data handling이 직접 병목 |
| 1–2 analysis steps vs ≥3 | 0.36 → 0.24 | sequential dependency가 길어질수록 error accumulation |
| Average cost | 약 $43 / task | 장기 scientific workflow는 inference budget 자체가 연구문제 |
| Longest attempt | >24h, >1B tokens | checkpoint/recovery와 budget control의 필요성 |
현재 많은 benchmark는 다음처럼 끝난다.
그러나 실제 신약개발 workflow는 다음과 같이 길다.
따라서 hit discovery/selection도 최종 docking score 하나로 평가해서는 부족하다. source가 제안하는 benchmark는 다음 전체 artifact를 검증한다.
BixBench3의 가장 큰 연구공백은 long-horizon scientific data systems다. 대용량 데이터 관리, intermediate artifact tracking, checkpoint/recovery, provenance, consistency가 LLM reasoning만큼 중요한 bottleneck이 된다.
Drug-Discovery Co-Scientist는 LLM 연구만이 아니라 DBMS/Data Systems 연구문제가 된다.
Granqvist, Mercado & Genheden, “Designing a Robust LLM-Based Evaluation System for Agentic AI in Drug Discovery Through Human Alignment”는 AstraZeneca의 agentic drug-discovery assistant ChatInvent를 평가하기 위한 framework다.
문제는 많은 agent benchmark가 LLM-as-a-Judge를 사용하지만, judge model의 점수가 실제 drug-discovery 전문가 판단과 정렬되어 있는지 충분히 검증하지 않는다는 점이다.
| Evaluation dimension | Role |
|---|---|
| Completeness | 요청된 정보와 분석이 충분히 포함되었는가 |
| Relevancy | 응답이 drug-discovery 질문과 직접 관련되는가 |
| Structural Clarity | 전문가가 결과와 근거를 이해·검토하기 쉬운 구조인가 |
| Scope Adherence | 지정된 scientific scope와 제약을 지켰는가 |
| Tool Call Correctness | semantic judge와 분리된 deterministic correctness |
5명의 전문가 annotation을 기준으로 Gemini 3.1 Pro, Claude Opus 4.7, GPT-5, Llama 3.1 70B를 비교했다. Few-shot human examples로 judge를 조정하면 human majority vote와 alignment가 0.80 → 0.86으로 향상된다.
이 연구의 차별점은 “LLM judge가 준 점수”를 다시 인간 연구자의 annotation으로 calibration했다는 점이다. 앞으로 scientific-agent benchmark는 최소 세 층을 가져야 한다.
다만 이 연구도 주로 agent output 품질과 tool-call correctness를 평가한다. molecule/target 추천이 실제 wet-lab에서 성공하는지는 별도의 prospective validation이 필요하다.
이 시스템은 이전 연구의 성공과 실패에서 무엇을 배웠는가?
수십 단계의 연구 workflow를 실제로 끝까지 수행했는가?
중간 data, code, artifacts, evidence가 재현 가능하게 남았는가?
판단이 실제 scientist의 판단과 prospective experiment에 맞는가?
신약개발에서는 성공만 기억해서는 안 된다. docking false positive, assay incompatibility, selectivity failure, permeability reversal, ADMET trade-off 같은 실패도 condition·source·uncertainty와 함께 저장해야 다음 연구에서 같은 오류를 반복하지 않는다.
따라서 memory는 단순 text summary가 아니라 scientific skill/evidence graph에 가까워져야 한다.
이번 신규 결과가 강화하는 신호는 분명하다. AI Co-Scientist 경쟁의 중심은 “더 잘 생성하는 AI”에서 “경험을 축적하고, 긴 연구를 끝까지 수행하며, 자신의 결과를 검증할 수 있는 AI”로 이동하고 있다.
그리고 drug discovery에서는 그 세 요소가 분리될 수 없다. 경험은 context-conditioned memory가 되어야 하고, 장기 실행은 data-system support를 필요로 하며, 검증은 deterministic check·expert alignment·prospective experiment의 세 층으로 구성되어야 한다.
HypoForge, BixBench3, ChatInvent 평가 연구의 방법·수치와 한계는 첨부 메모가 정리한 source-derived 내용이다. 반면 Experience-Grounded Drug-Discovery AI Co-Scientist와 context-conditioned scientific skill/evidence graph는 세 연구의 흐름을 연결해 첨부 메모가 도출한 후속 연구방향이다. 이미 실증이 완료된 단일 시스템의 명칭으로 읽어서는 안 된다.
본 게시물은 첨부된 AI Co-Scientist-0901.md의 전체 내용을 기준으로 재구성했다. 외부 사실을 임의로 추가하지 않았으며, 논문별 직접 결과와 첨부 메모가 제안한 후속 연구방향을 구분해 서술했다.