Agentic-Tx형 신약개발
실행 에이전트의 구체적 구현 방안

에이전트는 세 가지를 되풀이한다. 이 셋이 한 바퀴 도는 것이 곧 한 수(手)다.

1. 현재 가설에서 무엇이 불확실한지 판단한다.
2. 그 불확실성을 가장 경제적으로 줄일 계산이나 실험을 선택한다.
3. 결과가 나오면 가설의 신뢰도를 갱신하고 다음 행동을 다시 선택한다.

따라서 고정된 다음 순서만 실행해서는 안 된다. 바둑에서 정석을 외운 사람이 그 정석대로만 두어 지는 것과 같은 이치다.

사용자가 다음과 같이 입력했다고 하자.

“질환 D에서 X를 억제하면 pathway P의 과도한 활성이 줄고 phenotype Y가 개선될 것이다.”

한 문장이지만 그 안에는 서로 다른 층위의 주장이 아홉 겹으로 포개져 있다. Hypothesis Compiler가 하는 일은 이 포개진 겹을 낱장으로 떼어내는 것이다. 떼어내야 각각을 따로 검증할 수 있고, 따로 무너뜨릴 수 있다.

이 분해 결과는 자유로운 문장이 아니라 기계가 처리할 수 있는 Research Intent Specification으로 만들어야 한다.

이것이 전체 agent workflow의 계약서 역할을 한다. 계약서 없이 시작한 공사가 어떻게 끝나는지는 굳이 말할 필요가 없다.

기존 RAG는 검색한 문서를 현재 대화에 넣고 끝난다. 한 번 쓰고 버리는 기억이다. 제안하는 방식에서는 지식 그래프에 세 종류의 지식을 함께 저장한다. 사실만 남기고 과정을 버리는 기록은 기록이 아니라 목록에 지나지 않는다.

이렇게 해야 에이전트가 단순히 결과를 읽는 것을 넘어 과거의 실패로부터 계획을 개선할 수 있다. 기보를 남기지 않은 대국은 복기할 수 없다.

바둑에 “큰 곳보다 급한 곳”이라는 격언이 있다. 반상에서 가장 큰 자리가 지금 두어야 할 자리는 아니라는 뜻이다. 에이전트도 가장 정확한 도구부터 무조건 실행해서는 안 된다. 비용이 큰 FEP를 모든 후보에 수행하면 비효율적이다. 다음 행동은 정보가치, 비용, 시간, 위험을 함께 고려해 선택한다.

• ΔU(H) — 행동 a가 가설의 불확실성을 얼마나 줄이는가
• C(a) — 계산·실험 비용
• T(a) — 소요시간
• R(a) — 안전·실패 위험

“가장 정교한 계산”이 아니라 “현재 결정을 가장 많이 명확하게 만드는 계산”을 먼저 선택한다.

실제로는 이런 판단이 된다

• 후보가 10만 개라면 FEP보다 TxGemma·GNN screening이 적합하다.
• docking pose가 명백히 불합리하다면 MD를 실행할 필요가 없다.
• 두 analog 사이의 미세한 차이가 중요하면 FEP가 적합하다.
• 결합력은 좋지만 hERG 위험이 매우 높다면 구조계산보다 ADMET 개선이 우선이다.
• 합성경로가 없으면 더 정밀한 affinity 계산보다 구조 재설계가 우선이다.

이러한 방식을 Value-of-Information 기반 Adaptive Escalation이라고 정의할 수 있다.

5.1 단순 구현의 위험

일반적인 agent는 이 정도만 수행한다.

“Vina를 실행하고 점수가 가장 낮은 화합물을 선택한다.”

이는 위험하다. docking score는 receptor 구조, protonation, grid, ligand state와 엔진에 크게 의존하기 때문이다. 같은 유물을 두고 조명을 바꿔가며 사진을 찍은 뒤 가장 잘 나온 한 장으로 연대를 판정하는 것과 다르지 않다.

5.2 제안하는 구현

Docking Agent는 먼저 실행 조건에 대한 가설을 생성한다.

“이 표적은 flexible loop를 가지므로 하나의 정적 구조보다 receptor ensemble을 사용하는 것이 적절하다.”

그런 다음 세 갈래로 계획을 세운다.

5.3 과거 이력에 기대어 엔진을 고른다

실행 KG에서 표적군·pocket 특성이 비슷한 과거 작업을 검색한다.

“과거 kinase hinge pocket에서는 엔진 A의 score가 assay와 낮은 상관을 보였지만, 엔진 B의 MET793 hydrogen-bond pose는 MD와 실험에서 더 잘 유지되었다.”

Agent는 이 정보를 이용해 엔진과 제약조건을 선택한다. 경험이 쌓인 답사자가 어느 각도에서 봐야 명문이 읽히는지 아는 것과 같다.

5.4 도킹 통과 조건

단순 score 대신 다음 여덟 항목을 함께 본다.

• 여러 엔진의 pose 일치
• 알려진 핵심 잔기와의 상호작용
• ligand strain
• pocket 충돌
• decoy 대비 enrichment
• receptor state 간 일관성
• score uncertainty
• 과거 assay와의 calibration

통과하지 못한 후보는 제거하거나 대체 receptor state에서 다시 평가한다.

6.1 MD를 실행하는 조건

MD Agent는 다음 질문에 답할 필요가 있을 때만 실행한다. 질문 없는 시뮬레이션은 전기요금일 뿐이다.

• docking pose가 실제 동적 환경에서도 유지되는가
• flexible loop가 결합에 영향을 주는가
• 핵심 hydrogen bond가 안정적인가
• 물 분자가 결합을 매개하는가
• mutation이 pocket 구조를 바꾸는가
• 서로 다른 pose 중 어느 것이 더 안정적인가

6.2 적응형 MD

6.3 MD 결과의 해석

Agent는 ligand RMSD 하나만 보지 않고 아홉 가지를 종합한다.

• 핵심 contact occupancy
• pocket RMSF
• ligand RMSD
• hydrogen-bond lifetime
• water bridge
• solvent exposure
• protein conformational change
• replicate 간 일치도
• trajectory clustering

6.4 Cross-Fidelity Consistency Check

다음과 같은 충돌을 자동으로 감지한다.

이 경우 Agent는 “강한 결합 후보”라고 결론내리지 않고 다음 가설을 생성한다. 평균을 내는 것은 판단이 아니라 회피다.

“TxGemma와 docking은 정적 구조에서는 결합 가능성을 높게 평가하지만, MD에서 pose가 붕괴하므로 receptor state 또는 protonation이 잘못되었을 가능성이 있다.”

다음 행동은 다른 구조 상태에서의 재-docking이나 ligand state 재생성이다.

7.1 FEP를 사용할 조건

• 동일 scaffold의 유사 analog 비교
• 작은 치환기의 potency 영향 비교
• 합성 우선순위 결정
• mutation에 따른 affinity 변화
• 실험값 일부가 있는 chemical series 보정

전혀 다른 scaffold들을 FEP로 직접 비교하는 것은 피해야 한다. 청자와 백자를 같은 자로 재려는 것과 같다.

7.2 섭동 네트워크의 자동 설계

FEP Agent는 후보쌍을 임의로 연결하지 않고 일곱 가지를 고려해 신뢰도 높은 perturbation network를 구성한다.

• 최대 공통부분
• 원자 매핑의 안정성
• 전하 변화
• ring 변화
• stereochemistry
• 예상 계산 난이도
• cycle closure 가능성

7.3 품질 게이트

• replica 간 분산
• cycle-closure error
• hysteresis
• phase-space overlap
• experimental anchor와의 차이
• force-field applicability

임계치를 넘으면 결과를 확정값으로 사용하지 않고 재계산하거나 다른 방법으로 보낸다.

7.4 FEP 결과의 활용

에이전트는 “B가 A보다 1 kcal/mol 좋다”에서 끝내지 않고 다음 SAR 가설로 옮긴다. 숫자를 가설로 바꾸는 이 대목이 이 설계의 백미다.

“B의 para 치환기가 pocket의 소수성 공간을 더 안정적으로 점유하는 것으로 보인다. 동일 위치에 크기가 다른 치환기를 도입하면 이 가설을 검증할 수 있다.”

8.1 단일 모델 대신 다중 근거

TxGemma는 독성, BBB, lipophilicity 등 여러 태스크를 예측할 수 있지만, 최종 판단을 TxGemma 하나에 맡겨서는 안 된다. (공식 모델 카드)

다음 예측을 결합한다.

• TxGemma
• descriptor QSAR
• molecular GNN
• 유사화합물 실험값
• toxicophore alert
• metabolite predictor
• 외부 ADMET predictor

8.2 적용영역 판정 에이전트

예측값과 함께 “이 모델이 이 화합물을 얼마나 잘 아는가”를 평가한다.

• training set과 구조적으로 가까운가
• 새로운 scaffold인가
• unusual element가 있는가
• zwitterion·macrocycle인가
• 전하 상태가 복잡한가
• 모델 간 예측이 일치하는가

모델 적용영역 밖의 후보에는 낮은 신뢰도를 부여한다.

8.4 ADMET 기반 역방향 구조설계

ADMET Agent는 위험을 보고하는 데 그치지 않고 원인이 되는 부분구조를 Chemistry Agent에 전달한다.

이를 Risk-to-Edit Feedback이라고 정의할 수 있다.

Agentic-Tx의 LLM이 shell 명령이나 전문도구를 자유롭게 작성해 실행하도록 두면 재현성과 안전성이 낮아진다. 모든 도구는 형식이 정해진 API로 제공해야 한다.

LLM은 “MD를 수행하라”는 결정을 내릴 수 있지만 실제 파라미터는 schema validator와 domain rule engine을 통과해야 한다. 이를 통해 역할이 다섯으로 갈린다.

• LLM — 왜 실행할지 판단
• Policy engine — 실행 가능 여부 판단
• 전문도구 — 실제 계산 수행
• Validator — 결과가 유효한지 검사
• KG — 과정과 결과 저장

Planner가 하나의 계획을 바로 실행하지 않고 세 개 정도의 대안 계획을 만든다. 기사(棋士)가 착수 전에 변화도를 여러 갈래 그려보는 것과 같다.

Shadow Planner는 각 계획의 예상 비용, 실패위험, 정보가치를 비교한다. 이후 저비용 sentinel calculation을 일부 실행해 가장 유망한 계획을 선택한다. 이는 복잡한 장기 workflow에서 초기에 잘못된 경로를 선택해 GPU 시간과 실험비를 낭비하는 문제를 줄인다.

이 규칙은 LLM prompt에만 넣기보다 명시적인 decision policy와 학습 가능한 policy를 결합해야 한다.

초기 라이브러리가 100만 개라고 가정하자. 숫자는 설명을 위한 예시다.

앞에서 내내 고정 순서를 경계했지만, 시스템을 짓는 순서만큼은 지켜야 한다. 기초 없이 올린 누각은 단청이 아무리 화려해도 한 철을 못 넘긴다.