분자의 결구법 — Molecular Docking, 맞물림을 읽는 계산

홈과 촉, 그 맞물림의 정의Definition

분자 도킹은 이미 알려진 3차원 단백질 구조, 또는 AlphaFold 같은 도구가 예측해낸 구조의 결합 부위(binding pocket)에 리간드를 놓아보고, 돌려보고, 구부려보는 일이다. 그렇게 자세를 바꿔가며 scoring function으로 결합 에너지와 상호작용을 하나하나 따져본다. 목수가 촉을 홈에 대어보며 두어 번 두드려보는 것과 다르지 않다.

목적은 둘이다. 하나는 가장 안정된 결합 포즈(pose)를 짚어내는 것이고, 다른 하나는 가상 스크리닝(virtual screening, VS)에서 후보 화합물을 줄 세우는 것이다.

근래에는 판이 더 커졌다. 단순한 포즈 예측을 넘어 protein–ligand interaction modeling 전반으로 넓어지면서, DL-augmented docking, generative diffusion models, hybrid physics–AI approaches가 모두 이 이름 안으로 들어왔다.

Structure-Based Drug Design 분자 도킹은 SBDD, 곧 구조기반 신약설계의 한가운데 놓인 계산 기법이다. 표적 단백질의 생김새를 알아야 그에 맞는 열쇠를 깎을 수 있다는, 지극히 단순하고 오래된 발상에서 출발한다.

조 단위의 창고에서 한 알을 고르는 일Problem Definition

신약 개발의 병목은 늘 같은 자리에 있다. 수천억에서 조 단위에 이르는 방대한 chemical space에서, 하필 그 표적에만 선택적으로 붙는 분자를 어떻게 효율적으로 찾아낼 것인가.

실험으로 하는 high-throughput screening은 비용과 시간이 막대하다. 게다가 구조 정보가 부족한 표적, 유연성이 큰 단백질, 아직 아무도 들여다본 적 없는 새 포켓 앞에서는 그마저도 힘을 쓰지 못한다.

그래서 도킹은 이 문제를 이렇게 고쳐 적는다. 구조에 근거한 결합 가설을 만들어내고, 대규모 라이브러리에 순위를 매기는 일이라고. 다만 전통적 방법은 계산 비용과 scoring 정확도, 단백질 유연성 처리에서 한계를 드러내고, 딥러닝 방법은 일반화(generalization)와 물리적 타당성이라는 새로운 숙제를 들고 온다.

문제는 “붙느냐 안 붙느냐”가 아니라, 붙는다고 말한 것 중 몇이 실제로 붙느냐다.

규모의 감각 10¹¹~10¹² 오늘날 탐색 대상이 되는 화합물의 수. 사람의 손으로는 셀 수 없고, 실험실의 로봇으로도 다 만져볼 수 없는 크기다. 계산이 먼저 훑고 지나가야 하는 이유가 여기 있다.

여섯 개의 열쇠말Core Concepts

이 분야의 말들은 어렵기보다 낯설 뿐이다. 여섯 개만 손에 익히면 논문의 그림이 달리 보이기 시작한다.

탐색Sampling

리간드의 형태와 위치, 배향을 훑는 일. rigid, flexible, induced-fit의 세 층위로 나뉜다.

채점 함수Scoring function

결합 자유에너지를 근사하는 자. 물리 기반, 지식 기반, 경험적, 그리고 ML·DL 기반이 있다.

포즈 정확도Pose accuracy

정답 구조와의 어긋남이 RMSD 2 Å 이하인가. 이 성공률이 이 바닥의 대표 눈금이다.

단백질 유연성Protein flexibility

수용체의 측쇄와 backbone은 움직인다. cryptic pocket과 알로스테릭 부위가 여기서 생긴다.

혼성 접근Hybrid approaches

전통 도킹에 DL rescoring을 얹거나, diffusion 기반 생성과 ensemble docking을 겹쳐 쓴다.

농축도VS enrichment

진짜 binder를 상위에 올려놓는 능력. EF1% 같은 지표로 잰다.

이 여섯을 관통하는 오늘의 화두는 하나로 모인다. physics-based 방법의 이론적 엄밀성과 data-driven 방법의 확장성·속도를 어떻게 한 몸으로 만들 것인가.

삼십 년의 내력Introduction

1990년대 초부터 자라난 docking-based virtual screening(DBVS)은 구조기반 신약설계의 주춧돌이었다. AutoDock, Glide, GOLD 같은 도구들이 오랜 세월 그 자리를 지켰고, 실제로 적지 않은 성과를 냈다.

그러나 라이브러리가 억 단위를 넘어서고 AlphaFold의 시대가 열리면서 오래된 연장의 이가 드러났다. 2025~2026년의 문헌들은 딥러닝이 포즈 예측과 scoring을 지나 de novo 설계에까지 스며들었음을 보여준다. 이제 “physics + data-driven”의 융합이 예외가 아니라 표준이다.

여기에 open-source 생태계와 AI-augmented workflow가 더해지면서, 한때 값비싼 상용 소프트웨어의 몫이던 일을 지금은 훨씬 많은 연구실이 손에 쥐게 되었다.

세 벌의 오래된 연장 AutoDock · Glide · GOLD. 이 이름들은 지금도 벤치마크의 기준선으로 남아 있다. 새 방법이 나올 때마다 가장 먼저 비교당하는 자리에 서 있다는 것은, 그 자체로 이 연장들의 격을 말해준다.

왜 계산으로 먼저 보는가Motivation & Background

실험만으로 가는 신약 개발은 실패율이 높고 값이 비싸다. 임상 단계까지 수십억 달러가 든다. 계산 방법이 선택이 아니라 필수가 된 배경이 이것이다.

kinase, 항생제 내성, 암, 신경퇴행성 질환 같은 영역에서는 이미 docking과 MD를 잇는 통합 파이프라인이 표준으로 자리 잡았다. AlphaFold2와 AlphaFold3, diffusion models, 그리고 DrugCLIP 같은 contrastive learning이 등장하면서 쓸 수 있는 구조 정보가 폭발적으로 늘었고, 수십억 화합물을 다루는 ultra-large-scale docking도 현실이 되었다.

동기는 결국 한 줄이다. 더 빠르고, 더 정확하며, 더 일반화 가능한 결합 예측.

임상까지의 값 $수십억 하나의 약이 환자에게 닿기까지 드는 비용. 계산이 절약하는 것은 시간이 아니라, 실패할 후보를 일찍 걸러냄으로써 아끼는 이 돈이다.

일곱 가지 난제Challenges

좋은 답사기가 그러하듯, 이 분야의 실상도 성과보다 한계를 들여다볼 때 더 정직하게 보인다.

채점 함수의 부정확성. 가양성(false positive)이 많고, 실제 hit rate는 기대에 못 미친다.
단백질 유연성. rigid-receptor 가정은 편하지만 거짓이다. cryptic pocket과 알로스테릭 부위는 이 가정 아래에서 잘 잡히지 않는다.
일반화. 새로운 포켓이나 낯선 화학형을 만나면 DL 모델의 성능이 급격히 떨어진다. 훈련 데이터와의 닮음에 기대고 있었던 셈이다.
물리적 타당성. DL이 만들어낸 포즈에서 steric clash가 나오고, 입체화학이 어긋나고, 현실에 없는 결합이 그려진다.
계산 비용과 확장성의 저울. MD와 FEP는 정확하지만 느려서 대규모 VS에는 어울리지 않는다.
데이터 편향과 해석 가능성. 훈련 데이터는 늘 모자라고, 모델은 여전히 블랙박스다.
특수한 경우들. covalent docking, multi-ligand, 막단백질처럼 기존 틀로는 다루기 어려운 사례가 남아 있다.

지금 묻고 있는 것들Research Questions

최근 논문들이 실제로 붙들고 있는 질문은 다음과 같이 정리된다.

DL 도킹은 포즈 정확도와 VS 효능에서 전통적 방법보다 실질적으로 우월한가.
physics-based와 data-driven을 어떤 방식으로 통합해야 가장 나은가.
한 번도 본 적 없는 표적, 곧 novel pocket에 대한 일반화를 어떻게 끌어올릴 것인가.
flexible docking과 알로스테릭 결합을 어떻게 효과적으로 모델링할 것인가.
초대규모 스크리닝에서 hit의 품질과 신규성을 동시에 지킬 방법은 무엇인가.
covalent inhibitor, PROTAC, degrader 설계로 도킹을 어떻게 넓혀갈 것인가.

다섯 갈래의 연장Approaches

연장은 손에 익은 것이 좋은 연장이지만, 새 나무에는 새 연장이 필요한 법이다. 지금 쓰이는 방법은 크게 다섯 갈래로 갈린다.

전통 물리 기반Physics-based

AutoDock Vina, Glide, GOLD. 탐색과 가산적 scoring이라는 오래된 두 축으로 움직인다.

딥러닝 기반Deep learning

SurfDock·DiffDock·DynamicBind 같은 generative diffusion model은 포즈 정확도가 뛰어나다. KarmaDock류의 regression 기반은 빠르지만 물리적 타당성이 흔들리는 경우가 있고, Interformer 같은 혼성형은 그 사이에서 균형을 잡는다.

AI 보강 워크플로AI-augmented

open-source 도킹에 AI rescoring을 얹고, DrugCLIP처럼 contrastive learning을 쓰거나 ML 기반 interaction fingerprint를 곁들인다.

통합 파이프라인Integrated pipeline

도킹 → MD refinement → 자유에너지 추정(MM/PBSA, FEP)으로 이어지는 줄기. ensemble docking과 template-based docking이 여기에 함께 놓인다.

특수 기법Specialized

covalent docking(tethered·biased·dynamic), PROTAC 설계, 그리고 pharmacophore와 도킹과 ML을 겹쳐 쓰는 방식.

쓰임의 자리Key Applications

hit 발굴과 lead 최적화. kinase(STK, CDK4/6)를 비롯해 항암, 항생제 내성, 항말라리아, 신경질환 표적에서 쓰인다.
초대규모 가상 스크리닝. 수십억 화합물을 훑어 새로운 scaffold를 건져 올린다.
약물 재창출과 선택성 연구.
covalent inhibitor, 알로스테릭 조절제, PROTAC의 설계.
AlphaFold 예측 구조를 발판으로 한 신규 표적 탐색.

보고된 성과 실제 사례에서는 nanomolar 수준의 저해제가 발견되고, 실험적 검증을 통과하는 hit rate가 눈에 띄게 올라간 보고가 이어진다. 계산이 낸 가설이 실험대 위에서 살아남기 시작했다는 뜻이다.

아직 풀리지 않은 매듭Open Problems

처음 보는 단백질 결합 포켓에 대한 튼튼한 일반화.
물리적 타당성(steric, stereochemistry)과 화학적 특이성(PLIF) 사이의 균형.
알로스테릭 결합이라는 사각지대. 에너지 지형에 답이 여럿이라는 사실 자체가 난제다.
회고적 벤치마크가 아니라 실제 캠페인에서의 hit rate를 끌어올리는 일.
설명 가능한 AI와 데이터 편향의 해소.
다성분 시스템, 핵산, 번역 후 변형(PTM)의 처리.

벤치마크에서 이긴 방법이 실험실에서도 이긴다는 보장은, 아직 어디에도 없다.

분자의
결구법