한때 신약 발굴에서 새것이던 가상 스크리닝은 이제 거대한 화합물 라이브러리를 여러 생물학적 표적에 맞대어 훑는 일상의 도구가 되었다. 값비싼 고속 대량 실험과 달리 계산적 스크리닝은 수백만에서 수십억 개의 화합물을 빠르게 확인한다. 이 장은 그 숫자의 규모와, 그 규모를 감당하게 만든 기계학습의 자리를 따라간다.
가상 스크리닝을 쓰면 작은 분자를 큰 구조에 이어 붙여 가장 알맞은 결합 방식을 규정할 수 있고, 그것이 새로운 리드 화합물을 찾고 개선하는 일을 돕는다. 갈래는 둘이다. 알려진 활성 분자를 쓰는 리간드 기반 가상 스크리닝(LBVS)과, 생물학적 표적의 형태에 기대는 구조 기반 가상 스크리닝(SBVS)이다.
리간드 기반에서는 2차원 또는 3차원 기술자, 파마코포어, 정량적 구조–활성 관계(QSAR)를 써서 알려진 활성 물질의 특징과 비교해 화합물을 고른다. 구조 기반에서는 컴퓨터 프로그램으로 화합물을 표적 부위에 앉히고 그 상호작용에 점수를 매긴다. 구조 기반의 중심 기법은 분자 도킹이다.
도킹 알고리즘은 표적 단백질 구조와 후보 리간드를 놓고, 리간드가 결합 부위에 어떻게 들어맞을지를 연구해 결합에 점수를 계산한다. 도킹이란 화합물을 표적에 앉히고 결합 이후의 구조와 에너지를 예측하는 일이다. 새로운 리간드를 찾고, 리드 최적화 과정을 이끌고, 리간드가 표적에 결합하는 방식을 탐색하는 데 쓰인다.
표적과 리간드의 구조를 배치한다.
결합 영역 안에서 리간드가 취할 수 있는 위치와 방향을 검토한다.
점수 체계로 각 자세를 평가해 가장 좋은 것들을 고른다.
도킹이 잘 작동하면 프로그램은 예측된 자세, 곧 리간드의 형태와 함께 실험에서 얻은 친화도에 부합하는 점수를 내놓는다. 스코어링 함수(SF)는 주어진 자세에서 리간드가 단백질에 얼마나 강하게 결합할지를 예측하는 중요한 부분이다. 이상적인 스코어링 함수라면 올바른 결합 자세를 찾아내는 동시에 결합 에너지를 정확히 추정해야 한다. 그러나 전통적인 스코어링 함수는 대체로 빠르거나 정확하거나 둘 중 하나를 택해야 한다.
반데르발스력, 정전기력, 결합항 같은 고전적 에너지 항을 합산한다. 암묵적 용매화 모형이 함께 쓰이는 경우가 많다.
AutoDock · DOCK · AMBER 계열소수성 접촉, 수소 결합 같은 미리 정의된 항을 두고, 그 계수를 실험 친화도에 맞추어 적합시킨다.
Eldridge et al., 1997통계적 퍼텐셜이라고도 한다. 이미 알려진 단백질–리간드 복합체로부터 쌍별 상호작용 퍼텐셜을 도출한다.
Gohlke et al., 2000어느 쪽이든 장단이 함께 있다. 그래서 현대의 가상 스크리닝 파이프라인은 대개 빠르지만 거친 채점으로 많은 화합물을 훑은 뒤, 상위 히트에 대해서만 더 정밀하되 시간이 드는 채점을 돌린다.
또 하나 새겨야 할 것이 수용체의 유연성이다. 도킹은 단백질이 굳어 있고 리간드만 움직인다고 가정한다. 그러나 단백질은 리간드와 결합할 때 형태를 바꾸거나(유도 적합) 여러 형태를 시험해볼 수 있다(형태 선택). 이 측면을 고려하지 않으면 기회를 놓치게 된다. 단백질 형태 집합을 쓰는 앙상블 도킹, 유도 적합 도킹, 강화 샘플링이 도킹을 유연하게 만드는 방법이다.
예를 들어 AlphaFold2는 단백질의 결합 전(apo) 모형을 신뢰할 만하게 만들어내지만, 그것이 결합 가능한 결합 후(holo) 형태를 대표하지는 못할 수 있다. AlphaFold2 모형은 리간드 결합에 최적인 곁사슬 회전이성질체를 흔히 놓치므로, 올바른 형태를 얻으려면 분자동역학이나 AlphaFold2 기반 샘플링 같은 특수한 접근이 필요하다.
효과적인 스크리닝은 화학 라이브러리의 관리에도 달려 있다. 케모인포매틱스 도구는 리핀스키 규칙과 독성 표지 같은 약물유사성 필터를 적용해 라이브러리를 정리하고, 기계학습 모형은 화학 공간의 어느 영역을 우선할지 정한다. 상업적으로 구입 가능한 주문 제작형 라이브러리가 수십억 개 규모로 늘어난 지금, 이런 필터와 기계학습 사전 선별은 가상 스크리닝을 감당 가능하게 유지하는 필수 요소가 되었다.
기계학습은 주로 데이터로부터 배우는 알고리즘을 가리키고, 심층학습은 다층 신경망으로 복잡한 특징을 자동으로 학습한다. 가상 스크리닝에서 이들은 자세 예측, 채점, 선별 우선순위, 그리고 신규 설계에서 기존 알고리즘을 능가하거나 아예 대체할 수 있다.
전통적 도킹은 점수가 붙은 자세 집합을 내놓지만, 물리를 단순화한 탓에 그 점수가 실험 친화도와 상관하지 않는다. 기계학습 모형은 도킹 자세를 재채점하도록 훈련되거나, 단백질–리간드 구조 수준에서 친화도를 직접 예측하도록 훈련될 수 있다.
도킹 자세를 재채점하는 신경망 NNScore, 도킹 특징을 쓰는 랜덤 포레스트 기반 RF-Score가 초기 예다. 최근에는 그래프 신경망(GNN)이나 3차원 합성곱망(3DCNN)이 원자 구조로부터 결합 친화도를 예측한다. 이런 기계학습 기반 스코어링 함수는 전통적 함수보다 우수하며, 특정 표적이나 화학형에 맞추어 재훈련했을 때 특히 그렇다.
자세를 찾는 일 자체도 바뀌었다. 어떤 접근은 도킹을 리간드의 회전·병진·비틀림이 이루는 연속 공간에서 최적해를 찾을 가능성의 문제로 해석한다. DiffDock은 도킹을 리간드 자세 공간 위의 확산 생성 모형으로 다루어 에너지적으로 유리한 자세를 표본화하도록 훈련한다. DynamicBind는 결정 구조 없이도 잔기의 유도된 형태 변화와 결합 자세를 예측하며, 결합하지 않은 구조로부터 리간드별 형태를 출력해 숨은 결합 주머니까지 식별하게 한다.
또 하나의 쓰임은 도킹 이전이나 도중에 탐색 공간을 줄이는 일이다. 모든 화합물을 도킹하는 대신, 분류기나 회귀기 같은 기계학습 모형이 상위 득점자를 미리 예측한다.
도킹 상위 100만 개와 나머지를 비교해 좋은 결합체를 가려내도록 CatBoost 분류기를 가르친 뒤 등각 예측으로 35억 개 라이브러리를 좁힌 사례가 있다. 도킹 계산을 그대로 돌리는 것보다 1000배 이상 빨랐고 히트의 질은 잃지 않았다. 이 프로토콜은 G단백질 연결 수용체(GPCR)의 리간드를 찾아냈고 다중 표적 프로필을 최적화했다.
Deep Docking 플랫폼은 무작위 부분집합을 도킹한 뒤 리간드 기반 기계학습 모형을 적합시켜 나머지의 도킹 점수를 예측한다. 수십억 분자 라이브러리조차 최대 100배 빠르게 훑으면서도 좋은 히트 결과를 얻는다. 이런 파이프라인은 도킹 실행과 기계학습 훈련을 번갈아 반복하며, 계산 자원을 화학 공간의 가장 유망한 영역으로 계속 몰아간다.
추가 시험에 앞서 화합물이 약물다운 특징을 갖추었는지를 확인하는 데도 인공지능이 쓰인다. 실험 ADMET 데이터셋을 써서 후보 화합물의 용해도, 투과성, 독성, 합성 용이성을 추정해 가망 없는 것들을 걷어낸다.
이로써 가상 스크리닝은 좋은 물성을 지닌 분자만 들여다보게 되어, 결합만 고려한다는 도킹의 주된 약점을 푼다. 그래프 신경망이나 트랜스포머로 독성 발현기를 탐지하거나 대사 안정성을 추정할 수 있고, 이 모형들을 도킹과 결합하면 결합 가능성이 높으면서 물성도 좋은 히트만 골라낼 수 있다.
기존 화합물을 훑는 일을 넘어, 심층 생성 모형은 새로운 분자를 처음부터 만들어낸다. 초기에는 순환 신경망(RNN)을 SMILES 형식의 알려진 약물로 훈련해 새 SMILES를 생성했다. 지금은 분자 그래프를 다루는 변분 오토인코더(VAE)와 생성적 적대 신경망(GAN)이 있으며, 강화학습이나 잠재 공간 최적화로 특정 특징을 갖도록 훈련해 화학 공간을 탐색한다.
최근에는 확산 모형이 2차원과 3차원 분자 생성에 쓰인다. 그래프 기반 확산과 MolGPT 같은 언어 모형은 역가와 선택성 같은 여러 요구를 동시에 충족하는 분자를 제안할 수 있다. NVIDIA BioNeMo의 GenMol은 단편 기반 확산 모형으로, 순차 부착 기반 단편 임베딩(SAFE) 표현과 가려진 이산 확산 과정을 써서 단편으로부터 분자를 만든다. 신규 생성의 대부분 지표에서 이전 GPT 기반 모형을 앞섰다.
인공지능은 전통적 분자·가상 스크리닝을 떠받칠 수도, 밀어낼 수도 있다. 조력자로서 기계학습은 어떤 화합물을 도킹하거나 합성할지 후보를 추린다. OpenVS 같은 능동 학습과 HASTEN 같은 반복 선택 모형이 잠재력이 가장 큰 화합물에 집중하게 한다.
대체자로서는 기계학습 모형이 화합물의 결합 친화도나 활성을 직접 예측한다. CNN 기반 모형처럼 앞으로 나올 심층학습 스코어링 함수와 종단간 예측 모형은 방대한 데이터로부터 학습해 분자 도킹을 수행하지 않고도 결합을 예측할 수 있으며, 대규모 라이브러리의 인 실리코 스크리닝에 드는 시간과 자원을 크게 아낄 수 있다.
다만 실제로는 대부분의 현행 파이프라인이 인공지능으로 먼저 잠재적 화합물을 훑은 뒤 결합 친화도를 예측하는 두 단계를 쓴다.
분자를 수치화한 기술자가 파이프라인의 입구가 된다.
VAE, GAN 등이 화학 공간의 분포를 학습한다.
학습된 분포에서 새로운 구조를 표본화한다.
물성과 합성 가능성으로 후보를 걸러 다듬는다.
계산의 결론은 결국 실험대 위에서 판정된다.
설계의 출발점은 둘 중 하나다. 표적 단백질의 3차원 구조에서 시작하거나, 이미 알려진 활성 분자의 정보에서 시작하거나. 인공지능은 양쪽 모두를 크게 떠받쳤고, 실제 파이프라인은 둘을 오간다.
표적 단백질의 3차원 구조를 요구한다.
알려진 활성 분자에 관한 정보를 이용한다.
실제로 많은 설계 파이프라인은 두 갈래를 결합한다. 기계학습 리간드 모형이 초기 히트를 만들어내면 예측된 구조에 도킹해 다듬거나, 혹은 그 반대로 간다. 위 도식에서 뒤의 두 마디 — 분자 도킹과 필터링·최적화 — 가 양쪽에 공통으로 놓여 있는 것이 그 사정을 그대로 보여준다.
최근의 여러 연구가 실제 신약 발굴 과제에서 인공지능의 힘을 보였다. 여기 실린 다섯은 각각 다른 대목을 증언한다 — 물리와 학습의 결합, 탐색에서 표본화로의 전환, 굳은 단백질 가정의 해체, 표적 발굴부터 후보 설계까지의 종단간 파이프라인, 그리고 신흥 도구의 통합이다.
단백질 유연성을 포함하고 결합 데이터로 훈련함으로써, 자세와 결합 친화도 벤치마크 모두에서 다른 방법을 앞섰다. 저자들은 수십억 규모의 화합물 라이브러리를 서로 무관한 두 표적 — KLHDC2 유비퀴틴 리가아제와 나트륨 채널 NaV1.7 — 에 맞대어 훑었다.
X선 구조가 KLHDC2 리간드에 대해 예측된 결합 양식을 확인해주어 접근법이 검증되었다. 앙상블 도킹과 기계학습 기반 채점의 결합이 초대형 라이브러리에서 질 높은 리드를 빠르게 내놓을 수 있음을 보인 사례다.
전통적인 탐색 기반 도킹 도구와 다르다. 리간드 자세 공간 위의 확산 생성 과정으로 도킹을 모형화한다. 단백질 표면을 되풀이해 탐색하는 대신, 학습된 결합 형태의 분포에서 표본을 뽑는다.
나아가 계산으로 예측된 단백질 구조를 잘 다루며, 접힘 모형에서 다른 방법보다 높은 정확도를 유지한다. 자세 신뢰도 점수를 함께 제공해 선택적 스크리닝을 가능케 한다. 정확도와 속도를 동시에 개선한 중요한 진전이다.
전통적 도킹은 단백질이 굳어 있다고 가정하지만, 많은 표적은 상당한 형태 변화와 유연성을 보인다. DynamicBind는 등변 확산망을 써서 결합하지 않은 단백질 구조에 유연성을 부여하고 리간드가 결합한 형태로 변화시킨다.
벤치마크에서 리간드가 유도한 단백질 형태를 높은 정확도로 보였고 다른 도킹 방법을 앞섰다. 큰 형태 변화를 수용할 수 있었으며, 본 적 없는 표적에서 숨은 결합 주머니(cryptic pocket)를 식별해냈다.
아직 논문으로 널리 검증되지는 않았으나, 신규 분자 생성이 ‘임상 수준의 자산’으로 이어진 사례들이 정리되어 있다. 그 하나가 특발성 폐섬유증(IPF)이다. 생성형 인공지능 플랫폼으로 TNIK(Traf2·Nck 상호작용 키나아제)를 IPF 조절자로 식별한 뒤 새로운 저해제 렌토서티브를 설계했다.
표적 식별에서 후보 설계까지를 잇는 종단간 인공지능 파이프라인을 활용해 인공지능이 발굴한 약물이 임상에서 전진한 첫 사례의 하나다. 엑센시아, 인실리코, 아톰와이즈 같은 여러 생명공학 기업이 리드 발굴에 인공지능을 적극 적용하고 있으며, 인공지능 개발자와 제약회사의 협업은 인공지능이 신약 발굴의 주류로 들어서고 있음을 뒷받침한다.
AlphaFold2의 실험에 가까운 구조 예측은 표적의 범위를 넓히는 데 쓰였으나 단서가 붙는다. 앞서 말했듯 결합 전 구조는 도킹을 위해 추가적인 정련이 필요한 경우가 많다. 어떤 연구진은 AlphaFold2를 분자동역학과 결합하고, 어떤 이들은 Rosetta의 이완 프로토콜 같은 새 모형으로 활성 형태를 표본화한다.
자연어처리의 대형 언어모형도 화학에 적용되고 있다. SMILES와 SELFIES의 생성은 텍스트 생성과 유사한 서열 모델링으로 볼 수 있기 때문이다. 트랜스포머 기반 모형들은 화학의 문법을 학습해 물성 제약 아래 새로운 화합물을 제안한다. 스크리닝에서 두드러진 역할을 맡고 있지는 않으나 빠르게 진화하는 중이다.
요컨대 이 사례들은 인공지능이 매개하는 가상 스크리닝이 새로운 화학적 히트를 찾아낼 수 있고, 나아가 표적과 약물의 발굴까지 앞당길 수 있음을 보여준다. 데이터 주도 모형과 물리 기반 이해의 결합이 높은 히트율과 속도라는 결과로 나타나고 있다.
진전에도 불구하고 인공지능 주도 스크리닝은 여전히 큰 난제에 부딪힌다. 제안된 많은 모형이 벤치마크 연구에서는 잘 작동하지만 실제 과제에서는 결함을 드러낸다. 인공지능이 발굴한 분자 가운데 임상 1상을 넘어간 것은 극히 적으며, 전체 실패율은 전통적 파이프라인과 비슷한 수준에 머문다. 요컨대 신중한 검증이 필요하다.
기계학습은 훈련 데이터에 의존하는데, 그 데이터는 잡음이 섞이거나 편향되어 있을 수 있다. 결정학적 복합체로 훈련된 채점 모형은 새로운 표적이나 화학형으로 일반화되지 않을 수 있고, 벤치마크 집합에 대한 과적합이 흔하다.
공개 데이터베이스로 훈련된 생성 모형은 이미 알려진 골격을 재생산하거나 자기도 모르게 독성 부분구조를 만들어낼 수 있다. 다양하고 질 높은 훈련 데이터를 확보하는 일 자체가 어렵다.
심층 모형은 대체로 블랙박스에 가깝다. 어떤 모형이 어떤 화합물을 고르는 내부 역학을 이해하기 어렵다. 이 해석 불가능성은 기제에 대한 통찰을 가로막고 의약화학자의 신뢰를 떨어뜨릴 수 있다. 규제 당국 또한 기제적 이해를 요구할 수 있다.
DynamicBind 같은 모형이 형태 변화를 다루지만, 단백질 동역학 전체를 감안하는 일은 여전히 어렵다. 숨은 주머니가 열리는 것 같은 드문 사건은 여전히 자주 놓친다.
AlphaFold2 모형을 포함해 예측된 단백질 구조의 오류는 도킹에 영향을 주며, 유도 적합이나 용매 효과를 제대로 다룰 수 있는 기계학습 방법은 극히 적다.
기계학습으로 재채점하더라도 결합 친화도를 정확히 예측하는 일은 여전히 난제다. 많은 기계학습 스코어링 함수가 성능에 미치지 못하고 위양성을 낳는다. 가상 스크리닝에서 활성 물질이 얼마나 일찍 회수되는지를 나타내는 농축 인자를 두고, 원문은 대규모 실험이나 맞춤 모형이 여전히 필요하다고 결론짓는다.
생성 모형은 새로운 분자를 내놓을 수 있으나, 그것은 합성 가능하고 안전해야 한다. 실현 불가능하고 합성할 수 없는 화합물을 제안하는 경우가 잦다. 합성 가능성과 실험적 적합성을 생성 과정에 통합하는 일은 활발한 연구 영역이지만 아직 온전히 풀리지 않았다.
그래프 확산이나 트랜스포머망 같은 대형 모형의 훈련은 자원 집약적이어서 GPU나 클러스터를 요구한다. 거대한 라이브러리에 이런 모형을 돌리는 편이 도킹보다 저렴할 수는 있으나 공짜는 아니다. 인프라와 비용은 일부 연구 집단에게 여전히 장벽이다.
계산으로 얻은 히트는 실험으로 시험되어야 한다. 실제로 많은 인 실리코 히트가 표적 외 효과, 대사, 합성 문제 탓에 시험관 내나 생체 내에서 실패한다.
인공지능은 돕고 우선순위를 매길 수 있으나 생물학적 스크리닝을 대체할 수는 없다. 학제 간 협업은 여전히 필수다.
인공지능이 화학 공간을 넓히면서 이중 용도 가능성 같은 생물보안 고려가 따라붙는다. 다만 원문은 이를 가상 스크리닝 고유의 문제 바깥에 있다고 보고, 모형이 위험한 화합물을 만들어내지 않도록 하는 일을 상대적으로 작은 우려로 서술한다.
이런 문제들 때문에 전문가들은 신중한 벤치마킹과 현실적인 기대를 권한다. 다양한 표적에서 기계학습 모형을 평가하고 적절한 검증을 확보하는 일이 결정적이다. 인공지능 도구는 인간 전문성의 대체물이 아니라 강력한 조수로 보아야 한다는 것이 이 절의 결론이다.
저자들이 내다보는 방향은 일곱이다. 규모의 확대, 양식의 통합, 폐루프, 물리 모형의 개선, 목적을 가진 생성 화학, 클라우드, 그리고 윤리와 안전이다.
다른 인공지능 영역이 그랬듯 더 큰 모형과 데이터셋이 더 나은 성능을 낸다. 화학에서도 방대한 화학·생물활성 데이터로 훈련한 수십억 파라미터급 트랜스포머망이 기대된다. 분자 그래프와 서열을 함께 이해하는 새 모형은 새로운 표적에 대해 더 나은 예측을 가능케 할 수 있다.
서열, 구조, 생물활성 검정, 오믹스 데이터를 결합해 결합을 예측하는 모형이 나올 수 있다. 단백질 언어모형이 리간드 친화도 예측에 도움이 되는 표적 특징을 통합하는 식이다. 저온전자현미경 밀도 지도나 세포 맥락 데이터를 포함시키면 특정 질환 표현형을 겨냥한 스크리닝에 도움이 된다.
인공지능으로 능동 학습과 로보틱스를 이끌면, 생성하고 합성하고 시험하고 재훈련하는 과정을 여러 차례 돌며 모형을 개선할 수 있다. 이런 과정이 새로운 리드 분자를 찾는 속도를 높인다.
인공지능과 물리는 함께 간다. 그래프 신경망 힘장처럼 기계학습 모형이 낮은 비용으로 양자역학 수준의 정확도에 근사하는 혼성 모형이 개발되고 있다. 이런 모형은 빠르고 정확한 자유 에너지 계산을 가능케 하며, 인공지능으로 가속한 분자동역학과 자유에너지 섭동은 거친 도킹 점수와 정밀한 친화도 사이의 간극을 지운다.
신규 설계는 유창함에 기대는 단계에서 선행 지식에 근거한 결과를 내놓는 단계로 진화한다. 앞으로의 모형은 제조 가능성, 특허, 그리고 역가·안전성·생체이용률 같은 다중 목표의 충족을 요건으로 포함할 것이다. 예측과 위험 평가를 함께 수행해, 생성된 분자가 실현 가능한 선택지가 되도록 한다.
클라우드 플랫폼과 오픈소스 도구 덕에 인공지능 가상 스크리닝에 대한 접근이 넓어질 것이다. 다른 분야처럼 ‘AutoML’ 도구가 등장해 작은 연구실도 쉽게 쓸 수 있게 되기를 기대한다. 새로운 단백질 계열에 대한 표준 벤치마크와 데이터셋을 쓰면 연구자들이 같은 결과에 이르고 공동체로서 진전할 수 있다.
공동체는 오용을 막고 데이터를 올바르게 관리하는 등 인공지능을 이용한 안전한 신약 발굴의 규칙을 만들고 있다. 인공지능이 지명한 약물이 임상시험에 들어갈 때 모형과 데이터시트를 투명하게 공개하고 규제기관과 협력하는 일이 필요해진다.
인공지능은 분자 스크리닝이 수행되는 방식을 빠르게 바꾸고 있다. 데이터의 도움으로 인공지능은 이제 화학 공간을 한층 온전하고 효율적으로 뒤질 수 있다.
저자들은 앞으로 몇 해 안에 인공지능이 강화한 가상 스크리닝이 리드 후보의 탐색을 앞당기고, 전에는 불가능하던 발견에 이르게 하리라 본다. 이전에는 약물화 불가능하다고 여겨진 단백질을 겨냥하는 일, 약물의 여러 측면을 동시에 개선하는 일, 새로운 치료제를 어느 때보다 빠르게 만들어내는 일이 그것이다.
어려움은 여전하다. 그러나 강력한 알고리즘과 넉넉한 계산 자원, 그리고 새로운 생물학 데이터의 결합은 유망해 보인다. 계산의 새로운 발전이 신약 발굴과 생물학에서 도킹과 가상 스크리닝을 강화하고 있다는 것이 연구자들의 지적이다. 인공지능은 이 분야를 계속 밀어붙일 것이며, 화학의 우주를 과거 어느 때보다 빠르고 영리하게 탐사할 수 있게 할 것이다.
기술적인 장일수록 숫자와 서지가 정확해야 한다. 원문을 옮기며 눈에 걸린 대목을 감추지 않고 적어둔다. 인용 시 유의할 지점의 목록이다.