Artificial Intelligence in Precision Drug Design · Volume 1
Chapter 1  /  AI in Drug Design: A Historical and Future Perspective

신약 설계의 인공지능,
역사와 미래를 걷다

1890년대 에밀 피셔의 자물쇠와 열쇠에서 2050년의 완전 자율 발굴 시스템까지, 한 세기 반에 걸친 계산 약물설계의 지층을 한 장(章)의 폭으로 종단한다.

Ulfat Andrabi · Tairah Andrabi · Aaliya Ashraf · Syed Mohd Khalid Elsevier / Academic Press, 2026 본문 pp. 1–13 ISBN 978-0-443-44415-9
01

양날의 검을 쥔 채로

새로운 도구가 등장할 때마다 사람들은 두 얼굴을 동시에 본다. 일자리를 앗아갈 것이라는 불안과, 세상을 크게 나아지게 하리라는 확신이 그것이다. 저자들은 인공지능을 두고 양날의 검(two-edged sword)이라 부르는데, 이 표현이야말로 이 장 전체의 정조(情調)를 미리 일러준다.

정의부터 다시 세운다

인공지능이란 인간 지능을 컴퓨터로 모사하는 일이다. 그 절차는 네 마디로 요약된다. 데이터를 모으고, 그 데이터를 다루는 규칙을 세우고, 잠정적이거나 확정적인 결론에 이르고, 스스로를 교정한다. 기계학습(ML)과 심층학습(DL)은 인공지능의 하위 범주다. 가장 근본적인 수준에서 기계학습은 시스템이 데이터로부터 배우게 하는 일이고, 심층학습은 그보다 한층 정교한 구조로 모델을 세우는 기계학습의 부분집합이다.

저자들이 인용하는 비유가 흥미롭다. 전문가 시스템을 비롯한 전통적 인공지능 기법은 레지던트 1년차 의대생과 닮았다. 의학의 일반 원칙을 익혀 새로운 환자에게 적용하는 것이다. 반면 기계학습은 레지던트 과정에서 의사가 겪는 바로 그 방식으로, 데이터 자체에서 규칙을 길어 올린다. 원칙이 먼저인가 사례가 먼저인가 — 이 오래된 인식론의 갈림길이 실은 알고리즘 설계의 갈림길이기도 하다.

표적 평가에서 규제 승인에 이르기까지, 단 하나의 새로운 저분자 화합물에 최대 14년10억 달러 이상이 든다. 이 숫자가 이 장의 모든 문제의식이 발원하는 지점이다.

보건 데이터의 디지털화는 컴퓨터 하드웨어와 소프트웨어의 빠른 발전에 힘입어 근년 들어 한결 수월해졌다. 다중오믹스 데이터, 임상 데이터, 행동·환경·투약 데이터, 그리고 생의학 문헌에 이르기까지 인공지능 도구가 다룰 수 있는 자료의 폭은 이미 인간의 통람 능력을 넘어섰다. 컴퓨터 비전, 음성 인식, 자연어 처리가 모두 같은 흐름의 수혜자다. 정밀의료를 겨냥한 의약화학에서 인공지능이 하는 일은 결국 세 가지로 모인다. 빅데이터를 처리하고, 분자의 거동을 예측하고, 의사결정을 앞당기는 것이다.

02

세 갈래의 쓰임새

인공지능과 기계학습이 신약 발굴 과정을 바꾸어놓은 자리는 여러 곳이지만, 저자들이 앞세워 정리한 것은 이 세 갈래다.

2.1  Target Identification

표적의 발굴과 검증

인공지능 알고리즘은 프로테옴·메타볼로믹·게놈 자료를 훑어 잠재적 치료 표적을 찾는다. 이 모두가 새로운 표적을 이해하고 특징짓는 데, 그리고 질환을 일으키는 경로를 드러내는 데 기여한다.

2.2  Hit & Lead

히트 발굴과 리드 최적화

기계학습 모델은 화합물의 생물학적 활성을 예측해 유망한 히트를 가려내고 리드를 다듬는 일을 한결 수월하게 만든다.

생성적 적대 신경망(GAN)과 변분 오토인코더(VAE)는 특정 성질을 갖춘 신규 분자를 만들어내는 데 쓰였고, 이렇게 얻은 분자는 강화학습으로 다듬어져 치료 효능은 높이고 표적 외 영향은 줄인다.

2.3  Interaction

치료제–표적 상호작용 예측

약물이 표적과 어떻게 상호작용할지를 예측하고, 결합의 정도와 이상반응을 추정함으로써 후보 치료제의 선별을 앞당긴다.

03

지층을 읽는다 — 계산 방법론의 진화

답사에서 가장 먼저 배우는 것은 지층을 읽는 법이다. 아래의 띠는 이 장이 제시한 계산적 신약설계의 층서(層序)를 하나의 크로마토그램으로 펼친 것이다. 경험과 시행착오에 기대던 방식이 어떻게 데이터에 근거한 예측 모형으로 옮아갔는지, 그 이행의 결이 한눈에 잡힌다.

1950s 초기 계산화학이 시작된다. 분자역학이 그 출발점이다.
1960s 화학과 생물학에서 인공지능 탐색이 시작된다. 연구자들이 규칙 기반 시스템으로 화학반응을 모형화하고 분자 물성을 예측하기 시작한다.
1965 스탠퍼드에서 DENDRAL이 개발된다. 질량분석 자료로부터 분자 구조를 추론한 최초의 전문가 시스템 가운데 하나로, 신약 설계 자체는 아니었으나 화학에서의 인공지능에 초석을 놓았다.
1970s 말 지질학자의 광물 탐사를 돕는 전문가 시스템 PROSPECTOR가 등장한다. 복잡한 자료를 분석해 예측을 끌어내는 인공지능의 가능성을 입증하며 신약 발굴에 같은 접근을 불러왔다.
1980s QSAR가 통계로 정교해져 분자 구조와 생물학적 활성을 잇는다. 분자 시각화 소프트웨어가 보급되고 신경망이 주목받으나, 계산력의 한계가 확산을 막는다.
1990s 더 빨라진 컴퓨터가 한층 진보한 기계학습을 가능케 한다. 데이터 마이닝이 대형 화학 데이터베이스를 탐색하고, SVM이 활성·독성 예측에서, 유전 알고리즘이 구조 최적화에서 성과를 낸다.
2000s 고속 대량 스크리닝(HTS)과 가상 스크리닝이 판을 바꾼다. HTS가 만들어낸 거대한 활성 데이터를 인공지능이 분석하고, 방대한 라이브러리에서 결합 후보를 미리 가려낸다.
2010s 심층학습 혁명. CNN이 분자 물성 예측을 개선하고, RNN이 단백질 서열과 반응을 모형화하며, VAE와 GAN이 신규 분자를 설계한다.
2018 결정적 장면. AlphaFold가 단백질 구조 예측에서 전례 없는 정확도를 달성하며 신약 설계의 지형을 다시 그린다.
2020s 인공지능이 실험실을 나와 산업으로 들어선다. 약물 재창출, 임상시험 최적화, 반응군 식별과 함께 분자 시뮬레이션을 위한 양자 컴퓨팅 탐색, 설명가능 인공지능(XAI), 다중오믹스 통합이 나란히 진행된다.

1950년대에 시작된 계산화학은 오늘의 심층학습과 생성 모델 구조에 이르렀다. 연구자는 이제 값비싼 실험에 돈을 쓰기 훨씬 전에 분자들이 어떻게 상호작용할지를 컴퓨터로 모사할 수 있다. 이 이행 하나로 신약 발굴은 더 빨라지고, 더 감당할 만해졌으며, 성공 확률이 높아졌다.

여기서 눈여겨볼 대목이 있다. 신약 설계에 결정적 영향을 준 두 시스템 가운데 하나는 질량분석 해석기였고(DENDRAL), 다른 하나는 아예 광물 탐사용이었다(PROSPECTOR). 분야의 진보가 언제나 그 분야 안에서만 오지는 않는다는 사실을, 이 계보는 조용히 증언하고 있다.

한 세기 반의 이중 연대기

저자들이 그린 그림 1.1은 왼편에 지나온 길을, 오른편에 갈 길을 나란히 세운 두 개의 화살표다. 2025년까지는 인공지능이 주도하는 설계로, 2050년까지는 환자 개개인에 맞춘 신속한 설계로 나아간다는 전망이 그 아래 붙어 있다.

Historical Progress · 지나온 길
1890s에밀 피셔의 자물쇠–열쇠 모형
1960s대니얼 코실랜드의 유도 적합 가설
1964한슈의 QSAR 모형
1980s케모인포매틱스의 출현
2000s인 실리코 모델링과 분자 도킹
2010s심층학습과 AlphaFold
2020s인공지능이 설계한 약물의 임상 진입
Future Vision · 갈 길
2025–30통합 인공지능 플랫폼
2030s개인 맞춤 의료
2035–40로봇 아담과 이브가 약물을 최적화
2040s환자 맞춤 약물을 수 시간 안에
2050완전 자율 인공지능 신약 발굴
04

설계의 다섯 마디

질환을 치료할 수 있는 화학물질 하나가 착상에서 임상 적용까지 가는 길은 체계적이고 여러 단계를 밟는 절차다. 저자들은 이를 다섯 마디로 끊어 보인다. 귀납과 연역이 번갈아 작동하는 이 순환 속에서 히트와 리드가 비로소 다듬어진다.

STEP 01

데이터 수집

HTS, 오믹스 데이터셋, 학술 문헌, 분자 데이터베이스로부터 화학·생물·약리 자료를 확보하고 정리한다.

STEP 02

모델 구축

QSAR, 분자 도킹, 인공지능 기반 알고리즘으로 계산 모형을 만든다. 약물유사성·안전성·작용을 예측하기 위한 것이다.

STEP 03

후보 최적화

의약화학과 다목적 최적화를 적용해 리드 화합물의 효능·선택성·안정성을 높이고 독성은 낮춘다.

STEP 04

전임상 검증

사람에게 시험하기 전, 시험관(in vitro)과 동물(in vivo)에서 작용 방식·안전성·유효성을 확인한다.

STEP 05

임상시험

1상부터 3상까지(때로 4상) 단계적으로 투여하며 안전성·용량·유효성·장기 영향을 평가한다. 이로써 약이 대중과 규제기관 앞에 선다.

05

숫자가 말하는 것

이 장에서 가장 무거운 문단은 서술이 아니라 숫자다. 저자들의 표현을 빌리면 “여기 제시된 통계는 헤아리기 어려울 정도”지만, 연구개발 과정을 기본만 이해해도 왜 그토록 많은 화합물이 실패하는지, 왜 약 하나를 환자에게 보내는 데 그만한 시간과 노고가 드는지가 밝혀진다.

12–15년
약물이 발견되어 승인에 이르기까지 걸리는 기간
Discovery → Approval
$0.9B – $2B
성공한 치료제 한 건당 연평균 연구개발 비용 추정치
Per successful drug
1  /  5,000–10,000
탐색·개발 과정에 투입된 화합물 가운데 최종 승인에 이르는 비율
Attrition
≈ 1,000,000
스크리닝에서 평균적으로 검토되는 분자의 수. 그중 단 하나만이 후기 임상에 오른다
Screening funnel
≈ 90%
임상 2상을 통과하지 못하고 규제 승인에 이르지 못하는 후보물질의 비율
Phase II failure
90% ↓
동적 학습 프로그램 도입의 기계적 비용을 제하고 났을 때 낮아지는 스크리닝 비용
Dynamic learning

성공하려면 막대한 자금과, 가장 명민한 과학적 두뇌와, 고도로 발달한 실험실과 기술과, 여러 방식으로 과제를 운영할 역량이 필요하다. 여기에 인내가 필요하고, 또 행운이 필요하다. 그럼에도 저자들은 이 대목을 이렇게 맺는다 — 결국 신약 발굴의 과정은 전 세계 수십억 환자에게 희망과 믿음과 위안을 전하게 된다고.

06

현장의 사례들

이론은 사례 앞에서 검증된다. 이 장이 불러 세운 시스템들은 제조·평가·진단의 세 영역에 걸쳐 있으며, 성취와 함께 한계도 함께 기록되어 있다는 점이 미덥다.

Merck QSAR 챌린지
2012 · Benchmark
QSAR 모형은 log P나 log D 같은 단순한 화학적 성질을 예측하는 데 오래 쓰였으나, 치료 효과나 부작용처럼 복잡한 형질 앞에서는 힘이 부친다. 작은 훈련 데이터셋, 실험 오차, 제한된 검증이 성능을 더 옭아맸다. 2012년 머크는 흡수·분포·대사·배설·독성을 아우르는 15개 ADMET 데이터셋으로 기계학습 챌린지를 열었고, 심층학습 모형이 전통적 기계학습을 뚜렷이 앞질렀다. 신약 발굴에서 심층학습의 잠재력이 공개적으로 확인된 순간이다.
IBM Watson
Oncology · Diagnosis
환자 데이터를 방대한 의학 데이터베이스와 대조해 암 치료 계획을 권고한다. 질병의 신속한 진단에도 같은 기법이 쓰이는데, 유방암을 60초 안에 검출해낸 사례가 그 증좌다.
E-VAI
Eularis · Commercial
기계학습 알고리즘과 직관적 사용자 인터페이스를 결합한 의사결정·분석 플랫폼이다. 경쟁사, 핵심 이해관계자, 현재 시장 점유율을 바탕으로 분석 로드맵을 만들어 의약품 매출의 핵심 동인을 예측한다. 마케팅 책임자가 시장 점유 극대화를 위해 자원을 배분하고, 부진한 매출을 반전시키며, 어디에 투자할지를 미리 가늠하도록 돕는다. 인공지능은 실험대에서 병상까지만이 아니라, 그 너머의 시장에도 관여한다.
Sepsis Watch
MGP + RNN · Clinical
감염에 대한 치명적 반응인 패혈증을 가장 이른 단계에서 잡아내려는 임상 의사결정 지원 시스템이다. 연속적 동적 변수를 포착하는 다중작업 가우시안 과정(MGP)과, 정적·변동 정보를 함께 통합해 시계열을 처리하는 순환신경망(RNN)을 결합했다. 환자마다 0에서 1 사이의 패혈증 위험 점수를 매시간 갱신하고, 5분마다 자동 점검하여 고위험 환자를 표시한다. 5만 건의 환자 기록으로 학습했으며, 기록에는 병원 도착 전 동반질환 같은 정적 입력과 약물 투여 같은 동적 입력이 모두 포함되었다. 패혈증 환자의 치료 성적이 실제로 개선되었다. 다만 한계가 있다. 위양성 예측이 일부 발생해 결국 패혈증에 이르지 않은 환자에게도 임상적 조치가 취해졌고, 연구 범위는 응급실에서 발생한 사례로 제한되었다.
COVID-19 흉부 X선 CNN
Narin et al. · Pandemic
팬데믹 기간 정확한 COVID-19 진단 모형의 개발은 최우선 과제였다. 흉부 X선은 효과적인 간접 진단법의 하나로 이 바이러스가 일으킨 폐렴 사례를 식별하는 데 쓰였다. 나린 등은 자동화된 CNN 기반 진단 모형을 제시했으며, 건강한 사람·COVID-19 환자·바이러스성 폐렴 환자·세균성 폐렴 환자의 X선 영상으로 모형을 구축해 최대 96%의 분류 정확도를 보고했다.
Aapka Chikitsak
NLU + Dialogflow · Telehealth
인도의 원격의료 서비스를 개선하려는 인공지능 대화 봇이다. COVID-19 정보에 쉽게 접근하도록 하고 의료 인력 부족 문제를 완화하는 것이 목표였다. 음성 입력을 텍스트로 변환한 뒤 자연어 이해(NLU)로 질의의 의미를 해독하고, Dialogflow가 적절한 개체를 찾아 올바른 의도와 연결한다. 봇은 답변을 생성해 다시 음성으로 바꾸어 질문자에게 돌려준다.
비감염성 질환
NCDs · Cancer · Diabetes · Alzheimer
암, 당뇨, 알츠하이머병 같은 비감염성 질환의 진단·예측·관리에서도 인공지능 알고리즘은 유망한 결과를 보였다. 조기 발견을 수월하게 하여 적시의 개입과 개인화된 치료 요법을 가능케 하고, 그 결과 환자의 예후를 개선한다. 감염병 영역에서는 소셜미디어, 뉴스 보도, 전자건강기록(EHR)에서 방대한 정보를 분석해 발병을 조기 경보하고, 확산을 감시하며, 고위험 인구집단을 짚어낸다.
07

아직 넘지 못한 문턱

의약화학과 신약 발굴이 그토록 진보했음에도, 새 약을 만드는 일은 여전히 비싸고 더디다. 이 장은 그 사실을 감추지 않는다.

신약 발굴의 첫 국면은 대개 방대한 화합물의 계산적 스크리닝이다. 목표는 세포 수준 혹은 생화학적 과정에 원하는 효과를 내는 화합물을 찾는 것이다. 1차 스크리닝에서 생화학적 분석에 양성 반응을 보인 화합물이 히트로 식별되고, 이들은 물리화학적·약리학적 성질을 평가하는 추가 시험을 거쳐 통과한 것만이 리드가 된다. 리드는 여러 차례의 생물학적 스크리닝을 거치며 정제된 뒤에야 임상시험으로 나아간다. 성공한다면 승인 약물이 되기까지 보통 12~15년이 걸린다.

전통적 방식은 수백 종의 화합물을 합성하고 시험하는 일을 요구한다. 시간이 많이 들 뿐 아니라, 상당량의 단백질 공급과 확립된 실험실 기법이 필요해 비용도 크다. 이에 비해 가상 스크리닝은 비용 효율적이면서도 상업적으로 접근 가능한 수백만 화합물을 훑어 추가 조사·합성·구매의 우선순위를 매길 수 있다. 가상 스크리닝은 구조 기반리간드 기반의 두 갈래로 분류된다.

그럼에도 불구하고, 단 하나의 약을 개발하는 데는 여전히 평균 10~15년20억 달러 이상이 든다.

기술 자체의 한계

  • 규모와 복잡성 — 제약사는 수백만 화합물을 다루는데, 전통적 기계학습은 이 규모를 감당하지 못한다.
  • 설명 불가능성 — 모형이 왜 그런 판단을 내렸는지 쉽게 해명되지 않는다.
  • 데이터의 품질과 적합성 — 훈련에 쓰인 데이터가 목적에 맞는가가 늘 문제로 남는다.
  • 편향과 과적합 — 이를 예방하는 일이 지속적 과제다.
  • 자원의 지속가능성 — 계산 자원의 소모를 어떻게 감당할 것인가.
08

맺으며 — 보완이지 대체가 아니다

인공지능은 조기 질환 탐지에서 시판 후 분석에 이르기까지 개발의 모든 단계에서 결과를 정확히 예측하며 신약 설계를 빠르게 바꾸어놓았다. 그러나 이 장의 결론은 기술의 찬가가 아니라 역할의 규정으로 향한다.

이룬 것

속도와 비용, 그리고 실패의 감소

개인 맞춤 의료, 용량 최적화, 치료 결과 예측을 뒷받침한다. 단백질 구조 예측과 소분자 상호작용 분석으로 표적을 찾아내고, 약물유사성과 표적 외 효과까지 미리 내다보아 값비싼 실험을 줄인다.

발굴 이후로도 쓰임이 이어진다. 더 똑똑한 환자 선별, 모니터링, 추적으로 임상시험을 개선하고 약물감시와 규제 승인을 돕는다. 종합하면 발굴을 앞당기고, 비용을 낮추고, 자원을 최적화하며, 임상시험 실패를 줄였다.

생체 내 생물검정의 필요를 줄여, 희생되는 동물의 수 또한 줄인다. 의료 행정, 외과 수술, mRNA 백신, 예방적 치료, 뉴트리지노믹스로 응용은 계속 넓어진다.

남은 것

직관은 아직 인간의 몫이다

인공지능 모형이 인간 연구자와 대등하거나 그를 능가하는 예측력을 지녔더라도, 인간의 직관은 여전히 없다. 기계가 내놓은 예측은 사람이 검증해야 한다. 모형은 위양성과 위음성을 만들어낼 수 있고, 그것이 민감도와 특이도를 훼손하기 때문이다.

저자들이 제시하는 처방은 구체적이다. 비용을 고려한 교차계층 협설계로 하드웨어·알고리즘·모형을 통합해 자원 지속가능한 구성을 탐색하고, 사물인터넷 기기와 엣지 서버를 묶는 합의 기반 분산 학습으로 프라이버시를 지키며 데이터를 공유한다. 의료 인공지능 전용의 안정적 인프라를 두되 변화하는 규제에 부합하게 한다. 도메인 전문성의 지속가능성 문제에는 해석 가능한 자기지도학습이 답으로 제시된다.

인공지능 보조 신약 발굴의 미래는, 완전한 복잡성을 갖춘 가상 인간(virtual human)의 구현에 놓여 있을지 모른다. 그것이 실현되면 분자 사이의 모든 가능한 상호작용을 정밀하게 예측하고, 모든 치료 잠재력과 모든 부작용을 남김없이 탐색할 수 있게 된다.

이것이 이 장의 마지막 문장이다. 한 세기 반을 거슬러 올라가 다시 한 세기 앞을 내다본 답사가 끝내 도달한 곳은 기술의 정점이 아니라 하나의 상(像)이었다. 자물쇠와 열쇠에서 시작해 가상 인간에 이르는 이 긴 여정에서, 바뀐 것은 도구이고 바뀌지 않은 것은 질문이다. 이 분자는 저 표적과 어떻게 만나는가.

여백에 적은 주(註)

정독하는 사람의 예의는 감탄만이 아니라 대조에도 있다. 원문을 읽는 동안 눈에 걸린 지점을 숨기지 않고 적어둔다. 아래는 원문에 대한 비판이 아니라, 인용 시 유의할 대목의 목록이다.

주 1 개발 기간과 비용의 수치가 절에 따라 다르게 제시된다. 서론은 “최대 14년, 10억 달러 이상”, 4절은 “12~15년, 약 10억 달러이며 성공 치료제당 9억~20억 달러”, 5.2절은 “10년 이상, 미국 평균 28억 달러”, 6절은 “평균 10~15년, 20억 달러 이상”이라 적는다. 인용할 때는 출처 절을 함께 밝히는 편이 안전하다.
주 2 AlphaFold의 시점을 본문과 그림 1.2 모두 2018년으로 표기한다. CASP13에서의 첫 성과를 가리키는 것으로 읽히나, 통상 “전례 없는 정확도”로 회자되는 사건은 2020년 CASP14의 AlphaFold2다. 연도와 판본을 구분해 인용할 필요가 있다.
주 3 그림 1.1의 “2035–40 로봇 아담과 이브”는 애버리스트위스 대학의 로봇 과학자 Adam·Eve 계보를 가리키는 것으로 읽히나, 본문에는 이에 대한 설명이 따로 없다. 이 항목만은 그림에만 등장한다.
주 4 COVID-19 챗봇 Aapka Chikitsak과 나린 등의 CNN 사례에는 본문 내 인용 표기가 붙어 있지 않다. 재인용 시에는 원 논문을 직접 확인하는 편이 좋다.
주 5 본 요약은 첨부된 PDF의 제1장(pp. 1–13) 본문과 그림 1.1~1.3만을 근거로 작성했다. 원문에 없는 수치·사례·주장은 더하지 않았으며, 판단이 개입된 대목은 위 주에 따로 적었다.