점수 함수의 한계
전통적 점수 함수는 세 갈래다. 역장 기반은 반데르발스, 정전기, 결합 항 같은 고전 에너지 항을 더한다. 경험적은 소수성 접촉이나 수소결합 같은 항에 실험 친화도로 맞춘 계수를 붙인다. 지식 기반은 알려진 단백질–리간드 복합체에서 쌍별 상호작용 퍼텐셜을 끌어낸다.
이해하기는 쉽지만 대규모 선별에는 충분히 빠르지 않고 중요한 정보를 놓치기도 한다. 빠른 쪽은 학습에 쓴 추측과 데이터에 의존한다.
그 밖의 한계 넷
- 결정 구조의 품질 — 많은 단백질이 이상적인 2.5 Å 문턱을 넘는 해상도를 갖는다.
ROCK키나아제가 그런 예다. 원자 위치가 불확실해지고 결합을 매개하는 중요한 물 분자가 빠진다. - 정적 구조 — 구조 기반 설계 대부분이 정적인 단백질 구조에 기댄다. 리간드 결합에 영향을 주는 단백질의 동역학과 유연성이 반영되지 않는다.
- 올리고머 상태 — ROCK의 기능적 이량체 형태 같은 것이 분석에서 자주 빠져 결합 예측의 정확도가 떨어진다.
- 선택성 — 매우 비슷한 표적들 사이의 구조적 차이가 워낙 작고 특이성에 영향을 주는 알로스테릭·동역학 효과가 복잡해 여전히 어렵다.
“당신이 의사인데 AI가 진단이나 처방을 권한다고 해 보자. 당신은 무엇만이 아니라 왜를 알고 싶을 것이다.”
이 장의 1.4절은 이렇게 2인칭으로 시작한다. 학술 서술로는 드문 문체이고, 이 장 안에서도 이 절만 그렇다. 그런데 설명가능성을 논하는 절이 가장 쉽게 읽힌다는 것은 어울리는 데가 있다.
다섯 가지 도구
이 장의 2.3절은 다섯 기법을 소개하면서 각각에 장점과 함께 반드시 한계를 붙인다. 이 책의 여러 장이 도구 목록을 나열했지만, 하나하나에 단점을 단 곳은 많지 않다.
협력 게임 이론에서
섀플리 값은 원래 연합의 구성원들에게 보수를 공정하게 나누기 위한 개념이었다. SHAP은 특징을 ‘선수’로 보고 가능한 모든 특징 조합에 걸친 한계 기여로 각 특징의 몫을 계산한다. 전역 요약도 지역 설명도 함께 준다.
주변을 흔들어 본다
관심 사례 주변에 교란된 표본을 만들고 원 모형에 예측을 물은 뒤, 선형 회귀나 결정트리 같은 단순한 대리 모형으로 국소 결정 경계를 맞춘다. 그 대리 모형의 계수나 규칙이 설명이 된다.
“만약 이랬다면”
입력 속성을 작고 실행 가능하게 바꾸면 예측이 어떻게 달라지는지를 본다. “어떤 작은 변화가 다른 결과를 낳았을까”에 답한다. 결정 경계를 드러내므로 공정성 점검과 차별 탐지에 유용하다.
모형이 본 곳
모든 입력을 똑같이 평가하는 대신 가장 중요한 부분에 더 주목하도록 학습한다. 자기 어텐션은 두 입력 조각의 관계를 기억해 순환 구조보다 장거리 상호작용을 잘 다룬다.
지니 불순도와 정보 이득
결정트리, 랜덤포레스트, 그래디언트 부스팅은 예측력이 좋으면서 이해하기도 쉽다. 생물정보학에서는 핵심 유전 표지를 찾는 데, 금융에서는 어떤 재무 비율이 위험을 예측하는지 밝히는 데 쓴다. 사후 방법보다 계산이 가볍다.
전역 해석가능성은 모형이 데이터셋 전체에서 어떻게 예측을 만드는지 큰 그림을 준다. 지역 해석가능성은 개별 예측 하나에 대해 왜 그런 판단을 했는지 묻는다.
둘 다 대가가 있다. 전역은 큰 그림을 주지만 모형을 지나치게 단순화해 중요한 세부를 잃을 수 있고, 지역은 실용적이고 사례별로 구체적이지만 데이터셋 전체에 적용되지 않을 수 있으며 계산 비용이 자주 크다.
의료·금융·법처럼 결과가 무거운 영역에서는 일반적 서술이 아니라 개별화된 이유가 필요하므로 지역 해석이 특히 중요하다는 것이 이 절의 결론이다.
기여도 지도
수치로 된 특징 중요도는 유용하지만 추상적으로 남는다. 시각화가 모형의 출력과 화학적 해석 사이를 잇는다. 원자 하나하나에 색을 입혀 그 존재가 예측 친화도를 올렸는지 내렸는지 보여 주는 것이다.
스물한 장을 통틀어 성능 수치가 수백 개 인용되었다. 정확도 90퍼센트, AUC 0.98, F1 0.96. 그 수치들이 무엇을 보증하는가에 대해 이 장이 답을 준다. 보증하지 않는다. 맞히는 것과 맞는 이유로 맞히는 것은 다르다.
그래서 시각화는 설명 도구이면서 안전장치다. 모형이 어떤 분자에 높은 역가를 예측하면서 무관한 영역 — 용매에 노출된 알킬 꼬리 같은 곳 — 에 중요도를 부여한다면, 그것은 과적합이나 데이터셋 편향의 신호다. 원문은 이것을 영리한 한스 효과라 부른다. 무관한 상관을 이용해 높은 정확도를 얻는 현상이다.
3.3 아직 사후 설명뿐이다
이 절이 인용하는 지적 하나가 중요하다. 히메네스-루나 등의 검토 시점 기준으로 “스스로를 설명하는 심층 모형은 아직 화학에 적용되지 않았다”는 것이다.
지금 쓰이는 모든 방법이 사후 설명(post hoc)이라는 뜻이다. 모형이 먼저 예측하고, 그다음에 별도의 기법이 그 예측을 해석한다. 결합 예측이 미리 정의된 설명 모듈과 직접 연결되는, 본래부터 해석 가능한 구조를 만드는 것이 앞으로의 과제로 제시된다.
| 연구 | 대상 | 방법 | 결과 |
|---|---|---|---|
| Rodríguez-Pérez & Bajorath (2020) | 멀티 표적 활성 데이터셋 | SHAP | 전역·지역 특징 기여를 식별했다. 역가 예측과 활성 절벽을 밝혔다 |
| Harren et al. (2022) | 인자 Xa · 레닌 | SHAP + 원자 수준 열지도 | 귀속이 구조–활성 관계와 일치했다. 유리한 변형과 불리한 변형을 열지도로 시각화했다 |
| Jiménez-Luna et al. (2020) | 여러 신약 발굴 과제 | 돌출 지도 · 어텐션 지도 | 모형이 어디를 보는지 눈으로 확인할 수 있게 했다. 가짜 상관을 피하려면 정상성 점검이 필요하다고 강조했다 |
| Ganeshpurkar et al. (2022) | eeAChE 억제제 | ML 기반 점수 함수 + 해석가능성 | 도킹 정확도가 개선되었다. 분류 정확도 81.68 ± 1.73%, 회귀 R² 0.94 |
세 개의 사례
4.1 SmartCADD — 8억 개에서 5천 개로
딥러닝, ADMET 필터, 2차원·3차원 파마코포어 분석, 양자역학 최적화, 분자 도킹,
그리고 SubgraphX 같은 XAI 알고리즘을 하나의 가상 스크리닝 작업 흐름에 넣은 플랫폼이다.
필터를 붙였다 뗐다 할 수 있는 브리지 패턴 구조로 설계되었다.
XAI 모듈이 SubgraphX로 예측 활성에 가장 중요한 분자 부위를 찾아낸 결과,
NNRTI와 PI에서는 방향족 고리가, NRTI에서는 헤테로고리가 특히 중요했다.
8억 개를 선별해 최종 후보가 5,039개(1,452 + 2,716 + 871)가 되었다. 그런데 그 사이의 숫자가 제시되지 않는다. ROC-AUC 83.3퍼센트 모형이 8억 개를 훑으면 몇 개가 남았는지, ADMET 필터가 “약 4.1퍼센트를 제거했다”는 것은 무엇의 4.1퍼센트인지 적혀 있지 않다.
이것은 이 사례를 부정하는 지적이 아니다. 다만 8억에서 5천으로 가는 경로를 재현하려는 사람에게는 그 중간 단계가 정확히 필요한 정보다.
4.2 키나아제 — 실험으로 확인한 사례
해석 가능한 조각으로
ChEMBL과 키나아제 프로파일링 데이터셋에서 얻은 195,802개의 생리활성 데이터로 랜덤포레스트를 학습했다. 평균 정확도 85퍼센트, 민감도 약 76퍼센트, 특이도 약 93퍼센트, MCC 약 0.72.
ECFP4 같은 전통적 지문 대신 518개의 해석 가능한 화학 조각을 썼다. SHAP으로 중요한 조각을 골라내고, 3,500개가 넘는 단백질–리간드 복합체에서 힌지, Asp–Phe–Gly, P-루프 같은 주요 키나아제 모티프와의 상호작용을 확인해 생물학적 타당성을 검증했다.
KinasePred · 사서 시험했다
ChEMBL과 ZINC에서 11만 8천 개가 넘는 활성·비활성 화합물을 큐레이션하고 아홉 개 모형을 학습했다. 랜덤포레스트, 가우시안 나이브 베이즈, 다층 퍼셉트론을 모건·RDKit·PubChem 지문과 조합했다.
가장 좋았던 것은 MLP + 모건 지문이다. 내부 교차검증에서 MCC 0.96, 균형 정확도 0.98, 정밀도와 재현율 0.99, 특이도 0.97. 외부 검증에서는 MCC 0.88, 균형 정확도 0.94.
Di Stefano 등은 예측에서 멈추지 않았다. 상위 여덟 개 화합물을 구입해 서열 유사성과 생물학적 관련성에 근거해 고른 스무 개의 다양한 키나아제에 대해 실제로 시험했다.
결과는 여덟 개 중 여섯 개가 여러 키나아제에 유의한 억제 활성(≥50퍼센트)을 보였다는 것이다.
이 책의 스물한 장에서 계산 예측을 실험으로 확인한 데까지 간 사례는 손에 꼽는다. 19장은 “AI가 설계한 분자 대부분은 합성이 불가능하다”고 적었고, 10장은 “습식 실험이나 생체 내 분석은 아직 없다”고 적었다. 여기서는 사서, 시험하고, 여섯 개가 들었다.
덧붙여 내부 MCC 0.96이 외부에서 0.88로 떨어진 것도 정직한 보고다. 외부 검증이 왜 필요한지를 그 숫자 하나가 보여 준다.
4.3 항생제 — 무엇을 성과라 부를 것인가
Chemprop 그래프 신경망에 RDKit 분자 특징을 더해 학습했고,
정밀도–재현율 곡선 아래 면적(AUPRC) 0.364를 냈다.
몬테카를로 트리 탐색으로 예측을 이끄는 최소 부분구조 — ‘논거(rationale)’ — 를 뽑아
다섯 무리(G1–G5)로 나눴다. 막대는 로그 척도이며 원문에는 없다.0.364는 낮아 보인다. 그런데 이 데이터셋의 활성 비율은 1.3퍼센트다. 무작위로 찍는 모형의 AUPRC는 대략 그 기저율, 곧 0.013이다. 0.364는 그보다 스물여덟 배쯤 높다.
중요한 것은 이 연구가 AUROC가 아니라 AUPRC를 보고했다는 점이다. 18장에서 확인한 대로, 극단적으로 불균형한 문제에서 AUROC는 1에 가깝게 나오면서 실상을 가린다. 이 사례는 불균형 문제에 맞는 지표를 골랐다.
1차 선별에서 39,312개 중 512개가 히트였다. 1.30퍼센트.
모형으로 고른 뒤 283개를 시험해 4개가 확인되었다. 1.41퍼센트.
두 비율이 거의 같다. 다만 두 ‘히트’의 기준이 다르다. 앞의 512개는 1차 선별의 문턱을 넘은 것이고, 뒤의 4개는 활성에 더해 약물다움과 세포 독성까지 통과한 것이다. 직접 비교할 수 없다.
그리고 이 연구가 내세우는 성과는 수율이 아니라 구조적 신규성이다. 몬테카를로 트리 탐색으로 뽑은 논거가 알려진 항생제 골격과 일치하기도 하고 새로운 것을 드러내기도 했다는 것, 그리고 상위 두 화합물이 MRSA와 반코마이신 내성 장구균에 들으면서 사람 세포에는 높은 농도에서도 독성이 없었다는 것이다.
즉 “더 많이 찾았다”가 아니라 “다른 것을 찾았다”가 이 사례의 주장이다. 그 구분을 하고 읽어야 한다.
4.4 블랙박스와 설명가능 모형
이 절의 결론은 간명하다. “블랙박스 모형이 정확도에서 비슷하거나 조금 나은 성적을 내더라도, 구조 기반 설계에 꼭 필요한 화학적 통찰은 주지 못한다.”
대가와 방향
신뢰와 규제
FDA와 EMA가 AI 도구의 투명성과 설명가능성을 점점 더 강조하고 있다. 설명가능성이 있으면 좋은 기능이 아니라 규제 요건이 될 수 있다는 뜻이다. 다만 규제 당국, 임상의, 환자가 기대하는 설명의 수준이 서로 다르다. 과학적 엄밀성과 해석가능성과 접근성 사이의 균형이 남은 과제다.
계산 비용이라는 대가
결정트리나 선형 회귀는 단순하고 빠르지만 복잡한 생물학 데이터에서 예측력이 떨어진다. 심층망은 미세한 양상을 잡아내지만 불투명하다. SHAP과 LIME은 통찰을 주지만 계산이 무겁다— 특히 대규모 도킹 연구나 임상 데이터셋에 적용할 때 그렇다.
재현성
XAI는 편향을 드러내는 데 쓸 수 있다. 모형이 생물학적 신호보다 데이터 인공물에 더 영향을 받는다는 것을 보여 주기 때문이다. 그런데 조금 다른 데이터셋으로 학습한 두 모형이 매우 다른 설명을 내놓을 수 있다. 연구실과 기관을 가로지르는 재현성 표준이 필요하다.
멀티오믹스와의 통합
유전체·단백체·대사체·전사체를 하나의 모형에 넣을 때 XAI가 각 분자 층위가 예측에 어떻게 기여하는지 설명할 수 있다. 환자의 약물 반응이 유전 변이만이 아니라 단백질 상호작용 네트워크와 대사 경로에도 좌우된다는 것을 보여 주는 식이다. 다만 멀티오믹스 데이터는 고차원이고 잡음이 많고 자주 불완전하다.
6 앞으로의 네 갈래
- 인간 개입형(HITL) 설계 — 신약 설계가 완전 자동화될 가능성은 낮다. AI가 새 화합물을 제안하면 XAI가 어느 분자 특징이 예측 결합을 이끌었는지 짚고, 의약화학자가 그 통찰을 검증하거나 반박하고 개선안을 내어 모형에 되먹인다. 이 ‘설명–평가–개선’의 순환이 사람의 전문성을 대체하는 대신 강화한다.
- 연합·프라이버시 보존 설명 모형 — 원자료를 공유하지 않고 여러 기관에 걸쳐 학습하되, 설명가능성을 더해 각 참여 기관이 모형이 자기 데이터에서 무엇을 배웠는지 이해하게 한다. 과제는 기관마다 데이터 품질과 가용성이 다른데도 설명이 일관되게 나오도록 만드는 것이다.
- 정밀의료 — 어떤 변이를 가진 암 환자가 왜 A약에 더 잘 반응하는지를 일반적 확률이 아니라 어느 유전 변이, 어느 단백질 상호작용, 어느 대사 시그니처가 결과에 영향을 주는지로 보여 준다. 환자가 자기 치료 선택을 이해하고 참여하게 한다.
- 생성형 AI와의 결합 — 생성 모형이 새 화합물을 만들고, XAI가 왜 그 화합물이 유망한지 설명한다. 어느 결합 부위를 겨냥하는지, 어느 부분구조가 효능을 이끄는지, 독성과 오프타깃 위험은 무엇인지. 생성 설계를 시행착오에서 지식 유도 파이프라인으로 바꾼다.
이 장이 남기는 것
“결합친화도를 틀린 이유로 맞히는 모형은 신약 설계를 잘못된 길로 이끌 수 있다.” 정확도는 이유를 보증하지 않는다. 시각화가 설명 도구이면서 안전장치인 이유가 여기 있다.
SHAP은 계산이 무겁고, LIME은 데이터가 조금만 달라져도 설명이 바뀌고, 반사실은 바꿀 수 없는 속성을 건드리면 무용하고, 어텐션 가중치는 인과를 보증하지 않으며, 트리 특징 중요도는 범주가 많은 변수 쪽으로 편향된다.
KinasePred는 예측에서 멈추지 않고 상위 여덟 개를 구입해 스무 개 키나아제에 시험했고 여섯 개가 활성을 보였다. 내부 MCC 0.96이 외부에서 0.88로 떨어진 것도 함께 보고했다.
스스로를 설명하는 심층 모형은 아직 화학에 적용되지 않았다. 지금의 모든 방법은 예측한 뒤에 해석을 덧붙이는 사후 방식이다. 본래부터 해석 가능한 구조가 남은 과제다.
이 장은 이 책의 마지막 장이고, 그 자리에 어울리는 내용을 담았다. 앞의 스무 장이 각각 성능 수치를 인용했다면, 이 장은 그 수치들을 어떻게 읽어야 하는지를 다룬다.
가장 값진 문장은 3.3절에 있다. “결합친화도를 틀린 이유로 맞히는 모형은 신약 설계를 잘못된 길로 이끌 수 있다.” 영리한 한스 효과, 정상성 점검으로서의 돌출 지도, 어텐션이 인과가 아니라는 경고 — 이 세 가지가 이 책 전체를 되읽는 도구가 된다.
4.2절의 KinasePred 사례도 특별하다. 예측하고, 상위 여덟 개를 실제로 사서, 스무 개 키나아제에 시험하고, 여섯 개가 들었다고 보고한다. 내부와 외부 검증 성적을 나란히 적은 것도 그렇다. 스물한 장 가운데 여기까지 간 사례는 손에 꼽는다.
다만 4.1절의 중간 숫자가 비어 있는 것, 4.3절이 수율에 대해 아무 말도 하지 않는 것, 표 21.1의 마지막 행이 문장 중간에서 끊긴 것은 확인이 필요하다. 그리고 이 장 역시 맨 끝에 생성형 AI 사용 선언을 실었다. 20장에 이어 두 번째다. 스물한 장 가운데 둘이다.
이 책은 재창출에서 시작해 설명가능성으로 끝난다. 1장이 “이미 있는 약을 다시 보자”고 했고, 21장이 “모형이 왜 그렇게 말하는지 보자”고 한다. 둘 다 새로 만드는 것보다 이미 가진 것을 제대로 보자는 말이다.
스물한 장을 옮기면서 반복해서 확인한 것이 셋 있다.
첫째, 예측과 검증 사이에 거리가 있다. 5장부터 20장까지 거의 모든 장이 그 거리를 인정했다. 10장은 “습식 실험이 아직 없다”고 적었고, 16장은 “시장에 나온 것은 할리신 하나뿐”이라 적었고, 19장은 “AI가 설계한 분자 대부분은 합성이 불가능하다”고 적었다. 17장은 열 개 시스템 중 배치된 것이 둘이라고 표에 적었다.
둘째, 데이터의 구성이 반복해서 문제가 되었다. 5장의 Obermeyer 사례, 6장의 HLA 편향, 9장의 ‘유럽계 조상 90퍼센트’, 11장의 ‘인종이 아니라 조상’, 20장의 두 번 실린 경고까지. 모형을 바꿔서 풀리는 문제가 아니라는 것이 스무 번 반복된 결론이다.
셋째, 숫자는 검산해야 한다. 16장의 특이도 공식, 17장의 AUROC 0.76과 민감도 0.98, 19장의 1상 성공률과 전 단계 통과율, 15장의 두 벌짜리 PRISMA 흐름도. 가장 정직한 장과 가장 앞서 나간 문장이 같은 장 안에 있는 경우도 여러 번 있었다.
그래서 이 마지막 장의 제목을 ‘맞았는데 왜 맞았는가’로 옮겼다. 이 책이 인용한 수백 개의 성능 수치 앞에서 물어야 할 질문이 그것이라고 보았기 때문이다. 정확도는 이유를 보증하지 않는다. 이유를 물을 수 있게 만드는 것이 이 장이 말하는 설명가능성이고, 그것이 스물한 장을 관통하는 유일한 안전장치다.