대규모 언어모델과 약물 표적 발굴:
읽는 일을 기계에 맡긴다

신약 발굴은 전통적으로 세 단계로 나뉜다. 질병 이해와 표적 선정, 선정된 표적을 겨냥한 치료 전략 개발, 그리고 안전성과 효능을 확인하는 임상시험이다. 각 단계가 시간과 자원을 잡아먹는다. 생물 시스템이 복잡하고 연구와 검증의 모든 단계에서 소모적인 검토 절차가 따르기 때문이다.

높은 탈락률의 중심에는 유효한 약물 표적을 찾는 일이 있다. 조절했을 때 치료 효과가 나타나는 특정 유전자, 단백질, 분자 경로 말이다. 이 작업이 복잡하고 위험하다.

이미 나와 있는 사례들

• Geneformer — 어텐션과 맥락 인식을 갖춘 딥러닝 모델으로 약 3천만 개의 단일세포 전사체로 사전학습되었다. 데이터가 부족한 네트워크 생물학 환경에서 맥락 의존적 예측을 가능하게 한다.
• ChemCrow — 유기 합성, 신약 발굴, 소재 설계 작업을 수행하는 LLM 화학 에이전트다.
• LLM4SD — 언어모델이 원시 실험 데이터로부터 과학적 종합, 추론, 설명을 수행해 인간 전문가의 분석과 일치하는 가설을 생성할 수 있음을 보였다.
• Med-PaLM — 임상 지식을 담은 언어모델으로 USMLE 형식 문제에서 처음으로 인간 전문가의 성능에 도달했다.

세 단계 각각에서 언어모델이 할 일이 다르다. 첫 단계에서는 광범위한 문헌 검토와 특허 분석으로 질병에 관여하는 생물학적 경로를 조사하고, 기능유전체학 분석으로 표적 유전자를 고른다. 생체 내·시험관 연구 결과를 포함한 유전자 문헌을 훑어 가장 좋은 작용 기전이나 가장 높은 표적 잠재력을 가진 유전자를 제안한다.

둘째 단계에서는 화학 반응을 학습해 실험을 자동화하고 로봇 장치를 제어한다. 분자 편집과 조립 전략을 제안하는 상호작용 시스템을 제공하며, 아데노 연관 바이러스(AAV) 벡터 설계처럼 유전자 치료 전략에도 관여한다. 셋째 단계에서는 환자 프로파일을 시험 요건과 대조해 환자–시험 매칭과 프로토콜 작성의 부담을 줄인다.

인공지능의 발전은 점진적이었다. 1950년 앨런 튜링의 튜링 테스트, 1959년 기계학습 알고리즘, 1966년 최초의 챗봇 ELIZA. 그러다 2017년 트랜스포머 구조가 등장하면서 판이 바뀐다. 자기 어텐션 기제로 텍스트의 장거리 의존성을 표현하고, 토큰 기반 수치 표현으로 문장과 문서를 병렬 처리할 수 있게 되었다.

여기서 두 갈래가 갈린다. 구글의 BERT는 양방향 인코딩으로 더 깊은 맥락 이해를 가능하게 했다. OpenAI의 GPT-3는 2020년 1,750억 개의 매개변수와 거의 1조 개의 단어로 학습되어 텍스트 생성, 번역, 요약, 질의응답에서 언어모델의 잠재력을 보였다. 전자는 읽는 쪽으로, 후자는 쓰는 쪽으로 갔다.

이 장에 등장하는 신약 발굴 모델 열여덟 개는 거의 전부 그 두 갈래 가운데 하나에 속한다. 아래는 그 계보를 그린 것이다.

2.0 생의학 특화 모델

생의학 텍스트의 언어적 복잡성에 대응하기 위해 도메인 특화 모델이 만들어졌다. BioBERT, PubMedBERT, SciBERT, ClinicalBERT가 그것이다. PubMed 초록, PubMed Central 전문 논문, MIMIC-III 데이터베이스의 임상 기록 같은 생의학 말뭉치로 사전학습한 뒤, 개체명 인식, 유전자–질환 관계 추출, 임상 문서 분류, 의학 질의응답 같은 과제에 맞춰 미세조정한다.

초기 자연어처리 시스템 — 규칙 기반 시스템, n-gram과 은닉 마르코프 모델 같은 통계 모델 — 은 의미적 맥락과 장거리 언어 의존성을 담아내지 못했다. 트랜스포머 기반 언어모델이 그 제약을 넘었다.

텍스트 중심 모델과 나란히 다중양식 대규모 언어모델(MLLM)도 나왔다. 텍스트, 이미지, 분자 구조, 소리, 영상 같은 이질적 데이터 유형을 함께 다룬다. 오믹스 데이터, 화학 구조, 임상 영상을 결합하면 다차원적 관점이 열리므로 신약 발굴에 특히 유용하다.

2.2 구조 기반 치료제 개발

사전학습된 언어모델이 화학적으로 유의미한 질문에 답하고 분자 특성을 밝혀낼 수 있다는 것이 확인되었다. 분자 그래프로부터 SMILES 문자열 같은 분자 표현을 생성해 새 화합물 라이브러리를 여는 작업 — 이것을 구조 기반 약물 분자 설계라 부른다.

• LLaMA와 GPT의 비교 — 약물–약물 상호작용 예측과 분자 특성 추론 과제에서 평가되었고 LLaMA가 더 나은 성능을 보였다. 언어모델이 SMILES 임베딩 — 화학적 특징을 기계가 읽을 수 있는 형태로 담은 분자 구조의 수치 벡터 표현 — 을 효과적으로 이해하고 활용할 수 있다는 뜻이다.
• Transmol — 분자 생성과 리드 화합물 식별을 지원한다. 기계학습으로 생성한 분자를 담은 cheML.io 데이터베이스가 뒷받침한다.
• 그룹 분자 표현(GMR) — DrugLLM이 도입한 기법이다. 분자를 개별 원자가 아니라 묶인 조각(fragment) 단위로 표현해 더 높은 수준의 화학적 패턴을 포착하게 한다. 생성 정확도가 개선된다.
• Token-Mol 1.0 — 토큰화 아래에서 3차원 분자 구조를 이해하게 하고, 새로운 가우시안 교차 엔트로피(GCE) 손실 함수를 도입했다.

2.3 드노보 설계

기존 분자 주형에 기대지 않고 약물다운 분자를 처음부터 설계하는 일이다. 언어모델과 화학 언어모델(CLM)이 이 과정에 들어오면서 화학 공간의 탐색 범위와 분자 정제의 속도가 함께 개선되었다.

2.4 표적 발굴과 약–표적 상호작용

관습적 실험 방법 — 고속 대량 스크리닝과 습식 상호작용 분석 — 은 노동집약적이고 오래 걸린다. 언어모델은 방대한 생의학 문헌 데이터베이스를 질의하고, 유전체 데이터를 결합하고, 질환 연관 생물학적 경로를 순회함으로써 표적 발굴을 돕는다.

• DrugGen — 약물과 그 잠재적 표적 상호작용을 공동으로 모델화한다. 히트에서 리드로 넘어가는 최적화의 핵심 모듈이다.
• TransDTI — 언어모델 기반 추론에 분자 도킹과 시뮬레이션 분석을 결합해 약–표적 상호작용 예측의 정확도를 높인다. 값비싼 시험관 스크리닝의 인실리코 대안이다.
• 단백질 언어모델(PLM) — 알려진 약물 표적의 대부분은 단백질이다. G단백질 연결 수용체(GPCR), 이온 채널, 효소, 수송 단백질. QuoteTarget은 자기지도 사전학습과 Grad-CAM 어텐션 시각화를 쓴다. Grad-CAM은 서열에서 모델의 예측에 가장 강하게 영향을 준 영역을 짚어 주는 시각화 방법으로, 해석가능성을 높인다. 이 모델이 약물 표적 가능성이 있는 단백질 1,200개 이상을 찾아냈다.

2.5 ADME와 ADMET 프로파일링

흡수·분포·대사·배설, 여기에 독성을 더한 프로파일이 나쁘다는 것은 후기 임상시험 실패의 가장 흔한 이유 가운데 하나다. 관습적 ADMET 연구는 실험실과 생체 내 실험을 요구하므로 오래 걸리고 자원이 많이 들며 윤리 문제도 따른다.

• 질의응답 시스템 — ADMET 분석에 맞춰진 언어모델이 복잡한 약리 데이터를 해석해 화합물의 흡수·분포·대사·배설·독성 가능성에 대한 일관된 정보를 제공한다. 전문가의 추론을 모사해 초기 단계에서 후보의 실현 가능성을 판단하게 돕는다.
• 다중 에이전트 시스템 — 서로 다른 AI 모듈이 각각의 ADMET 특성을 평가한다. 여러 예측 도구, 벤치마크 데이터셋, 분자 기술자를 결합해 정확도와 재현성을 높인다.
• 하이브리드 토큰화 — SMILES 문자열을 의미 있는 조각으로 나누고 이중 사전학습 전략을 더한다. 모델이 화학의 구문과 의미를 함께 학습하게 된다.
• 벤치마킹 프레임워크 — 여러 언어모델과 AI 모델의 성능을 다양한 약리 데이터셋에서 비교·평가한다. 예측의 해석가능성을 높이고 신약 발굴 과정 전반의 일관성을 확보한다.

1. 표적 발굴과 검증의 가속 — 비정형 생의학 텍스트에서 통찰을 뽑고, 다중오믹스 데이터의 통찰을 결합하고, 질병 기전과 치료 경로에 관한 가설을 생성한다. 암, 신경퇴행성 질환, 감염병처럼 생물학이 다요인적이고 복잡한 질환에서 특히 값지다.
2. 드노보 발굴 — SMILES 문자열과 분자 그래프 같은 화학 표현으로 학습한 모델이 원하는 성질을 가진 새 약물다운 분자를 만든다. 골격 기반 생성, 리드 최적화, 미탐색 화학 공간의 탐색이 가능하다. 전통적 약물 라이브러리가 통하지 않는 희귀질환이나 치료 저항성 질환에서 중요해진다.
3. 시너지와 오프라벨 — 시너지 있는 약물 상호작용을 예측하고, 알려진 화합물의 허가 외 용도를 찾아내고, 효능은 최대화하면서 독성은 최소화하는 접근을 짚어낸다. 내성 기전 때문에 다제 요법이 필요한 감염병과 암에서 특히 중요하다.
4. 규제 과학과 약물감시 — 이상사례 보고를 해석하고, 약물 안전성 프로파일을 실시간으로 평가하고, 시판 후 감시 데이터에서 새 안전성 신호를 추적한다.
5. 임상의사결정지원과 디지털 치료제 — 언어모델 기반 대화형 에이전트가 치료 선택, 용량 결정, 근거 기반 의학에서 임상의를 돕는다.