무엇을 딛고 서는가
과거의 결과 감시는 의사의 신체검진, 영상의학 판독, 검사실 검사, 후향적 차트 검토에 의존했다. 임상 경과는 표준 서식이나 서술형 기록에 담겼다. 심장학, 종양학, 정형외과 같은 일부 영역에서는 임상 레지스트리와 시판 후 감시 체계가 장기 결과 정보를 모아 왔다.
그런데 이 방식들은 확장성이 낮고, 데이터 수집에 시간적 공백이 있으며, 인간의 오류와 주관적 판단에 취약하다. 전자의무기록이 들어와도 자유 텍스트 필드, 누락 항목, 시스템 간 용어 차이가 데이터 품질을 훼손한다.
| 데이터 출처 | 내용 | 임상 결과에서의 쓰임 |
|---|---|---|
| 전자의무기록 (EHR) | 인구학, 진단, 검사, 투약, 영상, 의사 기록. 정형과 비정형이 함께 있다 | 질병 궤적 감시, 이상반응 탐지, 위험 층화, 실시간 의사결정 지원 |
| 임상 레지스트리 | 특정 질환·시술에 초점을 둔 조직화된 데이터베이스. 표준화된 결과 지표와 장기 추적 | 개입의 효과와 안전성 평가, 만성질환 감시, 시판 후 감시 |
| 실세계 데이터 (RWD) | 임상시험 밖의 데이터. 환자 보고 결과, 보험 청구, 모바일 헬스 앱, 웨어러블 | 일상 속 질병 진행, 치료 순응, 이상반응 탐지, 환자 보고 합병증 |
| 문헌과 공개 DB | 발표 논문, 약물감시 데이터베이스(FAERS, EudraVigilance), 오믹스 데이터셋 | 가설 생성, 바이오마커 발굴, 신호 탐지용 AI 학습 데이터 |
2.2 세 개의 기둥
정확·완전·적시
문서화 관행의 이질성, 사람의 실수로 인한 입력 오류, 임상 코드의 비일관적 사용, 엄격한 검증 규약의 부재가 문제를 만든다. EHR 의사결정 시스템에 내장된 자동 검증 규칙이 입력 시점에 이상값을 실시간으로 경고한다. 중복 제거, 결측 대치, 이상치 탐지 같은 정제 기법도 함께 쓰인다.
같은 말을 같은 뜻으로
임상 용어는 SNOMED CT, 검사는 LOINC, 진단은 ICD.
OMOP과 PCORnet CDM이 일관된 데이터 구조를 정의해
다기관 연구를 가능하게 한다.
세 층위
기초는 해석 없이 데이터를 주고받는 수준,
구조는 데이터 필드 수준에서 이해되는 수준(예: 같은 단위로 코딩된 검사 결과),
의미는 모호함 없이 해석되고 활용되는 최고 수준이다.
HL7, FHIR, DICOM이 형식을 제공하고,
마스터 환자 색인(MPI)이 식별자가 불완전해도 기록을 연결한다.
기법과 적용
지도학습(결정트리, 랜덤포레스트, SVM)은 재입원, 수술 후 합병증, 치료 반응을 예측한다. 비지도학습(k-평균, 계층적 군집화)은 표현형과 환자 하위집단을 찾는다. 자연어처리는 개체명 인식(NER), 문서 분류, 관계 추출로 서술형 기록에 묻혀 있던 이상반응을 끌어낸다. 딥러닝에서는 CNN이 영상을, RNN과 LSTM이 시계열을, 오토인코더가 이상 탐지와 잡음 제거를, 트랜스포머(BERT, GPT)가 맥락을 다룬다.
하위집단을 나누는 이야기 끝에 이 장은 이렇게 적는다. “성능은 전체만이 아니라 임상적·인구학적 범주별로 층화해서 보고되어야 한다.” 민감도와 특이도가 남녀 사이에서, 연령대 사이에서 다를 수 있기 때문이다.
그리고 두 개의 공정성 지표를 구체적으로 든다. 등화 승산(equalized odds)은 위양성과 위음성의 오류율이 하위집단에 걸쳐 균형을 이루는지 보고, 보정(calibration)은 예측 위험이 실제 관찰된 사건률과 일관되게 대응하는지 본다.
이 책의 여러 장이 ‘편향’을 말했지만, 그것을 어떤 지표로 재는지까지 적은 곳은 드물다.
4.1 약물감시의 신호 탐지
전통적으로는 보고 승산비(ROR)와 비례 보고비(PRR) 같은 불균형 분석에 기댔다. 이제 랜덤포레스트, SVM, 로지스틱 회귀, XGBoost가 알려진 이상반응이 표지된 데이터로 학습해 새 약물–사건 조합을 분류한다.
- 로지스틱 회귀 — 투명하고 해석하기 쉽지만 이질적인 임상 특징을 다룰 때 복잡한 방법보다 성능이 떨어지는 경향이 있다.
- SVM — 정확도와 재현율의 균형이 좋고 희귀 사건 상황에 유용하다. 다만 계산 부담 때문에 대규모 데이터에서 어려움을 겪는다.
- 랜덤포레스트 — 고차원 불균형 임상 데이터를 잘 다루고 과적합에 견고하다. 재표집 기법과 결합한 모형이 한 메타분석에서 AUC 약 0.945를 냈다.
- 그래디언트 부스팅 — 잔차 오차를 반복 보정해 랜덤포레스트와 SVM을 자주 앞선다.
전처리도 구체적으로 적혀 있다.
약물명은 RxNorm이나 WHO 약물 사전으로 표준 식별자에 대응시켜 중복을 막고,
결측은 평균·중앙값 대치나 다중 대치로 다루며,
범주형은 원핫 인코딩이나 임베딩으로 바꾼다.
약물–약물 상호작용, 동반질환 지수, 발현까지의 시간 같은 복합 특징을 만들어 예측력을 높인다.
4.2–4.3 조기경보와 의사결정 지원
조기경보 시스템
활력징후, 검사, 동반질환, 이전 진료 이력의 시계열을 학습해 패혈증, 심정지, 호흡부전 같은 합병증의 징후를 잡아낸다. 수정 조기경보점수(MEWS)와 Epic 패혈증 모형이 실시간 데이터를 모아 증상이 드러나기 훨씬 전에 경보를 낸다.
임상의사결정지원
정형 EHR 정보와 자연어처리로 뽑은 비정형 기록을 결합한다. MedAware는 이상치 식별과 기계학습을 결합해 인구 수준의 처방 경향에 비추어 처방 오류를 찾아낸다. 감사 로그와 모형 투명성 기능이 책임성과 규제 준수를 뒷받침한다.
다만 이 장은 경보 피로(alert fatigue)를 반복해서 경고한다. 과도하거나 무관한 경보가 쏟아지면 시스템의 효과 자체가 떨어진다는 것이다. 그래서 인간 개입형(HITL) 접근 — 의료진이 AI 경보를 검토한 뒤 행동하는 방식 — 을 특히 이상반응 탐지에서 중요하다고 강조한다.
세 개의 사례
AI 심전도
심박출률이 낮은 상태를 잡아내려면 원래 심초음파 같은 비싸고 접근성 낮은 영상이 필요했다. 딥러닝 모형이 사람 눈에 보이지 않는 심전도의 미세한 양상을 읽어 입원, 부정맥, 사망의 위험을 표시한다.
폐암 CT 감시
종양의 크기·형태·질감의 미세한 변화를 읽어 치료 실패나 재발의 조기 징후를 잡는다. 호중구 감소나 장기 독성 같은 항암화학요법 이상반응의 위험군도 함께 짚어낸다.
연속혈당측정
실시간 혈당 판독으로 저혈당·고혈당 사건을 예측하고 피드백을 준다. HbA1c, 중증 저혈당 발생, 당뇨병성 케톤산증 입원 같은 장기 결과도 추적한다. 고위험군에서 중증 저혈당 빈도를 크게 줄였다.
이 책 전체에서 FDA 승인을 받고 임상에서 실제로 쓰이고 있다고 명시된 사례는 많지 않다. 애플워치 같은 소비자 기기의 단일 유도 심전도까지 확장되었고, 분석 결과가 전자의무기록에 통합되었다는 서술도 구체적이다.
주목할 대목은 하나 더 있다. 표준 심전도에서는 정상인데 AI 점수가 비정상으로 나온 환자들에서 심혈관 이상과 사망 위험이 더 높게 나타났다는 것이다. 사람이 정상이라고 읽은 신호에서 기계가 다른 것을 읽었고, 그쪽이 맞았다는 뜻이다.
감시반
표 17.2는 이 책에서 드문 열을 하나 갖고 있다. ‘현재 상태(Current status)’다. 각 시스템이 병원에 배치되어 있는지, 연구 단계인지, 아니면 개별 시스템이 아니라 문헌 수준의 통찰인지를 적는다.
6.1 보고된 성능 수치
| 맥락 | 보고된 지표 |
|---|---|
| 수술 중 이상사건 자동 탐지 | AUROC 0.82(출혈) ~ 0.97(백내장 수술) |
| 혈액투석 중 이상사건 근육 경련, 혈압 상승 |
AUROC 0.83 · 민감도 35% · 특이도 96% |
| 티사젠렉류셀 심혈관 이상사건 XGBoost 신호 예측 |
AUROC 0.76 · 정확도 0.98 · 민감도 0.98 · 특이도 0.99 · PPV 0.99 · NPV 0.98 전통적 불균형 분석은 AUROC 0.56–0.67 |
| 종양학 이상약물반응 예측 메타분석 | 민감도 0.82(95% CI 0.69–0.90) · 특이도 0.84(0.75–0.90) · AUROC 0.83(0.77–0.87) |
| 트랜스포머 기반 패혈증 분류 | 정확도 0.964 · 정밀도 0.956 · 재현율 0.967 · F1 >0.95 |
| 약국 기록 자연어처리 이상사건 탐지 | 정확도 91% · F1 0.88 |
| 이상약물반응 예측 체계적 문헌고찰 | 통합 정확도 0.84 · 재현율 0.82 · F1 0.81–0.86 |
혈액투석 중 이상사건 예측 모형은 AUROC 0.83, 민감도 35퍼센트, 특이도 96퍼센트다. AUROC 0.83만 보면 괜찮은 모형처럼 읽힌다.
그런데 민감도 35퍼센트는 실제로 일어난 이상사건 열 건 중 여섯 건 이상을 놓친다는 뜻이다. 특이도 96퍼센트가 높은 것은 대부분의 경우에 ‘문제없음’이라고 답하기 때문이다. 이상사건은 드물게 일어나므로, 거의 늘 ‘정상’이라고 답해도 특이도는 높게 나온다.
이 장이 6.1절에서 스스로 적은 대로, “놓친 참양성이 환자 안전에 심각한 결과를 낳을 수 있는 고위험 상황에서는 재현율이 결정적”이다. 같은 절이 그 원칙을 적고 그 아래에 민감도 35퍼센트짜리 사례를 인용한다.
티사젠렉류셀 사례는 AUROC 0.76인데 민감도 0.98, 특이도 0.99로 적혀 있다.
이 조합은 성립하지 않는다. ROC 곡선이 (1−특이도, 민감도) = (0.01, 0.98)을 지난다면, 그 아래 면적은 사다리꼴 계산만으로도 최소 0.985가 된다. 민감도와 특이도가 그렇게 높으면서 AUROC가 0.76일 수는 없다.
어느 쪽 수치가 옳은지는 원문만으로 알 수 없다. 다만 같은 줄 안에서 두 수치가 서로를 부정한다는 사실은 확인된다. 이 사례가 “전통적 불균형 분석(AUROC 0.56–0.67)을 앞선다”는 근거로 쓰이고 있으므로 가볍게 넘길 대목은 아니다.
6.2–6.4 검증과 배치 후
- 후향 검증은 빠르고 싸지만 실제 임상 워크플로의 역동성과 복잡성을 담지 못한다. 전향 검증이 임상적 유용성과 안전성, 사용자 신뢰를 확립하는 표준(gold standard)이다.
- 일반화 — 단일 기관 데이터로 학습한 모형은 인구 구성, 진료 관행, 데이터 품질이 다른 곳에서 같은 성능을 내지 못한다. 다양한 데이터셋에서의 외부 검증이 필요하다.
- 모형 표류(model drift) — 시간이 지나면서 환자 구성, 질병 추세, 진료 규약이 바뀌면 모형의 정확도가 떨어진다. 정기적 성능 감사, 임상의 피드백, 지속적 데이터 수집으로 재보정하거나 재학습해야 한다. 임상의가 AI 출력과 어떻게 상호작용했는지를 기록하면 사용성과 신뢰를 평가할 수 있다.
한계와 규제
데이터의 가용성과 품질
의료 데이터는 불완전하고 비일관적이며 파편화되어 있다. 상당량이 자유 텍스트, 영상, 신호 같은 비정형이라 그대로 쓸 수 없다. 부서와 기관마다 데이터 사일로가 있어 통합이 어렵다. 대응으로 OMOP과 FHIR 같은 공통 데이터 모형, 데이터 거버넌스 체계, 그리고 연합학습이 제시된다.
편향과 공정성
AI 모형은 의료 데이터에 이미 있는 편향을 유지할 뿐 아니라 키울 수도 있다. 대응으로 재표집, 재가중, 적대적 편향 제거, 공정성 인식 알고리즘, 정기 감사가 제시되고, 윤리학자와 지역사회 구성원을 포함한 학제 간 팀이 모형 개발에 참여해야 한다고 적는다.
확장성과 지속가능성
통제된 조건에서의 성능과 다른 임상 환경으로의 이전 사이에 큰 간극이 있다. 워크플로, 인구 구성, 인프라가 바뀌면 성능이 떨어진다. 모형을 최신 상태로 유지하는 비용도 크다. 모듈형 설계와 지속 학습 시스템이 대안으로 제시된다.
채택의 장벽
신뢰성과 이해가능성에 대한 임상의의 의구심, 워크플로 방해에 대한 우려, 규제 불확실성과 데이터 프라이버시가 걸림돌이다. 사용자 중심 설계와 교육·훈련 프로그램이 필요하다고 적는다.
8 규제와 책임
FDA와 EMA는 많은 AI 도구를 의료기기로 분류하며, 그 기준은 시간이 지나면서 학습하고 변하는 시스템을 반영하도록 갱신되고 있다. 이 장은 여기에 국제적 흐름을 덧붙인다.
- WHO — 보건 분야 AI의 윤리와 거버넌스 지침. 책임성, 포용성, 안전 기준을 강조한다.
- IMDRF(국제의료기기규제당국자포럼) — 의료기기 소프트웨어(SaMD) 규제의 협력 표준을 제안했다.
- 일본 PMDA와 중국 NMPA — 적응형 AI 시스템의 심사 방식을 구체적으로 제시했다.
- HIPAA와 GDPR — 데이터 보호의 기본 틀. 특히 직접 진료를 넘어 다기관 목적으로 데이터가 쓰일 때 환자에게 알리고 동의를 받는 절차가 필요하다.
이 장이 남기는 것
표 17.2의 ‘현재 상태’ 열이 이 장의 값어치다. 배치 2, 연구 7, 문헌 1. 같은 표에 성능 수치와 배치 상태가 함께 있으므로 어느 숫자가 병상에서 나온 것이고 어느 숫자가 아직 논문 안에 있는지 구분된다.
3.1절이 등화 승산과 보정이라는 두 공정성 지표를 구체적으로 지목한다. 편향을 말하는 데서 그치지 않고 그것을 재는 방법을 적은 것은 이 책에서 흔치 않다.
6.1절은 “참양성을 놓치면 환자 안전에 심각한 결과”라고 적는다. 그리고 같은 절에 민감도 35퍼센트짜리 사례가 인용되어 있다. AUROC 하나만 보면 안 되는 이유가 이 대비에 있다.
6.2절은 후향 검증이 빠르고 싸지만 전향 검증이 표준이라고 명시한다. 표 17.2에서 전향 검증을 거친 것은 세 건뿐이다.
이 장은 이 책에서 자기 근거의 성숙도를 표에 적어 넣은 유일한 장이다. 다른 장들도 ‘아직 임상 전환이 남았다’고 말하지만 대개 결론 근처에서 한 문장으로 넘긴다. 이 장은 열 개 시스템 각각에 상태를 붙였고, 그래서 독자가 셀 수 있다. 배치 2, 연구 7, 문헌 1. 이 세 숫자가 이 분야의 좌표다.
3.1절의 공정성 지표도 같은 성격이다. ‘편향에 주의해야 한다’는 말은 이 책에서 열 번 넘게 나왔다. 그런데 등화 승산과 보정을 지목하고, 성능을 하위집단별로 층화 보고하라고 요구한 곳은 여기뿐이다. 주의하라는 말과 이렇게 재라는 말은 다르다.
그럼에도 6.1절의 두 수치는 확인이 필요하다. 혈액투석 모형의 민감도 35퍼센트는 오류가 아니라 그 모형의 실제 성적일 수 있다. 그렇다면 그 사실이 인용될 때 함께 적혀야 할 맥락이 빠진 것이다. 티사젠렉류셀 사례의 AUROC 0.76과 민감도 0.98·특이도 0.99는 산술적으로 양립하지 않는다. 체계적으로 수치를 모아 놓은 절에서 이런 조합이 걸러지지 않은 것은 아쉽다.
그래서 이 장을 읽는 법은 이렇다. 표 17.2의 마지막 열과 3.1절의 공정성 지표는 그대로 가져가되, 6.1절의 수치는 원 논문에서 확인할 것. 이 장이 스스로 세운 기준 — 층화해서 보고하라, 재현율을 보라, 전향적으로 검증하라 — 을 6.1절에 그대로 적용하면 어느 줄이 더 단단하고 어느 줄이 덜 단단한지가 드러난다.