형평과 정의
- 쟁점
- 고가의 AI 개발 약물에 대한 제한된 접근
- 철학적 틀
- 롤스의 정의론
- 사례
- Zolgensma 200만 달러 — 대다수에게 닿지 않음
알고리즘이 의료의 결과를 좌우한다면, 예측이 틀렸을 때 책임은 누가 지는가. 맞춤 치료라는 약속은 어째서 기존의 불평등을 도리어 깊게 만드는가. 이 장은 답을 내리는 대신, 그 물음들이 놓인 지형을 그린다.
복잡한 알고리즘으로 생의학 데이터셋을 분석하는 일은 치료가 구상되고 개발되고 적용되는 방식을 크게 다시 짰다. 유전체·단백체·임상 데이터를 끌어와 발굴 기간을 수년에서 수개월로 줄였고, 암과 희귀 유전질환처럼 복잡한 질병의 치료에 새 지평을 열었다. 그러나 이 진보에는 심각한 윤리적·인식론적 우려가 따라붙는다.
알고리즘이 의료의 결과에 영향을 미친다면, 예측이 어긋났을 때 책임은 누가 지는가.
기계가 만들어낸 상관관계가 전통 과학의 인과적 설명과 같은 방식으로 지식이 될 수 있는가.
맞춤 치료라는 약속은 역설적으로 의료 접근의 기존 불평등을 더 깊게 만드는 것은 아닌가.
이 장은 이 물음들에 철학의 렌즈를 댄다. 롤스의 정의론, 칸트 윤리학, 실존주의 사상을 끌어와 시스템 개발자와 제약회사에서 임상의와 정책결정자에 이르기까지 인공지능 주도 신약 설계에 관여하는 모든 행위자의 책임을 검토한다. 목표는 확정적 답을 제공하는 데 있지 않다. 윤리적·인식론적 지형을 스케치하고, 이 과학적 전환에 동반하는 딜레마를 헤쳐 나갈 개념적 도구를 제안하는 데 있다.
정밀의료는 개별 환자의 고유한 특성에 치료를 맞추기 위해 계산적 접근에 점점 더 의존한다. 신약 발굴에서 진보한 알고리즘은 거대한 생의학 데이터셋을 분석하고, 분자 상호작용을 모형화하며, 치료 잠재력을 지닌 화합물을 식별한다. 길고 자원 집약적이며 탈락률이 높은 전통적 방법과 비교할 때, 이 기법들은 개발 과정을 가속하면서 비용과 오류를 함께 줄인다.
그러나 철학적 관점에서 보면, 자동화된 발견을 향한 이 이동은 지식과 판단과 인간 행위에 관한 더 깊은 물음을 제기한다. 기계가 환자에게 무엇이 최선인지를 ‘안다’고 어디까지 말할 수 있는가. 그런 결정에 대한 책임은 궁극적으로 어디에 놓여야 하는가. 도덕적 책임은 개발자와 의사와 인공지능 사이에 어떻게 배분되어야 하는가.
전통적 제약 연구는 기제적 이해에 근거한 가설 주도 접근을 따른다. 과학자는 축적된 증거에 기초해 생물학적 기제에 관한 이론을 제안하고, 특정 표적과 상호작용할 분자를 설계한다. 인공지능은 자주 방대한 데이터셋을 가로지르는 패턴 인식에 의존하며, 명시적 기제 이해 없이 통계적 상관을 통해 효과적일 수 있는 화합물을 짚어낸다.
방법론의 이 전환은 핵심 물음 하나를 불러낸다. 인과가 아니라 주로 상관에 근거한 지식이 과학적으로 타당하다고 볼 수 있는가.
일부 철학자는 인공지능 주도 발견을 ‘블랙박스 경험주의’의 한 형태로 규정한다. 설명의 깊이보다 예측의 정확도를 앞세우는 태도라는 것이다.
그러나 이 인식론적 비판이 거짓된 이분법이라는 반론도 있다. 모랄레스와 톰슨은 인공지능적 접근이 인과적 이해를 포기하는 것이 아니라 인과 가설을 생성하는 새로운 방식을 제공한다고 본다. 설명가능 알고리즘과 인과 추론 기법을 통해 이 시스템들은 후속 기제 연구를 이끄는 패턴을 식별한다. 이 관점은 인공지능을 확립된 과학적 방법의 대체가 아니라, 전통적 지식 생성 방식을 확장하고 강화하는 보완으로 취급한다.
인공지능은 인간의 역량을 넘어서는 규모와 속도로 생물학적 데이터를 분석하게 함으로써 정밀 신약 설계를 다시 짜기 시작했다. 심층 신경망과 강화학습은 유전체·전사체·단백체를 아우르는 다중오믹스 정보를 처리해 잠재적 표적을 식별하고, 그것이 생물학적 계와 어떻게 상호작용할지를 내다본다.
기념비적 사례는 딥마인드의 AlphaFold다. 단백질 구조 예측이라는 오랜 난제를 놀라운 정확도로 풀어내며 알츠하이머병과 낭포성 섬유증 같은 질환에 대한 표적 접근의 길을 열었다. 같은 방식으로 인 실리코 의약은 생성적 적대 신경망(GAN)을 적용해 암 치료용 신규 분자를 설계했고, 착상에서 후보 화합물에 이르는 시간을 줄였다.
쓰임은 신약 설계와 발굴을 넘어선다. 유전적·표현형 표지를 도입해 환자 집단을 범주화함으로써 임상시험의 정밀도와 성공 확률을 높였다. 약물유전체학에서는 특정 환자에서 특정 약물이 분해되는 경로를 예측해, 심혈관 질환 같은 급성 질환의 치료에서 이상반응을 줄이고 표적 치료 기능을 높이는 일이 현실이 되었다.
그러나 여기서 실무적이고 윤리적인 우려가 함께 솟는다. 많은 모형이 블랙박스로 기능하며, 그 결과는 만든 사람에게조차 불투명한 과정을 거쳐 나온다. 이 투명성의 부재는 예측이 틀렸을 때, 그리고 그 오류가 위험해질 때 책임을 배분하는 일을 가로막는다. 방대한 생의학 데이터셋에 대한 의존 또한 데이터 신뢰성, 잠재적 편견, 환자의 온전함 보전이라는 문제를 더한다.
이 장의 본체가 여기 있다. 다섯 개의 윤리적 영역은 각각 하나의 철학적 심급 앞에 세워지고, 그 옆에는 반드시 현실의 물증이 놓인다. 이념과 사실을 나란히 두는 것이 이 장의 방법이다.
롤스는 정의론에서 편견 없는 공동체란 모두에게 이익이 되도록 배열되어야 한다고 논했다. 인공지능과 신약 개발에 적용될 때 이 이론은 실천적이기보다 이론적인 것에 머문다. 인공지능 주도 치료제를 만드는 데는 상당한 재정이 투입되고, 시장에 내놓는 비용은 대개 환자에게 전가된다. 그 결과 과학적으로는 놀라운 이 혁신들이 저·중소득 국가의 중간소득 인구에게조차 닿지 않는다.
척수성 근위축증 유전자 치료제의 1회 투여 가격이다. 이 약의 존재 자체가 하나의 역설을 드러낸다 — 생명을 구한다고 상찬되는 과학적 돌파가 실제로는 특권을 가진 소수에게만 닿을 수 있다.
어떤 질병이 가장 많은 주목을 받는가 하는 문제도 있다. 제약회사는 흔히 시장의 논리 안에서 움직이므로, 인공지능 연구는 부유한 사회를 지배하는 질환(암, 알츠하이머병)에 쏠리고 말라리아나 결핵처럼 가난한 지역을 계속 황폐하게 만드는 질병은 주변으로 밀려난다. 롤스의 관점에서 이 불균형은 ‘공정한 기회 균등’의 요구에 정면으로 어긋난다. 정의가 누구도 필수 의료에서 배제되지 않을 것을 요구한다면, 시장의 우선순위가 혁신의 범위를 지시하도록 방치하는 일은 그 약속을 허문다.
데이터의 문제도 겹친다. 인공지능은 방대하고 신뢰할 만한 데이터셋, 특히 전자건강기록과 유전체 정보에 크게 의존하는데 그런 자원은 개발도상 세계의 많은 지역에 희소하다. 입력의 부재는 알고리즘이 지구적 다양성을 대표하지 못하는 집단에서 시험되게 만들고, 결과적으로 소외된 사회에는 덜 효과적인 치료를 낳는다. 데이터 대표성의 결여는 취약 집단에 대한 치료의 신뢰도를 떨어뜨려 기존의 건강 불평등을 악화시킨다. 이에 맞서려면 국제적 시도가 필요하며, 더 넓은 데이터 포함과 필수 의약품의 더 공정한 가격 책정을 독려하는 세계보건기구의 지구적 보건 형평 전략이 그 한 예다.
세계 연구 자금의 10%만이 지구적 질병 부담의 90%를 차지하는 질환을 다룬다. 가난한 인구에 주로 영향을 주는 질환이 역사적으로 연구 투자를 거의 끌지 못한 사정을 보건 형평의 철학자들이 이렇게 이름 붙였다.
환자는 정교한 알고리즘이 권고한 치료를, 그 권고가 어떻게 생성되었는지에 대한 아무런 이해 없이 제안받을 수 있다. 의사 자신도 그것을 설명할 기술적 지식이 없을 수 있다. 유전체 분석에 근거해 새로운 암 치료를 제안하는 시스템을 생각해보라. 환자도 임상의도 그 제안 뒤의 추론을 되짚지 못한다면, 동의의 과정은 훨씬 복잡해진다.
실존주의의 관점에서 사르트르는 자율성을 자유 및 책임과 연결한다. 사람은 불확실성으로 표시된 상황에서 진정한 선택을 해야 한다는 것이다. 그런데 알고리즘이 자기 출력을 확정적인 것으로 제시할 때, 환자는 기계 결정의 수동적 수령인으로 축소되었다고 느낄 수 있다. 의미 있는 선택을 통해 자신을 규정하는 능력, 곧 실존적 자유의 감각이 약해진다. 어떤 환자는 진정한 확신에서가 아니라 기술이 가진 것으로 여겨지는 권위 때문에 계산으로 생성된 권고에 동의할 수 있다.
개인을 수단이 아니라 그 자체로 목적으로 대하라는 칸트의 정언명령은, 충분한 설명에 의한 결정을 내릴 그들의 이성적 역량을 존중하라는 요구다. 인공지능은 환자가 합당하게 파악할 수 있는 설명을 제공해야 하고, 임상의는 알고리즘의 추론을 이해를 뒷받침하는 언어로 옮길 훈련을 받아야 한다. 동의가 수동적 수용이 아니라 능동적이고 정보에 근거한 선택이 되도록.
정밀 신약 설계는 유전 프로필, 병력, 생활습관 기록을 포함하는 방대한 데이터셋에 의존하며 중대한 프라이버시 우려를 낳는다. 워런과 브랜다이스가 제안한 프라이버시 이론은 그것을 자기 개인정보를 통제할 권리로 정의한다. 그러나 인공지능은 기관 사이의 데이터 공유를 자주 요구하며, 유출이나 무단 사용의 위험을 키운다.
대규모 데이터 시스템의 취약성을 드러낸 사건이다. 보건 분야에서도 견고한 방어가 필요함을 뒷받침하는 사례로 인용된다.
도덕적 성품과 온전함을 강조하는 덕 윤리의 관점에서 보면, 환자 데이터를 다루는 방식은 이해당사자의 신뢰성을 그대로 비춘다. 투명성과 선의와 정의 같은 유덕한 실천은 데이터가 오직 환자의 이익을 위해서만 쓰이도록, 그리고 착취를 막는 엄격한 규칙이 서도록 요구한다. 익명화 기법과 블록체인 기반 데이터 보안은 신뢰를 높일 수 있으나, 효과를 내려면 보편적으로 채택되어야 한다.
철학적으로 프라이버시는 정체성과도 교차한다. 인공지능 주도 신약 설계에 쓰이는 유전 데이터는 깊이 사적인 정보를 부호화하며, 자기 소유권과 감시에 관한 물음을 낳는다. 푸코의 생명권력 개념을 빌리면, 건강 데이터의 집적은 개인에 대한 제도적 통제를 가능케 하여 환자를 알고리즘 통치의 대상으로 변형시킨다.
인공지능은 편향되지 않은 것이 아니다. 훈련된 데이터를 반영할 뿐이다. 밑에 깔린 데이터셋이 역사적·구조적 편향을 품고 있으면 그 왜곡은 출력에 그대로 복제된다.
획기적이었으나 유럽계 개인의 시료에 크게 의존했다. 이 데이터로 훈련된 시스템은 어떤 집단에는 다른 집단보다 효과적인 치료를 개발하며, 과소대표된 집단에는 정확도와 신뢰도가 떨어지는 치료를 남긴다.
사회경제적 맥락에서도 같은 일이 벌어진다. 병원 기록은 오래된 건강 격차를 반영하는데, 이 기록으로 개발된 위험평가 도구는 흑인 환자의 의료적 필요를 체계적으로 과소평가해 본래 해소하려던 바로 그 불평등을 강화했다.
철학적으로 이 결함들은 기술적 오류를 넘어선 윤리적 우려를 제기한다. 레비나스는 윤리적 책임을 촉진하려면 각 개인이 그 고유한 방식으로 대우받아야 한다고 본다. 기술 발전의 복잡한 본성이 윤리적 통합과 맞물려야 한다는 뜻이다. 여기에는 데이터 수집, 유전체 자원을 다양화하기 위한 국제 보건기구와의 협력, 그리고 시스템의 꾸준한 감사를 통한 편견의 식별과 교정이 포함된다.
편향의 지속은 실존적 우려도 낳는다. 계산 도구가 사회적 불형평을 복제할 때 그것은 편향된 의료 권고를 만들어낼 뿐 아니라, 특정한 삶을 암묵적으로 평가절하하는 세계관에 기여할 수 있다. 인간이 재생하고 새로 시작하는 능력을 가리키는 아렌트의 탄생성(natality) 개념은, 윤리적 새로움이 과거의 배제를 재생산하는 대신 포용과 형평의 기회를 여는 쪽으로 나아가야 한다고 제안한다.
인공지능 신약 설계의 상업화가 커지면서 건강이 인권보다 시장 상품으로 취급되는 것 아니냐는 우려가 인다. 이윤 유인에 이끌린 제약 기업은 재정적 수익이 큰 질병으로 자원을 몰고, 희귀 질환이나 가난한 지역에 흔한 질병처럼 상업적 매력이 적은 조건은 재정 부족에 놓인다.
인공지능이 만들어낸 암 치료제는 막대한 자금을 끌어들였다. 반면 전 세계 수백만 명이 앓는 주혈흡충증 같은 질병은 최소한의 관심밖에 받지 못한다.
칸트의 관점에서 이 궤적은 정언명령과 충돌한다. 개인을 재정적 이득의 도구가 아니라 그 자체로 목적으로 대하라는 요구 때문이다. 환자가 일차적으로 소비자로 자리매김될 때 보건의료는 존엄과 필요라는 근거를 잃고 기업의 우선순위에 종속될 위험을 안는다. 이런 역학은 공적 신뢰도 침식한다. 사람들은 인공지능이 이끄는 치료가 의료적 필요에 복무하는지 주주의 이익에 복무하는지 의심하기 시작할 수 있다.
인간 번영을 뜻하는 아리스토텔레스의 에우다이모니아를 통해 보면, 의술의 목표는 가장 앞선 치료를 감당할 수 있는 이들만이 아니라 모두의 안녕을 증진하는 데 있어야 한다. 건강의 상품화를 막으려면 능동적 개입이 필요하다. 소외 질환의 혁신을 장려하는 정책, 연구 우선순위를 재조정하는 세제 유인 같은 기제, 그리고 인공지능 주도 치료를 인구 사이에 더 공평하게 분배하는 국제 협력이 그것이다.
윤리적 도전에 맞서려면 원칙에 입각한 성찰과 실행 가능한 전략이 함께 있어야 한다. 철학적 관념이 토대를 제공하지만, 그것은 정책과 실천을 빚을 수 있는 조치로 번역되어야 한다. 이 절은 그 번역의 목록이다.
출발점은 공정한 접근을 강조하는 롤스의 정의관이다. 의료의 맥락에서 이는 진보한 치료가 부유한 이들만의 특권이 되지 않도록 막을 방도를 찾는 일을 뜻한다. 차등 가격제, 복제약 지원, 국제 기금 제도가 접근성을 넓힐 수 있다. 다른 질병의 치료 접근을 이미 확대해온 의약품 특허 풀(Medicines Patent Pool)은 인공지능이 뒷받침한 약을 가난한 지역에서 감당 가능하게 만드는 하나의 모형을 제시한다.
자율성도 핵심 관심사다. 환자가 정보에 근거한 선택을 하려면 인공지능이 어떻게 결론에 이르는지 적어도 대체적으로는 이해해야 한다. 설명가능 인공지능의 노력과 환자 친화적 의사결정 보조도구가 권고를 덜 불투명하게 만들 수 있다. 임상의 또한 이 출력을 해석하고 설명할 훈련을 받아 기술적 결과와 환자의 이해 사이의 간극을 좁혀야 한다.
프라이버시와 데이터 관리도 주의를 요구한다. 유럽연합 일반개인정보보호법(GDPR) 같은 지구적 틀이 이미 유용한 기준을 세워두었으나, 더 강한 암호화, 데이터에 대한 환자의 실질적 통제, 블록체인 같은 분산 저장 방식 같은 추가적 안전장치가 공적 신뢰를 강화할 수 있다.
편향을 줄이는 일도 그만큼 긴급하다. All of Us 연구 프로그램처럼 더 포용적인 데이터셋은 대표성을 넓혀 좁은 인구에 의존해 생기는 편중을 상쇄할 수 있다. 정기적 감사와 편향 검사 도구가 또 한 겹의 책임성을 더한다.
마지막으로 건강이 상품으로 환원될 위험이 있다. 여기서는 덕 윤리가 유용한 렌즈가 된다. 연민과 정의가 혁신을 이끌어야 함을 일깨우기 때문이다. 게이츠 재단이 주도하는 것과 같은 공공–민간 협력은 투자가 소외 질환으로 향할 수 있음을 보여주며, 규제는 새 도구가 시장의 이익만이 아니라 공중보건에 복무하도록 보장할 수 있다. 철학적 전통은 이 논점들을 깊게 한다. 실존주의 사상은 기계가 이끄는 의료의 시대에도 인간의 행위를 지켜야 함을 강조하고, 레비나스의 윤리는 가장 취약한 이들에 대한 책임을 드러낸다.
이 장은 지식이 어떻게 정의되는지, 정의는 어떻게 추구되는지, 책임은 누가 지는지, 그리고 인간의 판단이 기계 지능과 어떻게 맞물려야 하는지를 두고 더 깊은 물음으로 들어간다. 저자들이 제시하는 것은 규칙이 아니라 네 개의 태도다.
현대적 접근에도 전통적 접근에도 각기 한계가 있다. 모든 방법론에는 한계가 있다는 생각, 곧 하나의 목표에 이르는 길은 여럿이라는 사실을 이해하는 일이 지식 개념을 더 깊이 이해하도록 돕는다. 따라서 두 방법을 견주어 어느 쪽이 우위인지 겨루게 하기보다, 서로가 서로를 보완해 더 큰 효율에 이르도록 조화시키는 편이 낫다.
윤리적 성찰은 나중에 덧붙이는 것이 아니라 처음부터 과정 안에 내장되어야 한다. 규제와 거버넌스의 틀은 포용적이어야 하며, 다양한 공동체가 새로운 기술이 널리 채택되기 전에 우선순위 설정에 목소리를 내고 그 잠재적 영향을 평가할 수 있게 해야 한다.
디지털 시스템이 신약 개발의 중심으로 들어올수록 그 결과에 대한 책임의 소재는 복잡해진다. 과정에는 소프트웨어 엔지니어, 실험실 과학자, 규제기관, 후원 기관 등 여러 이해당사자가 관여하므로 책임을 어느 한 집단에만 지울 수는 없다. 그럼에도 오류나 해로운 결과가 발생했을 때 책임이 어디에 있는지를 식별하고, 그 책임이 공유된 의사결정의 복잡성 속으로 흩어져 사라지지 않게 하는 기제가 있어야 한다.
수치적 도구가 제약 연구에서 점점 더 중요해지고 있으나, 그것이 인간의 판단을 대체할 수는 없다. 어느 정도의 위험이 감당할 만한가, 어떤 이익이 그 위험을 정당화하는가, 어떤 치료가 우선되어야 하는가에 대한 선택은 오직 사람만이 평가할 수 있는 가치에 뿌리내려 있다.
인공지능이 인간 삶의 거의 모든 국면에 관여하는 시대에 의학에서의 그 유용성은 흠잡을 데 없다. 그러나 이 진보에는 철학적 한계도 있으며, 그 결과와 예측이 온전히 받아들여지려면 그 한계가 다듬어져야 한다.
편향, 개인의 온전함, 데이터 프라이버시, 기술적 편견, 그리고 보건 부문의 상업화에 따르는 위험 — 이 모두가 신중한 숙고를 요구한다. 롤스의 정의와 평등 이론, 인간의 진보에 기댄 아리스토텔레스의 이론 같은 철학적 지침을 채택해 이 문제들을 숙고하는 일이 인공지능 연구를 더 나은 곳으로 밀어 올린다.
롤스가 1971년에 제시한 정의의 원칙은 의료 지원의 배분에서 공정함이 갖는 중요성을 부각했다. 그럼에도 계산적 편견과 자원 분배의 불균형은, 본래 보건 부문이 바로잡고자 했던 삶의 격차를 두고 논쟁을 지피는 주요 요인으로 남아 있다. 현 곤경에 대한 하나의 확고한 해법은 다양한 데이터셋으로 시스템을 훈련시켜, 이미 지위에 따라 편견이 자리 잡은 인구에서 그 결과가 편향을 벗어나게 하는 것이다.
임상의와 환자는 알고리즘이 내놓은 권고의 근거를 실제로 이해할 수 있어야 하며, 이는 개인의 자율성에 닿는 문제다. 해석 가능하고 투명한 시스템을 통해서만 의사결정에서 진정한 동의가 가능해진다. 프라이버시와 데이터 온전성도 소홀히 할 수 없다. 인공지능은 방대하고 복잡한 데이터셋에 의존하므로, 개인이나 집단에 의한 기밀정보 오용을 피하거나 억제할 제한이 마련되어야 한다. 데이터 암호화, 지역화된 저장 시스템, 프라이버시 설정이 이런 사고를 줄이는 데 기여한다.
마지막으로 아리스토텔레스가 제시한 덕의 윤리는 의술의 본질과 인류 전체의 번영을 강조한다. 연민과 정의를 염두에 두고 도구를 설계할 때 환자는 데이터베이스의 항목이 아니라 개인으로 대우받는다. 이 원칙들을 함께 놓으면, 기술적 효과와 진정한 사회적 책임을 겸비한 인공지능 응용으로 가는 길이 드러난다.
인식론의 관점에서 핵심 난제는 인공지능이 기대는 통계적 상관과, 과학이 전통적으로 높이 평가해온 인과적 설명을 화해시키는 일이다. 기계학습 모형은 거대한 데이터셋에서 규칙성을 포착하는 데 — 이를테면 어떤 화합물이 생물학적 표적에 결합할지를 예상하는 데 — 효과적이지만, 그 상호작용이 왜 일어나는지에 대한 이해는 거의 주지 못한다. 기제적 세부의 부재는 설명 도구로서의 가치를 제한한다.
유망한 길 하나는 계산 시스템의 예측적 효율과 생화학의 설명적 풍부함을 결합하는 연구 실천을 세우는 것이다. 학제 간 협업은 데이터 과학자와 실험실 연구자의 역량이 수렴하는 ‘교역지대(trading zones)’로 기능할 수 있다. 그런 자리에서 인공지능은 잠재적 약물–단백질 상호작용을 제안하고, 실험 작업은 작동하는 인과 기제를 검증하고 풀어낸다. 이런 되먹임 고리는 예측 정확도를 강화할 뿐 아니라 과학적 이해를 깊게 하여 서로 다른 두 형태의 지식을 균형 잡는다. 설명가능 인공지능의 진전은 모형 예측 뒤의 추론을 좇아 그것을 인과적 설명에 더 가까이 연결하도록 함으로써 명료성으로 가는 한 길을 제공한다.
철학자의 이름을 심급으로 세우는 글일수록 귀속의 정확성이 곧 논증의 무게가 된다. 원문을 옮기며 눈에 걸린 대목을 감추지 않고 적어둔다. 비판이 아니라 인용 시 유의할 지점의 목록이다.