대규모 데이터 언러닝은 LLM과 기초 모델이 학습한 방대한 데이터에서 특정 부분 — 민감 정보, 저작권 콘텐츠, 유해 지식 — 을 효율적으로 제거하면서 모델의 전체 유틸리티를 유지하는 기술 패러다임이다. GDPR의 잊힐 권리, AI 안전성, 프라이버시 보호를 위한 핵심 솔루션으로 자리 잡았다.
훈련된 모델에서 특정 데이터 포인트의 영향을 선택적으로 제거해, 모델이 그 데이터를 전혀 보지 않은 것처럼 작동하게 만드는 과정.
Machine Unlearning은 훈련된 모델에서 Forget Set D_f의 영향을 선택적으로 제거하는 과정이다. 이상적으로는 Retain Set D \ D_f로 처음부터 재훈련한 모델과 기능적으로 동등해야 한다.
대규모 맥락에서는 수십억~조 파라미터 LLM의 방대한 pretraining 데이터에서 개인정보나 해로운 콘텐츠 같은 특정 지식을 제거하는 것을 뜻한다. 보장 수준에 따라 exact unlearning(완전 제거)과 approximate unlearning(효율적 근사 제거)이 구분된다.
책에서 특정 장을 지우개로 지우되, 나머지 이야기의 흐름과 일관성을 해치지 않는 예술이다.
D = D_r ∪ D_f 에서 D_f 를 제거한 모델 θ_unl 을, 이상적 재훈련 모델과 근사시키는 것이 목표다.
주어진 훈련 데이터에서 Forget Set을 제거한 모델 θ_unl을 얻되, θ_unl ≈ argmin_θ L(θ; D \ D_f) 즉 이상적 재훈련 모델에 가깝게 만든다. 목적함수는 Forget 손실을 최대화(잊기)하고 Retain 손실을 최소화(유지)하며, trade-off 파라미터 λ로 둘을 조율한다.
대규모의 본질적 난점은 두 가지다. 하나는 전체 재훈련이 불가능한 연산 비용이고, 다른 하나는 유틸리티 저하와 파국적 망각 같은 부작용이다. 데이터를 지웠는데 모델 전체가 망가지는 딜레마다.
언러닝을 분류하고 검증하는 축들. 보장 수준, 제거 단위, 편집 방식, 검증 수단으로 나뉜다.
SISA(Sharded-Isolated-Sliced-Aggregation)처럼 shard별 재훈련으로 제거를 형식적으로 보장한다.
Gradient ascent, parameter editing, model merging 등으로 효율적 근사 제거를 수행한다.
특정 datapoint의 영향을 지운다.
'Harry Potter' 같은 개념 단위 지식을 지운다.
Checkpoint history를 활용해 forget vector를 계산·적용한다. (2026 ICLR)
특정 지식 subspace를 동결·편집해 대상 지식만 겨냥한다.
Membership Inference Attack(MIA), Logit 기반 평가, 적대적 재학습 견고성으로 확인한다.
LLM 배포 확대와 함께 프라이버시·저작권·bias 문제가 부각되면서 언러닝이 부상했다.
기존 재훈련은 trillions of tokens 규모에서 비현실적이다. Approximate 방법들이 효율성을 제공하지만, 견고한 망각(적대적 재학습 방어)과 유틸리티 보존 사이의 trade-off가 핵심 도전으로 남는다. 최근 설문조사들은 taxonomy, benchmark, LLM 특화 기법을 체계화한다.
규제 준수부터 정렬(alignment)까지, 한 번 학습된 지식을 효율적으로 잊는 능력이 신뢰 가능한 AI의 필수 요소가 되었다.
GDPR·EU AI Act 준수, 저작권 침해 대응(예: Harry Potter 지식 제거), 유해 콘텐츠 제거, 오염 데이터에 대한 모델 유지보수, AI alignment.
Continual learning, differential privacy, model editing(ROME, MEMIT)에서 발전했다. 대규모에서는 지식을 효율적으로 잊는 능력 자체가 신뢰성의 조건이 된다.
모델을 살아있는 유기체로 보면, 언러닝은 선택적 기억 상실을 통해 지속적 적응을 가능케 한다.
효율성, trade-off, 견고성, 보장, 확장성, 실세계 동역학이 서로 얽힌다.
Billion-parameter 모델에서 full retraining은 불가능하며, approximate 방법도 연산 부담이 크다.
과도한 언러닝은 파국적 망각으로, 부족한 언러닝은 MIA 성공 같은 프라이버시 누출로 이어진다.
적대적 재학습·파인튜닝으로 '잊힌' 지식이 쉽게 회복될 수 있다.
형식적 인증(certification)이 부족하고, LLM의 블랙박스성이 검증을 어렵게 한다.
이미지·다국어로의 확장이 어렵다.
Non-IID 데이터, 빈번한 요청, checkpoint 저장 오버헤드가 겹친다.
확장성, 정밀 역전, 진정한 망각의 평가, LLM 특유의 성질이 열린 질문으로 남는다.
유틸리티 손실 없이 확장 가능한 exact/approximate 언러닝을 어떻게 달성하는가.
Checkpoint history나 model merging으로 데이터 영향을 정밀하게 역전할 수 있는가.
적대적 견고성을 포함해 진정한 망각을 어떻게 평가하는가.
자기회귀적 성질과 거대 규모를 어떻게 다루는가. 나아가 설계 단계의 사전적 언러닝(MUNKEY)과 연합 언러닝은 어떻게 구현하는가.
직접 파인튜닝부터 국소 파라미터 수정, 보조 모델, 입출력 기반, 그리고 2025–26년의 혁신 기법까지.
이 방법들은 효율성과 견고성의 Pareto frontier를 탐색한다.
프라이버시·저작권에서 AI 안전, 연합 학습, 도메인 특화, 모델 유지보수까지.
민감 데이터와 저작물을 제거한다. TOFU 벤치마크로 평가한다.
유해 지식(WMDP)과 bias를 완화한다.
클라이언트 단위 언러닝(ASG-FU 등)을 수행한다.
그래프 언러닝, 추천 시스템, 전력 시스템, 멀티모달 LLM에 적용한다.
낡거나 오염된 데이터, 롱테일 데이터를 제거한다.
TOFU · MUSE-Books · WMDP로 forget 품질과 유틸리티를 함께 측정한다.
형식적 보장, 정교한 공격에 대한 견고성, 벤치마크 표준화가 여전히 열려 있다.
대규모에서 형식적 보장(certified unlearning)을 확보하기 어렵다.
재학습·추출 등 정교한 공격에 취약하다.
벤치마크와 메트릭의 표준화가 미비하다.
trillion-parameter 시대의 효율성이 관건이다.
멀티모달·연속 언러닝의 통합이 미완이다.
언러닝 과정 자체가 새로운 프라이버시 위험(unlearning attack)을 낳는다.
설계 단계의 언러닝, 확장 가능한 하이브리드 기법, 더 나은 평가, 그리고 이론적 진전.
모델 아키텍처부터 망각을 지원한다. Memory-augmented, key deletion 방식.
Checkpoint 활용, 효율적 merging, 노이즈를 더한 증류(UNDO)를 결합한다.
적대적·멀티모달 벤치마크와 통합 메트릭(forget 품질 + 유틸리티 + 효율 + 견고성)을 확립한다.
프라이버시 통합 훈련, 연합·다중 에이전트 언러닝으로 나아간다.
고차원 통계와 인증된 제거(certified removal)를 발전시킨다.
언러닝을 모델의 면역 체계로 발전시켜, 동적이고 자율적인 AI 생태계를 구축한다.
2025–2026년 설문조사·ICLR·JMLR 등 기반.