Machine Unlearning · Foundation Model 시대의 데이터 소거

학습한 것을
잊는다 at scale

대규모 데이터 언러닝은 LLM과 기초 모델이 학습한 방대한 데이터에서 특정 부분 — 민감 정보, 저작권 콘텐츠, 유해 지식 — 을 효율적으로 제거하면서 모델의 전체 유틸리티를 유지하는 기술 패러다임이다. GDPR의 잊힐 권리, AI 안전성, 프라이버시 보호를 위한 핵심 솔루션으로 자리 잡았다.

패러다임Selective Forgetting
대상 규모10⁹–10¹² params
준거GDPR · EU AI Act
기준 연구2025–2026
문제 정의 · 목적함수
minθ  L(θ) = −Lf(θ)  +  λ Lr(θ)
Lf · Forget Set 손실 (최대화하여 잊기) Lr · Retain Set 손실 (최소화하여 유지)
01

정의

훈련된 모델에서 특정 데이터 포인트의 영향을 선택적으로 제거해, 모델이 그 데이터를 전혀 보지 않은 것처럼 작동하게 만드는 과정.

Machine Unlearning은 훈련된 모델에서 Forget Set D_f의 영향을 선택적으로 제거하는 과정이다. 이상적으로는 Retain Set D \ D_f로 처음부터 재훈련한 모델과 기능적으로 동등해야 한다.

대규모 맥락에서는 수십억~조 파라미터 LLM의 방대한 pretraining 데이터에서 개인정보나 해로운 콘텐츠 같은 특정 지식을 제거하는 것을 뜻한다. 보장 수준에 따라 exact unlearning(완전 제거)과 approximate unlearning(효율적 근사 제거)이 구분된다.

책에서 특정 장을 지우개로 지우되, 나머지 이야기의 흐름과 일관성을 해치지 않는 예술이다.

02

문제 정의

D = D_r ∪ D_f 에서 D_f 를 제거한 모델 θ_unl 을, 이상적 재훈련 모델과 근사시키는 것이 목표다.

주어진 훈련 데이터에서 Forget Set을 제거한 모델 θ_unl을 얻되, θ_unl ≈ argmin_θ L(θ; D \ D_f) 즉 이상적 재훈련 모델에 가깝게 만든다. 목적함수는 Forget 손실을 최대화(잊기)하고 Retain 손실을 최소화(유지)하며, trade-off 파라미터 λ로 둘을 조율한다.

대규모의 본질적 난점은 두 가지다. 하나는 전체 재훈련이 불가능한 연산 비용이고, 다른 하나는 유틸리티 저하와 파국적 망각 같은 부작용이다. 데이터를 지웠는데 모델 전체가 망가지는 딜레마다.

03

핵심 개념

언러닝을 분류하고 검증하는 축들. 보장 수준, 제거 단위, 편집 방식, 검증 수단으로 나뉜다.

Exact Unlearning

완전 제거 · 보장

SISA(Sharded-Isolated-Sliced-Aggregation)처럼 shard별 재훈련으로 제거를 형식적으로 보장한다.

vs
Approximate Unlearning

효율적 근사

Gradient ascent, parameter editing, model merging 등으로 효율적 근사 제거를 수행한다.

Data-level

데이터 포인트 제거

특정 datapoint의 영향을 지운다.

vs
Concept-level

개념 지식 제거

'Harry Potter' 같은 개념 단위 지식을 지운다.

Model State Arithmetic

MSA

Checkpoint history를 활용해 forget vector를 계산·적용한다. (2026 ICLR)

Subspace Isolation

Task Vector

특정 지식 subspace를 동결·편집해 대상 지식만 겨냥한다.

Verification

검증

Membership Inference Attack(MIA), Logit 기반 평가, 적대적 재학습 견고성으로 확인한다.

04

서론

LLM 배포 확대와 함께 프라이버시·저작권·bias 문제가 부각되면서 언러닝이 부상했다.

기존 재훈련은 trillions of tokens 규모에서 비현실적이다. Approximate 방법들이 효율성을 제공하지만, 견고한 망각(적대적 재학습 방어)과 유틸리티 보존 사이의 trade-off가 핵심 도전으로 남는다. 최근 설문조사들은 taxonomy, benchmark, LLM 특화 기법을 체계화한다.

TOFU MUSE-Books WMDP MIA Adversarial Relearning
05

동기와 배경

규제 준수부터 정렬(alignment)까지, 한 번 학습된 지식을 효율적으로 잊는 능력이 신뢰 가능한 AI의 필수 요소가 되었다.

동기 · Motivation

왜 잊어야 하는가

GDPR·EU AI Act 준수, 저작권 침해 대응(예: Harry Potter 지식 제거), 유해 콘텐츠 제거, 오염 데이터에 대한 모델 유지보수, AI alignment.

배경 · Background

계보

Continual learning, differential privacy, model editing(ROME, MEMIT)에서 발전했다. 대규모에서는 지식을 효율적으로 잊는 능력 자체가 신뢰성의 조건이 된다.

모델을 살아있는 유기체로 보면, 언러닝은 선택적 기억 상실을 통해 지속적 적응을 가능케 한다.

06

도전 과제

효율성, trade-off, 견고성, 보장, 확장성, 실세계 동역학이 서로 얽힌다.

확장성 · 효율Scalability

Billion-parameter 모델에서 full retraining은 불가능하며, approximate 방법도 연산 부담이 크다.

유틸리티 균형Trade-off

과도한 언러닝은 파국적 망각으로, 부족한 언러닝은 MIA 성공 같은 프라이버시 누출로 이어진다.

견고성Robustness

적대적 재학습·파인튜닝으로 '잊힌' 지식이 쉽게 회복될 수 있다.

보장 · 검증Guarantees

형식적 인증(certification)이 부족하고, LLM의 블랙박스성이 검증을 어렵게 한다.

멀티모달Cross-modal

이미지·다국어로의 확장이 어렵다.

실세계 동역학Dynamics

Non-IID 데이터, 빈번한 요청, checkpoint 저장 오버헤드가 겹친다.

07

연구 질문

확장성, 정밀 역전, 진정한 망각의 평가, LLM 특유의 성질이 열린 질문으로 남는다.

Scalability

유틸리티 손실 없이 확장 가능한 exact/approximate 언러닝을 어떻게 달성하는가.

Reversal

Checkpoint history나 model merging으로 데이터 영향을 정밀하게 역전할 수 있는가.

Evaluation

적대적 견고성을 포함해 진정한 망각을 어떻게 평가하는가.

LLM-specific

자기회귀적 성질과 거대 규모를 어떻게 다루는가. 나아가 설계 단계의 사전적 언러닝(MUNKEY)과 연합 언러닝은 어떻게 구현하는가.

08

접근법 · 방법론

직접 파인튜닝부터 국소 파라미터 수정, 보조 모델, 입출력 기반, 그리고 2025–26년의 혁신 기법까지.

직접 파인튜닝

Direct Fine-Tuning
  • Gradient Ascent (GA) + 정규화(KL, retain loss)
  • Preference Optimization (DPO)
  • Relabeling — 중립 응답으로 대체

국소 파라미터 수정

Localized Modification
  • Task vectors 로 지식 방향 편집
  • LoRA-based editing
  • Subspace isolation (UNLEARN)

보조 모델 · 증류

Auxiliary / Distillation
  • Knowledge distillation
  • RMU (Randomized Model Unlearning)

입출력 기반

Input/Output-based
  • Prompting · guardrails
  • In-context unlearning

혁신 기법 (2025–26)

Innovative
  • MSA — 과거 checkpoint로 forget vector 계산
  • SIFT-Masks — 대규모 model merging
  • MUNKEY — key deletion 기반 설계 단계 망각(forgetting-by-design)

이 방법들은 효율성과 견고성의 Pareto frontier를 탐색한다.

09

주요 응용

프라이버시·저작권에서 AI 안전, 연합 학습, 도메인 특화, 모델 유지보수까지.

01 · Privacy & Copyright

프라이버시 · 저작권

민감 데이터와 저작물을 제거한다. TOFU 벤치마크로 평가한다.

02 · Safety & Alignment

AI 안전 · 정렬

유해 지식(WMDP)과 bias를 완화한다.

03 · Federated

연합 학습

클라이언트 단위 언러닝(ASG-FU 등)을 수행한다.

04 · Domain-specific

도메인 특화

그래프 언러닝, 추천 시스템, 전력 시스템, 멀티모달 LLM에 적용한다.

05 · Maintenance

모델 유지보수

낡거나 오염된 데이터, 롱테일 데이터를 제거한다.

06 · Benchmark

표준 검증

TOFU · MUSE-Books · WMDP로 forget 품질과 유틸리티를 함께 측정한다.

10

미해결 문제

형식적 보장, 정교한 공격에 대한 견고성, 벤치마크 표준화가 여전히 열려 있다.

인증 언러닝Certified

대규모에서 형식적 보장(certified unlearning)을 확보하기 어렵다.

공격 견고성Robustness

재학습·추출 등 정교한 공격에 취약하다.

표준화Standard

벤치마크와 메트릭의 표준화가 미비하다.

조 단위 효율Trillion-era

trillion-parameter 시대의 효율성이 관건이다.

멀티모달 통합Continual

멀티모달·연속 언러닝의 통합이 미완이다.

과정의 위험Meta-risk

언러닝 과정 자체가 새로운 프라이버시 위험(unlearning attack)을 낳는다.

11

미래 방향

설계 단계의 언러닝, 확장 가능한 하이브리드 기법, 더 나은 평가, 그리고 이론적 진전.

Unlearning-by-Design

모델 아키텍처부터 망각을 지원한다. Memory-augmented, key deletion 방식.

하이브리드 · 확장 기법

Checkpoint 활용, 효율적 merging, 노이즈를 더한 증류(UNDO)를 결합한다.

더 나은 평가

적대적·멀티모달 벤치마크와 통합 메트릭(forget 품질 + 유틸리티 + 효율 + 견고성)을 확립한다.

사전적 · 윤리적 AI

프라이버시 통합 훈련, 연합·다중 에이전트 언러닝으로 나아간다.

이론적 진전

고차원 통계와 인증된 제거(certified removal)를 발전시킨다.

언러닝을 모델의 면역 체계로 발전시켜, 동적이고 자율적인 AI 생태계를 구축한다.

주요 출처

2025–2026년 설문조사·ICLR·JMLR 등 기반.

[1] A Comprehensive Survey of Machine Unlearning for LLMs arxiv.org/abs/2503.01854
[2] Revisiting the Past: Data Unlearning with Model State History (ICLR 2026) arxiv.org/abs/2506.20941
[3] Machine Unlearning for Trustworthy AI link.springer.com/article/10.1007/s11831-025-10436-z
[4] Certified Machine Unlearning (JMLR 2025) jmlr.org/papers/volume26/25-1751/25-1751.pdf