01
시뮬레이션의 상한선
초음파 정위 능력을 갖춘 드론을 만든다고 하자. 시뮬레이터를 구축하려면 인간 전문가가 물리 법칙을 완벽히 이해하고 코딩해야 한다. 그 순간 AI의 잠재력은 인간이 이미 이해한 범위 안에 갇힌다. AI는 시뮬레이터를 만든 사람의 지능 수준을 넘어설 수 없다.
이상한 것은 그가 아니라 이 분야다
인공지능의 역사에 '연속적이지 않은 학습'이라는 개념은 원래 없었다. 학습과 동작이 분리된 지금의 정적 모델이야말로 발전사에 잠깐 나타난 기형적 변곡점이다.
많은 사람이 리차드 서튼의 주장을 급진적이라고 평한다. 정작 본인의 생각은 정반대다. 그는 자신이 가장 평범하고 당연한 생각을 하는 사람이라고 말한다. 지능의 본질은 환경과 상호작용하며 실시간으로 진화하는 것이고, 학습은 당연히 연속적인 것이다. 이 상식을 기준으로 삼으면 배포되는 순간 학습을 멈추는 오늘의 모델이 오히려 설명을 요구받는 쪽이 된다.
내가 이상한 것이 아니다. 이상한 것은 지금의 AI 분야다.
Rich Sutton — "I'm not the weird one; the field is weird."
그러므로 학습이 연속적이지 않다면 그것은 학습이 아니다라는 명제는 과격한 선언이 아니라 원래 자리로 돌아가자는 요구다. 고정된 가중치라는 현재의 패러다임은 지능에 대한 근본적 오해에서 비롯된 짧은 휴지기에 지나지 않는다. 두 패러다임의 차이는 성능의 차이가 아니라 지능을 무엇으로 정의하느냐의 차이다.
| 구분 | 정적 학습 Static / Weird | 연속 학습 Continual / Ordinary |
|---|---|---|
| 지능의 정의 | 데이터셋의 통계적 압축과 고정 | 환경과의 상호작용을 통한 실시간 진화 |
| 가중치 상태 | 학습 종료 후 동결(Frozen) | 생애 주기 전반에 걸친 가소성 유지 |
| 데이터 공급 | 인터넷 데이터라는 '화석 연료' | 단일 경험 스트림(Single Stream of Experience) |
| 업데이트 방식 | 막대한 비용의 재학습과 배치 처리 | 실시간 증분 학습과 메타 학습 |
| 확장 전략 | 인간의 지식 주입과 미세 조정 | 계산 자원과 범용 알고리즘의 결합 |
스물여섯 단어로 쓰인 쓴 교훈
리차드 서튼은 강화학습의 창시자이며, 인간 수준 지능으로 향하는 설계도를 그려온 사람이다. 2019년에 발표한 짧은 에세이 The Bitter Lesson은 업계에 거대한 충격을 안겼다. 핵심은 자명하다. 인간의 지식을 알고리즘에 직접 주입하려는 모든 시도는 결국 계산 능력의 확장에 패배한다는 것이다.
인간의 지식에 한눈팔지 말고, 계산과 함께 확장되는 방법론에 집중하라.
Search & Learning — the two methods that scale
원문은 이렇다. "Don't be distracted by human knowledge as AI traditionally has been many times; instead focus on learning methods that will scale with computation, like search and learning." 스물여섯 단어에 담긴 주장은 단순하지만 잔인하다. 특정 규칙이나 구조를 정교하게 설계해 넣는 일은 단기적 승리를 가져다주지만 장기적으로는 사멸로 이어진다. 인간의 지식이 닿는 곳이 곧 그 시스템의 천장이 되기 때문이다.
| 구분 | 인간 지식 기반 AI | 계산 · 학습 기반 AI |
|---|---|---|
| 접근법 | 인간 전문가의 지식과 규칙을 직접 코딩 | 범용 학습 알고리즘에 거대한 계산량 투입 |
| 장점 | 초기 단계에서 빠른 성취가 가능 | 계산 자원이 늘어날수록 성능이 폭발 |
| 한계 | 인간 지식의 한계가 곧 AI의 병목 | 초기 학습이 느리고 막대한 자원 필요 |
| 결과 | 인간이 설정한 천장에 갇힘 | 계산량에 따라 확장되어 최종적으로 승리 |
여담 — 2003년, 가장 어두웠던 시기
이 확신은 안락한 자리에서 만들어지지 않았다. AI 연구가 외면받던 이른바 'AI의 겨울' 한복판인 2003년, 리차드 서튼은 암 투병 중이었고 시한부 판정을 받은 상태였다. 그는 그 상황에서도 연구를 멈추지 않았다. 훗날 왜 계속했느냐는 질문에 그는 습관 혹은 허영심 때문이었을 것이라고 담담히 답했다. 죽음 앞에서도 그를 책상에 앉혔던 그 습관이 오늘날 인공지능의 근간이 되었다.
- 강화학습의 창시자 — 현대 AI의 핵심축인 RL의 이론적 기틀 마련
- 분야의 세미널 교과서 집필 — 강화학습 연구자의 필독서 저자
- 앨버타 플랜 수립 — 인간 수준 지능에 이르는 12단계 기술 로드맵
- 거물들의 스승 — 알파고 설계자 데이비드 실버 등 세계적 연구자 배출
- Oak Lab 설립 — 쿠람 자베드와 함께 연속 학습 아키텍처 연구
인터넷 데이터는 화석 연료일 뿐이다
현재의 LLM은 언어 능력에서 놀라운 성취를 보여주었다. 그러나 그것은 지능 전체가 아니라 대략 20~25퍼센트에 해당하는 부분적 성공이다.
서튼은 LLM을 언어 능력 측면의 과학적 돌파구로 분명히 인정한다. 동시에 그것이 매우 이상한 상태라고 지적한다. 이유는 하나다. 모델이 배포되는 순간 학습을 멈추기 때문이다. 박사 수준의 지식을 자랑하면서도, 정작 사용자와 대화하며 얻은 새로운 경험을 자신의 장기 기억, 곧 가중치로 전환하지 못한다.
인컨텍스트 학습 · 단기 기억
- 작동 방식대화 중 방금 들은 내용을 문맥 창 안에 붙들어 둔다
- 지속성세션이 끝나면 사라진다. 회로에는 아무 흔적도 남지 않는다
- 본질지식을 내재화하지 못하는 임시방편
- 귀결추상화의 자기 발견이 원천적으로 차단된다
가중치 업데이트 · 장기적 성장
- 작동 방식경험이 회로 자체를 바꾼다
- 지속성전원이 꺼져도 남는다. 그것이 곧 그 개체의 역사다
- 본질아기가 근육을 움직이며 걸음을 익히는 방식과 동일하다
- 귀결외부의 지시가 아니라 스스로의 경험이 각인된다
합성 데이터라는 우회로의 치명적 오류
인류가 생성한 텍스트 데이터의 고갈은 이미 눈앞의 문제다. 많은 기업이 시뮬레이션과 합성 데이터를 대안으로 내놓는다. 그러나 합성 데이터 생성은 무엇이 좋은 데이터인지 판단하는 인간 전문가에게 의존한다. 연구자들이 휴가를 떠나면 모델의 발전도 그날로 멈춘다. 에이전트가 스스로 경험하며 배우는 것이 아니기 때문이다. 이것이 인간 병목이다.
02
자율성의 부재
합성 데이터는 인간이 설계한 작은 세계에서 나온다. 데이터를 만드는 엔지니어가 손을 떼는 순간 학습도 멈춘다. 스스로 경험하지 못하는 AI는 화석화된 과거에 갇힌다.
03
복잡성의 누락
현실의 마찰력, 모터의 마모, 타인의 예측 불가능한 심리는 어떤 프로그램으로도 완벽히 재현되지 않는다. 시뮬레이션에서만 똑똑한 AI는 실제 경험 앞에서 무력하다.
세계는 언제나 마음보다 크다
세상은 당신의 마음보다 무한히 거대하고 복잡하다.
The Big World Hypothesis
거대 세계 가설은 단순한 전제에서 출발한다. 실제 세계는 어떤 에이전트의 내부 모델이나 어떤 시뮬레이터보다도 비교할 수 없이 복잡하며, 무한한 학습 차원을 포함한다. 특히 세계 안에는 다른 지능적 존재들이 있다. 그 때문에 변수는 무한히 증폭된다.
이 가설이 함의하는 바는 냉정하다. 세계가 마음보다 크기 때문에 지능은 결코 완벽할 수 없다. 완결된 모델을 한 번 만들어 두는 전략은 원리적으로 불가능하다. 지금 이 환경에 맞춰 모델을 실시간으로 조율하는 연속 학습만이 최선의 근사치를 유지하는 유일한 방법이다.
| 비교 항목 | 작은 세계 — 시뮬레이션 · 합성 데이터 | 거대 세계 — 실제 환경 · 경험 |
|---|---|---|
| 복잡성 | 설계자가 정의한 유한한 복잡성 | 무한하며 예측 불가능한 복잡성 |
| 인간의 개입 | 필수 — 시뮬레이터 설계와 데이터 검수 | 불필요 — 에이전트의 직접 상호작용 |
| 확장 가능성 | 인간의 지식과 sim-to-real 격차에 갇힘 | 계산 능력에 비례해 확장 |
| 지능의 형태 | 정적인 지식의 암기와 재포장 | 환경 적응적이고 동적인 실시간 지능 |
다람쥐에게는 정답표가 없다
나무 위를 자유자재로 누비는 다람쥐를 떠올려 본다. 가지 사이를 뛸 때마다 근육의 움직임을 실시간으로 수정하며 착지점을 찾아낸다. 누구도 다람쥐에게 근육을 어떻게 비틀라고 알려 주지 않았다. 서튼의 표현대로 아무도 우리에게 근육을 어떻게 떨게 해야 할지 알려 주지 않는다. 생명체의 학습은 정답을 주입받는 지도 학습이 아니라 스스로 시도하고 감각하며 찾아가는 과정이다.
시도
Action
근육을 움직여 환경에 변화를 준다. 가설은 몸으로 검증된다.
피드백
Perception
고유 감각(Proprioception)을 통해 몸의 위치와 변화를 실시간으로 감지한다.
수정
Adjustment
예상과 결과의 차이를 인지하고 내부 모델을 즉시 고쳐 쓴다.
이 순환이 만들어 내는 것이 뇌의 가소성이다. 보행에 필요한 고유 감각을 완전히 상실한 사람이 발의 감각 대신 눈으로 발을 확인하는 시각적 피드백만으로 다시 걷는 법을 배우기도 한다. 지능이 고정된 지식의 집합이 아니라 학습 메커니즘 자체를 재설계하는 능력이라는 사실을 이보다 선명하게 보여 주는 사례는 드물다.
현재 AI 모델
- 가중치 변화훈련 종료 후 완전히 동결
- 학습 시점특정 사전 훈련 단계로 한정
- 데이터 출처인터넷 등 인간이 만든 지식 데이터
생물학적 뇌
- 가중치 변화상호작용 중 지속적으로 업데이트
- 학습 시점살아 있는 모든 순간
- 데이터 출처직접적인 환경 경험과 상호작용
파멸적 망각을 정면으로 돌파하는 두 알고리즘
실시간으로 가중치를 바꾸면서도 지능의 일관성을 유지해야 한다. 앨버타 플랜이 제시하는 12단계 로드맵의 기술적 심장부가 바로 이 지점에 있다.
새로운 것을 배우면 이전 지식이 무너지는 파멸적 망각(Catastrophic Forgetting)은 연속 학습의 가장 큰 기술적 장벽이다. Oak Lab의 해법은 지식을 얼려 보존하는 것이 아니라 아키텍처 수준의 가소성을 끝까지 유지하는 쪽이다.
기술 진단 1 — 보폭 최적화 (Step-size Optimization)
모든 가중치에 같은 학습률을 적용하는 방식은 파멸적 망각의 주범이다. 각 가중치마다 별도의 보폭을 두고 그 보폭 자체를 메타 학습한다. 이미 중요한 역할을 수행하는 지식 유닛은 보폭을 극소화해 업데이트를 억제하고, 새로운 자극에 반응하는 유닛은 보폭을 크게 열어 지식을 빠르게 통합한다. 핵심 지식은 낮은 가소성으로 보존하고 새로운 정보는 높은 가소성으로 흡수하는 것이다.
기술 진단 2 — 연속 역전파 (Continual Backprop)
표준 역전파는 초기화 시점에만 무작위 가중치를 쓰고 학습 과정에서 그것을 모두 소진한다. 시간이 지날수록 네트워크는 굳는다. 연속 역전파는 생애 주기 전반에 걸쳐 새로운 유닛의 씨앗을 계속 심고 무작위성을 다시 주입한다. 그래디언트는 변화의 방향을 알려 줄 뿐 구조적 혁신에는 느리다. 그래서 역전파의 역할을 바꾼다.
생성
Generate — 가소성 공급
네트워크가 구동되는 중에도 무작위 가중치를 가진 새로운 유닛을 계속 주입한다. 숲에 끊임없이 새 씨앗을 심는 일과 같다.
테스트
Test — 테스터로서의 역전파
역전파는 방향을 찾는 도구가 아니라 새로 심긴 유닛의 유용성을 판정하는 시험대가 된다.
도태
Evolve — 지속적 진화
성능에 기여하는 유닛만 남기고 무용한 유닛은 재초기화한다. 네트워크는 시간이 지나도 학습 능력을 잃지 않는다.
자가 발견 추상화와 단일 경험 스트림
과거의 심볼릭 AI는 인간의 언어로 정의된 개념을 모델에 주입하려 했다. 서튼은 그것을 오만이라고 부른다. 엘리트 운동선수는 외부의 언어로 표현할 수 없는 미세한 근육의 움직임과 타이밍에 대해 자신만의 니치한 추상화를 만들어 낸다. 그 추상화는 인간이 설계한 시뮬레이션으로는 도달할 수 없는 영역이다. 에이전트도 마찬가지다. 정제된 배치가 아니라 실제 환경의 가변적인 단일 스트림에서 직접 배울 때, 비로소 자신만의 추상화를 발견하고 그것을 바탕으로 미래를 계획할 수 있다.
01
지속적인 가중치 업데이트
상호작용하는 매 순간 가중치가 변한다. 배치가 아니라 스트림이다.
02
스스로 개념 형성
인간이 정의한 언어를 넘어, 자신의 경험을 설명할 고유한 추상화를 발견한다.
03
미래 예측과 계획
형성된 개념을 바탕으로 미래를 상상하고 계획(Planning)한다.
1조 파라미터를 20와트로 굴린다
Oak Lab이 내건 목표는 도발적이다. 1조 개의 파라미터를 가진 모델을 인간의 뇌와 같은 20와트로 구동한다는 것이다. 거대 GPU 클러스터가 소모하는 에너지를 생각하면 공격적으로 들린다. 그러나 이것은 희망 사항이 아니라 계산이다.
Power envelope — 10년의 계산
현재
2,000 W
10년 후
20 W
무어의 법칙에 따른 10년 주기의 계산 효율 개선폭은 약 100배, 곧 두 자릿수 오더에 해당한다.
현재 약 2,000W 수준의 연산 집약도를 20W로 옮기는 일은 하드웨어 발전과 알고리즘 효율화가
결합될 때 기술적으로 도달 가능한 영역에 놓인다.
왜 거대 기업은 이 경로를 택하지 못하는가
구글이나 오픈AI가 이 길을 가지 못하는 이유는 기술이 없어서가 아니다. 기존 제품의 락인(Lock-in) 효과 때문이다. 새로운 패러다임으로 전환하는 초기에는 필연적으로 성능의 일시적 하락이 발생한다. 이미 거대한 수익을 내는 상용 모델을 보유한 기업은 그 하락을 감당하기 어렵다. 로컬 미니멈은 기술의 문제가 아니라 손익계산서의 문제다.
20와트라는 숫자가 중요한 이유는 따로 있다. 저전력은 지능이 클라우드를 벗어나기 위한 선결 조건이다. 로봇, 드론, 웨어러블 기기가 거대 세계 안에서 독립적으로 사고하는 에이전트가 되려면 그 정도의 전력 예산 안에 들어와야 한다. 온디바이스 지능은 성능 문제가 아니라 전력 문제다.
진짜 해자는 데이터가 아니라 가중치다
연속 학습은 효율성 개선이 아니다. 복제할 수 없는 기업 고유의 지능 자산을 만드는 일이다.
많은 기업이 서버에 쌓인 로우 데이터를 해자라고 부른다. 그러나 데이터는 복제되고 유출되고 결국 상품화된다. 복제되지 않는 것은 수년간의 실시간 상호작용을 통해 축적된 고유한 가중치 구성이다. 그것은 범용 모델이 침범할 수 없는 개인화된 지능의 영역이다.
감각 이상을 겪는 환자가 발을 쳐다보는 시각 정보만으로 다시 걷는 법을 배우듯, 연속 학습 모델은 환경의 근본적 변화에 실시간으로 적응한다. 센서가 고장 나고 지형이 바뀌고 사용자의 습관이 달라져도 가중치 수준에서 대응한다. 고정된 모델은 이런 적응력을 흉내조차 낼 수 없다. 드론이나 로보틱스처럼 물리적 환경이 급변하는 분야에서 연속 학습은 선택지가 아니라 전제 조건이다.
전략적 귀결도 분명하다. 앞으로는 수천억 원을 들여 모델을 처음부터 다시 훈련하는 방식이 저물 것이다. 대신 풍부한 경험을 쌓은 에이전트를 디지털로 복제하고, 각 사용자의 고유한 환경에서 계속 성장시키는 에이전트 진화의 시대가 열린다.
Takeaway 01
초개인화된 지식 자산
공유 모델이 아니라 사용자별 경험이 가중치에 직접 각인된 독점적 지능을 구축한다.
Takeaway 02
인간 병목 제거
전문가의 합성 데이터 생성 없이 에이전트 스스로 성능을 확장하는 비용 구조를 만든다.
Takeaway 03
적응적 생존력
가소성 메커니즘을 통해 센서 오류와 환경 변화에 즉각 대응하는 고신뢰 시스템을 확보한다.
지금 무엇을 결정해야 하는가
01
연속 학습 아키텍처로 전환한다
가중치 동결 방식의 한계를 인정하고, 보폭 최적화와 연속 역전파를 핵심 경쟁력으로 확보한다. 이것은 연구 과제가 아니라 제품 아키텍처의 결정이다.
02
자율적 경험 데이터를 중심에 둔다
인간이 정제한 데이터의 병목을 직시하고, 에이전트가 직접 경험을 통해 배우는 환경 구축에 선제적으로 투자한다.
03
에너지 효율을 새로운 규모 지표로 삼는다
파라미터 수 경쟁을 넘어, 온디바이스에서 독립적으로 작동하는 저전력 고효율 아키텍처를 차세대 표준으로 정의한다.
이 세 가지는 서로 독립된 항목이 아니다. 연속 학습은 자율적 경험을 요구하고, 자율적 경험은 온디바이스를 요구하며, 온디바이스는 다시 20와트라는 전력 예산을 요구한다. 하나를 선택하면 나머지가 따라온다. 하나를 미루면 나머지도 미뤄진다.