이 글은 “AI가 연구수학을 어디까지 할 수 있는가”를 다시 재는 글이 아니다. 그 가능성이 충분히 강해진다고 가정한 뒤, 더 불편한 질문으로 이동한다. 그렇다면 수학 공동체는 무엇을 목표로 삼아야 하는가. 증명 한 편을 생산하는 것과 수학이 전진하는 것은 언제부터 같은 일이 아니게 되는가.
Terence Tao의 2026년 ICM 공개 강연을 바탕으로 한 이 에세이는 20세기 초 수학기초의 위기와 오늘의 AI 충격을 병치한다. 당시에는 ‘수학적 진리의 기초’를 명시해야 했다면, 이제는 ‘수학적 기여와 가치의 기준’을 명시해야 한다는 주장이다. 문제 해결을 사례로 삼아, 단순한 proof generation이 verification, exposition, publication, community digestion, canonicalization으로 확장되는 과정을 추적한다.
이번에 흔들리는 것은 진리의 기초가 아니라 수학의 가치 체계이다
Russell과 Gödel의 시대가 무엇을 ‘증명’이라 부를지 명시하게 했다면, AI 시대는 무엇을 ‘기여’라고 부를지 묻게 한다.
1900–1930년의 기초 위기는 암묵적 전제를 명문화했다
오랫동안 수학자는 집합, 수, 무한을 다루면서 그것들이 정확히 무엇인지, 증명이 정확히 무엇인지 매번 정의하지 않아도 연구할 수 있었다. 그러나 Russell의 역설과 Gödel의 불완전성 정리는 그런 ‘순진한 기초’가 영원히 버틸 수 없음을 드러냈다. Tao가 강조하는 것은 위기의 불편함보다 그 이후의 성과이다. 객체와 추론 규칙을 명시한 표준적 기초가 만들어졌고, 그것은 한 세기 동안 검증되면서 교육·검토·기계화가 가능한 신뢰 환경이 되었다.
그는 오늘의 AI 충격을 이와 비슷한 종류의 동요로 본다. 다만 이번 stress test의 대상은 mathematical truth의 foundation이 아니라, 무엇을 기여로 인정하고 무엇을 보상하며 무엇을 ‘이해했다’고 말하고 누가 그 일을 했다고 보는지에 관한 관행이다.
“수학 공동체는 AI에 어떻게 대응해야 하는가”는 수학 문제가 아니다
Tao는 이 질문이 meta-mathematical이며 동시에 정치적·윤리적·사회학적·문화적이라고 선을 긋는다. 따라서 논리 하나로 정답을 뽑을 수 없다. 대신 conjecture, hypothesis 같은 수학적 언어를 빌려 논점의 구조를 정돈한다.
첫 번째 하위 질문은 AI capability이다. 가까운 미래의 어느 시점에, 어느 비용과 어느 수준의 인간 감독 아래, 어느 수학 분야에서, 어느 성공률과 품질로 research-level task를 수행할 수 있는가. 이 문장의 ‘어느’마다 자유변수가 붙어 있기 때문에 하나의 단순한 yes/no 명제로 축약할 수 없다.
능력 논쟁을 잠시 괄호 안에 넣는다
Tao는 공개된 AI 수학 성과의 상당수가 성공 사례만 발표되는 reporting bias, 시도 횟수·human scaffolding·compute·literature contamination이 공개되지 않는 문제를 가진다고 지적한다. 그 예외적 통제 사례로 First Proof 프로젝트를 짚는다. 두 번째 batch는 working mathematician이 제공한 온라인 미공개 연구문제 10개를 2026년 5월 28일까지 공개 접근 가능한 네 AI system으로 평가했고, expert referee가 correctness와 exposition을 심사했다. 10문제 중 7문제는 적어도 한 system에서 ‘거의 완전하거나 소폭 수정만 필요한’ passing grade를 받았고, 비용은 문제당 수십~수백 달러 규모였다.
그러나 이 글은 그 결과로 capability 논쟁을 끝내려 하지 않는다. 오히려 이후 논의를 위해 상당히 강한 AI Capability Conjecture가 참이라고 가정한다. AI가 비교적 이른 시기에 research-level mathematical task의 합리적인 비율을 합리적인 성공률·품질·감독·비용으로 처리하게 된다는 Working Hypothesis이다. 독자에게 믿으라고 요구하지 않는다. 조건부 분석을 가능하게 하는 가정일 뿐이다.
수학의 목표들이 서로 정렬돼 있던 시대에는 한두 개 proxy로도 버틸 수 있었다
AI는 그 정렬을 깨뜨릴 수 있다. 특히 측정 가능한 목표를 지나치게 최적화할 때 그렇다.
수학 연구의 목표를 처음부터 다시 써 본다
Tao가 제시하는 목록은 완결된 헌장이 아니다. 오히려 지금까지 굳이 적지 않아도 서로 따라오던 가치들을 드러내는 초안이다.
Problem solving
순수·응용의 미해결 문제를 해결한다.
Theory building
새 이론·구조·기법을 만든다.
Understanding
주변 세계를 더 잘 이해한다.
Community
수학자 공동체를 만들고 유지한다.
Next generation
다음 세대 수학자를 훈련하고 미래 방향을 맡긴다.
Cumulative knowledge
공유되고 누적되는 수학 지식의 네트워크에 기여한다.
Aesthetic value
오래 남는 미적 가치를 가진 작업을 만든다.
Open list
이 목록은 닫혀 있지 않으며 공동체가 더 보완해야 한다.
정렬된 목표가 분화되는 순간
역사적으로 이 목표들은 대체로 양의 상관을 보였다. 어려운 문제 하나를 해결하는 동안 새 기법이 생기고, 연구자 집단이 형성되고, 학생이 훈련되고, 교과서가 쓰이고, 다른 분야 응용이 열리는 식이다. 그래서 ‘문제를 많이 푼다’ 같은 한두 목표를 나머지의 proxy로 써도 큰 손실이 없었다. 원문의 Figure 1은 ‘mathematical knowledge’에서 Goal 1, Goal 2로 나가는 단순한 정렬을 그린다.
AI는 이 편리한 정렬을 흔들 가능성이 있다. Figure 2에서는 research problems, Erdős problems, Olympiad problems, theory, application, community, training, aesthetic works가 서로 다른 방향으로 갈라진다. 한 metric을 극단적으로 최적화하면 다른 가치들이 더 이상 자동으로 따라오지 않는다는 그림이다.
“미해결 문제를 푼다”는 한 줄의 목표는 다섯 단계의 사회적 파이프라인으로 늘어난다
정답 생산량이 아니라 수학 지식으로 흡수되는 전체 과정이 문제 해결의 실제 목표라는 분석이다.
한 번씩 실패 모드를 발견할 때마다 목표가 길어진다
| 단계 | 목표의 확장 | 새로 발견되는 실패 모드 |
|---|---|---|
| Goal 6.1 | 가능한 한 많은 미해결 문제를 푼다. | 틀린 ‘증명’도 대량 생산할 수 있다. Riemann hypothesis를 둘러싼 고질적 오류 제출만 봐도 생산량은 충분한 metric이 아니다. |
| Goal 6.2 | 해결하고, 올바름을 검증한다. | 형식 검증됐지만 아무도 설명하거나 이해하지 못하는 증명이 쌓일 수 있다. |
| Goal 6.3 | 해결·검증하고, 공동체가 이해할 수 있게 명확히 설명한다. | 매끈한 문장도 핵심 난점을 드러내지 못하면 학습과 tacit knowledge 전달에 실패할 수 있다. |
| Goal 6.4 | 설명된 결과가 공동체에 소화되고 받아들여지게 한다. | 자동 필터를 통과하는 것과 동료 수학자가 결과를 자기 지식으로 흡수하는 것은 다르다. |
| Goal 6.5 | 결과를 분야의 definitive theory에 편입한다. | 첫 증명과 ‘맞는 증명’, 개별 결과와 표준 이론, 논문과 교과서는 동일하지 않다. |
형식 검증은 저자 권위에서 정확성을 분리하지만, 이해까지 보장하지 않는다
AI와 autoformalization, Rocq·HOL·Lean 같은 proof assistant의 발전은 proof generation과 verification을 함께 가속한다. 형식적으로 검증된 증명은 저자의 명성이나 성실성에 의존하지 않고 correctness를 확인할 수 있다는 점에서 강력하다. 그러나 바로 그 성공이 새 문제를 만든다.
Erdős problems database에는 이미 AI-generated proof submission이 수십 건 존재하며, Tao는 상당수가 맞을 가능성이 있더라도 human expert가 검증을 자원하지 않았거나 제출자 자신이 자격이 없다고 밝힌 사례가 있다고 적는다. 여기서 “correct”와 “understood”의 분리가 현실적 가능성으로 등장한다.
정답에서 정전화까지
원문의 Figure 4가 중요하게 보여 주는 것은 첫 화살표만이 명시적 목표였다는 점이다. 나머지는 오랫동안 ‘좋은 문제 해결이라면 자연히 따라오는 것’으로 암묵적으로 처리됐다. AI가 첫 단계를 급격하게 가속하면 이 암묵성이 비용이 된다.
너무 매끈한 증명은 오히려 배울 곳을 지워 버릴 수 있다
설명은 verification보다 fuzzy하지만, 그래서 덜 중요한 것이 아니라 tacit knowledge가 이동하는 통로이다.
어려웠던 곳에는 흔적이 남는다
현재 AI-generated mathematical text는 철자·문법·형식은 매우 매끄럽지만, 사소한 부분을 길게 설명하고 정작 새롭고 어려운 부분을 짧게 지나가거나 가리는 경향이 있다고 Tao는 평가한다. prior literature에 위치를 잡지 못하거나, 독자가 논문의 가치와 구조를 빠르게 파악할 high-level overview를 놓치는 문제도 지적한다.
여기서 그는 뜻밖의 가치를 꺼낸다. 인간이 쓴 어려운 증명에는 저자가 고생한 지점의 자연스러운 마찰이 남는다. 유난히 조심스러운 lemma, notation change, 여러 번 고친 흔적 같은 것이 독자에게 “여기서 속도를 줄이라”고 알려 준다. AI polish가 오탈자 같은 artificial friction뿐 아니라 이 natural friction까지 갈아내면, 읽기는 쉬워져도 배우기는 어려워질 수 있다.
원문은 1991년 Jean Bourgain 논문의 한 페이지에 젊은 Tao가 직접 메모와 물음표를 빽빽하게 남긴 사진을 싣는다. 완벽히 정돈된 tutorial이 아니라 어렵게 씨름한 독서 경험이 Bourgain의 사고방식을 배우는 경로였다는 개인적 사례다. 이 사진은 ‘좋은 exposition은 friction을 모두 제거하는 작업’이라는 단순한 생각에 반례 역할을 한다.
읽을 수 있는 것, 받아들여진 것, 표준 이론이 된 것은 서로 다르다
한 proof가 분야에 기여하려면 correct하고 readable한 것만으로 부족하다. 다른 수학자가 결과를 소화해 자신의 연구와 연결하고, 출판 공동체가 그것을 평가하고, 결국 후대 교육에서 표준 도구로 정착시켜야 한다. 저자는 insight, false start, 문제를 풀던 과정의 이야기를 제공해 이 digestion을 도울 수 있다. 반대로 proprietary AI의 문제 해결 과정은 불투명한 경우가 많다.
Tao는 AI evaluation이 verification 부족, attribution 누락, exposition 이상을 자동 triage하는 filter로는 유용할 수 있다고 본다. 그러나 인간 referee를 제거하는 대체재로 보지 않는다. 공동체의 acceptance는 느리고 인간적인 외부 과정이며, 개인의 achievement를 collective progress로 변환하는 핵심 장치이기 때문이다.
그보다 더 느린 것이 canonicalization이다. 첫 proof보다 더 자연스러운 proof를 선택하고, 올바른 일반성으로 다시 쓰고, 주변 이론과 연결해 textbook과 standard toolkit에 넣는다. Tao는 이 단계를 전체 과정에서 가장 AI optimization에 덜 맞고, 동시에 가장 가치 있는 단계로 본다. 역설적으로 AI 자체도 과거 인간 수학자가 수행한 canonicalization의 산물, 즉 잘 정리된 수학 지식을 training data로 삼는다.
생산 병목이 풀리면 검증·설명·심사·정전화가 새 병목이 된다
증명 scarcity를 전제로 설계한 저널, 우선권, 채용, 승진, 상, 연구 프로그램이 abundance에서 같은 방식으로 작동하리라는 보장은 없다.
proof indigestion이라는 더 사회적인 failure mode
Working Hypothesis가 맞는다면 AI-generated proof는 human verification보다 빨리 쌓일 수 있다. verified proof는 readable exposition보다 빨리 늘 수 있고, 잘 쓰인 proof까지도 volunteer expert labor에 의존하는 peer review가 감당하지 못할 수 있다. 출판된 결과조차 공동체가 definitive form으로 정리하는 속도를 앞지를 수 있다.
Bottleneck 1
Generation ≫ verification: 검증되지 않은 결과가 먼저 넘친다.
Bottleneck 2
Verification ≫ exposition: 맞지만 아무도 설명하지 못하는 결과가 늘어난다.
Bottleneck 3
Exposition ≫ peer review: 전문가의 attention이 가장 희소한 자원이 된다.
Bottleneck 4
Publication ≫ canonicalization: 논문 수와 지식의 흡수 속도가 분리된다.
AI가 새 위기를 만드는 동시에 이미 있던 과부하를 증폭한다
문헌량 증가, 대형 증명의 장기화와 전문화, referee system의 피로는 modern AI 이전부터 진행됐다. Tao의 주장은 AI가 갑자기 아무것도 없던 문제를 만든다는 것이 아니라, 이미 존재하던 scarcity-based institution의 긴장을 급격히 키운다는 데 가깝다.
따라서 우선순위 경쟁과 ‘first to solve’의 prestige는 재검토 대상이 된다. 증명 생성의 한계비용이 낮아질수록, 공동체의 희소 자원은 더 분명하게 human attention, judgment, pedagogy, synthesis 쪽으로 이동한다.
도구 사용을 숨기지 말고, 검토 비용을 떠넘기지 말며, 책임과 귀속을 인간에게 남긴다
Tao는 2026년 Leiden Declaration을 완성된 해답이 아니라 공동체가 출발할 수 있는 정책 언어로 읽는다.
23개 권고 중 개인 수학자에게 주는 네 가지를 집중해서 읽는다
Leiden Declaration on Artificial Intelligence and Mathematics는 2025년 Lorentz Center workshop에서 출발해 2026년 6월 발표됐고 International Mathematical Union이 endorse했다. 개인 수학자, 수학 기관·비영리 funder, policymaker를 향한 23개 recommendation으로 구성된다. Tao는 그중 네 가지를 자신의 problem-solving pipeline 관점에서 해설한다.
형식적으로 맞는 proof라도 인간이 설명하지 못하면 완결되지 않았다고 본다
Tao는 실용적 기준을 하나 제안한다. 저자가 자신의 결과를 정확하고 적절한 attribution과 함께 expert-level talk로 명료하게 설명할 능력을 설득력 있게 보여 주지 못한다면, 그 결과는 출판돼서는 안 된다는 것이다. formal verification은 correctness를 강하게 보장할 수 있지만, 공동체적 understanding과 authorship responsibility까지 대신하지는 못한다는 입장이다.
교육, 채용, 심사, 공공 소통까지 각각 별도의 ‘목표 함수’를 다시 써야 한다
problem solving은 사례일 뿐이다. AI가 들어오는 모든 수학 활동에서 ‘무엇을 생산했는가’와 ‘무엇을 길렀는가’를 분리해서 봐야 한다.
학생의 정답과 수학자의 성장은 같은 metric이 아니다
Tao는 teaching, mentoring, hiring, grant application, refereeing, public outreach에도 같은 분석이 필요하다고 말한다. 결론은 영역마다 달라질 수 있다. 특히 교육과 젊은 수학자 훈련에서는 irreducibly human aspect를 강조하며 AI 사용을 꽤 엄격히 제한할 필요가 있다고 본다. 수학자를 훈련하는 목표는 correct homework를 생산하는 것과 같지 않기 때문이다.
다른 영역에서는 수학자 공동체가 vendor가 정한 방식에 끌려가기보다 먼저 AI best practice를 정의해야 한다. collaborative formalization, structured problem database, exposition 전용 venue, negative/partial result를 기록하는 새로운 publication infrastructure가 그 후보이다. 마지막으로 AI capability와 공동체의 goals/values 두 질문 모두에 대해 공개적이고 정직한 토론이 필요하다고 촉구한다.
이 글 자체가 주장하는 transparency를 실천한다
원고는 2026년 7월 ICM 공개 강연을 바탕으로 하며, Tao는 Bryna Kra, Jeremy Avigad, Martin Hairer, Akshay Venkatesh, Emily Riehl의 초기 강연 원고 피드백에 감사한다. 또한 이 paper를 준비하면서 AI assistance를 literature search, diagram generation, text autocomplete, slide-to-paper conversion에 사용했다고 명시한다.
이 disclosure는 부록이 아니라 논지의 일부처럼 읽힌다. AI를 썼느냐보다 어떻게 썼고 어디까지 책임지는지 기록해야 한다는 권고를, 저자 자신의 문서 생산 과정에도 적용하기 때문이다.
이미 시작된 새로운 수학 인프라
Mathlib
Lean 기반 unified formalized mathematics library.
Mathematical Discourse
research talk를 위한 peer-reviewed video journal.
Erdős problems database
문제와 해결 상태를 구조화해 축적하는 데이터베이스.
Optimization constants DB
최적화 상수 문제를 모으는 공개 repository.
SAIR competitions
AI mathematics competition infrastructure.
First Proof
frontier AI의 genuinely novel mathematics를 독립적으로 평가하는 프로젝트.
Palomar registry
formalized proof registry.
Design principle
생성 속도가 아니라 검증·귀속·소화·재사용을 도울 구조가 중요하다.