The machine served it. Someone still had to chew.
2026년, 수학자들이 아침에 일어나 타임라인부터 새로고침하기 시작했습니다. 5월엔 80년 된 에르되시의 추측이, 7월엔 87년 된 야코비안 추측이 무너졌고, 8월엔 미해결 문제 열 개를 한꺼번에 들고 온 249쪽짜리 리포트가 나왔습니다 — 전부 처음 답을 내놓은 것이 사람이 아니었기 때문에 소란스러웠죠. 이 페이지는 그 사건들이 수학적으로 정확히 무엇이었는지를 직접 만져 보고, 이어서 "AI가 수학을 풀었다"는 말이 어디까지 참인지를 따져 봅니다.
2026년 7월 20일, 월드컵 결승이 열리던 일요일 오후. 수학자 레벤트 알푀게가 X에 짧은 글과 함께 다항식 세 줄을 올렸습니다. 1939년 켈러가 낸 뒤 87년간 아무도 못 건드린 야코비안 추측의 반례였습니다. 그것도 Claude Fable 5와 몇 시간 씨름해 나온 결과라는 말과 함께요.
추측은 이렇게 생겼습니다. 다항식으로만 이루어진 사상 \(F:\mathbb{C}^n\to\mathbb{C}^n\)이 있고, 그 야코비 행렬식이 0이 아닌 상수라고 합시다. 그러면 \(F\)의 역함수도 다항식일까?
왜 그럴듯하냐면 — 역함수 정리가 반쯤 보증해 주기 때문입니다. 행렬식이 0이 아닌 점에서는 그 근처가 항상 뒤집힙니다. 그런데 상수라면 모든 점에서 뒤집히죠. "어디서나 국소적으로 뒤집히는데 전역적으로 안 뒤집힐 리가 있나?" — 87년간 이 직관이 이겼습니다.
사실 경고는 있었습니다. 실수 위에서 "행렬식이 0이 아니다"(상수까지는 아니고)로 약화한 실 야코비안 추측은 1994년 핀추크가 차수 10·35짜리 다항식으로 반례를 만들어 이미 무너뜨렸거든요. 국소는 전역을 뜻하지 않는다는 것 자체는 알려져 있었던 겁니다. 남은 문제는 "행렬식이 상수"라는 훨씬 센 조건이었고요.
더 얄궂은 사실. 사람들은 이미 거의 반례를 손에 쥐고 있었습니다. 비투슈킨의 오래된 장난 같은 예:
$$ F(x,y)=\Bigl(x^2y^6+2xy^2,\; xy^3+\tfrac1y\Bigr),\qquad \det JF \equiv -2. $$행렬식은 정확히 상수 \(-2\)이고, 단사도 아닙니다 — \(F(-3,-1)=F(1,1)=(3,2)\)로 두 점이 한 점에 겹쳐요.
조건을 다 만족하는 것처럼 보이죠? 딱 하나가 걸립니다. 1/y. 이건 다항식이 아니고,
\(y=0\)에서 정의되지도 않습니다. 켈러의 추측은 평면 전체에서 정의된 다항식 이야기니까 반례가 될 수
없었죠. 수십 년간 이 예는 "아쉽지만 안 되는 것"으로 남아 있었습니다.
그 반례는 이렇게 생겼습니다.
$$ \begin{aligned} F_1 &= (1+xy)^3 z + y^2(1+xy)(4+3xy),\\ F_2 &= y + 3x(1+xy)^2 z + 3xy^2(4+3xy),\\ F_3 &= 2x - 3x^2y - x^3 z. \end{aligned} $$야코비 행렬식을 손으로 전개하면 \(3\times 6=18\)차까지 나올 수 있는 괴물입니다. 그런데 상수항만 빼고 전부 상쇄돼서 남는 값이
$$ \det JF \equiv -2. $$그리고 단사가 아닙니다. 예를 들어 \((0,0,-\tfrac14)\)와 \((1,-\tfrac32,\tfrac{13}{2})\)는 같은 점 \((-\tfrac14,0,0)\)으로 갑니다(하나 더 있습니다 — \((-1,\tfrac32,\tfrac{13}{2})\)). 이걸로 \(n\ge 3\)에서 야코비안 추측은 거짓입니다. 남은 좌표에 항등함수를 붙이면 더 높은 차원으로 그대로 번지니까요. 다만 \(n=2\), 평면의 경우는 지금도 미해결입니다.
말로만 하면 안 믿기니 만져 봅시다. 목표점 \((A,B,0)\)을 주면 원상은 정확히 풀립니다 — 세 식이 \(z\)에 대해 1차라 소거하면 \(x\)에 대한 3차식만 남고, 이 단면에서는 답이 이렇게 떨어져요:
$$ x=0 \quad\text{또는}\quad x=\pm\frac{2}{\sqrt{B^2-16A}}. $$그래서 \(B^2>16A\)인 곳에선 실수 원상이 셋, 포물선 \(B^2=16A\)를 넘어가면 둘이 무한대로 달아나 하나만 남습니다(복소수까지 세면 언제나 셋이고요). 두 갈래가 부딪쳐서 사라지는 일은 절대 없습니다 — 합쳐지려면 야코비 행렬식이 0이어야 하는데, 그게 \(-2\)니까요.
시작 상태의 목표점 \((-\tfrac14,0,0)\) 위에 놓인 세 점이 바로 발표에 등장한 \((0,0,-\tfrac14)\), \((1,-\tfrac32,\tfrac{13}{2})\), \((-1,\tfrac32,\tfrac{13}{2})\)입니다.
이 그림이 곧 반례의 정체입니다. 국소적으로는 완벽하게 가역(뉴턴법이 늘 수렴)인데, 전역적으로는 3대 1. 87년간 "그럴 리 없다"고 믿었던 바로 그 조합이죠. 다음 날 테런스 타오가 블로그에 이 반례를 기하학적으로 재구성해 올렸고 — 1·2차 동차다항식의 곱셈 사상에서 자연스럽게 나온다는 것을 보였습니다 — Isabelle/HOL로 형식 검증한 결과도 공개됐습니다.
두 달 앞선 5월엔 더 오래된 문제가 무너졌습니다. 문제 자체는 초등학생도 이해합니다.
점 세 개로 정삼각형을 만들면 3쌍, 네 개로 마름모를 만들면 5쌍… 이렇게 욕심을 내면 얼마나 갈까요. 소수 편에도 나오는 그 에르되시가 1946년에 답의 모양을 내놓았습니다. 위로는
$$ u(n) \;=\; O\!\left(n^{4/3}\right) \quad(\text{1984년까지 개선된 상한}), $$아래로는 자기가 만든 격자 구성으로 \(u(n) \ge n^{1+c/\log\log n}\). 이 하한은 \(n^{1+\varepsilon}\)보다 느리게 자랍니다 — 어떤 고정된 \(\varepsilon>0\)을 잡아도 결국은 그보다 작아지죠. 에르되시는 이쪽이 진실이라고 믿었습니다. 즉 \(u(n)=n^{1+o(1)}\)이라고요. 그리고 이걸 증명하는 사람에게 500달러를 걸었습니다.
그의 구성은 놀랍도록 단순합니다. \(\sqrt n \times \sqrt n\) 정수 격자를 찍고, "1"을 적당한 \(\sqrt d\)로 잡는 것. 그러면 단위거리 쌍의 수는 \(d\)를 두 제곱수의 합으로 쓰는 방법의 수가 결정합니다. 그리고 이 표현의 개수는 \(d\)가 \(5,13,17,29,\dots\) 같은 \(4k+1\) 꼴 소수들의 곱일수록 폭발하죠 — 가우스 정수의 소인수분해가 그렇게 시켜서요.
아래에서 격자 크기와 \(d\)를 바꿔 가며 직접 세어 보세요. \(d=1\)이면 가로세로 이웃만 이어져 초라하지만, \(d=65=5\cdot13\)으로 바꾸는 순간 격자가 거미줄이 됩니다.
2026년 5월, OpenAI의 내부 모델이 에르되시의 예상을 깨는 구성을 내놓았습니다. 어떤 고정된 \(\delta>0\)에 대해 \(u(n) > n^{1+\delta}\)인 점 배치가 존재한다는 것 — 즉 \(u(n)=n^{1+o(1)}\)은 거짓입니다. 곧이어 프린스턴의 윌 소윈이 지수를 명시적으로 붙였습니다:
$$ u(n) \;>\; n^{1.014} \quad (\text{무한히 많은 } n\text{에 대해}). $$구성의 아이디어가 근사합니다. 에르되시가 정수 격자를 썼다면, 새 구성은 그 자리에 대수적 수체의 정수환을 끼워 넣습니다. 판별식은 작으면서 노름이 작은 소수를 많이 갖는 수체를 골로트–샤파레비치 판정법으로 만들어 내면, 그 격자에서는 "같은 길이"가 정수 격자보다 훨씬 많이 반복되거든요. 80년 동안 아무도 정수 격자 밖으로 나가 볼 생각을 안 했던 셈입니다.
두 사건만 보면 "AI가 이제 수학을 한다"로 들리지만, 실제 성과의 결은 조금씩 다릅니다. 2025~2026년에 실제로 검증된 것들을 늘어놓아 보죠.
공통점이 보이시나요. 확실한 성과는 죄다 답을 내놓으면 검증이 싼 종류입니다 — 반례, 구성, 더 좋은 배치, 형식화된 증명. 그리고 2026년 8월, 이 목록에 가장 큰 한 건이 추가됩니다.
2026년 8월 1일, OpenAI가 미공개 내부 모델로 얻었다는 결과를 한꺼번에 공개했습니다. 미해결 문제 10개, 원고 249쪽, 그리고 모든 증명에 대한 Lean 4 인증서를 깃허브에 함께요. 열 문제를 다 푸는 데 쓴 계산 비용은 합쳐서 2,000달러 남짓이라고 했습니다.
간판 결과는 군론이었습니다. 비(非)소픽 군의 명시적 구성.
27년간 아무도 반례를 찾지 못했습니다. 그럴 만도 한 게, "소픽이면 참"이라고 알려진 정리가 잔뜩이라 — 모든 군이 소픽이라면 그 정리들이 전부 무조건 참이 되는, 수학자 입장에서 희망적인 세계였거든요. 8월의 리포트는 그 희망을 끝냈습니다. 이진 리빗 대수의 단위군 안에서 소픽이 아닌 유한생성 부분군을 실제로 지목해 버렸으니까요.
그리고 여기서부터가 이 페이지의 제목 그대로입니다. 사흘 뒤, 케임브리지의 군론 연구자 프란체스코 푸르니에파시오가 논문을 하나 올립니다. 그 증명을 읽고 핵심 부품만 뽑아낸 것이었죠 — 중요한 건 리빗 대수가 아니라 쿤과 쿤–톰의 판정법이라는 것. 그러자 같은 재료로 꼬임 없는(torsion-free) 유한표시 비소픽 군이라는 더 좋은 예가 나왔습니다. 기계가 말아 준 것을 사람이 씹어서 소화한 사흘이었습니다.
그래서 이 사건은 양쪽 모두 진실입니다. 결과는 진짜였고(사람이 사흘 만에 확장할 만큼 튼튼했고), 포장은 부풀려져 있었습니다. 여기서 배울 게 하나 있어요.
그래서 이 이야기엔 반대편 사례가 꼭 필요합니다. 2025년 10월, OpenAI 쪽 인사들이 잇달아 올렸습니다 — "GPT-5가 미해결 에르되시 문제 10개를 풀고 11개에서 진전을 냈다."
몇 시간 만에 뒤집혔습니다. 실제로 일어난 일은 미해결 문제를 푼 게 아니라, erdosproblems.com에 "미해결"로 적혀 있던 문제들의 이미 존재하던 답을 문헌에서 찾아낸 것이었거든요. 어떤 건 20년 전에 풀린 문제였습니다. 데이터베이스를 관리하는 토머스 블룸이 "사실과 심각하게 어긋난다"고 정정했고, 데미스 하사비스는 "embarrassing"이라고 했죠. 처음 글을 올린 세바스티앙 뷔벡도 "AI가 스스로 새 결과를 발견했다는 게 아니라, 기존 지식을 훑는 데 강하다는 뜻이었다"고 물러섰습니다.
이 소동이 남긴 교훈은 이 페이지 전체를 관통합니다. 검증 비용의 비대칭이죠. 게임, 컴퓨터가 되다 편에서 본 P와 NP의 그 구도 — 찾기는 어렵지만 확인은 쉽다 — 가 그대로 재현됩니다. 야코비안 반례는 세 줄이라 몇 분이면 확인되고, 단위거리 구성은 명시적이라 사람이 지수를 다시 계산할 수 있었습니다. 반대로 "증명했다"는 주장은 확인에만 몇 달이 들고, 그래서 아직 조심스럽습니다.
2026년에 벌어진 일을 한 줄로 줄이면 이렇습니다. AI는 후보를 내놓았고, 수학으로 만든 건 검증이었다. 야코비안 반례는 트윗으로 나와 컴퓨터 대수로 확인되고, 다음 날 사람 손에 기하학적으로 재구성되고, 며칠 뒤 형식 증명으로 굳었습니다. 단위거리 구성은 지수가 명시되고 나서야 \(n^{1.014}\)라는 정리가 됐고요.
그리고 남은 것들을 보면 겸손해집니다. 야코비안 추측은 평면(2차원)에서 여전히 열려 있고, 단위거리의 상한은 아직도 1984년의 \(n^{4/3}\)입니다. 무너진 건 두 개의 믿음이었지 두 개의 문제가 아니었어요. 오히려 문제는 더 재미있어졌습니다 — 이제 진짜 답이 어디쯤인지 아무도 모르니까.
8월의 249쪽짜리 리포트가 그 구도를 가장 선명하게 보여 줬고요. 비소픽 군은 진짜였지만, 그 증명을 쓸모 있는 정리로 바꾼 건 사흘 뒤 부품을 뽑아낸 사람이었고, 부풀려진 문장을 잡아낸 것도 사람이었습니다. 기계는 맞다까지 자동화했지 새롭다와 누구 덕이다까지 자동화하지는 못했습니다.
패턴을 믿지마 편에서 우리는 "9억 번을 확인해도 거짓인 추측"들을 봤습니다. 87년과 80년은 그보다 훨씬 긴 시간이지만, 결국 같은 이야기입니다. 오래 믿었다는 건 참이라는 증거가 아니고 — 이번엔 그 사실을 기계가 먼저 알려 줬을 뿐입니다.