Awfully sophisticated proofs for simple facts
한 줄이면 끝날 사실을, 굳이 357년 묵은 대정리나 위상수학으로 때려잡은 사례들. 파리 잡겠다고 대포를 쏘는 격이지만 — 그 과한 풍경 속에 수학의 숨은 연결이 드러납니다.
수학에는 당연하다시피 한 사실이 많습니다. 소수가 무한히 많다거나, 세제곱근 2가 무리수라거나. 보통은 중학생도 따라갈 한 줄짜리 논증으로 끝나죠. 그런데 수학자들은 가끔, 바로 그 사실을 터무니없이 무거운 도구로 다시 증명하며 즐거워합니다.
MathOverflow의 명물 질문 "Awfully sophisticated proof for simple facts"에 그런 보석들이 잔뜩 모여 있습니다. 그저 농담일까요? 꼭 그렇진 않습니다. 거대한 정리로 사소한 사실을 건드려 보면, 그 둘이 사실 같은 뿌리에서 자랐음이 드러나곤 하거든요. 오버킬은 유머이자, 동시에 지도(地圖)입니다.
정상적인 증명은 한 줄입니다. \(\sqrt[3]{2}=a/b\)(기약)이면 \(2b^3=a^3\), 소인수 \(2\)의 지수를 양변에서 세면 왼쪽은 \(3k+1\), 오른쪽은 \(3m\) 꼴이라 같을 수 없죠(유리근 정리 한 방이면 끝).
이제 대포를 꺼냅니다. \(\sqrt[n]{2}=a/b\)라 하면 \(2b^n=a^n\), 즉
$$ b^n + b^n = a^n. $$그런데 \(n\ge3\)에서 \(x^n+y^n=z^n\)을 만족하는 양의 정수는 없습니다 — 바로 페르마의 마지막 정리(앤드루 와일스, 1994). 모순이므로 \(\sqrt[n]{2}\)는 무리수. 357년을 버틴 난제로, 중학생도 아는 사실을 잡은 셈입니다.
2300년 전 유클리드가 한 줄로 끝낸 이 사실은, 무슨 까닭인지 온갖 무거운 도구를 끌어들이는 자석이 되었습니다. 같은 결론에 이르는 전혀 다른 대포들을 구경해 보죠.
유클리드의 한 줄을 굳이 위상수학(푸르스텐베르크, 1955)이나 \(\zeta(2)=\pi^2/6\)이 무리수라는 사실 (학스)로 때려잡은 두 사례가 특히 유명하죠 — 이 둘을 포함한 200가지 가까운 증명은 〈소수는 무한, 증명도 무한〉에 따로 모아 두었습니다. 여기선 더 큰 대포들만 짚고 넘어갑니다.
사실 이건 "간단"하다기보다, 순수 대수만으로는 의외로 까다로운 명제라 늘 큰 도구를 부릅니다. 가장 그림 같은 건 위상수학 버전이죠. 반지름이 큰 원 \(|z|=R\)을 따라 \(p(z)\)가 원점을 도는 횟수(감음수, winding number)는 최고차항이 지배하므로 차수 \(n\). 반면 \(R\to0\)인 작은 원에선 \(p(z)\approx p(0)\)이라 도는 횟수가 \(0\). 만약 \(p\)에 근이 없다면 \(R\)을 줄이며 연속적으로 변형해도 감음수가 보존돼야 하는데 — \(n\neq0\)이라 모순. (\(\pi_1(S^1)=\mathbb{Z}\)가 바로 이 "도는 횟수"의 정체입니다.)
복소해석의 리우빌 정리로는 더 짧습니다. 근이 없다면 \(1/p(z)\)가 유계인 전해석함수가 되어 상수여야 하니, \(p\)도 상수 — 가정에 모순.
증명? — 4색정리에 의해 모든 평면 지도가 네 색이면 충분하므로, 이 지도도 당연히 그러합니다. 그런데 4색정리는 아펠과 하켄(1976)이 1900여 개의 경우를 컴퓨터로 일일이 검증해 증명한, 수학사 최초의 대규모 기계 증명입니다. 눈앞의 작은 지도 하나를 위해 그 거대한 결과를 인용하는 건 — 명백한 과잉이죠. (정작 그 작은 지도는 손으로 몇 초면 칠합니다.)
로버트슨–시모어 그래프 마이너 정리는, 마이너 연산에 닫힌 임의의 그래프 집합이 유한개의 금지 마이너로 특징지어진다고 말합니다. 여기서 "각 금지 마이너를 포함하는지 다항시간에 검사할 수 있다"는 보조정리를 더하면 — 그런 성질은 모두 다항시간 판정 가능이 따라옵니다.
오버킬을 넘어 기괴한 점은 따로 있습니다. 이 정리는 "그런 다항시간 알고리즘이 존재한다"만 보장할 뿐, 그 알고리즘이 무엇인지는 알려 주지 않습니다. 금지 마이너 목록을 실제로 모르더라도 결론은 참이죠 — 순수하게 비구성적인, 으스스한 오버킬입니다.
이건 체비쇼프가 처음 증명했고, 훗날 에르되시가 이항계수만 가지고 한 페이지로 끝낸 초등 증명이 교과서의 보석으로 남아 있습니다. 그런데 굳이 대포를 쓰자면 — 소수 정리 \(\pi(x)\sim x/\ln x\)에서 \(\pi(2n)-\pi(n)\sim n/\ln n \to\infty\)임을 보이면, (충분히 큰 \(n\)에서) \(n\)과 \(2n\) 사이 소수의 개수가 무한정 늘어남까지 한꺼번에 나옵니다. "하나는 있다"를 묻는데 "갈수록 많아진다"로 답하는 격이죠.
대각화 가능한 행렬에선 거의 자명합니다 — 고유값 \(\lambda\)마다 \(\chi_A(\lambda)=0\)이니, 고유기저에서 \(\chi_A(A)\)는 영행렬이죠. 오버킬은 여기서 일반 행렬로 건너뛰는 방식에 있습니다. "대각화 가능한 행렬들은 (복소수에서) 전체 행렬 공간에 조밀하게 깔려 있고, \(\chi_A(A)\)의 각 성분은 \(A\)의 성분에 대한 다항식이라 연속이다. 조밀집합에서 \(0\)인 연속함수는 어디서나 \(0\)" — 이렇게 위상·대수기하의 다항식 항등식 원리(자리스키 위상에서의 조밀성)를 끌어와 한 방에 마무리합니다.
1969년, D. J. 루이스는 책 《Studies in Number Theory》에 실린 글 "Diophantine equations: p-adic methods"에서 이 방정식의 정수해가 많아야 18개라고 — 증명 없이 — 적었습니다. 곧 핀켈스타인과 런던이 답을 내놓죠. 해는 18개가 아니라 0개라고. 그들의 도구는 대수적 정수론이었습니다. 세제곱근의 체 \(\mathbb{Q}(\sqrt[3]{117})\)에서 \(x^3-117y^3\)은 원소 \(x-\sqrt[3]{117}\,y\)의 노름(norm)인데, 이 체의 정수환에 노름이 \(5\)인 원소가 존재하지 않음을(아이디얼의 소인수분해를 일일이 따져) 보여 해가 없음을 증명했습니다.
그로부터 약 2년 뒤, 발레리우 St. 우드레스쿠가 한 줄로 정리합니다. 양변을 \(9\)로 나눈 나머지로 보면 됩니다. \(117 = 13\times 9\)이라 \(117y^3 \equiv 0\)이고, 정수의 세제곱은 \(\bmod\,9\)에서 오직 \(0,\,1,\,8\) 세 값뿐입니다. 그러므로
$$ x^3 - 117y^3 \equiv x^3 \equiv 5 \pmod 9 $$가 성립해야 하는데, \(5\)는 그 세 값에 없습니다 — 모순. 끝. 대수적 정수론의 정교한 기계 전체가, 중학교 합동식 한 줄로 대체된 셈입니다. 이 페이지가 하고 싶은 말이 이 한 사례에 고스란히 담겨 있죠.
오버킬은 분명 비효율의 극치입니다. 하지만 수학자들이 이걸 수집하고 즐기는 데엔 이유가 있습니다.
한 줄이면 될 일을 굳이 대포로. 그 과함이 가리키는 곳에, 종종 수학의 가장 깊은 풍경이 있습니다.