자연수에서 시작해, 자연스럽게, 모든 곳으로
자연수에서만 정의되던 것을 실수로, 복소수로, 더 넓은 곳까지 "자연스럽게" 늘리는 것 — 수학의 가장 강력하고 짜릿한 기술입니다. 그 끝에는 \(1+2+3+\cdots=-\tfrac1{12}\) 같은 충격적인 등식이 기다리고 있죠.
자연수를 끝없이 더합니다. \(1+2+3+4+\cdots\). 당연히 한없이 커져 무한대로 발산하죠. 그런데 물리학 책과 유튜브에 종종 등장하는 이 충격적인 등식이 있습니다.
$$ 1 + 2 + 3 + 4 + \cdots \;=\; -\frac{1}{12} $$사기 같죠? 양수만 더했는데 음수, 그것도 분수라니. "그냥 더하면" 답은 분명히 무한대가 맞습니다. 하지만 이 식이 뜻하는 건 다릅니다 — 이 발산하는 합을 품은 함수를 "가장 자연스럽게" 확장하면, 그 자리에 \(-\tfrac1{12}\)이 앉아 있다는 겁니다. 그 "자연스럽게"가 오늘의 주제입니다. 몸풀기부터 시작하죠. (참고로 이 \(-\tfrac1{12}\)의 그 12가 모듈러 형식·기하 곳곳에서 다시 튀어나오는 이야기는 12, 또 너야? 편에 따로 있습니다.)
\(n! = 1\cdot2\cdots n\)은 자연수에서만 정의됩니다. 그렇다면 \((\tfrac12)!\)은 얼마일까요? 점 \((1,1),(2,2),(3,6),(4,24),\dots\) 사이를 잇는 매끄러운 곡선이야 무수히 많지만, 그중 가장 자연스러운 단 하나가 바로 감마 함수 \(\Gamma\)입니다.
$$ \Gamma(n+1) = n!, \qquad \Gamma\!\left(\tfrac12\right) = \sqrt{\pi} $$감마 함수는 정수 점들에서 팩토리얼과 정확히 일치하면서, 실수와 복소수 어디에서나 매끄럽게 이어집니다. 그런데 여기서 곧장 묻고 싶어집니다 — 점 \((1,1),(2,2),(3,6),\dots\) 사이를 잇는 매끄러운 곡선은 사실 무한히 많은데, 왜 하필 감마가 "그" 확장일까요? 이 물음에 답해야 비로소 "자연스럽다"는 말이 정당해집니다.
정수 점들을 지나는 매끄러운 곡선은 정말로 무한히 많습니다. 감마 함수에 \(\sin(\pi x)\)처럼 정수마다 정확히 0이 되는 무언가를 곱해 보면, 정수 점은 그대로 통과하면서도 사이가 제멋대로 출렁이는 "가짜 팩토리얼"이 얼마든지 만들어지죠. 아래 슬라이더로 직접 출렁여 보세요.
그렇다면 무엇이 감마를 "그" 확장으로 못 박을까요? 답은 보어–몰레루프 정리입니다. 다음 세 조건을 모두 만족하는 함수는 감마뿐입니다.
① \(f(1)=1\) · ② \(f(x+1)=x\,f(x)\) (팩토리얼의 점화식) · ③ \(\log f(x)\)가 볼록(로그-볼록)
앞의 두 조건은 "팩토리얼을 이어받는다"는 당연한 요구입니다. 결정적인 건 ③ — 위의 출렁이는 가짜들은 전부 이 로그-볼록성을 깨뜨립니다. 거꾸로 ③을 포기하면 다른 확장도 가능해서, 실제로 극점이 하나도 없이 매끈한 하다마드 감마 함수 같은 대안이 존재하죠.
감마 함수의 "유일함"은 우연이 아닙니다. 복소수 위에서 매끄러운(미분 가능한) 함수, 이른바 정칙(holomorphic) 함수는 믿기 어려울 만큼 뻣뻣합니다. 작은 한 조각의 값만 알아도 나머지 전체가 유일하게 결정되죠(항등 정리). 그래서 일부 영역에서만 정의된 함수를 더 넓은 곳으로 늘리는 길은 — 있다면 — 오직 하나뿐입니다. 이것이 해석적 연속(analytic continuation) 입니다.
이제 주인공 리만 제타 함수. 정의는 익숙한 무한합입니다.
$$ \zeta(s) = \sum_{n=1}^{\infty} \frac{1}{n^{s}} = \frac{1}{1^{s}}+\frac{1}{2^{s}}+\frac{1}{3^{s}}+\cdots $$이 합은 \(\mathrm{Re}(s)>1\)일 때만 수렴합니다. 하지만 해석적 연속은 \(\zeta\)를 \(s=1\) 한 점만 빼고 복소평면 전체로 유일하게 늘려 줍니다. 그렇게 늘린 함수의 \(s=-1\)에서의 값을 계산하면:
$$ \zeta(-1) = -\frac{1}{12} $$그런데 정의식에 형식적으로 \(s=-1\)을 넣으면 \(\sum n^{1} = 1+2+3+\cdots\). 그래서 \(1+2+3+\cdots\)는 "발산하는 합 자리에 자연스러운 확장이 매겨 준 값"이라는 뜻으로 \(-\tfrac1{12}\)과 등치됩니다. literal하게 더한 값이 아니라, 그 합을 품은 유일한 함수가 그 자리에서 갖는 값인 거죠.
\(-\tfrac1{12}\)이 의심스러운 가장 큰 이유는 "제타 함수로 그렇게 정의했을 뿐, 자의적인 거 아냐?" 라는 의심일 겁니다. 그 의심을 푸는 열쇠는 이거예요 — 발산급수에 값을 매기는 "자연스러운" 방법이 여럿 있는데, 그것들이 서로 같은 답을 낸다.
가장 작은 예, 그란디 급수 \(1-1+1-1+\cdots\)를 봅시다. 부분합은 \(1,0,1,0,\dots\)로 영원히 진동해 수렴하지 않습니다. 그런데 두 가지 점잖은 방법이 똑같이 \(\tfrac12\)을 가리킵니다.
· 체사로 합: 부분합들의 평균을 보면 \(1,\tfrac12,\tfrac23,\tfrac12,\dots \to \tfrac12\).
· 아벨 합: \(1-x+x^2-\cdots=\dfrac{1}{1+x}\)에 \(x\to1^-\)을 넣으면 \(\dfrac12\).
\(1+2+3+\cdots\)도 마찬가지입니다. 제타 함수의 해석적 연속, 라마누잔 합, 그리고 적절한 정규화가 하나같이 \(-\tfrac1{12}\)을 가리키죠. 길이 여럿인데 도착지가 같다면, 그건 우연이 아니라 그 자리에 정말로 그 값이 "있다"는 뜻입니다. \(-\tfrac1{12}\)이 임의의 장난이 아닌 이유입니다.
"자연스러운 확장"은 현대의 묘기가 아니라 수학의 본능입니다. 우리가 아는 수의 세계 자체가, "이 연산이 항상 되게 하려면?"이라는 물음에 답하며 한 겹씩 넓혀 온 결과거든요.
| 확장 | 왜? | 한때의 저항 |
|---|---|---|
| \(\mathbb N \to \mathbb Z\) | \(5-7\) 같은 뺄셈을 항상 하려고 (음수) | "음수는 터무니없다" |
| \(\mathbb Z \to \mathbb Q\) | \(3 \div 4\) 같은 나눗셈을 항상 하려고 (분수) | — |
| \(\mathbb Q \to \mathbb R\) | \(\sqrt2,\ \pi\) — 유리수로 못 메우는 빈틈 (극한) | "무리수(無理)"라는 이름 |
| \(\mathbb R \to \mathbb C\) | \(x^2+1=0\)을 풀려고 (\(i=\sqrt{-1}\)) | "허수(虛, imaginary)"라는 비아냥 |
| \(\mathbb C \to \mathbb H\) | 3차원 회전을 다루려고 (해밀턴의 사원수, 1843) | 곱셈의 교환법칙을 포기 |
매 단계마다 "그런 수가 어디 있냐"는 반발이 있었지만, 결국 전부 없어선 안 될 도구가 되었습니다. 음수·무리수·허수라는 이름에 남은 멸칭이 그 저항의 화석이죠. 패턴은 늘 같습니다 — 막힌 연산을 항상 되게 하려고 세계를 넓힌다.
위 표에서 \(\mathbb Q \to \mathbb R\)는 "유리수 사이의 빈틈을 극한으로 메운다(완비화)"는 단계였습니다. 그런데 "가깝다"를 어떻게 재느냐에 따라 빈틈의 모양이 달라지고, 메운 결과도 달라집니다. 그렇다면 거리를 아예 다르게 잴 수도 있지 않을까요? 본격적인 정의에 앞서, 먼저 이상한 현상 하나를 구경해 봅시다.
정수 5를 계속 제곱해 봅니다. \(5,\ 25,\ 625,\ 390625,\dots\). 그런데 신기하게도, 제곱할 때마다 끝자리부터 차례로 영구히 고정됩니다 — 한 번 굳은 끝자리는 두 번 다시 바뀌지 않아요. 수가 마치 오른쪽에서부터 굳어 가는 셈이죠.
보통의 거리로 보면 \(5,25,625,\dots\)는 한없이 멀어질 뿐인데, "끝자리가 같을수록 가깝다"고 보면 이 수열은 한 점으로 수렴합니다. 바로 이 감각 — 낮은 자리 끝이 얼마나 일치하는가로 거리를 재는 것 — 을 정식화한 것이 p진수(p-adic number)입니다.
소수 \(p\)를 하나 고르고, "\(p\)로 많이 나누어떨어지는 수일수록 작다"고 약속합니다. 즉 \(|p^n|_p = p^{-n}\) — \(p\)의 높은 거듭제곱일수록 0에 가깝습니다. 이 거리로 \(\mathbb Q\)를 완비화하면 우리에게 익숙한 \(\mathbb R\)가 아니라 완전히 다른 수 체계, p진수 \(\mathbb Q_p\)가 태어납니다.
여기선 직관이 뒤집힙니다. 예컨대 왼쪽으로 무한히 뻗는 수 \(\dots9999\)에 1을 더해 보면, 받아올림이 끝없이 왼쪽으로 가 모든 자리가 0이 됩니다. 즉 \(\dots9999 = -1\)이죠.
오스트로프스키 정리는 한 발 더 나갑니다 — \(\mathbb Q\) 위에서 "거리"라 부를 만한 것은 본질적으로 보통의 절댓값과 각 소수 \(p\)의 p진 거리가 전부라는 겁니다. 그러니 \(\mathbb R\)는 유리수를 완성하는 유일한 길이 아니라, 소수마다 하나씩 있는 형제들(\(\mathbb Q_2,\mathbb Q_3,\dots\)) 중 하나일 뿐입니다. 이 p진수들은 오늘날 정수론(페르마의 마지막 정리 증명에도!)에서 없어선 안 될 도구죠.
확장은 함수를 새 정의역으로 늘리는 것만이 아닙니다. 정의식은 그대로 둔 채, 넣는 대상만 바꾸는 확장도 있죠. 지수함수가 대표선수입니다.
$$ e^{x} = 1 + x + \frac{x^2}{2!} + \frac{x^3}{3!} + \cdots $$이 급수에서 \(x\)를 실수에 가둘 이유는 어디에도 없습니다. 무엇이든 넣어 보죠.
· 허수를 넣으면 → \(e^{i\theta}=\cos\theta+i\sin\theta\) (오일러 공식).
\(\theta=\pi\)에서 \(e^{i\pi}=-1\), 곧 \(e^{i\pi}+1=0\) — 수학에서 가장 아름답다는 등식.
· 행렬을 넣으면 → 행렬 지수 \(e^{At}\). 미분방정식 \(\mathbf x'=A\mathbf x\)의 해이고,
회전·진동 같은 동역학이 통째로 여기서 나옵니다.
· 미분 연산자를 넣으면 → \(e^{h\,d/dx}f(x)=f(x+h)\). 미분 연산자 \(d/dx\)를 지수에
올린 것이 곧 "\(h\)만큼 평행이동"입니다(테일러 전개의 다른 얼굴).
미분 연산자마저 지수에 올릴 수 있다면 — 자연스러운 다음 질문은 이겁니다. 미분을 "분수 번" 할 수는 없을까?
미분을 \(n\)번 하는 연산 \(\dfrac{d^n}{dx^n}\). 여기서 \(n\)을 자연수에 가둘 이유가 있을까요? ½번 미분한다는 건 무슨 뜻일까요? 놀랍게도 이 질문은 1695년 라이프니츠와 로피탈이 편지로 주고받은, 300년이 넘은 물음입니다.
실마리는 또 감마 함수입니다. 단항식의 미분 \(\dfrac{d^a}{dx^a}x^k\)를 정수 \(a\)에 대해 적어 보면 \(\dfrac{k!}{(k-a)!}x^{k-a}\) 꼴인데, 팩토리얼을 감마로 바꾸면 \(a\)가 정수가 아니어도 말이 됩니다.
$$ \frac{d^{a}}{dx^{a}}\,x^{k} \;=\; \frac{\Gamma(k+1)}{\Gamma(k-a+1)}\,x^{\,k-a} $$예컨대 \(x\)를 반미분하면 \(\dfrac{d^{1/2}}{dx^{1/2}}x = \dfrac{2}{\sqrt\pi}\sqrt{x}\). 이걸 한 번 더 반미분하면 정확히 보통 미분 한 번 \((=1)\)이 됩니다. "반쪽 미분"이 두 번 모여 한 번이 되는 거죠. 더 나아가 미분 횟수를 허수 \(a=i\)로 두는 것도 정의됩니다 — 미분의 "횟수"마저 복소수로 확장한 셈입니다.
마지막으로, 가장 정수처럼 보이는 것 — 차원마저 늘려 봅시다. 선은 1차원, 면은 2차원. 그 사이에 \(1.26\)차원 같은 게 있을 수 있을까요?
실마리는 "차원"을 자기닮음으로 다시 정의하는 데 있습니다. 어떤 도형을 \(1/s\)로 줄인 복제본 \(N\)개로 꼭 덮을 수 있다면, \(N=s^{\,d}\)에서 차원을 \(d=\dfrac{\log N}{\log s}\)로 잡는 거죠. 선분은 절반 크기 2개(\(d=\log2/\log2=1\)), 정사각형은 절반 크기 4개(\(d=\log4/\log2=2\)) — 익숙한 답이 나옵니다.
그런데 코흐 곡선은 \(1/3\)로 줄인 복제본이 4개 모인 모양입니다. 그러면:
$$ d = \frac{\log 4}{\log 3} \approx 1.2619 $$선(1차원)과 면(2차원) 사이의 분수 차원! 단계를 거듭할수록 길이는 \(\times\tfrac43\)씩 늘어 무한대로 가지만, 넓이는 0입니다 — 너무 복잡해서 선이라기엔 과하고, 면이라기엔 모자란 거죠. 슬라이더로 세부가 자라나는 걸 보세요.
자연수로 세던 것(팩토리얼·미분 횟수·차원)을, 정수로, 분수로, 실수로, 복소수로 — 한결같이 "이미 아는 곳과 자연스럽게 이어지도록" 늘려 왔습니다. 그 길의 끝에서 만난 \(-\tfrac1{12}\)은, 그러니 사기가 아니라 가장 정직한 확장의 결론이었던 셈이죠. 좋아, 자연스러웠어!