Geometry is not one — the worlds beyond Euclid
2000년 동안 사람들은 "기하학은 유클리드의 그것 하나뿐"이라 믿었습니다. 그러다 누군가 다섯 번째 공준을 의심했고, 그 틈에서 전혀 다른 기하학들이 쏟아져 나왔죠. 직접 만지며 둘러봅시다.
유클리드는 《원론》에서 단 다섯 개의 공준 위에 기하학 전체를 세웠습니다. 앞의 네 개는 누가 봐도 당연합니다 — "두 점을 잇는 직선을 그을 수 있다", "직각은 모두 같다" 같은 것들이죠. 그런데 다섯 번째만 유독 길고 어색합니다. 흔히 쓰는 플레이페어 형태로 옮기면 이렇습니다.
너무 복잡해서 "이건 공준이 아니라 나머지 넷에서 증명되는 정리일 것"이라 의심받았습니다. 무려 2000년 동안 수많은 수학자가 증명을 시도했지만 전부 실패했죠. 19세기에 이르러서야 가우스·보여이· 로바쳅스키가 충격적인 답을 내놓습니다 — 제5공준은 증명할 수 없고, 그것을 부정해도 모순 없는 기하학이 멀쩡히 존재한다는 것. 부정하는 길은 둘입니다.
기하는 하나가 아니었습니다. 그리고 이 발견은 "직선·평행이란 무엇인가"를 다시 묻게 만들며, 사영·반전 같은 또 다른 기하의 세계로 문을 열어 줍니다. 하나씩 만나 보죠.
기찻길은 분명 평행한데, 사진 속에서는 지평선의 한 점에서 만납니다. 화가들이 쓰는 원근법이죠. 사영기하학은 이 직관을 정식화합니다 — 평면에 "무한원점"들을 더해, 평행한 직선들은 무한히 먼 곳의 한 점에서 만난다고 선언하는 겁니다. 그러면 예외가 사라집니다: 어떤 두 직선도 반드시 한 점에서 만난다.
이렇게 점과 직선을 평등하게 다루면 사영기하 특유의 쌍대성(duality)이 드러납니다 — "두 점은 한 직선을 결정한다"와 "두 직선은 한 점을 결정한다"가 완벽히 짝을 이루죠. 어떤 참인 정리에서 '점'과 '직선'을 통째로 맞바꿔도 또 하나의 참인 정리가 됩니다.
그 위에서 빛나는 보석이 데자르그 정리입니다 — 두 삼각형이 한 점 \(O\)에서 투시(perspective) 관계이면(대응 꼭짓점을 이은 세 직선이 \(O\)에서 만나면), 대응하는 세 쌍의 변이 만나는 세 교점은 반드시 한 직선 위에 놓입니다. 점들을 끌어 직접 확인해 보세요. (이 '투시'가 사진 한 장에서 카메라 위치를 복원하는 데까지 쓰이는 모습은 기하학이 현실의 문을 두드릴 때 편에 있습니다.)
더 나아가 사영의 눈에는 타원·포물선·쌍곡선이 모두 한 가지 원뿔곡선입니다 — 원을 비스듬히 비춘 그림자가 타원도 포물선도 되듯, 사영변환이 이들을 하나로 묶죠. "무한을 평등하게 대우하면 기하가 더 깔끔해진다" — 사영기하의 정신입니다.
제5공준을 "평행선이 여러 개"로 바꾸면 쌍곡 기하학이 됩니다. 이 낯선 세계를 우리 눈에 보이게 담는 대표적 지도가 푸앵카레 원판 모형입니다 — 원판 안쪽이 무한히 넓은 쌍곡 평면 전체이고, "직선(측지선)"은 경계 원에 수직으로 만나는 원호(또는 지름)입니다. 각도는 보이는 그대로(등각)죠.
여기선 한 직선 밖의 한 점을 지나며 그 직선과 안 만나는 직선이 무수히 많습니다. 그리고 삼각형의 내각의 합은 늘 180°보다 작고, 모자란 만큼(각 결손)이 곧 삼각형의 넓이에 비례합니다. 직접 삼각형을 그려 확인해 보세요.
이 낯선 기하는 칠판 위 호기심으로 끝나지 않았습니다 — 미술과 물리의 한복판에, 에셔의 판화와 아인슈타인의 상대성이론에 떡하니 자리를 잡고 있거든요. 두 장에 걸쳐 만나 봅시다.
화가 M. C. 에셔의 〈원의 극한(Circle Limit)〉 연작이 바로 이 푸앵카레 원판 위의 그림입니다. 경계로 갈수록 천사와 악마, 물고기들이 한없이 작아지며 무한히 많이 들어차죠. 하지만 그건 우리 유클리드 눈에만 작아 보일 뿐, 쌍곡 세계의 자(척도)로 재면 전부 똑같은 크기입니다 — 유한한 원판 한 장 안에 무한히 넓은 평면이 통째로 담긴 겁니다. 에셔는 수학자 콕서터(H. S. M. Coxeter)의 논문에 실린 쌍곡 타일링 그림을 보고 이 연작에 매달렸고, 둘은 오래 편지를 주고받았습니다. "있을 수 없다"던 기하학이, 화폭 위에서 가장 아름다운 무한이 된 셈이죠.
경계로 갈수록 작아 보이는 건 우리 눈의 착시일 뿐, 쌍곡 평면 위에서 모든 타일은 똑같이 합동입니다. "있을 수 없다"던 기하학이, 무한을 손바닥만 한 원판에 담아내는 예술이 된 거죠.
쌍곡기하는 예술만이 아니라 물리의 바닥에도 깔려 있습니다. 특수상대성이론에서 속도는 그냥 더해지지 않습니다(아무리 보태도 빛의 속도 \(c\)를 못 넘죠). 대신 신속도(rapidity) \(\varphi\) (\(v=c\tanh\varphi\))로 바꾸면, 같은 방향 속도 합성이 \(\varphi\)들의 단순 덧셈이 됩니다 — 바로 쌍곡 거리의 덧셈이에요. 로런츠 변환(부스트)은 시공간 위의 쌍곡 회전이고, 서로 다른 방향의 부스트를 잇따라 하면 생기는 토머스 세차의 회전각은 다름 아닌 앞서 본 그 각 결손입니다 — 속도들이 사는 공간 자체가 곡률 \(-1\)의 쌍곡 공간인 셈이죠.
여기에 코바늘로 쌍곡 평면을 떠낸 다이나 타이미나의 뜨개 모형, 나아가 "우주 전체의 모양이 쌍곡일 수도 있다"는 우주론의 질문까지 — 한때 모순이라 배척당하던 기하가, 이제는 예술과 물리와 우주를 가로지르고 있습니다.
그런데 — 쌍곡 평면의 측지선은 왜 하필 "경계 원에 수직인 원호"일까요? 그 비밀은 곧 만날 반전기하에 숨어 있습니다.
중심 \(O\)와 반지름 \(r\)인 원을 거울로 삼는 변환이 반전(inversion)입니다. 점 \(P\)를 반직선 \(OP\) 위의 점 \(P'\)으로 보내되, 거리의 곱이 일정하게 합니다.
$$ \overline{OP}\cdot\overline{OP'} = r^2 $$가까운 점은 멀리, 먼 점은 가까이 갑니다(중심은 무한대로). 놀라운 성질이 둘 있습니다 — 반전은 원과 직선을 다시 원과 직선으로 보내고(중심을 지나는 원은 직선이 됩니다), 각도를 그대로 보존합니다(등각). 아래 도구로 직접 그려 보세요.
앞서 쌍곡기하 장에서 쌍곡 평면의 "직선(측지선)"이 하필 경계 원에 수직인 원호였던 것, 기억하시나요? 그 비밀이 바로 반전입니다 — 쌍곡 평면의 모든 합동변환(거리를 보존하는 움직임)은 이 반전(뫼비우스 변환)으로 이루어지거든요. 반전기하가 곧 쌍곡기하의 엔진인 셈이죠.
이 "원을 직선처럼" 다루는 마법 덕분에, 원과 접점이 잔뜩 얽힌 어려운 문제가 한 번의 반전으로 싱겁게 풀리곤 합니다. 두 가지 보석을 봅시다.
서로 만나지 않는 두 원(하나가 다른 하나 안에 들어 있다고 합시다) 사이에, 두 원 모두에 접하면서 이웃끼리도 접하는 작은 원들의 사슬을 끼워 넣습니다. 운 좋게 이 사슬이 \(n\)개로 딱 맞아떨어져 닫히면(첫 원과 마지막 원이 접하면), 다음이 성립합니다.
증명은 반전 한 방이면 끝납니다. 서로 만나지 않는 두 원은, 적당한 점을 중심으로 반전하면 반드시 두 개의 동심원으로 바뀝니다. 그러면 사이의 사슬은 폭이 일정한 고리(환형) 안에 들어찬 똑같은 크기의 원들이 됩니다 — 이건 그냥 빙 돌려 끼운 구슬 목걸이라, 어느 각도에서 시작하든 당연히 닫히죠. 반전은 접함과 원을 보존하므로, 원래의 일그러진 사슬도 똑같이 닫힙니다. 위 그림은 실제로 동심원에서 만든 사슬을 반전해 그린 것입니다.
원 하나를 두고, 그 둘레에 여섯 개의 원을 — 각각 가운데 원에 접하고, 이웃끼리도 접하도록 — 목걸이처럼 둘러 닫습니다. 그러면 여섯 원이 가운데 원과 만나는 접점이 여섯 개 생기죠. 이때:
증명의 열쇠는 역시 반전입니다. 접점 하나를 중심으로 반전하면, 거기서 접하던 두 원은 평행한 두 직선으로 펴집니다. 가운데 원 둘레의 복잡한 사슬 문제가, 평행한 띠 안의 원들 문제로 단순해지죠. 그 단순해진 그림에서 대각선들의 공점성을 따지면 증명이 따라옵니다(에블린·머니쿠츠·티렐, 1974). 어려운 접점 문제를 "평행선과 원"으로 바꿔 버리는 — 반전기하의 전형적인 한 수입니다.
비유클리드라고 늘 거창한 건 아닙니다. "가깝다"를 재는 자만 바꿔도 전혀 다른 기하가 태어나죠. 바둑판 같은 도시에서 택시는 대각선으로 못 가고 가로·세로로만 움직입니다. 그래서 두 점 사이 거리를 \(\sqrt{\Delta x^2+\Delta y^2}\)가 아니라 \(|\Delta x|+|\Delta y|\)로 재죠 — 이게 택시(맨해튼) 거리입니다.
이 작은 변화가 상식을 비틉니다. 우선 두 점을 잇는 최단 경로가 하나가 아닙니다 — 계단처럼 꺾어 가도 길이가 똑같죠. 더 놀라운 건 "중심에서 같은 거리인 점들의 모임", 즉 원의 모양입니다. 택시 기하에서 원은 — 마름모(45° 기울인 정사각형)예요!
"거리를 어떻게 재느냐"가 기하의 전부를 바꾼다는 이 감각은 사실 5장 반전(거리를 재정의해 원을 직선처럼 다루기)이나, 곧 볼 구면·쌍곡(곡률로 거리를 휘기)과도 한 핏줄입니다. 기하는 정말 하나가 아닙니다.
이제 평행선이 아예 없는 세계, 구면기하입니다. 구 위에서 두 점을 잇는 가장 짧은 길, 곧 "직선(측지선)"은 대원(great circle) — 구의 중심을 지나는 평면이 구를 자른 큰 원입니다. 적도와 경선(자오선)이 대표적이죠.
여기선 유클리드의 상식이 줄줄이 깨집니다. 어떤 두 대원도 반드시 두 점(서로 정반대편)에서 만나므로, "끝내 만나지 않는 직선"인 평행선은 존재하지 않습니다. 삼각형 내각의 합은 늘 180°를 넘고, 심지어 세 각이 모두 직각인 삼각형도 있습니다 — 북극에서 적도까지 내려가, 적도를 따라 \(90°\) 돌고, 다시 북극으로 올라오면 꼭짓점 셋이 전부 직각인 삼각형(구의 \(\tfrac18\))이 되죠.
이건 먼 나라 이야기가 아닙니다. 비행기가 인천에서 뉴욕으로 갈 때 평면 지도에선 휘어 보이는 북극 항로를 타는 것도, 구 위의 최단 경로가 대원이기 때문이에요. 우리가 발 딛고 사는 지구 표면이 바로 이 비유클리드 기하의 무대입니다. 직접 두 도시를 이어 보세요.
평면에서 삼각형의 세 각을 안다고 넓이를 알 수 있을까요? 천만에요 — 세 각이 \(60°,60°,60°\)인 정삼각형은 손톱만 할 수도, 운동장만 할 수도 있습니다(닮음). 각도는 모양만 정할 뿐 크기는 못 정하죠. 그런데 구 위에서는 — 놀랍게도 — 세 각이 넓이를 통째로 결정합니다.
증명은 이각형(lune) 하나로 깔끔합니다. 두 대원이 각 \(\alpha\)로 만나면 그 사이 쪽(이각형)의 넓이는 \(2\alpha R^2\)입니다(\(\alpha=\pi\)면 반구 \(2\pi R^2\) — 맞죠). 삼각형의 세 변을 대원으로 끝까지 늘이면 구가 여러 조각으로 갈리는데, 세 쌍의 이각형이 구 전체를 덮으면서 삼각형(과 정반대편의 쌍둥이)을 꼭 두 번씩 겹쳐 셉니다. 이를 식으로 풀면 \(4(\alpha+\beta+\gamma)R^2 = 4\pi R^2 + 4\cdot\text{넓이}\), 정리하면 위 공식이 나옵니다.
충격적인 따름정리: 구 위에는 닮은 삼각형이 없습니다. 세 각이 같으면 넓이까지 같아져 곧 합동이죠 (AAA가 크기를 못 정하던 평면과 정반대!). 각도만 재서 절대적 크기를 알 수 있다는 건, 구가 고유한 크기(곡률)를 지녔다는 뜻입니다. 직접 삼각형을 그려 각과 넓이를 확인해 보세요.
지구본을 평평한 종이에 늘이거나 찢지 않고 그대로 펼 수 있을까요? 없습니다. 오렌지 껍질을 납작하게 누르면 반드시 찢어지듯, 구 표면은 평면으로 펼 수 없어요. 가우스의 빼어난 정리(Theorema Egregium)가 그 까닭을 말해 줍니다 — 곡률은 면을 휘거나 펴도 변하지 않는 내재적 양이라, 곡률 \(1/R^2\)인 구와 곡률 \(0\)인 평면은 애초에 "같은 면"이 될 수 없습니다.
그래서 모든 세계지도는 무언가를 반드시 왜곡합니다. 거리를 살리면 각이 틀어지고, 각을 살리면 넓이가 부풀죠. 메르카토르 도법은 각(방향)을 정확히 살린 대신 고위도를 어마어마하게 뻥튀기합니다 — 지도 속 그린란드가 아프리카만 해 보여도 실제론 \(1/14\)밖에 안 되죠.
구를 평면으로 "완벽히" 펼 순 없어도, 마법 같은 투영이 하나 있습니다. 구의 북극에 빛을 두고 구 위의 점을 평면(적도면)에 비추는 입체사영(stereographic projection)입니다. 이 투영은 거리는 못 살리지만, 각을 정확히 보존하고(등각), 구 위의 모든 원을 평면의 원(또는 직선)으로 보냅니다.
어디서 들어본 성질이죠? — 맞습니다, 5장의 반전과 똑 닮았어요. 실제로 입체사영과 반전은 한 가족 (뫼비우스 변환)입니다. 평면에 무한히 먼 점 하나(북극의 상)를 더해 구로 감싸면 리만 구면이 되고, 그 위에서 복소수·반전·사영이 한데 만나죠. 아래는 평면의 정사각형 격자를 입체사영으로 구에 되감은 모습 — 곧은 격자선이 전부 북극을 지나는 원이 됩니다.
3장에서 쌍곡 평면을 \(\{p,q\}\)(정\(p\)각형이 꼭짓점마다 \(q\)개) 타일로 무한히 채웠죠. 똑같은 \(\{p,q\}\)를 구 위에서 시도하면 어떻게 될까요? 놀랍게도 답은 \(\dfrac1p+\dfrac1q\) 하나로 갈립니다.
곡률의 부호(양·0·음)가 같은 규칙의 운명을 통째로 바꾸는 겁니다. 아래에서 구면 \(\{p,q\}\) 다섯 가지 — 다섯 플라톤 입체 — 를 돌려 보세요. 에셔의 무한 타일링과 정반대로, 구에서는 모든 게 유한합니다.
구면기하의 감각을 시험하는 유명한 수수께끼 하나, 잠깐 쉬어 가며 풀어 봅시다.
고전적인 정답은 북극점입니다. 북극에서 남쪽으로 갔다가, 동쪽으로(위도선을 따라) 돌고, 북쪽으로 같은 거리를 오면 — 출발점인 북극으로 정확히 돌아오죠. 북극에 사는 곰은 북극곰이니 흰색입니다. 그런데 사실, 정답은 북극점만이 아닙니다.
즉 남극 둘레에는 무한히 많은 출발점이 숨어 있습니다(\(k=1,2,3,\dots\) 마다 고리가 하나씩). 둘레가 \(1/k\)km인 위도 고리는 남극에서 \(\frac{1}{2\pi k}\)km쯤 떨어져 있죠. 다만 — 거기엔 곰이 살지 않습니다(남극이니까요!). 그래서 "곰"이라는 단서가 수학적 답들 중 북극점만을 콕 집어내는, 은근히 영리한 장치였던 겁니다. 기하가 하나가 아니듯, 답도 하나가 아니었습니다.
먼 길을 돌아왔습니다. 평행선이 하나(평면)·여럿(쌍곡)·없음(구면)인 세계들, 무한원점의 사영, 원을 펴는 반전, 무한을 담은 에셔, 속도의 쌍곡, 각이 넓이를 정하는 구면…. 이 모든 기하가 사실 단 하나의 손잡이로 잡힙니다 — 곡률 \(K\)입니다.
삼각형 하나만 그려도 그 세계의 곡률이 드러나죠. 가우스–보네 정리의 가장 단순한 얼굴입니다.
$$ (\alpha+\beta+\gamma) - \pi \;=\; K \cdot (\text{삼각형 넓이}) $$| 곡률 \(K\) | 기하 | 내각의 합 | 평행선 |
|---|---|---|---|
| \(K>0\) | 구면 | \(>180°\) (각 초과 = 넓이) | 없음 |
| \(K=0\) | 유클리드(평면) | \(=180°\) | 딱 하나 |
| \(K<0\) | 쌍곡 | \(<180°\) (각 결손 = 넓이) | 무수히 |
2장에서 본 쌍곡 삼각형의 각 결손도, 10장 지라르의 각 초과도 알고 보면 같은 식의 양 끝이었던 셈입니다(\(K\)의 부호만 다를 뿐). 13장에서 같은 \(\{p,q\}\) 타일링의 운명을 가른 것도 바로 이 곡률이었죠.
곡률 하나로 모든 기하를 꿰었다고 했지만 — 정말 전부일까요? 마지막으로, 곡률조차 손대지 못하는, 더 밑바닥에서 산술의 규칙 자체를 바꾼 기하를 봅니다. 열대 기하(tropical geometry)입니다. 딱 두 가지 약속만 바꿔요 — "더하기"와 "곱하기"의 뜻을.
이상하게 들리지만 멀쩡한 대수 구조입니다. \(\oplus,\odot\) 둘 다 교환·결합법칙이 성립하고(\(\max\)도 \(+\)도 순서·묶음에 무관), 항등원도 있어요 — \(\oplus\)의 항등원은 \(-\infty\)(\(\max(a,-\infty)=a\)), \(\odot\)의 항등원은 \(0\)(\(a+0=a\)). 그리고 결정적으로 분배법칙까지 성립합니다:
보통의 \(+\)가 \(\max\) 위로 분배되는 거죠. 다만 뺄셈은 없습니다 — \(\max\)는 되돌릴 수 없으니까 (\(a\oplus a=a\)라는 멱등성이 그 증거). 그래서 "환(ring)"이 아니라 "반환(semiring)"이고, 이름은 이 구조를 연구한 브라질 수학자 이므레 시몬을 기려 — 열대(브라질) — "tropical"이라 붙었습니다.
이 규칙으로 다항식을 쓰면 거듭제곱은 \(x^{\odot n}=\underbrace{x+\cdots+x}_{n}=nx\), 항의 합은 \(\max\)이라, 열대 다항식은 여러 일차식의 최댓값 — 즉 꺾인 직선(조각별 선형)이자 아래로 볼록한 함수가 됩니다. 예컨대 \(x^{\odot 2}\oplus(1\odot x)\oplus 0=\max(2x,\;1+x,\;0)\). 그 "근"은 보통처럼 0이 되는 점이 아니라 — 최댓값이 두 조각에서 동시에 달성되는 "꺾이는 점"입니다. 아래에서 가운데 계수를 줄여 보세요. 두 근이 스르륵 만나 중근이 됩니다(판별식이 0이 되는 그 순간!).
방금 그 매끄러운 근사가 출처를 말해 줍니다. \(\tfrac1t\ln(e^{ta}+e^{tb})\)는 \(t\to\infty\)에서 큰 쪽이 압도해 \(\max(a,b)\)로 수렴하죠. 즉 보통의 양수 산술 \((\mathbb{R}_{>0},+,\times)\)을 로그 자로 잰 뒤 극한을 보내면 — \(+\)는 \(\max\)로, \(\times\)는 \(+\)로 바뀝니다. 이 마슬로프 역양자화가 열대 반환의 정체예요. 열대 기하는 보통 기하의 로그 극한 그림자인 셈이죠.
이제 진짜 "기하". 열대 직선 \(\max(x+a,\;y+b,\;c)\)에서 최댓값이 두 곳에서 동시에 달성되는 점들(=꺾인 곳)을 모으면 — 한 꼭짓점에서 뻗는 세 갈래 광선(tripod)이 됩니다. 직선이 곡선도, 곧은 선도 아닌 막대 셋이라니! 그런데 대수기하의 핵심은 그대로예요 — 서로 다른 두 열대 직선은 (일반적으로) 정확히 한 점에서 만납니다 (열대판 베주 정리). 아래에서 한 직선을 움직여 확인해 보세요.