위상수학 하면 "도넛과 커피잔은 같다"는 농담이 먼저 떠오릅니다. 그런데 그게 다가 아닙니다 —
위상수학은 머리에 가마가 왜 생기는지, 지구 반대편에 나와 똑같은 날씨인 점이 왜 늘 있는지, 아무렇게나
그린 고리가 왜 직사각형을 품는지를 증명합니다. "반드시 있다"를 보장하는 기계로서의 위상수학.
0도넛과 커피잔, 그게 다가 아니다
위상수학(topology)은 늘이고 구부려도 변하지 않는 성질을 다룹니다. 찢거나 붙이지만 않으면 도넛과 커피잔은
구멍 하나짜리라는 점에서 같죠 — 그 유명한 "커피잔 = 도넛" 농담입니다. 하지만 이건 시작일 뿐입니다.
위상수학의 진짜 힘은 존재 정리(existence theorem)에 있습니다. "어딘가에 반드시 있다"를, 그게 정확히
어디인지는 한마디도 않으면서 증명해 버리죠. 아래 세 정리가 그렇습니다 — 털 난 공 정리, 보르수크–울람 정리,
그리고 내접 직사각형. 추상적인 도형 놀이처럼 보이지만, 그 결론은 머리카락·날씨·샌드위치처럼 손에 잡히는
이야기로 튀어나옵니다.
1털 난 공은 빗을 수 없다
털 난 공 정리 (Hairy Ball Theorem)
구면 \(S^2\) 위에서 어디서도 \(0\)이 되지 않는 연속인 접벡터장은 존재하지 않는다. 즉 공에 털을 심어
빗질하면, 적어도 한 곳엔 가마(털이 눕지 못하는 점)가 반드시 생긴다.
평평한 원반이나 도넛(토러스) 위의 털은 모두 한 방향으로 매끈하게 빗을 수 있습니다. 그런데 공만은
안 됩니다. 이건 우연이 아니라 오일러 지표가 다르기 때문이에요 — 도넛은 \(\chi=0\)이라 빗질이 되고,
구는 \(\chi=2\neq0\)이라 안 됩니다(푸앵카레–호프 정리: 벡터장의 특이점 지수들의 합 \(=\chi\)). 구에선 그 합이
\(2\)라, 특이점(가마)이 0개일 수 없습니다.
머리의 가마. 두피를 공의 일부로 보면, 머리카락(접벡터장)을 완벽히 눕힐 수 없어 적어도 한 곳엔
소용돌이치는 가마가 생깁니다. 가르마·가마가 생기는 건 멋이 아니라 위상수학의 결론인 셈이죠.
지구의 바람. 지표면의 수평 바람을 접벡터장으로 보면, 어느 순간에도 지구 위 적어도 한 곳은
바람이 \(0\)입니다 — 늘 어딘가에 "바람 없는 점"(태풍의 눈 같은 곳)이 있다는 뜻입니다.
곁다리 — "역린(逆鱗)"도 이렇게 생긴 말 아닐까
용의 몸을 공이라 치고, 비늘 하나하나가 일정한 방향으로 누워 있다(접벡터장)고 상상해 봅시다. 털 난 공 정리에
따르면 비늘을 온몸에 매끈하게 한 방향으로 누일 수는 없습니다. 어딘가엔 비늘이 서거나 방향이 뒤집히는
점이 반드시 생기죠. "딱 한 군데 거꾸로 난 비늘 = 역린"이라는 말도, 어쩌면 이 정리가 보장하는 그 피할 수
없는 가마를 가리키는 것 아닐까요. (어원이라기보단 위상수학으로 읽어 보는 재미난 비유입니다.)
가마는 정확히 몇 개일까 — 적어도 하나, 보통은 둘
"0개는 불가능"에서 끝이 아닙니다. 푸앵카레–호프 정리는 더 정밀하게, 모든 특이점의 지수(index)를
부호까지 더하면 늘 오일러 지표 \(2\)가 되어야 한다고 말합니다. 그래서:
0개 — 불가능. 합이 \(2\)가 될 수 없으니까요(이게 바로 정리의 핵심).
1개 — 가능. 지수 \(+2\)짜리 가마 하나로 온 구면을 덮을 수 있습니다(한 점에서 휘몰아치는 큰
소용돌이). "가마가 딱 하나"인 경우죠.
2개 — 가장 흔한 모습. 지수 \(+1\)짜리 둘(샘과 싱크) — 아래 그림처럼 위·아래 두 극에
하나씩 생깁니다. \(1+1=2\).
여럿 — 얼마든지 많아도 됩니다. 단 샘·싱크(\(+1\))와 안장점(saddle, \(-1\))의 부호 합은
언제나 \(2\)로 고정됩니다.
사람 머리의 가마가 보통 한두 개인 것도, 지구 바람에 무풍점이 늘 (적어도) 한 곳 있는 것도 이 셈과
맞아떨어집니다.
공을 빗어 보자 — 가마는 사라지지 않는다
드래그로 돌려 보세요
공 전체에 털을 한 방향으로 빗어 내렸습니다. 그래도 위·아래 두 극(빨강)에서는 털이 눕지
못하고 가마가 됩니다. 돌려 봐도 가마는 결코 없앨 수 없죠 — 정리가 보장하는 결과입니다.
2보르수크–울람 — 지구 반대편의 쌍둥이
보르수크–울람 정리 (Borsuk–Ulam)
연속함수 \(f:S^n\to\mathbb{R}^n\)에 대해, 대척점에서 같은 값을 갖는 점이 반드시 있다:
\(f(x)=f(-x)\)인 \(x\)가 존재한다.
가장 작은 경우(\(n=1\))부터 봅시다. 원 위에서 정의된 연속함수는 정반대 두 점에서 같은 값을 가집니다.
적도를 한 바퀴 돌며 기온을 잰다면 — 지금 이 순간, 기온이 정확히 같은 정반대 두 지점이 적도 위에 늘
존재합니다.
증명도 한 줄입니다. \(g(x)=f(x)-f(-x)\)로 두면 \(g\)는 연속이고 \(g(-x)=-g(x)\). 한 점에서 \(g\ge0\)이면
그 반대점에선 \(g\le0\)이니, 중간값 정리로 \(g=0\)이 되는 곳이 있습니다. 거기서 \(f(x)=f(-x)\)죠.
\(n=2\)로 올리면 더 놀랍습니다. 지구 표면의 (기온, 기압)을 \(f:S^2\to\mathbb{R}^2\)로 보면 —
기온과 기압이 동시에 똑같은 대척점 쌍이 지금도 지구 어딘가에 반드시 있습니다. 지구 반대편 어딘가에
"기상학적 쌍둥이 지점"이 있다는 뜻이죠.
적도의 기온 — 정반대 두 곳이 같아지는 순간
지름 각도 = 0°
파란 곡선은 적도를 따라 잰 기온(중심에서 멀수록 높음). 지름(드래그/슬라이더)의 양 끝이
정반대 두 지점입니다. 돌리다 보면 두 기온이 정확히 같아지는 각도가 있죠 — 초록 지름이
그 자리입니다.
3한 칼로 공평하게 — 보르수크가 푸는 조합 문제
보르수크–울람은 추상적이지만, 그 따름정리들은 아주 구체적인 "공평하게 나누기" 문제를 끝장냅니다.
햄 샌드위치 정리 (Ham Sandwich)
\(\mathbb{R}^n\)의 \(n\)개 물체는 단 하나의 초평면으로 동시에 정확히 이등분할 수 있다. 평면(\(n=2\))이라면
— 아무렇게나 놓인 두 영역도 직선 하나로 동시에 반씩 가른다.
빵·햄·빵 세 덩이(3차원)를 칼 한 번에 각각 절반씩 나눌 수 있다는, 이름 그대로의 정리입니다. 증명은
보르수크–울람을 칼날의 방향(구면 위의 점)에 적용하는 것 — 방향을 한 바퀴 돌리면 한쪽 물체의 이등분선이
다른 물체를 가르는 양이 부호를 바꾸므로, 중간에 둘 다 반씩인 순간이 반드시 있습니다.
목걸이 도둑 정리 (Necklace Splitting)
\(k\)종류의 보석이 (각 종류 짝수 개) 한 줄로 꿰인 목걸이를 두 도둑이 공평하게 나누려 합니다. 놀랍게도
최대 \(k\)번만 자르면 — 보석 종류 수만큼만 — 두 사람이 모든 종류를 정확히 절반씩 가질 수 있습니다.
위치와 무관하게요. 이 사실(Hobby–Rice, 그리고 Alon)도 보르수크–울람으로 증명됩니다. 더 깊이 들어가면
Lovász가 그래프의 채색수(Kneser 추측)를 위상수학으로 푼 전설적 결과도 같은 가문입니다.
직선 하나로 햄과 빵을 동시에 반으로
칼 방향 = 0°
빨강(햄)·파랑(빵) 두 덩이. 직선은 늘 빨강을 정확히 반으로 가르도록 잡혀 있습니다.
방향을 돌리면 파랑이 갈리는 비율이 바뀌는데, 어느 방향에선 파랑까지 반반이 됩니다 — 버튼을 누르면
그 칼을 찾아 줍니다.
4어떤 고리든 직사각형을 품는다
내접 직사각형 (그리고 내접 정사각형 문제)
평면 위의 모든 단순폐곡선(자기 자신과 만나지 않는 닫힌 곡선)에는, 네 점이 직사각형의 꼭짓점을
이루는 네 점이 반드시 있다. — 그런데 그게 정사각형이어야 한다면? 1911년 토플리츠가 던진 이 질문은
아직도 일반적으로 미해결입니다.
직사각형은 어떻게 보장될까요? 곡선 위 두 점의 순서 없는 쌍마다 (중점, 두 점 사이 거리)를
대응시킵니다. 이 쌍들이 이루는 공간은 놀랍게도 뫼비우스 띠이고, 그 경계가 곡선 자신이죠. 이 연속사상을
"중점은 평면 위, 거리는 높이"로 3차원에 그리면 — 위상수학적으로 자기교차가 불가피합니다. 즉
중점도 같고 거리도 같은 서로 다른 두 쌍(두 현)이 존재합니다.
왜 그게 직사각형인가
중점이 같고 길이가 같은 두 현을 생각해 보세요. 네 끝점은 모두 그 공통 중점에서 거리 \(\tfrac{L}{2}\)에
있으니 한 원 위에 놓이고, 두 현은 그 원의 지름이 됩니다. 지름 두 개의 끝점을 이으면 — 대각선이
서로를 이등분하고 길이가 같은 사각형, 바로 직사각형입니다.
2020년 그린과 로브(Greene–Lobb)는 한 발 더 나아가, 매끄러운 단순폐곡선에는 모든 가로세로비의
직사각형이 내접함을 증명했습니다. 정사각형 문제는 여전히 활짝 열려 있지만요.
고리 안에 숨은 직사각형 찾기
곡선 모양
아무렇게나 생긴 단순폐곡선(파랑). 곡선을 따라 중점이 같고 길이가 같은 두 현(주황 점선)을
찾으면, 그 네 끝점이 이루는 직사각형(초록)이 드러납니다. 모양을 바꿔도 직사각형은 늘 나타나죠.
5브라우어 부동점 — 휘저어도 제자리인 점
브라우어 부동점 정리 (Brouwer)
공(원반)처럼 콤팩트하고 볼록한 집합에서 자기 자신으로 가는 연속사상 \(f:D^n\to D^n\)에는,
\(f(x)=x\)인 점(부동점)이 반드시 있다.
가장 작은 \(n=1\)이 직관을 줍니다. 연속함수 \(f:[0,1]\to[0,1]\)의 그래프는 양 끝에서 대각선 \(y=x\)의
위·아래에 갇히므로, 그 사이 어딘가에서 대각선을 반드시 가로지릅니다. \(g(x)=f(x)-x\)로 두면
\(g(0)\ge0,\ g(1)\le0\) — 중간값 정리로 \(g=0\)인 점, 즉 부동점이 나오죠.
커피. 컵의 커피를 아무리 휘저어 멈춰도, 원래 자리로 정확히 돌아온 분자가 적어도 하나 있습니다.
지도. 어떤 나라의 지도를 그 나라 땅 위에 아무렇게나 펼쳐 놓으면, 지도 위의 점과 실제 그 지점이
정확히 겹치는 점이 하나 있습니다 — "여기가 거기"인 점.
구긴 종이. 종이를 구겨 원래 종이 윤곽 안에 떨어뜨리면, 구긴 종이의 한 점이 원래의 같은 점
바로 위에 옵니다.
응용은 의외로 묵직합니다. 게임이론의 내시 균형, 경제학의 일반균형(애로–드브뢰), 미분방정식 해의
존재 증명이 모두 이 정리(혹은 그 사촌인 카쿠타니의 부동점 정리)에 기댑니다. 위상수학적 핵심은
"원반을 그 경계로 연속적으로 후퇴(retract)시킬 수 없다"는 사실 — 털 난 공·보르수크–울람과 같은
가문의 정리입니다. (이 부동점이 칸토어·괴델·튜링의 대각선 논법과 한 뿌리라는, 더 추상적인 시점은
로비어 부동점 정리 편에 있습니다.)
모양을 바꿔도 대각선을 피할 수 없다
함수 모양
\([0,1]\)에서 \([0,1]\)로 가는 연속함수(파랑)를 슬라이더로 주물러 보세요. 박스를 벗어나지 않는 한,
그래프는 대각선 \(y=x\)(회색)와 늘 만납니다 — 그 교점(초록)이 부동점입니다.
6조르당 곡선 — 안과 밖을 가르다
조르당 곡선 정리 (Jordan Curve)
평면 위의 모든 단순폐곡선은 평면을 정확히 두 영역 — 유계인 안쪽과 비유계인 바깥쪽 —
으로 나누며, 그 곡선이 두 영역 공통의 경계가 된다.
"고리를 그리면 안과 밖이 생긴다"는 건 너무 당연해 보입니다. 그런데 곡선이 끝없이 구불거리는
괴물 같은 모양(어디서도 매끄럽지 않은 곡선)이라면, 어떤 점이 안인지 밖인지조차 자명하지 않죠. 그래서
이 "당연한" 명제의 엄밀한 증명은 19세기 말에야 나왔고, 위상수학(호몰로지)을 필요로 합니다.
실용적인 부산물도 있습니다. 한 점이 다각형 안에 있는지 판정하는 가장 흔한 방법 —
광선 쏘기(ray casting) — 이 바로 이 정리의 응용입니다. 점에서 한 방향으로 반직선을 쏴, 곡선과 만나는
횟수가 홀수면 안, 짝수면 밖. 컴퓨터 그래픽스·지리정보(GIS)가 매일 쓰는 규칙이죠. 더 높은 차원으로
올리면 조르당–브라우어 분리 정리(구면이 공간을 둘로 나눈다)가 됩니다.
점을 끌어 보자 — 광선이 곡선을 몇 번 지나는가
구불구불한 단순폐곡선(파랑)과 드래그할 수 있는 점. 점에서 오른쪽으로 쏜 광선이 곡선과 만나는
교차 횟수를 셉니다 — 홀수면 안(초록), 짝수면 밖(빨강).
7매듭 이론 — 끈을 어떻게 꼬았나
매듭과 그 동치
수학에서 매듭은 원 \(S^1\)을 3차원 공간에 끼워 넣은 것(양 끝이 이어진 끈)이다. 두 매듭이 같다는
것은, 끈을 끊지 않고 주변 공간을 연속적으로 변형해(ambient isotopy) 하나를 다른 하나로 포갤 수 있다는 뜻이다.
핵심 질문은 단 하나 — "이 두 매듭은 정말 다른가, 아니면 풀어 보면 같은가?" 눈으로는 알 수 없으니,
변형해도 변하지 않는 불변량(invariant)을 만들어 비교합니다.
최소 교차수 — 평면에 그렸을 때 필요한 최소 교차점 수. 세잎매듭(trefoil)은 \(3\).
3색칠(tricolorability) — 각 가닥을 세 색으로, "교차마다 세 색이 모두 같거나 모두 다르게" 칠할 수
있는가. 세잎매듭은 칠해지고, 풀린 매듭(unknot)은 안 됩니다 — 그래서 둘은 확실히 다릅니다.
다항식 불변량 — 알렉산더·존스 다항식. 매듭마다 다른 다항식을 붙여 정교하게 구별합니다.
매듭이 실제로 일하는 곳
DNA. 길게 꼬인 DNA를 풀고 다시 잇는 효소(topoisomerase·recombinase)는 가닥에 매듭과 고리를 만듭니다.
그 결과물의 매듭 종류를 보면 효소가 어떤 조작을 했는지 역추적할 수 있죠(탱글 계산, Ernst–Sumners).
단백질도 매듭진 채 접히는 것들이 있고, 화학에선 분자 자체를 매듭으로 합성합니다(분자 매듭).
풀린 매듭인지 아닌지를 알아내는 문제(unknotting)의 계산 복잡도까지, 매듭은 순수·응용 양쪽에서 살아 있는
주제입니다.
8위상적 데이터 분석 — 구멍을 세어 형태를 읽다
데이터가 점구름으로 주어졌을 때, 그 "모양"을 어떻게 객관적으로 읽을까요? 위상적 데이터 분석(TDA)의
발상은 단순합니다 — 각 점에 반지름 \(r\)인 공을 씌워 점점 키우면서, 겹치는 공들을 이어 만든 도형의
연결 구조와 구멍을 추적하는 것입니다(비에토리스–립스 복합체).
\(r\)를 키우면 특징들이 생겼다 사라집니다: 따로 놀던 군집이 하나로 합쳐지고(연결성분 \(H_0\)),
가운데가 뻥 뚫린 고리가 잠시 나타났다(\(H_1\)) 메워지죠. 이 "수명"을 막대그래프(바코드)나 지속성
다이어그램에 기록하면 — 오래 사는 특징은 진짜 형태, 잠깐 살다 가는 건 잡음이라고 읽습니다
(persistent homology).
반지름을 키워 보자 — 구멍이 태어나고 사라진다
반지름 \(r\)
고리 모양으로 흩어진 점들에 반지름 \(r\)의 공을 키웁니다. 처음엔 조각조각(\(H_0\) 여러 개),
이내 가운데가 뚫린 고리(\(H_1\))가 나타나고, 더 키우면 가운데가 메워져 구멍이 사라지죠.
이 "구멍 세기"는 당뇨 환자의 숨은 아형 찾기, 단백질 구조 비교, 뇌 활동의 위상, 센서망의 빈틈(커버리지)
검사처럼 — 좌표나 거리에 휘둘리지 않고 형태 그 자체를 봐야 하는 곳에서 힘을 발휘합니다.
9맺으며 — "반드시 있다"를 보장하는 기계
이 정리들의 공통점은 묘합니다. 가마가 어디 생기는지, 쌍둥이 지점이 어디인지, 직사각형이
어느 네 점인지는 한마디도 알려 주지 않습니다. 그저 "반드시 있다"고 말할 뿐이죠. 그런데 바로 그
침묵이 위상수학의 힘입니다 — 모양을 아무리 주물러도 변하지 않는 전체의 성질만으로, 구체적인 존재를
보증하니까요.
도넛과 커피잔이 같다는 이야기는, 그 거대한 보증 기계의 입구에 불과했던 셈입니다.
참고 자료
털 난 공 / 푸앵카레–호프 — Poincaré–Hopf 정리, 오일러 지표와 벡터장의 특이점.
Hairy ball theorem
보르수크–울람 — J. Matoušek, Using the Borsuk–Ulam Theorem (Springer, 2003) ·
Borsuk–Ulam theorem
햄 샌드위치 · 목걸이 분할 — N. Alon, Splitting necklaces (Adv. Math., 1987) ·
Ham sandwich theorem ·
L. Lovász, Kneser's conjecture… (1978)
내접 사각형 · 직사각형 — O. Toeplitz의 내접 정사각형 문제(1911) · H. Vaughan의 뫼비우스 띠 논증 ·
J. Greene & A. Lobb, The rectangular peg problem,
arXiv:2005.09193 (2020)