← 목록으로
수학 · 차별의 역사

혐오 수학

When math was weaponized — the "coffin" problems

수학은 아름답습니다. 그런데 그 아름다움이 누군가를 떨어뜨리는 무기로 쓰인 적이 있습니다. 1970–80년대 소련 모스크바 주립대 수학과 입시에서, 유대인 지원자에게만 몰래 건네진 "관(棺) 문제"들의 이야기입니다.

0시험으로 위장한 차별

당시 소련 최고 명문이던 모스크바 주립대(МГУ) 수학과는 구술 입시에서, 유대인을 비롯한 "바람직하지 않은" 지원자에게 다른 문제를 냈습니다. 그 문제들엔 공통점이 있었어요 — 초등적인(고교 수준) 풀이가 분명히 존재하지만, 그 풀이를 떠올리기가 거의 불가능하다는 것. 못 풀면 떨어뜨리면 그만이고, "이런 어려운 걸 어떻게 내냐"고 항의하면 "보세요, 이렇게 간단히 풀리는데요?"라고 받아칠 수 있었죠. 항의를 막는 완벽한 장치였습니다.

이 문제들은 러시아어로 "гробы(관)", 영어로는 "killer problems", 혹은 "유대인 문제"라 불렸습니다. 1975년, IMO 소련 대표팀에 있던 타냐 호바노바와 동료들은 수학교사 발레라 센데로프가 모아 온 이 문제들을 받아 풀어 보았습니다. 소련 최고의 학생 여덟 명이 한 달간 매달렸지만 — 절반밖에 풀지 못했습니다.

"간단한 풀이"가 잔인했던 이유
문제가 그냥 어렵기만 했다면 부당함이 드러났을 겁니다. 핵심은 "알면 쉽고, 모르면 불가능"이라는 비대칭이었어요. 채점관은 정답 풀이를 알고 있으니 언제든 "이렇게 쉬운데"라며 탈락을 정당화했고, 지원자는 그 한 줄짜리 발상을 시험장에서 떠올리지 못해 무너졌죠. 수학의 우아함이 차별의 알리바이로 쓰인 겁니다. 아래에서 그 문제 몇 개와, 정말로 한 줄인 풀이를 함께 봅니다(호바노바·라둘의 목록에서).
곁다리 — 시험과 정원제로 위장한 차별
이런 수법은 소련만의 것이 아니었습니다. 미국 남부는 1890년대부터 1965년까지 답이 모호하고 채점이 주관적인 "문해력 시험"으로 흑인 유권자를 떨어뜨렸죠 — 글 읽는 흑인은 탈락시키고 글 모르는 백인은 통과시키는, 떨어뜨리려고 설계된 시험이었습니다. 입학에선 정원제(numerus clausus)가 쓰였어요: 헝가리 1920년(유럽 최초의 인종법, 유대인 6% 제한), 나치 독일 1933년(1.5%), 미국 하버드의 유대인 할당까지. 모스크바의 관 문제는 이 할당제의 "우아한 위장판"이었던 셈입니다.

1문제 8 — 60°만 돌리면 보이는 답

문제 8
정삼각형 \(ABC\) 내부의 한 점 \(O\)에 대해 \(\angle BOC = x\), \(\angle AOC = y\)이다. 변의 길이가 각각 \(AO,\ BO,\ CO\)인 삼각형의 세 각을 \(x,\,y\)로 나타내라.

세 길이 \(AO,BO,CO\)는 흩어져 있어 한 삼각형으로 보이지 않습니다. 발상은 단 하나 — \(A\)를 중심으로 \(60°\) 회전. 이 회전은 \(B\)를 \(C\)로 보내고, \(O\)를 어떤 점 \(O'\)으로 보냅니다. 그러면 마법처럼:

즉 삼각형 \(COO'\)의 세 변이 정확히 \(AO,\ BO,\ CO\)입니다! 각을 계산하면:

$$ \angle O'OC = y-60°,\quad \angle OCO' = x-60°,\quad \angle OO'C = 300°-x-y. $$

점 \(O\)를 끌어 보세요 — 60° 회전이 답을 만든다

정삼각형 \(ABC\) 안의 \(O\)(빨강)를 드래그. \(A\)를 중심으로 \(60°\) 돌린 상이 \(O'\), 주황 삼각형 \(COO'\)의 세 변이 \(AO\)·\(BO\)·\(CO\)입니다. 세 각이 \(y-60°,\ x-60°,\ 300°-x-y\)와 늘 일치하는지 확인해 보세요.

2문제 10 — "중력을 쓰세요"

문제 10
공간 안의 사각형(꼬인 사각형)의 네 변이 모두 한 구에 접한다. 네 접점이 한 평면 위에 있음을 증명하라.

호바노바 목록의 힌트는 딱 두 단어 — "중력을 쓰세요(Use gravity)." 한 점에서 구에 그은 두 접선의 길이는 같습니다. 그러니 각 꼭짓점에서 양옆 변의 접점까지 거리는 같죠. 이제 각 꼭짓점에 그 접선 길이의 역수만큼 점질량을 둡니다.

그러면 한 변 위 두 꼭짓점의 무게중심이 — 질량이 거리에 반비례하므로 — 정확히 그 변의 접점에 떨어집니다. 따라서 네 질량 전체의 무게중심은, 질량을 어떻게 둘씩 묶든 마주 보는 두 접점을 잇는 선 위에 있어야 합니다. 두 대각선이 모두 그 한 무게중심을 지나니 — 두 선이 만나고, 네 접점은 한 평면 위에 놓입니다. 물리(무게중심)를 빌려 순수 기하를 푼, 가장 충격적인 한 수죠.

왜 무게중심이 접점에 떨어지나
변 \(PQ\)의 접점이 \(P\)에서 \(t_P\), \(Q\)에서 \(t_Q\) 떨어져 있다고 합시다(\(|PQ|=t_P+t_Q\)). \(P\)에 질량 \(1/t_P\), \(Q\)에 \(1/t_Q\)를 두면, 무게중심은 \(P\)에서 \(\dfrac{(1/t_Q)\,(t_P+t_Q)}{1/t_P+1/t_Q}=t_P\) 만큼 — 바로 접점입니다.

3문제 21 — 넓이를 가장 작게

문제 21
증가함수의 그래프를 두 수평선이 자른다. 두 교점 사이의 그래프 위 한 점을 골라 수직선을 그을 때, 수평선·그래프· 수직선이 둘러싸는 두 넓이의 합이 최소가 되는 점을 찾아라.

복잡한 적분도, 미분도 필요 없습니다. 답은 — 두 수평선의 한가운데(중간선)에서 그래프와 만나는 점. 수직선을 오른쪽으로 조금 옮기면 아래 넓이가 느는 속도가 위 넓이가 주는 속도보다 빠르고, 왼쪽으로 옮기면 대칭으로 그 반대죠. 그 둘이 균형을 이루는 곳, 즉 그래프 높이가 정확히 중간 높이일 때가 최소입니다. (실은 합의 미분이 \(2f(p)-(y_{아래}+y_{위})\)이라, \(f(p)=\) 중간선일 때 0이 됩니다.)

수직선을 끌어 보세요 — 두 넓이의 합

파란 곡선이 증가함수, 두 회색 수평선이 자른 구간. 수직선(드래그)이 만드는 두 넓이(주황·파랑)의 합이 아래에 표시됩니다. 초록 중간선에서 곡선과 만날 때 합이 최소가 되죠.

4문제 13 — 격자 위의 정다각형

문제 13
모눈종이의 격자점(정수 좌표)들에 정삼각형의 세 꼭짓점을 모두 올릴 수 있는가? 더 나아가, 어떤 정다각형이 가능한가?

먼저 정삼각형은 불가능합니다. 격자점 삼각형의 넓이는 항상 유리수입니다(신발끈 공식 → 정수의 절반). 그런데 변의 길이 제곱 \(s^2\)(= 두 격자점 거리의 제곱)이 정수인 정삼각형의 넓이는 \(\tfrac{\sqrt3}{4}s^2\) — 무리수죠. 모순입니다. 같은 이유로 정육각형(정삼각형 6개)도 불가능합니다.

그렇다면 다른 정다각형은? 놀랍게도 — 오직 정사각형만 격자 위에 놓입니다. 그리고 정삼각형을 포함한 나머지 전부가 불가능함을, 하나의 무한강하법으로 한꺼번에 보일 수 있죠.

무한강하 — 각 변에 직각이등변삼각형을 세우면
격자점으로 된 정\(n\)각형이 있다고 합시다. 각 변을 빗변으로 하는 (안쪽) 직각이등변삼각형의 직각 꼭짓점을 잡으면 — \(90°\) 회전이 격자를 보존하므로 그 꼭짓점도 다시 격자점이고, 그 점들은 더 작은 정\(n\)각형을 이룹니다. 줄어드는 배율은 \(\big|\cos\tfrac{\pi}{n}-\sin\tfrac{\pi}{n}\big|\)인데, 이 값은 정사각형(\(n=4\))에서만 \(0\)(꼭짓점들이 중심 한 점으로 붕괴)이고 나머지 모든 \(n\)에서 1보다 작습니다. 그러니 정사각형이 아닌 정다각형은 — 더 작은 격자 정다각형을 끝없이 낳고, 격자점의 최소 간격에 부딪혀 모순. 오직 정사각형만 살아남습니다.

정삼각형이면 배율이 \(\big|\cos60°-\sin60°\big|=\tfrac{\sqrt3-1}{2}\approx0.37\) — 당당히 포함됩니다. (정삼각형·정육각형은 "넓이가 \(\tfrac{\sqrt3}{4}s^2\)이라 무리수"라는 한 줄 논증으로도 곧장 잡히지만, 위 강하 하나면 정오각형까지 전부 한 번에 끝나죠.)

무한강하 — 격자 정\(n\)각형은 끝없이 작아진다

각 변에 직각이등변삼각형(주황 다리, 빨강으로 하나 강조 — 직각 꼭짓점이 안쪽을 향함)을 세워 그 직각 꼭짓점들을 이으면 더 작은 정다각형이 됩니다. 반복하면 매번 작아지죠. 모두 격자점이어야 하는데 끝없이 작아지니 — 정사각형 말고는 격자 위에 존재할 수 없습니다.

5문제 15 — 합이 \(\tfrac14\)보다 작다

여기서부터 세 문제는 또 다른 목록에서 가져왔습니다. 수학교사 알렉산드르 셴(A. Shen)이 모은 25문제를 훗날 일란 바르디(Ilan Vardi)가 풀이와 함께 정리한 것으로, 출제자 이름과 연도까지 적혀 있죠("Mekh-mat 입시 문제"). 모두 핵심 한 줄이면 무너지는 예입니다. (번호는 바르디 목록 기준 — 앞 장들의 호바노바 번호와는 별개입니다.) 첫 문제는 Bogatyi, 1984년 출제.

문제 15
\(\displaystyle\sum_{n=1}^{1000}\frac{1}{n^3+3n^2+2n} < \frac14\) 임을 보여라.

분모를 인수분해하는 순간 끝납니다 — \(n^3+3n^2+2n = n(n+1)(n+2)\). 세 연속수의 곱은 망원경(telescoping)으로 쪼개집니다:

$$ \frac{1}{n(n+1)(n+2)}=\frac12\!\left[\frac{1}{n(n+1)}-\frac{1}{(n+1)(n+2)}\right]. $$

그러면 가운데 항이 모두 상쇄되어, 합은

$$ \frac12\!\left[\frac{1}{1\cdot2}-\frac{1}{1001\cdot1002}\right]=\frac14-\frac{1}{2\cdot1001\cdot1002}<\frac14. $$

상한 \(1000\)이 무엇이든(심지어 \(\infty\)라도) 합은 \(\tfrac14\)을 넘지 못합니다. 핵심은 오직 분모의 인수분해 하나였죠.

6문제 20 — 로그들의 곱, 누가 클까 (Smurov, Balsanov, 1986)

문제 20
\(A=\log_3 4\cdot\log_3 6\cdots\log_3 80\) (짝수)과 \(B=2\,\log_3 3\cdot\log_3 5\cdots\log_3 79\) (홀수)을 비교하라.

로그는 위로 볼록(오목)하고 증가합니다. 그리고 \(2k\)는 \(2k-1\)과 \(2k+1\)의 한가운데(산술평균)죠. 오목성으로 산술평균의 로그가 두 로그의 산술평균보다 크고, 다시 산술–기하 평균으로:

$$ \log_3(2k) > \tfrac12\big(\log_3(2k\!-\!1)+\log_3(2k\!+\!1)\big) \ge \sqrt{\log_3(2k\!-\!1)\,\log_3(2k\!+\!1)}. $$

\(k=2,\dots,40\)에 대해 모두 곱하면 \(A\)가 좌변, 우변은 홀수 로그들이 망원경처럼 겹쳐 \(\sqrt{\log_3 3\cdot(\log_3 5\cdots\log_3 79)^2\cdot\log_3 81}\). 그런데 \(\log_3 3=1\), \(\log_3 81=4\)이라 \(\sqrt{\,\cdot\,}=2\,\log_3 5\cdots\log_3 79\). 즉

$$ A > 2\,\log_3 5\cdots\log_3 79 = 2\,\log_3 3\cdot\log_3 5\cdots\log_3 79 = B. $$

(마지막은 \(\log_3 3=1\)이라 \(B\)와 똑같죠.) 그러므로 \(A>B\) — 곱을 직접 계산하는 건 불가능하지만, "한가운데 값의 로그가 더 크다"는 오목성 한 줄로 끝납니다.

7문제 25 — 변과 각의 평균은 60°와 90° 사이 (Podol'skii, Aliseichik, 1989)

문제 25
삼각형의 세 변을 \(a,b,c\), 마주 보는 각을 \(A,B,C\)(라디안)라 할 때 \(\displaystyle 60° \le \frac{aA+bB+cC}{a+b+c} \le 90°\) 임을 보여라.

두 부등식이 각각 한 줄짜리 정리로 잡힙니다.

정삼각형에서 정확히 \(60°\)에 닿고, 한 각이 \(180°\)로 찌부러질수록 \(90°\)에 다가갑니다.

8맺으며 — 아름다움이 무기가 될 때

이 문제들은 — 부정할 수 없이 — 아름답습니다. 60° 회전 하나로 흩어진 세 길이가 한 삼각형이 되고, "중력"이라는 두 단어가 공간 기하를 무너뜨리고, 미분 없이 넓이의 최솟값이 잡힙니다. 그런데 바로 그 우아함이, 누군가에게는 대학 문 앞에서 인생을 가로막은 차별의 도구였습니다.

도구에는 죄가 없다지만, 도구를 어디에 겨누는가에는 분명한 책임이 있습니다. 같은 회전·같은 무게중심이 이어폰을 찾고 지구를 재는 데 쓰이듯(앞선 페이지들처럼), 그것은 사람을 떨어뜨리는 데도 쓰였죠. 호바노바가 그 낡은 청록색 공책을 평생 간직하고 이 문제들을 세상에 공개한 이유가 거기 있습니다 — 아름다움을 기록하기 위해서가 아니라, 그것이 무기였던 적이 있음을 잊지 않기 위해서.

그리고, 지금도
이건 흘러간 옛이야기가 아닙니다. 오늘날엔 재범 위험 점수(COMPAS), 얼굴 인식, 채용·대출 심사 알고리즘이 데이터에 밴 편향을 그대로 학습해 차별을 "객관적인 수식"으로 세탁하곤 합니다(캐시 오닐, 《대량살상 수학무기》). 더 멀리는 근대 통계학(상관·회귀·검정) 자체가 골턴·피어슨의 우생학과 한 몸으로 자라났죠. 도구는 더 정교해졌지만 질문은 똑같습니다 — 이 수학을 어디에, 누구에게 겨누는가.

참고 자료