← 목록으로
관통하는 순간 · 사회과학과 수학

사회의 과학, 사회의 수학

Society, after the arithmetic.

앞 페이지에서 호주 원주민의 혼인 규칙표에서 군이 걸어 나오는 걸 봤습니다. 그게 예외적인 사건이 아닙니다. 사람들의 관계에도, 표를 세는 일에도, 나누고 맞추는 일에도 수학은 늘 있었고 — 대개는 "그럴 리 없다"를 증명하는 쪽으로 나타납니다. 세 묶음으로 나눠 보겠습니다.

1적의 적은 친구 균형 이론

"적의 적은 친구", "친구의 친구는 친구". 다들 아는 처세의 격언인데, 심리학자 프리츠 하이더가 1946년에 이걸 관계 삼각형의 안정성 문제로 봤습니다. 세 사람 사이의 세 관계가 편안하게 앉는 배치가 있고, 계속 삐걱대는 배치가 있다는 거죠.

1956년 카트라이트와 해러리가 이를 그래프로 옮깁니다. 관계마다 +(우호)와 −(적대)를 붙이고,

균형의 정의
삼각형의 세 관계 부호를 곱해서 +면 그 삼각형은 균형이다.
+++ (모두 친구) 또는 +−− (내 친구의 적은 나의 적) 은 균형, ++− (내 두 친구가 서로 원수) 와 −−− (셋이 서로 원수) 는 불균형.

여기서 정리가 나옵니다. 그리고 이게 이 장의 요점입니다.

균형 정리 (Cartwright–Harary, 1956)
모든 삼각형이 균형인 관계망은 — 반드시 두 진영으로 쪼개진다. 진영 안은 전부 우호, 진영 사이는 전부 적대인 방식으로.

누구도 "두 편으로 갈라지자"고 결정하지 않았습니다. 각자 삼각형 하나씩만 편안하게 정리했을 뿐인데, 전체가 양극화됩니다. 아래에서 관계선을 눌러 부호를 바꿔 보세요.

관계를 하나씩 뒤집어 보기

선을 클릭하면 우호↔적대가 바뀝니다
여섯 사람의 관계망입니다. 초록 실선=우호, 빨강 점선=적대. 모든 삼각형이 균형이면 사람들이 두 진영 색으로 자동 분류되고, 하나라도 깨지면 분류가 불가능해집니다. 1차대전 직전 유럽 동맹망이 이 그림의 교과서 사례예요 — 삼각형 몇 개가 어긋난 채 버티다 한 번에 두 진영으로 접혔습니다.

2온건한 취향, 극단적 결과 셸링의 분리 모형

토머스 셸링이 1971년에 던진 질문. 도시의 인종 분리는 사람들이 인종차별적이어서 생기는가? 그는 격자 위에 두 종류의 말을 놓고, 아주 온건한 규칙 하나만 줬습니다.

규칙은 이것뿐
"내 이웃 중 나와 같은 편이 \(t\)보다 적으면 불편하다. 불편하면 빈칸으로 이사한다."
\(t=30\%\)라면 — 이웃의 70%가 다른 편이어도 괜찮다는 뜻입니다. 누구도 같은 편끼리 모여 살고 싶어하지 않아요. 그냥 완전히 고립되는 건 싫다는 정도입니다.

결과는 아래에서 직접 돌려 보세요. 30%짜리 온건한 취향이 만드는 도시가 어떻게 생겼는지.

이사 몇 번이면 도시가 갈라진다

관용도 \(t\) = 30%
처음에는 완전히 무작위로 섞여 있습니다(같은 편 이웃 비율 약 50%). 불편한 사람만 빈칸으로 옮기는 걸 반복하면 — \(t=30\%\)에서 열 라운드 남짓 만에 74% 안팎까지 갑니다. 이웃의 70%가 남이어도 괜찮다는 사람들이 모여 사는데도요. \(t=40\%\)면 84%, \(50\%\)면 90%까지 올라가고, 반대로 \(t\le 20\%\)로 내리면 분리가 거의 일어나지 않습니다. 온건함과 극단 사이의 문턱이 생각보다 낮은 곳에 있다는 것 — 이게 셸링이 보여준 것입니다.

3여섯 다리 좁은 세상

1967년 스탠리 밀그램의 실험. 네브래스카의 낯선 사람에게 편지를 주고 "보스턴의 이 사람에게 아는 사람을 거쳐서 전달하라"고 했더니 — 평균 여섯 단계쯤에서 도착했습니다. 그런데 이상합니다. 사람들의 친구 관계는 대부분 지역적이잖아요. 내 친구의 친구는 대개 내 친구고요. 그렇게 촘촘히 뭉쳐 있는 그물에서 어떻게 여섯 걸음 만에 지구 반대편에 닿을까요?

1998년 와츠와 스트로가츠의 답이 허무할 만큼 단순합니다. 먼 친구 몇 명만 있으면 됩니다.

지름길 몇 개가 세상을 좁힌다

재배선 확률 \(p\) = 0%
200명이 원형으로 이웃끼리만 연결된 그물에서 시작해, 각 선을 확률 \(p\)로 아무 데나 다시 잇습니다. 슬라이더를 30% 근처에 놓아 보세요 — \(p\)가 겨우 2~3%인데 평균 거리는 17걸음에서 7걸음으로 떨어지고, 그러면서 뭉침(내 친구들끼리 아는 정도)은 95%나 남습니다. 세상이 좁아지는 데 필요한 건 관계망의 대개조가 아니라 지름길 몇 개였던 겁니다.

4의석을 늘렸더니 줄었다 앨라배마 역설

1880년 미국. 인구조사국 수석서기 시튼이 하원 의석 배분을 계산하다 이상한 걸 발견합니다. 하원을 299석으로 하면 앨라배마가 8석인데, 300석으로 늘리면 앨라배마가 7석이 됩니다. 전체 파이가 커졌는데 내 몫이 줄어든 거죠.

계산 방법은 지극히 상식적인 것이었습니다(해밀턴 방식). 인구 비례로 몫을 구하고, 정수 부분을 먼저 주고, 남은 자리는 소수점 아래가 큰 순서로 나눠 준다. 아래에서 총 의석을 밀어 보세요.

총 의석을 한 자리 늘려 보면

총 의석 = 10
인구가 각각 6·6·2인 세 주에 의석을 나눕니다. 10석 → 11석으로 늘리는 순간을 보세요. C주가 2석에서 1석으로 떨어집니다. C주는 아무 잘못도 하지 않았고 인구도 그대로인데요. 큰 두 주의 소수점 아래가 동시에 커지면서 남은 자리를 둘이 가져가 버리기 때문입니다.

그럼 다른 방법을 쓰면 되지 않나? 1982년 밸린스키와 영이 여기에 마침표를 찍습니다.

밸린스키–영 불가능성 정리 (1982)
주가 셋 이상이면 — 정족수 규칙(각 주의 몫을 반올림·반내림한 범위 안에 있어야 한다)을 지키는 배분법은 반드시 앨라배마 역설이나 인구 역설에 걸린다. 역설을 피하는 배분법은 반드시 정족수를 깬다. 둘 다 만족하는 방법은 없다.

"공정한 배분"이라는 게 애초에 존재하지 않는다는 이야기입니다. 미국은 1941년부터 정족수를 깨는 쪽 (헌팅턴–힐 방식)을 쓰고 있어요. 역설을 피하는 대가로요.

5다수결의 곤란 콩도르세에서 애로까지

1785년 콩도르세 후작이 발견한 것. 세 사람이 A·B·C를 이렇게 선호한다고 합시다.

다수결로 뽑아 보기

두 후보씩 맞붙여 다수결로 비교합니다. 왼쪽 배치에서는 A가 B를 이기고, B가 C를 이기는데, C가 A를 이깁니다. 가위바위보처럼 순환해서 1등이 없어요. 각 유권자는 멀쩡한 순서를 갖고 있는데, 다수결이라는 집계 장치를 통과하자 순서가 사라집니다.

그러면 더 똑똑한 집계 방법을 만들면 되지 않을까요. 1951년 케네스 애로가 답합니다 — 안 됩니다.

애로의 불가능성 정리 (1951)
선택지가 셋 이상일 때, 개인들의 선호 순서를 사회 전체의 선호 순서로 바꾸는 규칙이 ① 모두가 X를 Y보다 좋아하면 사회도 그래야 하고(만장일치) ② X와 Y의 사회적 순서가 제3의 선택지 Z에 영향받지 않아야 하고 ③ 언제나 온전한 순서를 내놓아야 한다면 — 그 규칙은 어떤 한 사람의 선호를 그대로 베끼는 것(독재)뿐이다.

②가 제일 아픈 조건입니다. "제3후보가 나와도 A와 B의 우열은 바뀌지 않는다" — 너무 당연해 보이는데, 실제 선거에서는 사표·스포일러 후보 때문에 늘 깨지죠. 애로가 증명한 건 이 당연한 요구들이 동시에는 불가능하다는 것이었습니다. 1972년 노벨경제학상.

덧붙여 1973·75년 기브바드와 새터스웨이트가 못을 하나 더 박습니다 — 전략적 거짓 투표가 절대 이득이 되지 않는 투표 방식도 독재뿐이라고요. 선거 제도를 고치자는 모든 논의는 이 두 정리 위에서 이뤄집니다. 완벽한 제도를 고르는 게 아니라, 무엇을 포기할지 고르는 일인 거죠.

6선을 어떻게 긋느냐 게리맨더링의 기하학

1812년 매사추세츠 주지사 엘브리지 게리가 만든 선거구가 도롱뇽(salamander)처럼 생겼다 해서 "게리맨더"라는 말이 생겼습니다. 표는 그대로 두고 선만 다시 그어서 결과를 바꾸는 기술이죠.

얼마나 바꿀 수 있을까요. 아래는 주황 15표, 파랑 10표가 격자에 놓인 지역입니다. 구역은 다섯 개, 각 구역은 다섯 칸, 전부 이어져 있어야 합니다(실제 선거구 요건과 같습니다).

같은 표, 세 가지 결과

득표는 언제나 주황 15 : 파랑 10입니다. 그런데 선을 어떻게 긋느냐에 따라 의석은 5:0도 되고 3:2도 되고, 심지어 2:3으로 소수파가 이기기도 합니다. 세 구획 모두 칸 수가 같고 전부 이어져 있어요 — 규칙을 어긴 게 하나도 없습니다.

그래서 "이 지도가 조작됐는가"를 어떻게 판정하느냐가 문제가 됩니다. 모양이 이상하다는 건 증거가 못 돼요 (강과 경계선 때문에 원래 이상하게 생긴 선거구도 많습니다). 수학자들이 내놓은 답은 비교 대상을 만드는 것이었습니다.

수십만 장의 지도를 뽑아서 비교한다
규칙(인구 균등·연결성·모양)을 지키는 선거구 지도를 마르코프 연쇄 몬테카를로로 무작위 생성합니다. 수십만 장을 뽑아 의석 분포를 그린 다음, 실제 지도가 그 분포의 어디쯤에 있는지 봅니다. 99.9% 바깥에 있다면 우연으로 보기 어렵죠. 이 방법은 실제로 미국 법정에서 증언됐고, 노스캐롤라이나·펜실베이니아의 선거구 지도를 무효화시켰습니다.

7청혼하고, 갈아타기 안정 매칭

1962년 게일과 섀플리의 논문 제목이 「대학 입학과 결혼의 안정성」입니다. 문제는 이래요. 남자 \(n\)명과 여자 \(n\)명이 각자 상대에 대한 선호 순서를 갖고 있을 때, 아무도 짝을 깨고 도망갈 이유가 없는 짝짓기가 가능한가?

불안정한 쌍
현재 짝이 아닌 두 사람이 서로가 지금 짝보다 낫다고 여기면 — 그 쌍은 언젠가 도망칩니다. 이런 쌍이 하나도 없는 짝짓기를 안정 매칭이라 합니다.

놀라운 건 답이 언제나 존재한다는 것, 그리고 찾는 방법이 황당할 만큼 단순하다는 것입니다.

청혼 알고리즘을 한 단계씩

짝 없는 남자가 아직 청혼하지 않은 사람 중 가장 좋아하는 여자에게 청혼합니다. 여자는 지금 짝보다 나으면 갈아타고, 아니면 거절합니다. 차인 남자는 다시 줄을 섭니다. 이걸 반복하면 끝나고, 끝났을 때는 반드시 안정합니다.

이 알고리즘은 종이 위에 머물지 않았습니다. 미국의 의대 졸업생–병원 레지던트 배정이 이걸로 굴러가고, 신장 교환(내 신장은 내 가족과 안 맞지만 다른 가족과는 맞는 경우를 연결)과 뉴욕·보스턴의 공립학교 배정도 이 계열입니다. 2012년 노벨경제학상이 섀플리와 앨빈 로스에게 갔고요.

누가 청혼하느냐가 결과를 바꾼다
남자가 청혼하면 남자에게 최선인 안정 매칭이, 여자가 청혼하면 여자에게 최선인 안정 매칭이 나옵니다. 둘 다 안정한데 결과는 다릅니다. 제도를 설계할 때 "누가 제안하는 쪽인가"가 곧 권력이라는 뜻이라, 실제 제도 설계에서 매번 논쟁거리가 됩니다.

8네가 자르고 내가 고른다 공정 분할

케이크 하나를 둘이 나누는 공정한 방법은 누구나 압니다. 한 명이 자르고, 다른 한 명이 고른다. 자르는 사람은 어느 쪽을 받아도 괜찮게 자를 수밖에 없죠. 질투가 원천적으로 불가능합니다.

그런데 셋이면요? 갑자기 어려워집니다. 1960년대에 셀프리지와 콘웨이가 3인용 방법을 찾아냈지만, \(n\)명이면 유한 번에 끝나는 질투 없는 분할이 가능한가는 반세기 동안 미해결이었습니다. 2016년에야 아지즈와 매켄지가 답했어요 — 가능하긴 한데, 필요한 자르기 횟수가

$$ n^{n^{n^{n^{n^n}}}} $$

입니다. "존재한다"와 "쓸 수 있다"가 얼마나 다른지 보여주는 유명한 사례가 됐죠.

삼각형을 쪼개면 집세가 나눠진다
더 재미있는 건 스프너 보조정리와의 연결입니다. "삼각형을 잘게 쪼개고 꼭짓점에 세 가지 색을 규칙대로 칠하면, 세 색을 모두 가진 작은 삼각형이 반드시 홀수 개 존재한다" — 순수 조합론 정리인데, 프랜시스 수(1999)가 이걸로 방 나누기와 집세 나누기 문제를 풀었습니다. 방이 셋이고 사람이 셋일 때, 아무도 남의 방을 부러워하지 않는 집세 배분이 항상 존재한다는 것. 조합론의 고정점 정리 한 줄이 셰어하우스의 분쟁을 해결한 셈입니다.

9균형은 존재한다 부동점 정리

마지막은 경제학의 가장 깊은 바닥입니다. "시장에는 수요와 공급이 일치하는 가격이 존재하는가?" 경제학이 200년 동안 가정해 온 이 명제를, 1950년대에 애로와 드브뢰가 증명합니다. 쓴 도구가 위상수학의 부동점 정리였습니다.

브라우어 부동점 정리
공을 자기 자신으로 보내는 연속함수는 반드시 제자리에 머무는 점을 하나 갖는다.
커피를 아무리 저어도 제자리인 입자가 하나는 있고, 서울 지도를 서울 바닥에 아무렇게나 펼쳐 놓으면 자기 실제 위치 바로 위에 놓인 점이 하나는 있습니다.

연결이 이렇습니다. "가격 벡터를 넣으면 → 초과수요가 나오고 → 그에 따라 가격을 조정한다"를 하나의 사상으로 보면, 그 사상의 부동점이 곧 균형 가격입니다. 조정할 필요가 없는 가격이니까요. 내시가 1950년에 내시 균형의 존재를 증명한 것도 같은 수법(카쿠타니의 부동점 정리)이었습니다.

여기엔 통쾌함과 허무함이 같이 있습니다. 균형이 있다는 건 증명됐지만, 부동점 정리는 어디 있는지 알려 주지 않습니다. 시장이 그 균형에 실제로 도달하는지, 도달한다면 얼마나 걸리는지도 말해 주지 않고요. 망치로 모기 잡기 편에서 본 비구성적 증명의 그 느낌이, 경제학의 심장부에 그대로 박혀 있는 겁니다.

10맺으며 — 불가능성의 목록

여기까지 훑고 나면 한 가지 패턴이 보입니다. 사회를 수학으로 다룰 때 나오는 정리는 대개 "이건 됩니다"가 아니라 "이건 안 됩니다"입니다.

반대로 "있다"고 말하는 정리들 — 균형 정리, 안정 매칭, 부동점 — 은 존재만 보장하고 그 대가를 숨기지 않습니다. 균형은 양극화라는 형태로 오고, 안정 매칭은 누가 청혼하느냐에 따라 승자가 갈리고, 시장 균형은 어디 있는지 모르는 채로 존재합니다.

수학이 사회과학에 준 건 답이 아니라 경계선이었던 셈입니다. 무엇을 동시에 바랄 수 없는지를 정확하게 알려 주는 것. 셸링의 격자가 보여주듯 아무도 원하지 않은 결과가 얼마든지 나올 수 있고, 게리맨더 지도가 보여주듯 규칙을 다 지키고도 결과를 뒤집을 수 있으니까요. 그걸 알고 제도를 고르는 것과 모르고 고르는 것은 전혀 다른 일이고 — 그 차이가 이 페이지에 있는 정리들의 값어치입니다.

참고 자료