← 목록으로
토픽 픽업 · 부등식

부등식의 세계

The art of proving A is bigger than B.

1990~2000년대 수학올림피아드의 마지막 문제엔 유독 부등식이 자주 앉아 있었습니다. 등식은 변형하면 되지만 부등식은 방향을 증명해야 하고, 그 방향은 유명한 부등식들을 사슬처럼 엮어야 나오죠. 네 가지 주력 병기와 그 뒤의 숨은 질서(지수는 평평할수록 약하다), 판을 뒤집는 슈어, 사슬의 나침반이 되는 등호조건, 삼각함수 항등식에서 훔쳐 온 치환, 그리고 이제는 AI가 부등식을 증명하는 시대까지 — 한 장르의 흥망성쇠를 따라갑니다.

1부등식이라는 장르

올림피아드 부등식 문제는 겉보기에 단순합니다 — "양수 \(a,b,c\)에 대해 \(A\ge B\)를 보여라." 그런데 등식과 달리 부등식은 이항하고 정리해서 끝나지 않습니다. 이미 참이라고 알려진 부등식들(병기)을 골라, 방향이 맞도록 이어 붙여(사슬), 목표까지 도달해야 하죠:

\[ A \;\ge\; C_1 \;\ge\; C_2 \;\ge\; \cdots \;\ge\; B. \]

어떤 병기를 어느 자리에 쓸지가 전부이고, 그 선택을 인도하는 나침반이 등호조건입니다(8장). 먼저 무기고부터 열어 봅시다.

기본기 — 정규화(normalization)
시작 전에 거의 항상 하는 준비운동. 부등식이 동차(homogeneous)면 — 즉 모든 항의 차수가 같으면 — 변수를 상수배해도 양변이 같은 배율로 움직이니, \(a+b+c=1\)이나 \(a+b+c=3\), \(abc=1\) 같은 제약을 공짜로 걸 수 있습니다. 변수 하나를 없애 삼변수를 이변수로 낮추고(대입이 쉬워지고), 차수가 안 맞는 문제엔 거꾸로 정규화로 차수를 맞춰 병기를 끼웁니다. "일반성을 잃지 않고 \(a+b+c=3\)이라 하자"가 괜히 관용구가 된 게 아니에요.

24대 병기

① 산술–기하평균 (AM–GM)

AM–GM (코시, 1821년 귀납 증명)
양수 \(x_1,\dots,x_n\)에 대해 \[ \frac{x_1+\cdots+x_n}{n} \;\ge\; \sqrt[n]{x_1\cdots x_n}, \] 등호는 모두 같을 때. 사실 이건 더 긴 사슬의 한 토막입니다 — 거듭제곱 평균: \(\mathrm{QM}\ge\mathrm{AM}\ge\mathrm{GM}\ge\mathrm{HM}\) (제곱·산술·기하·조화평균).

평균의 사슬 — 네 막대는 순서를 지킨다

x = 1.00 y = 2.00 z = 3.60
어떻게 움직여도 \(\mathrm{HM}\le\mathrm{GM}\le\mathrm{AM}\le\mathrm{QM}\). 세 값을 같게 만들면 네 막대가 한 줄로 합쳐집니다 — 그게 등호조건이에요.

② 코시–슈바르츠

코시–슈바르츠 (1821)
\[ \Bigl(\sum a_i^2\Bigr)\Bigl(\sum b_i^2\Bigr) \;\ge\; \Bigl(\sum a_ib_i\Bigr)^{\!2}, \] 등호는 두 수열이 비례할 때. 올림피아드에서 가장 사랑받은 변형이 엥겔 형태(Titu의 보조정리): \[ \frac{a_1^2}{b_1}+\cdots+\frac{a_n^2}{b_n} \;\ge\; \frac{(a_1+\cdots+a_n)^2}{b_1+\cdots+b_n}. \] 분수 합을 한 방에 아래로 눌러 주는, 분모 청소기입니다.

③ 젠센

젠센 (1906)
\(f\)가 볼록(convex)이면, 가중치 \(\lambda_i\ge0,\ \sum\lambda_i=1\)에 대해 \[ f\Bigl(\sum\lambda_i x_i\Bigr) \;\le\; \sum\lambda_i f(x_i). \] "평균을 먼저 내고 함수"가 "함수를 먼저 씌우고 평균"보다 작다 — 곡선이 현 아래에 있다는 말 그대로입니다. \(f=\ln\)(오목)에 쓰면 AM–GM이 한 줄에 나오죠.

볼록 — 곡선은 현 아래에 산다

가중치 λ = 50%
두 점을 드래그하고 λ를 움직여 보세요. 현 위의 점(주황)이 늘 곡선 위의 점(초록)보다 위 — 그 세로 간격이 젠센의 여유분입니다.

④ 횔더 — 코시의 일반화

횔더 (1889)
\(\tfrac1p+\tfrac1q=1\) (\(p,q\gt1\))이면 \(\ \sum a_ib_i \le (\sum a_i^p)^{1/p}(\sum b_i^q)^{1/q}\). \(p=q=2\)가 코시–슈바르츠. 올림피아드에선 세 수열 버전이 주력입니다: \[ \Bigl(\sum u_i\Bigr)\Bigl(\sum v_i\Bigr)\Bigl(\sum w_i\Bigr) \;\ge\; \Bigl(\sum \sqrt[3]{u_iv_iw_i}\Bigr)^{\!3}. \] "제곱근이 낀 분수 합"을 다루는 거의 유일한 중화기라, 6장에서 실전을 보게 됩니다.

3숨은 질서 — 지수는 평평할수록 약하다

병기들을 늘어놓고 보면 공통 패턴이 보입니다. 예컨대 \(x^3+y^3 \ge x^2y+xy^2\)(양수)에서 왼쪽 지수는 \((3,0)\), 오른쪽은 \((2,1)\) — 부등식의 작은 쪽으로 갈수록 지수들의 차가 줄어들어 평평해집니다. 이걸 대칭합 전체로 일반화한 것이 뮤어헤드 부등식이에요.

뮤어헤드 (1902)
지수 벡터 \((p)\)가 \((q)\)를 지배(majorize)하면 — 합이 같고, 큰 것부터의 부분합이 늘 크거나 같으면 — 양수 변수의 대칭합끼리 \[ \sum_{\text{sym}} x^{p_1}y^{p_2}z^{p_3} \;\ge\; \sum_{\text{sym}} x^{q_1}y^{q_2}z^{q_3}. \] 예: \((3,0,0)\succ(2,1,0)\succ(1,1,1)\)이므로 \[ \tfrac13\!\sum x^3 \;\ge\; \tfrac16\!\sum_{\text{sym}} x^2y \;\ge\; xyz. \]

즉 대칭합의 세계에서 지수가 뾰족할수록 강하고(\([3,0,0]\)이 최강), 고를수록 약합니다 — 최약체는 완전히 평평한 \(xyz\). AM–GM도 이 질서의 특수한 경우고요(\((1,0,\dots)\succ(\tfrac1n,\dots,\tfrac1n)\)). 전개해서 뮤어헤드로 마무리하는 "닥치고 전개(bunching)"가 한 시대의 필살기였던 이유입니다.

4반전 — 최약체를 큰 쪽에 세우는 슈어

그런데 단골 병기 중 딱 하나, 이 질서를 거스르는 놈이 있습니다.

슈어 부등식 (t = 1)
음이 아닌 \(x,y,z\)에 대해 \(\ \sum x(x-y)(x-z) \ge 0\), 전개하면 \[ x^3+y^3+z^3 \;+\; \underbrace{3xyz}_{\text{최약체가 왼쪽에?!}} \;\ge\; \sum_{\text{sym}} x^2y. \] 괄호 표기로는 \([3,0,0]+[1,1,1]\ \ge\ 2\,[2,1,0]\) — 최강과 최약의 평균이 중간을 이깁니다.

뮤어헤드로는 절대 못 얻는 모양입니다 — 왼쪽에 서 있는 \(xyz\)는 뮤어헤드 세계관에서 제일 약한 항이니까요. 그 대가로 슈어는 등호조건이 둘입니다: \(x=y=z\) 또는 둘이 같고 나머지가 \(0\) (예: \(x=y,\ z=0\)). 이 "이상한 등호"가 8장의 복선이 됩니다.

뮤어헤드의 질서와 슈어의 반란

x = 1.00 y = 2.00 z = 0.70
세 막대는 \([3,0,0]\ge[2,1,0]\ge[1,1,1]\)(뮤어헤드), 분홍 마름모는 \(([3,0,0]+[1,1,1])/2\) — 슈어는 이 마름모가 늘 가운데 막대 오른쪽에 있다는 주장입니다. x=y=z로 만들거나 하나를 0, 둘을 같게 하면 마름모가 막대에 딱 붙어요(등호 두 가족).
슈어의 일반형 — 지수 t
사실 슈어는 한 줄이 아니라 계열입니다. \(t\gt0\)이고 \(x,y,z\ge0\)이면 \[ x^t(x-y)(x-z)+y^t(y-x)(y-z)+z^t(z-x)(z-y)\;\ge\;0. \] \(t=1\)이 위의 형태고, \(t=2\)면 \([4,0,0]+[2,1,1]\ge2[3,1,0]\)처럼 차수만 올라간 같은 구조가 나옵니다. \(t\)가 짝수면 \(x,y,z\)가 실수 전체여도 성립하고요 — "최약체를 큰 쪽에" 두는 이 반란이 모든 차수에서 반복됩니다.

5더 넓은 병기고

카라마타 — 젠센의 상위호환

카라마타 (1932)
\(f\) 볼록이고 \((a_1,\dots,a_n)\succ(b_1,\dots,b_n)\)(지배)이면 \[ f(a_1)+\cdots+f(a_n)\;\ge\;f(b_1)+\cdots+f(b_n). \] 어떤 수열이든 평균으로 고르게 편 \((\bar x,\dots,\bar x)\)에게 지배당하므로, \(b\)를 그걸로 잡으면 젠센이 특수한 경우로 떨어집니다. "뾰족할수록 강하다"(뮤어헤드)의 볼록함수 버전이죠.

포포비치우 — 젠센의 3점 강화판

포포비치우 (1965)
\(f\) 볼록이면 \[ f(x)+f(y)+f(z)+3f\Bigl(\tfrac{x+y+z}{3}\Bigr)\;\ge\;2\Bigl[f\bigl(\tfrac{x+y}{2}\bigr)+f\bigl(\tfrac{y+z}{2}\bigr)+f\bigl(\tfrac{z+x}{2}\bigr)\Bigr]. \] 젠센이 "끝점 대 중심"이라면, 포포비치우는 끝점·중심·변의 중점까지 삼각 편대로 묶습니다. 카라마타로 증명되는 대표적 예이기도 합니다.

재배열과 체비쇼프

재배열 부등식
두 수열을 같은 순서로 짝지어 곱해 더하면 최대, 반대 순서면 최소. 따름정리인 체비쇼프 합 부등식: 같은 방향으로 단조인 두 수열이면 \(\ n\sum a_ib_i \ge (\sum a_i)(\sum b_i)\). "큰 것엔 큰 것을 붙여라" — 정렬 한 번이 부등식이 되는, 가장 원초적인 병기입니다.

민코프스키 — 삼각부등식의 \(L^p\)판

민코프스키 (1896)
\(p\ge1\)이면 \(\ \bigl(\sum(a_i+b_i)^p\bigr)^{1/p}\le\bigl(\sum a_i^p\bigr)^{1/p}+\bigl(\sum b_i^p\bigr)^{1/p}\). \(p=2\)면 그냥 벡터의 삼각부등식 \(\|u+v\|\le\|u\|+\|v\|\)죠. \(\sqrt{a^2+x^2}\) 꼴 항들의 합을 다루는 문제(빛의 경로·최단거리류)의 단골입니다.
아벨 변형 — 합의 부분적분
\(\sum a_ib_i\)에서 부분합 \(B_k=b_1+\cdots+b_k\)를 끌어내는 재조합(아벨의 합 공식)은, \(b_i\)가 단조일 때 재배열·체비쇼프의 사촌 노릇을 합니다. 코시–슈바르츠의 적분형 \(\bigl(\int fg\bigr)^2\le\int f^2\int g^2\), 젠센의 적분형(확률의 기댓값 부등식)도 같은 식의 연속 버전 — 유한 합의 병기는 대개 적분으로 그대로 넘어갑니다.

63변수의 엔진 — SOS·접선·pqr

2변수 부등식은 사실상 다 쉽습니다. 난이도는 3변수부터 시작되고, 그걸 갈아 버리는 세 가지 기법이 한 시대를 지배했어요. 유명 부등식 이름을 외우는 것과는 결이 다른, 구조를 공략하는 무기들입니다.

① SOS — 제곱합으로 분해하기

대칭식을 통째로 제곱들의 가중합으로 바꾸는 방법입니다. 3변수 대칭 부등식은 거의 항상 이 꼴로 정리돼요:

\[ \text{(목표식)} \;=\; S_a\,(b-c)^2 + S_b\,(c-a)^2 + S_c\,(a-b)^2 \;\ge\; 0. \]

이러면 문제가 "계수 \(S_a,S_b,S_c\)의 부호 따지기"로 바뀝니다. 셋 다 \(\ge0\)이면 즉시 끝이고, 하나가 음수면 SOS 판정법(예: \(a\ge b\ge c\)일 때 \(S_b\ge0,\ S_b+S_a\ge0,\ S_b+S_c\ge0\) 등)으로 마무리하죠. 네스빗이 한 줄로 떨어집니다 — \(\displaystyle\sum\frac{a}{b+c}-\frac32=\frac12\sum\frac{(a-b)^2}{(a+c)(b+c)}\ge0\), 세 계수가 다 양수라 볼 것도 없어요. 8장에서 만날 이란 TST 1996이 바로 이 방법의 최종 보스입니다(계수 하나가 음수라 판정법을 끝까지 밀어붙여야 하죠).

② 접선 트릭 (Tangent Line Trick)

등호가 \(a=b=c\)인 \(\sum f(a_i)\) 꼴이라면, 거의 만능인 지름길이 있습니다. 등호점 \(x_0\)에서 \(f\)의 접선 \(\ell(x)=f'(x_0)(x-x_0)+f(x_0)\)을 그어 항마다 \(f(a_i)\ge\ell(a_i)\)로 눌러 버리는 것 — 그러면 합이 선형이 되어 정규화 조건으로 즉시 끝납니다.

접선 아래로 눌러 선형으로 만들기

함수 접점 x₀ = 1.00
볼록한 곡선(파랑)은 어느 접선(주황)보다도 위에 있습니다 — 그래서 \(f(a_i)\ge\ell(a_i)\)로 각 항을 선형으로 바꿔도 부등호 방향이 안전하죠. 접점을 등호점에 맞추면 그 자리에서 딱 붙습니다.

③ pqr / uvw — 왜 등호가 그 자리인가

대칭식은 기본대칭식 \(p=a+b+c,\ q=ab+bc+ca,\ r=abc\)만으로 다 쓸 수 있습니다. 이 좌표로 옮기면 놀라운 일이 벌어져요 — 대부분의 부등식이 \(r\)에 대해 단조 또는 볼록이라, \(p,q\)를 고정한 채 \(r\)을 극단으로 밀면 됩니다. 그런데 \(r\)의 극단은 항상 두 변수가 같거나(\(a=b\)) 하나가 \(0\)인 경계예요.

"등호 두 가족"의 정체
슈어와 이란 부등식의 등호가 왜 하필 \(a=b=c\) 와 \(\{a=b,\ c=0\}\)에서 생기는가 — pqr이 답합니다. 검사할 곳이 원래 그 두 경계뿐이거든요. 예컨대 슈어 \(t=1\)은 pqr로 \(\ p^3-4pq+9r\ge0\)이라는 깔끔한 한 줄이 됩니다. 3변수 대칭 부등식의 "숨은 지도"인 셈이죠.

7실전 — 사슬을 엮다

몸풀기: 네스빗 (1903)

a/(b+c) + b/(c+a) + c/(a+b) ≥ 3/2

엥겔 형태로 분모를 청소하고, AM–GM급 기본 부등식으로 마무리:

\[ \sum\frac{a}{b+c}=\sum\frac{a^2}{a(b+c)} \;\overset{\text{엥겔}}{\ge}\;\frac{(a+b+c)^2}{2(ab+bc+ca)} \;\overset{(a+b+c)^2\ge3(ab+bc+ca)}{\ge}\;\frac32. \]

고리 둘 — 둘 다 등호가 \(a=b=c\)에서 성립하니 사슬 전체의 등호도 \(a=b=c\). 궁합이 맞았습니다.

IMO 1995 문제 2 — 치환 + 엥겔 + AM–GM

abc=1일 때 Σ 1/(a³(b+c)) ≥ 3/2

\(x=1/a,\ y=1/b,\ z=1/c\)(그럼 \(xyz=1\))로 갈아입히면 \(\dfrac{1}{a^3(b+c)}=\dfrac{x^2}{y+z}\). 문제가 낯익은 모양이 됩니다:

\[ \sum\frac{x^2}{y+z}\;\overset{\text{엥겔}}{\ge}\;\frac{(x+y+z)^2}{2(x+y+z)}=\frac{x+y+z}{2} \;\overset{\text{AM–GM}}{\ge}\;\frac{3\sqrt[3]{xyz}}{2}=\frac32. \]

치환 → 엥겔 → AM–GM, 세 고리. 역시 전부 \(x=y=z=1\)에서 등호 — 원래 변수로 \(a=b=c=1\). \(\blacksquare\)

IMO 2001 문제 2 — 횔더의 시대

Σ a/√(a²+8bc) ≥ 1

제곱근 낀 분수 합 — 횔더의 시그니처 무대입니다. \(u_i=\dfrac{a}{\sqrt{a^2+8bc}}\)를 두 번, \(w_i=a(a^2+8bc)\)를 한 번 써서 세 수열 횔더를 걸면 세제곱근 안에서 근호가 소거되며:

\[ \Bigl(\sum \frac{a}{\sqrt{a^2+8bc}}\Bigr)^{\!2}\Bigl(\sum a(a^2+8bc)\Bigr)\;\ge\;(a+b+c)^3. \]

이제 \((a+b+c)^3 \ge \sum a^3+24abc\)만 보이면 되는데, 전개하면 \(3\sum_{\text{sym}}a^2b \ge 18abc\) — AM–GM 여섯 항짜리로 끝. 두 고리를 합치면 \(\bigl(\sum u\bigr)^2\ge1\). \(\blacksquare\)

이 문제 이후 "횔더로 근호를 벗긴다"가 표준 레퍼토리가 됐습니다. 등호는 전부 \(a=b=c\).

IMO 2005 문제 3 — 횔더 + SOS의 합작

xyz≥1일 때 Σ (x⁵−x²)/(x⁵+y²+z²) ≥ 0

분자에 뺄셈이 있어 각 항이 음수일 수도 있는 고약한 문제. 먼저 항마다 \(\dfrac{x^5-x^2}{x^5+y^2+z^2}\ge\dfrac{x^5-x^2}{x^3(x^2+y^2+z^2)}\)로 분모를 키워(\(xyz\ge1\Rightarrow x^5\ge x^3\cdot\tfrac1{yz}\ge\) … 횔더로 \(x^5+y^2+z^2\ge x^3(x^2+y^2+z^2)/\!\)… ) 공통분모 \(x^2+y^2+z^2\)로 모으면, 남는 건

\[ \sum\Bigl(x^2-\frac1x\Bigr)\ge0 \quad\Longleftarrow\quad \sum x^2\ge\sum\frac1x=\sum\frac{yz\cdot x}{xyz}\le\sum yz\le\sum x^2. \]

근호 대신 분수를 다루지만 정신은 IMO 2001과 쌍둥이 — 횔더로 분모를 정리하고 SOS/AM–GM으로 마무리. 2000년대 초 부등식이 도달한 정교함의 표본입니다. 등호는 \(x=y=z=1\). \(\blacksquare\)

8등호조건 — 사슬의 나침반

사슬 \(A\ge C_1\ge\cdots\ge B\)에서 전체 등호가 성립하려면 모든 고리가 동시에 등호여야 합니다. 즉 사슬의 등호조건은 각 고리 등호조건의 교집합이에요. 여기서 전략이 나옵니다 —

등호를 먼저 찾아라
목표 부등식이 딱 붙는 지점(등호)을 먼저 찾고, 그 지점에서 등호가 성립하는 병기만 골라 쓴다. 등호가 \(a=b=c\)인 문제라면 코시·AM–GM을 마음껏 쓰면 되지만 — 등호가 다른 곳에 있는 문제에 그 병기를 휘두르면, 그 고리에서 여유가 새어 나가 사슬이 목표에 닿지 못합니다.

그런 "이상한 등호"의 문제들이 실제로 있었고, 그래서 어려웠습니다.

IMO 2006 문제 3
모든 실수 \(a,b,c\)에 대해 \(\bigl|ab(a^2-b^2)+bc(b^2-c^2)+ca(c^2-a^2)\bigr| \le M\,(a^2+b^2+c^2)^2\)이 성립하는 최소 상수는 \(M=\dfrac{9\sqrt2}{32}\).

열쇠는 항등식이었습니다. 좌변이 통째로 인수분해되거든요:

\[ ab(a^2-b^2)+bc(b^2-c^2)+ca(c^2-a^2) \;=\; -(a-b)(b-c)(c-a)(a+b+c). \]

이 꼴을 보는 순간 \(a=b=c\)에서 좌변이 \(0\)이라는 게 자명해집니다 — 등호는 거기 없어요. 차이들 \((a-b),(b-c)\)를 살려야 하니 최적점은 등차수열 \((m-d,\ m,\ m+d)\) 쪽이고, 실제 등호는 \(m/d=\sqrt2/3\)일 때, 즉 \((a,b,c)\propto\bigl(\tfrac{\sqrt2}{3}-1,\ \tfrac{\sqrt2}{3},\ \tfrac{\sqrt2}{3}+1\bigr)\)에서 잡힙니다. AM–GM·코시를 아무리 조합해도 등호가 안 맞아 헛도는, 교집합 원리의 잔혹한 실전판이었죠.

IMO 2006 P3 탐험기 — 등호는 어디에 숨었나

a = -0.53 b = 0.47 c = 1.47
게이지는 \(F=\dfrac{|(a-b)(b-c)(c-a)(a+b+c)|}{(a^2+b^2+c^2)^2}\), 빨간 눈금이 상한 \(\tfrac{9\sqrt2}{32}\approx0.3977\). 아래 수직선의 세 점이 \(a,b,c\) — 최대에 도달하는 순간 등간격(등차수열)이 되는 걸 보세요. \(a=b=c\)에선 \(F=0\), 등호에서 가장 먼 지점입니다.

9치환 — 삼각함수 항등식에서 훔쳐 오기

조건이 붙은 부등식은 조건을 녹여 없애는 치환이 반이었습니다. 그리고 그 치환들의 상당수는 삼각함수 항등식의 복제품이에요.

실전 — IMO 2000 문제 2

\(abc=1\)인 양수에 대해 \(\Bigl(a-1+\dfrac1b\Bigr)\Bigl(b-1+\dfrac1c\Bigr)\Bigl(c-1+\dfrac1a\Bigr)\le1\)을 보여라.

치환 \(a=\tfrac xy,\ b=\tfrac yz,\ c=\tfrac zx\)를 넣으면 각 인수가 \(\dfrac{x-y+z}{y}\) 꼴로 정리되어, 부등식이

\[ (x-y+z)(y-z+x)(z-x+y)\;\le\;xyz \]

로 변합니다 — 라비 치환의 역방향, 삼각형 세계의 고전이죠. 인수 중 음수가 있으면(많아야 하나) 좌변이 \(0\) 이하라 자명하고, 전부 양수면 \((x-y+z)(y-z+x)\le x^2\)류 세 개를 곱해 AM–GM으로 끝납니다. 등호는 \(x=y=z\), 즉 \(a=b=c=1\). \(\blacksquare\)

10그리고 지금 — AI가 부등식을 증명한다

부등식은 사실 기계와 궁합이 좋은 장르입니다. 다항 부등식 \(P\ge0\)의 증명은 종종 제곱합(SOS) 분해 \(P=\sum Q_i^2\)라는 짧고 검증 가능한 인증서로 압축되는데(6장에서 손으로 짜던 그 SOS죠), 그런 인증서 찾기는 반정부호 계획법(SDP)으로 기계가 잘 뒤집니다(Parrilo, 2000년대). 형식 증명 쪽에선 Lean의 nlinarith·polyrith 같은 전술이 자잘한 부등식을 자동으로 처리합니다.

단, 제곱합이 만능은 아니다 — 힐베르트 17번 문제
"양의 다항식은 모두 제곱합인가?"는 힐베르트의 17번 문제였고, 답은 아니오입니다 — 모츠킨 다항식 \(x^4y^2+x^2y^4-3x^2y^2+1\ge0\)은 항상 0 이상이지만(세 항 AM–GM 한 줄로 증명되죠!) 다항식 제곱합으로는 못 씁니다. 아르틴(1927)이 유리함수의 제곱합으로는 항상 된다는 걸 증명해 문제를 닫았어요. 기계 증명의 이론적 토대(Positivstellensatz)가 여기서 나옵니다.

그리고 2024년, 딥마인드의 AlphaProof(Lean + 알파제로식 강화학습)가 IMO 2024에서 대수·정수론 문제 셋을 풀어 — 기하 전용 AlphaGeometry 2와 합쳐 은메달급(28/42)을 기록했습니다. 가장 어려운 6번을 사흘 걸려 푼 것도 화제였죠. 이듬해엔 구글과 OpenAI의 모델들이 자연어 증명으로 금메달급(35/42)에 도달했습니다. 한 세대 전 고등학생들이 코시와 슈어를 갈고닦던 그 무대에, 이제 기계가 올라온 겁니다.

그래도 이 글에서 본 것들 — 등호조건의 교집합을 읽고, \(-(a-b)(b-c)(c-a)(a+b+c)\) 같은 인수분해를 알아보고, 조건을 삼각함수 옷으로 갈아입히는 감각 — 은 탐색이 아니라 안목의 영역입니다. 기계가 인증서를 찾는 시대에도, 어디를 파야 하는지 아는 눈은 여전히 사람의 몫으로 남아 있어요.

11맺으며

한 장르의 역사
이 세계를 정립한 책이 1934년 하디·리틀우드·포여의 Inequalities입니다 — AM–GM부터 카라마타·뮤어헤드까지 한 권에 담은 경전이었죠. 하지만 전성기는 90~2000년대였습니다. 냉전 시기 동구권(러시아·불가리아·루마니아) 올림피아드가 부등식을 즐겨 냈고, 2003년 출범한 AoPS 포럼에서 전 세계 학생들이 슈어·SOS·pqr 같은 기법을 실시간으로 벼려 냈어요. IMO 2001·2005·2006의 부등식이 그 문화의 절정이었고 — 그 뒤로는 "웬만한 건 SOS·pqr로 기계적으로 풀린다"는 인식이 퍼지며, 출제가 오히려 줄어드는 아이러니로 이어졌습니다. 지금 10장의 AI는 그 마지막 장을 넘기는 중이고요.

부등식의 세계는 병기(2·5장)와 기법(6장), 질서(뮤어헤드), 반란(슈어), 나침반(등호조건), 변장술(치환)로 이루어진 하나의 생태계였습니다. 올림피아드의 다른 무기가 궁금하다면 불변량 페이지를, 증명 한 줄의 아름다움은 말 없는 증명을 함께 보세요.

참고 자료