OpenAI 내부 AI, 80년 난제 '에르되시 단위거리 추측' 반증했다

OpenAI가 5월 중순 내부 AI 모델이 '에르되시 단위거리 추측(Erdős unit distance conjecture)'을 반증했다고 발표했다. 이 문제는 이산기하학의 유명한 난제로, 지난 80년간 인간 수학자들을 가로막아 왔다.

OpenAI는 여러 수학자에게 이 결과를 먼저 공개하고 그들의 반응을 함께 내놨다. 수학계에서 가장 권위 있는 상인 필즈상을 받은 팀 가워스(Tim Gowers)는 "단위거리 문제의 해결이 AI 수학의 이정표라는 데에는 의심의 여지가 없다"고 적었다.

토론토대학교의 다니엘 릿(Daniel Litt) 교수는 "이것은 AI가 자율적으로 만들어낸 결과 가운데, 앞으로의 가능성을 보여주는 선행 지표로서가 아니라 그 자체로 흥미롭다고 느낀 첫 사례"라고 평가했다.

AI 시스템이 주요 미해결 추측을 푸는 증명을 찾아낸 것은 사실상 처음이다. 다만 원문 필자는 이를 그동안의 AI 수학 발전 궤적에서 벗어난 급진적 도약으로 보지는 않는다고 밝혔다.

3년 전만 해도 대형언어모델(LLM)은 산술 문제조차 풀기 버거워했다. LLM이 고교 수학 경시대회 문제를 척척 풀기 시작한 것도 불과 지난해의 일이다.

필자는 올해 1월 세계 최대 규모의 연례 수학 학회인 '합동수학회의(Joint Mathematics Meetings)'에 참석해, AI 시스템이 수학 연구에 기여하기 시작했지만 제한된 환경에서만 가능하다는 점을 알게 됐다고 전했다. AI의 출력물을 논문으로 낼 수 있는 정리로 바꾸려면 상당한 인간의 해석이 필요했다.

이번 OpenAI의 결과는 그 연장선상의 다음 단계다. AI 모델은 여러 수학 하위 분야에서 끌어온 기존 아이디어들을 영리하게 적용해 완전한 증명을 만들어냈다. 그러나 진정으로 새로운 기법을 개척하지는 못했고, 이 결과는 이후 인간 수학자들의 손을 거쳐 다듬어지고 확장됐다.

필자는 이를 인간 수학자와 AI 모델이 서로를 보완하는 중기적 미래를 가리키는 신호로 봤다. AI는 살아 있는 어떤 인간보다도 과거 연구를 폭넓게 알고 있고, 성과가 나올 가능성이 낮은 지루한 증명 전략도 끈질기게 파고드는 의지를 지녔다. 반면 인간은 하나의 문제를 더 깊이 사고하고 더 흥미로운 질문을 던질 수 있다.