수학의 역사에서 160년이 넘는 시간 동안 세계의 수많은 천재들을 좌절시킨 미해결 난제가 있습니다. 바로 리만 가설입니다. 100만 달러의 상금이 걸려 있는 이 거대한 벽은 소수의 비밀을 쥐고 있는 열쇠이자 수학계의 최종 보스로 불려왔습니다.
그런데 최근 인공지능이 이 수학계의 성역에 균열을 내면서 전 세계가 발칵 뒤집혔습니다. OpenAI가 AI를 활용해 수학 난제 372개를 풀어낸 가운데, 그중에서도 수학자들을 경악게 만든 사건이 터졌습니다.
바로 리만 가설로 가는 길목인 '준 리만 가설(The Quasi-Riemann Hypothesis)'의 증명입니다. 해석적 정수론을 연구하는 알렉스 콘토로비치 교수는 X(구 트위터)에 다음과 같이 남겼습니다.
"If a human did this, it would be an instant Fields Medal, no questions answered." 사람이 이걸 해냈다면 두말할 것 없이 곧바로 필즈상감이라는 극찬이었습니다.
도대체 AI는 무엇을 증명해 낸 것일까요? 그리고 이 충격적인 사건이 우리에게 던지는 진짜 의미는 무엇일까요?
수학에서 가장 오래된 비밀과 지도 위의 벽
리만 가설과 지도 위의 점들이 감춘 소수의 비밀
리만 가설은 지도 위의 점들의 위치가 소수의 비밀을 쥐고 있는 이야기에서 출발합니다. 수많은 자연수 속에서 1과 자기 자신으로만 나누어떨어지는 소수는 바로 붙어서 나오기도 하고 한참 동안 안 나오기도 하며, 다음 소수가 언제 나올지 알려주는 간단한 규칙이 존재하지 않습니다.
하지만 멀리서 보면 이야기가 달라집니다. 어떤 수까지 소수가 몇 개인지 세어보면 가우스가 예측한 매끄러운 곡선을 거의 그대로 따라갑니다.
그러나 가까이 들여다보면 실제 개수는 곡선에서 조금씩 어긋나 있습니다.
이 차이, 즉 오차가 얼마나 커질 수 있는지가 바로 리만 가설의 핵심입니다. 오차가 작다는 보장이 있으면 소수에 관한 수많은 정리가 한꺼번에 탄탄해집니다.
1859년 독일의 수학자 베른하르트 리만은 이 오차가 사실은 수많은 파도가 겹쳐서 생긴다는 사실을 밝혀냈습니다. 매끄러운 곡선에 파도를 하나씩 더하면 곡선이 점점 실제 소수의 계단 모양을 닮아갑니다.
그리고 이 파도들은 제타 함수라는 함수에서 비롯됩니다.
제타 함수는 모든 자연수를 같은 횟수만큼 거듭제곱한 뒤 그 역수를 끝없이 더한 값입니다. 놀랍게도 18세기 오일러는 이 합이 모든 소수로 만든 곱과 정확히 같다는 걸 밝혀냈습니다.
자연수의 합 속에 소수가 통째로 들어 있는 셈입니다. 리만은 이 함수에 넣는 값을 복소수로 넓혔고, 이 지도에서 함수 값이 0이 되는 곳을 영점이라고 부르며 영점 하나가 파도 하나를 만듭니다.
지금까지 컴퓨터로 확인한 영점 12조 개 이상이 모두 한가운데 줄 위에 있었지만, 무한히 많은 영점 전부가 그렇다는 증명은 아무도 해내지 못했습니다.
아비셰크 사하가 분류한 난제의 등급과 준 리만 가설의 무게
정수론 학자 아비셰크 사하는 AI가 풀었다는 난제 372개를 얼마나 놀라운 돌파인지에 따라 A부터 D까지 네 등급으로 나눠 봤습니다. 그 분류에 따르면 D는 충격적인 돌파, C는 놀라운 돌파, B는 기존 계획 안의 뛰어난 진전, A는 돌파 아님으로 나뉩니다.
대부분의 결과는 B와 C에 머물렀지만, 맨 위 D 등급, 즉 충격적인 돌파는 단 하나, 바로 준 리만 가설의 증명뿐이었습니다.
수학자들이 한 세기 넘게 세우지 못한 벽을 AI가 세웠다는 평가가 나오는 이유가 여기에 있습니다. 1896년 두 수학자가 $\frac{1}{2}$줄 위에는 영점이 없다는 것을 증명하면서 소수 정리가 증명되었지만, 오른쪽 끝줄 옆에 가는 띠 안에는 위로 갈수록 가늘어지는 띠 때문에 영점이 숨어 있을 가능성이 계속 남아 있었습니다.
그래서 수학자들은 훨씬 약한 질문도 던졌습니다. $\frac{1}{2}$줄까지는 바라지 않을 테니, 가늘어지지 않는 벽을 어디든 하나만 세울 수 있을까 하는 의문이었습니다.
이것이 바로 준 리만 가설입니다.
알렉스 콘토로비치 교수는 띠를 조금만 두껍게 만들었어도 엄청난 돌파구였을 거라고 평했습니다. 그런데 AI는 아예 두께가 변하지 않는 빈 띠를 얻어냈습니다.
이번 원고가 증명한 내용은 바로 $\frac{7}{8}$줄보다 오른쪽에는 아무리 위로 올라가도 영점이 하나도 없다는 사실입니다. 영점은 좌우 대칭이므로 왼쪽
리만 가설 자체가 완전히 풀린 것은 아니지만, 오른쪽 끝줄에 바짝 붙은 영점이 언젠가 튀어나올지 모른다는 불안을 처음으로 지워낸 순간이었습니다.
AI가 벽을 세운 방식과 육각형 세계의 비밀
소수 동전 던지기와 사촌 걸음 가족의 합계
실제 증명의 설계도를 따라가 보면, 수학자들이 즐겨 쓰는 귀류법으로 시작됩니다. 일단 $\frac{7}{8}$줄보다 오른쪽에 영점이 있다고 쳐보고, 영점들이 오른쪽으로 어디까지 갈 수 있는지 추적해 보면 어느 순간 가우스의 곡선과 완전히 모순되는 상황이 발생합니다.
이때 쓰는 도구가 바로 소수 동전 던지기입니다. 수를 소수의 곱으로 쪼갰을 때 소수가 짝수 개면 앞면, 홀수 개면 뒷면으로 두고 칸을 이동하며 지그제그 걸음을 걷습니다.
리만 가설이 맞다면 이 걸음은 공정한 동전처럼 대략 제곱근 크기로만 출렁여야 합니다. 오른쪽에 영점이 있다면 그만큼 더 크게 출렁여야 하므로, 이 걸음의 출렁임이 어느 한계를 넘지 않는다는 걸 보이면 곧 벽이 됩니다.
하지만 소수 동전 걸음 하나만 들여다봐서는 이걸 보일 방법이 없습니다. 그래서 이 증명은 동전 규칙을 조금씩 비튼 수많은 '사촌 걸음들'을 함께 봅니다.
가족 전체의 합에는 쓸 도구가 있기에, 사촌 걸음들의 발걸음 짝을 모두 더한 합계를 다른 각도에서 다시 세어 증명을 이끌어냅니다. 짝의 수는 걸음 길이의 제곱만큼 불어나고 소인수분해에 달려 있어 아무 규칙도 보이지 않지만, 걸음들을 한꺼번에 묶는 숨은 규칙이 필요합니다.
그리고 그 규칙은 우리가 아는 평범한 수직선 위에서는 결코 보이지 않습니다.
육각형 세계와 세타 함수의 대칭성이 가져온 기적
그래서 증명은 숫자가 육각형 모양으로 깔린 세계로 넘어갑니다. 이 세계의 수는 가로로 한 칸 가는 1과 120도 비스듬히 가는 오메가, 이 두 방향만으로 만들어지며 오메가를 곱할 때마다 수가 120도씩 돌아갑니다.
이 세계에서는 소수도 달라지고, 제타 함수는 두 조각으로 쪼개지며 그중 한 조각이 바로 우리의 제타 함수가 됩니다. 따라서 이 세계에서 증명하면 우리 세계에서도 그대로 성립하게 됩니다.
이 세계에서는 면이 셋인 동전을 만들 수 있으며, 120도씩 도는 세 방향이 세 면이 됩니다. 숨은 규칙은 바로 이 세 면 동전에 있고, 그 규칙을 담고 있는 것이 이 세계의 '세타 함수'입니다.
보통의 세타 함수는 제곱수들로 만든 파도인데, 특별한 방식으로 뒤집어 비추면 자기 자신이 다시 나타나는 강력한 대칭을 갖고 있습니다.
이 대칭은 수천 개를 더해야 하는 긴 합을 몇 개만 더하면 되는 짧은 합으로 바꿔 줍니다. 1969년 수학자 쿠보타가 육각형 세계에서 세 면 동전으로 같은 일을 하는 3차 세타 함수를 찾아냈고, 1977년 패터슨은 그 함수에 적힌 숫자들이 3차 가우스 합이라는 걸 밝혔습니다.
세타 함수의 대칭을 써서 긴 합을 짧은 합으로 접고 나면 서로 지워져 합개가 작다는 게 드러나고, 결국 영점들의 경계가 $\frac{7}{8}$을 넘을 수 없다는 결론에 이르게 됩니다.
지겔 영점의 소멸과 학계의 거센 찬반 양론
오래된 유령의 소멸과 수학적 의의
이 벽 하나가 세워짐으로써 수학계에는 엄청난 파문이 일어났습니다. 첫째로 소수가 몇 개인지 셀 때 생기는 오차의 폭이 크게 좁혀져 오차에 훨씬 강한 울타리가 생겼습니다.
둘째로 '지겔 영점'이라는 오래된 유령이 사라졌습니다. 제타 함수의 친척 함수들 지도에서 오른쪽 끝줄 바로 옆에 숨어 있을지 모른다던 이 영점 때문에, 수많은 정리가 "단, 이 유령이 없다면"이라는 불안한 단서를 달고 있었습니다.
칠레 가톨릭대의 엑토르 파스텐은 이번 결과가 이 문제를 매듭지었다고 평가하며 "This is not just progress on Siegel zeros—it settles the question."이라고 명확히 선언했습니다.
셋째로 18세기 오일러가 남긴 적합수 쉰다섯 개의 목록도 빠짐없이 완전하다는 것이 자연스럽게 따라 나옵니다. 200년 넘게 열려 있던 질문이 매듭지어진 것입니다.
이 모든 결과가 인간이 아닌 인공지능이 쓴 원고에서 나왔다는 사실은 수학 연구의 패러다임이 통째로 흔들리고 있음을 보여줍니다. AI는 리만 가설을 완벽하게 푼 것이 아니라 160년 동안 아무도 세우지 못한 견고한 벽을 세웠습니다.
남은 것은 $\frac{1}{8}$과 $\frac{7}{8}$ 사이의 좁아진 지도이며, 과연 AI가 마지막 남은 이 미지의 구간까지 메울 수 있을지 전 세계의 시선이 집중되고 있습니다.
슬로포칼립스와 힘의 과시, 그리고 다단계 LLM 검증의 명암
그러나 이 혁신적인 성과를 마주한 수학계의 반응은 찬사와 공포가 기묘하게 뒤엉켜 있습니다. 오픈AI가 아직 일반에 공개하지 않은 AI 모델로 수백 개의 고난도 수학 문제를 풀어낸 프리프린트 700편 이상을 깃허브에 한꺼번에 기습 공개하자 세계 수학계는 거센 논쟁에 휩싸였습니다.
일부 연구자들은 수십 년간 풀리지 않던 난제에 해법이 제시된 것을 환영했지만, 자신이 평생을 바쳐 연구해온 주제가 AI에 의해 순식간에 선점당할 수 있다는 공포를 마주해야 했습니다.
한 물리학자는 이 사태를 가리켜 '슬로포칼립스(slopocalypse)'라고 냉소적으로 명명했습니다. 코네티컷대의 수학자 알바로 로자노-로블레도는 한꺼번에 쏟아진 규모가 너무나 충격적이라며 오픈AI의 의도에 의문을 표했습니다.
앤트로픽의 수학자 레벤트 알포게 역시 이 사건을 명백히 수학 역사에서 가장 중요한 순간이라고 평가하면서도, 인간 수학자들의 연구 영역이 무차별적으로 잠식당하는 슬픈 이야기들이 생겨날 것이라 경고했습니다.
급기야 인간 수학 협회는 테렌스 타오의 블로그에 실린 성명을 통해 "700개가 넘는 파일을 한꺼번에 쏟아낸 건 학문이 아니라 힘의 과시라며 수학자들에게 오픈AI와의 작업을 그만둘 것"을 촉구했습니다.
타오 역시 공개 직전, 미해결 문제의 풀이가 지속할 수 없는 방식으로 대량 수학되고 있다고 날카롭게 비판했습니다. 실제로 공개 다음 날 난제 372개를 다룬 원고 중 3편이 부호 오류로 철회되기도 했습니다.
그럼에도 준 리만 가설의 증명이 특별한 대우를 받는 이유는 명확합니다. 첫째, 린이라는 엄격한 증명 검사 프로그램으로 검증되어 컴퓨터가 논리를 한 단계씩 확인해 논리적 오류를 철저히 걸러냈습니다.
둘째, 1만 6천 줄이 넘는 방대한 원본 코드를 바탕으로 사람의 손길과 기계적 검증이 유기적으로 결합되었습니다. 마치 최근 학계에서 AI를 이용한 이중맹검 동료 심사 파일럿 프로그램이나 다단계 LLM 파이프라인을 도입해 편견을 배제하고 논리의 순수성을 지키려 노력하는 것처럼, 이번 연구 역시 단순한 텍스트 생성을 넘어선 구조적 엄밀함을 증명해 보였습니다.
💡 요약해보면
- OpenAI가 AI를 통해 160년 넘은 미해결 난제인 리만 가설의 관문 '준 리만 가설'을 증명해 수학계를 뒤흔들었다.
- AI는 사촌 걸음의 가족 합계와 육각형 세계의 세타 함수 대칭성을 활용해 $\frac{7}{8}$줄 오른쪽에는 영점이 없다는 빈 띠를 확정했다.
- 수학계는 '힘의 과시'와 연구 선점에 대한 공포로 반발하고 있으나, 기계 검사를 통과한 이번 성과는 과학 연구에서 AI의 역할에 대한 거대한 전환점을 찍었다.
🔥 기계적 폭격인가, 지식의 진화인가
수백 편의 논문을 하루아침에 쏟아내는 기업의 태도는 학문의 깊이를 지우고 속도만 남기는 야만적 폭격에 가깝다. 하지만 그 폭격 속에서 인류가 수백 년 동안 넘지 못했던 장벽의 실마리가 잡혔다는 아이러니를 우리는 어떻게 받아들여야 할까.
도구의 혁신이 인간의 존재 이유를 위협할 때, 진정으로 경계해야 할 것은 AI의 능력이 아니라 그 능력을 독점하려는 자본의 오만이다.
📊 데이터가 말해주는 것
컴퓨터가 검증한 12조 개의 영점과 700편이 넘는 대량의 프리프린트 폭격은 단순한 숫자의 나열이 아니라, 지식 생산의 주도권이 실리콘밸리의 거대 자본으로 이동하고 있음을 알리는 가장 차갑고도 명백한 경고다.
💭 에디터의 단상
수학과 과학의 세계는 언제나 인간의 고독한 사유와 인내의 산물로 여겨져 왔다. 밤을 지새우며 칠판 가득 분필 가루를 날리던 수학자들의 뒷모습 속에서 우리는 인간 정신의 위대함을 발견하곤 했다.
하지만 AI가 단 몇 시간 만에 인류의 수백 년 난제에 벽을 세워버리는 광경을 지켜보노라면, 묘한 허탈감과 함께 시대가 완전히 바뀌었다는 체념이 밀려온다. 기술은 이미 인간의 지적 한계를 아득히 넘어섰고, 우리는 그 거대한 파도 위에 올라타 있거나 아니면 밀려나거나 둘 중 하나의 선택만을 강요받고 있다.
과연 이 찬란하고도 두려운 도구의 시대 끝에서, 인간이라는 존재는 무엇으로 자신의 존재 가치를 증명해야 하는가 깊이 묻게 된다.
📚 이 글이랑 같이 보면 좋은 글
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
160년의 침묵을 깬 AI의 벽은 거대한 성취인 동시에 우리에게 묵직한 숙제를 남겼다. 인간의 뇌로 다 헤아릴 수 없는 진실의 지도가 펼쳐지는 동안, 우리는 그 기술을 어떻게 다루어야 할지 진지하게 고민해야만 한다. 📉
#OpenAI #준리만가설 #리만가설 #수학난제 #인공지능 #AI수학 #필즈상 #알렉스콘토로비치 #아비셰크사하 #정수론 #수학의역사 #밀레니엄문제 #100만달러 #과학뉴스 #최신기술 #LLM검증 #지겔영점 #세타함수 #수학계충격 #인공지능발전 #테크이슈 #연구개발 #과학동향 #지식공유 #미해결난제 #소수의비밀 #수학천재 #학계반응 #미래기술 #AI역량
0 댓글