"수학자들도 수십 년 못 풀었는데" 오픈AI, 인류 난제 3개 해결 주장

컴퓨터과학·물리학서 잇단 성과 발표
노벨상 수상자 등 검증 착수

인공지능(AI)이 세계적인 과학자들도 수십 년 동안 풀지 못했던 난제들을 해결했다는 주장이 나왔다. 챗GPT 개발사 오픈AI가 수학과 컴퓨터과학, 물리학 분야에서 오랫동안 미해결 상태로 남아 있던 문제들에 대한 새로운 증명을 확보했다고 발표하면서다. 실제로 증명이 인정될 경우 AI가 과학 연구의 보조 수단을 넘어 새로운 이론과 발견을 만들어내는 연구 주체로 발전할 수 있다는 평가가 나온다.

챗GPT 개발사 오픈AI가 수학과 컴퓨터과학, 물리학 분야에서 오랫동안 미해결 상태로 남아 있던 문제들에 대한 새로운 증명을 확보했다고 발표했다. 로이터연합뉴스

26일(현지시간) 오픈AI는 자사 홈페이지를 통해 자체 AI 모델이 수학의 '국소 평활화 추측(Local Smoothing Conjecture)', 컴퓨터과학의 '지수시간 가설(Exponential Time Hypothesis·ETH)', 물리학의 '양자장론의 수학적 존재 증명' 등 3개 분야에서 새로운 연구 성과를 거뒀다고 밝혔다. 특히 오픈AI 측은 단순히 기존 연구자료를 요약하거나 알려진 정리를 재구성하는 수준을 넘어, 오랫동안 해결되지 않았던 문제에 관한 새로운 증명을 생성했다고 발표했다.

35년 묵은 수학 난제, AI가 모든 차원에서 증명 주장

먼저 수학 분야에서는 1991년 미국 수학자 크리스토퍼 소지가 제시한 국소 평활화 추측을 해결했다고 주장했다. 이 추측은 파동이 특정 공간에 극도로 집중되는 현상이 오랫동안 지속될 수 없다는 내용을 담고 있다. 쉽게 말해 파동이 특정 순간에 매우 강하게 집중될 수는 있지만, 시간에 따른 평균적인 집중 정도는 그 극단적인 순간보다 훨씬 작다는 것이다.

26일(현지시간) 오픈AI는 자사 홈페이지를 통해 자체 AI 모델이 수학의 '국소 평활화 추측(Local Smoothing Conjecture)', 컴퓨터과학의 '지수시간 가설(Exponential Time Hypothesis·ETH)', 물리학의 '양자장론의 수학적 존재 증명' 등 3개 분야에서 새로운 연구 성과를 거뒀다고 밝혔다. AP연합뉴스

이 문제는 현대 수학의 조화해석학과 편미분방정식 연구에서 중요한 난제로 꼽힌다. 2019년에는 수학자들이 2차원 공간에서 해당 추측을 증명했지만, 더 높은 차원에서 일반적으로 성립하는지를 밝히는 문제는 남아 있었다.

오픈AI는 자체 모델이 새로운 보조 편미분방정식을 활용해 모든 공간 차원에서 성립하는 증명을 찾아냈다고 밝혔다. 이 증명이 인정된다면 국소 평활화 추측뿐 아니라 '카케야 추측(Kakeya Conjecture)'과 '스타인의 제한 추측(Stein's Restriction Conjecture)'까지 모든 차원에서 해결할 수 있다는 것이 오픈AI의 설명이다.

특히 카케야 추측은 수학계에서 오랫동안 연구해 온 대표적 난제로, 지난해인 2025년 3차원에서 이를 증명한 연구 성과가 발표된 바 있다.

오픈AI는 지난 18일 AI가 관련 증명을 생성했으며, 다음 날인 19일 수학적 증명 검증 시스템인 '린(Lean)'을 이용해 이를 형식화했다고 설명했다. 회사는 AI가 작성한 자연어 증명과 린 증명 자료를 온라인에 공개해 전 세계 연구자들이 검토할 수 있도록 했다.

"30년 가까이 믿어온 이론이 틀렸다" 컴퓨터과학계도 주목

컴퓨터과학 분야에서는 1999년 제기된 지수시간 가설이 성립하지 않는다는 증명을 확보했다고 밝혔다. 지수시간 가설은 특정 계산 문제를 해결하는 데 필요한 시간이 문제의 크기가 커질수록 폭발적으로 증가할 수밖에 없다는 가설이다. 이는 컴퓨터가 어떤 문제를 얼마나 효율적으로 풀 수 있는지를 연구하는 계산복잡도 이론에서 중요한 전제로 활용돼 왔다. 그래프 이론과 계산생물학, 데이터베이스, 계산기하학 등 다양한 분야에서 특정 문제의 계산상 어려움을 설명하는 수백 편의 연구가 이 가설을 토대로 이뤄졌다.

오픈AI는 AI가 지난 16일 지수시간 가설을 반박하는 증명을 생성했으며, 17일 린을 통해 형식화했다고 밝혔다. 만약 해당 결과가 최종적으로 인정된다면 기존에 빠르게 풀기 어렵다고 여겼던 일부 계산 문제에 새로운 접근법이 등장할 가능성이 있다.

이번 연구의 검증에는 지수시간 가설을 처음 제안한 연구자 중 두 명인 미국 캘리포니아대 샌디에이고캠퍼스(UCSD)의 러셀 임팔리아초와 라마모한 파투리, 매사추세츠공과대학(MIT)의 라이언 윌리엄스 교수가 참여한다. 특히 가설을 제안한 연구자들이 직접 AI의 반박 증명을 검토한다는 점에서 관심이 쏠린다.

AI가 증명하고 인간이 검증, 과학 연구 방식 바뀔까

물리학 분야에서도 주목할 만한 성과를 발표했다. 오픈AI는 쿼크와 글루온의 상호작용을 설명하는 양자색역학(QCD)을 비롯해 일부 4차원 양자장론이 수학적으로 엄밀하게 존재한다는 증명을 확보했다고 주장했다. 양자색역학은 원자핵 내부에서 입자들을 결합하는 강한 상호작용을 설명하는 이론으로, 현대 입자물리학의 표준모형을 구성하는 핵심 이론 중 하나다. 이론이 물리 현상을 성공적으로 설명한다는 사실과 별개로, 이를 엄밀한 수학적 체계로 구성하는 일은 오랫동안 물리학과 수학계의 과제로 남아 있었다.

오픈AI는 이번 성과를 공개하면서 새로운 과학 연구 검증 방식도 제안했다. AI가 생성한 연구 결과를 곧바로 완성된 논문으로 취급하기보다는 검증과 해석이 필요한 원자료로 보고, 외부 연구진이 이를 분석해 학문적 의미를 설명하는 방식이다. AP연합뉴스

오픈AI는 이번 연구에 순수 양-밀스 이론의 존재를 증명하는 내용도 포함돼 있다고 밝혔다. 양-밀스 이론은 미국 클레이수학연구소가 선정한 '밀레니엄 7대 난제' 가운데 하나인 '양-밀스 이론과 질량 간극' 문제와 관련된다. 물리학 분야의 외부 검증은 2004년 노벨 물리학상 수상자인 데이비드 그로스가 이끈다. 마이클 더글러스, 아서 재피, 이고르 클레바노프, 니키타 네크라소프 등 세계적인 이론물리학자와 수학자들도 참여한다.

오픈AI는 AI 모델이 지난 9월 9일 양-밀스 이론의 존재에 대한 증명을 생성한 데 이어 같은 달 18일 양자색역학 관련 증명을 확보했다고 설명했다. 양-밀스 이론의 증명 형식화 작업은 이달 16일 마무리됐다고 밝혔다. 다만 물리학 분야는 증명 자료가 방대하고 복잡한 만큼 외부 연구진의 요청에 따라 AI가 생성한 원본 자료를 즉시 공개하지 않고, 연구진이 내용을 정리한 뒤 발표하기로 했다.

오픈AI는 이번 성과를 공개하면서 새로운 과학 연구 검증 방식도 제안했다. AI가 생성한 연구 결과를 곧바로 완성된 논문으로 취급하기보다는 검증과 해석이 필요한 원자료로 보고, 외부 연구진이 이를 분석해 학문적 의미를 설명하는 방식이다. 특히 오픈AI는 이번 연구 성과에 대한 학술적 공로를 직접 요구하지 않겠다고 밝혔다. 외부 연구자들은 비밀유지계약 없이 자발적이고 독립적으로 참여하며, 검증과 해석 과정에서 이뤄낸 성과에 대해 인정받게 된다. 또한 AI가 생성한 연구 결과를 독립적으로 검증하고 추가 연구로 발전시키기 위해 학술회의 개최 등을 지원할 계획이다.

방제일 기자 zeilism@asiae.co.kr