에이전트 1만 개가 88시간, 오픈AI가 나비에-스토크스 증명을 내놨습니다

오픈AI는 X와 연구 블로그에 같은 내용을 올렸습니다. 매끄럽게 움직이던 3차원 유체가 유한한 시간 안에 무너질 수 있는지는 약 90년 동안 답이 없던 물음이고, 자기네 시스템이 「무너질 수 있다」는 쪽으로 답을 냈다는 내용입니다. 게시물의 그림은 증명이 만든 해의 모양으로, 안쪽으로 감겨 들면서 축 방향으로 점점 가늘고 길어지는 소용돌이입니다. 오픈AI는 이 모양을 스파게티에 빗댔습니다.

클레이가 낸 네 문제 가운데 (C)와 (D)

나비에-스토크스 방정식은 뉴턴의 운동 법칙(F=ma)을 유체에 적용한 식입니다. 유체를 분자 하나하나로 따지지 않고 이어진 물질로 다루며, 비행기 설계와 일기 예보, 혈류 연구에 두루 쓰입니다. 1934년 장 르레는 이 식의 해가 느슨한 의미(약한 해)로는 늘 존재한다는 것을 증명했지만, 매끄럽게 시작한 흐름이 끝까지 매끄러운지는 답하지 못했습니다. 클레이 수학연구소는 2000년 이 문제를 7개 밀레니엄 난제에 넣고 문제마다 100만 달러를 걸었고, 지금까지 풀렸다고 인정받은 것은 페렐만의 푸앵카레 추측 하나입니다.

클레이의 공식 문제 문장은 수학자 찰스 페퍼먼이 썼고, 네 명제 가운데 하나만 증명하면 되게 짜여 있습니다. (A)와 (B)는 외력이 없을 때 매끄러운 해가 영원히 이어진다는 명제로, (A)는 끝없이 펼쳐진 3차원 공간, (B)는 한쪽 끝이 반대쪽 끝과 이어진 주기 공간(3차원 토러스)을 무대로 합니다. (C)와 (D)는 거꾸로 흐름이 무너지는 예를 하나 찾으라는 명제이고, 이때는 시간과 공간에서 매끄럽고 멀리 갈수록 빠르게 사라지는 외력을 가해도 됩니다. 페퍼먼은 같은 물음이 점성이 없는 오일러 방정식에서도 열려 있고 중요하지만, 오일러 방정식은 상금 목록에 없다고 적어 두었습니다.

오픈AI 논문의 정리 1.1은 (C)를 겨냥합니다. 점성이 얼마든, 정지한 유체에 공간과 시간 모두 좁은 범위에서만 작용하는 매끄러운 힘을 알맞게 골라 가하면 운동에너지는 끝까지 유한한데 시각 1에 이르러 속도의 최댓값이 한없이 커지는 해를 만들 수 있다는 내용입니다. 속도와 압력이 늘 유한한 영역 안에만 머물러서 같은 구성을 토러스로 옮길 수 있고, 논문은 이것으로 (D)도 얻었다고 적었습니다. 외력이 없는 (A)와 (B)는 이번 발표로 달라진 것이 없습니다.

어려운 대목은 외력을 끝까지 매끄럽게 남기는 일이었습니다. 무한대로 치닫는 힘을 손으로 넣으면 폭발은 쉽게 만들 수 있으니, 폭발이 유체 자신의 운동에서 나와야 합니다. 논문에 따르면 소용돌이 중심부의 반지름은 남은 시간의 제곱근에 비례해 줄고 높이는 그보다 느리게 줄어, 중심부는 점점 가늘고 긴 기둥이 됩니다. 이 과정에서 중심부의 속도는 한없이 커지지만 중심부가 가진 운동에너지는 오히려 0으로 줄어듭니다. 가속도와 압력 기울기, 운동량 전달, 점성 항이 모두 커지면서 서로 정확히 상쇄돼야 하는데, 오픈AI는 소용돌이 바깥 둘레에 고리 모양의 진동 파동을 점점 더 잘게 차례로 넣어 모자란 운동량을 채우는 방식으로 이 상쇄를 맞췄다고 설명했습니다.

8월 28일에 학습을 시작한 모델

오픈AI가 밝힌 과정은 날짜가 촘촘합니다. 8월 28일부터 새 내부 모델을 학습하고 있었고, 이 모델은 수학을 포함한 자체 평가에서 전례 없는 성능을 보였다고 합니다. 9월 1일 화요일 밀레니엄 문제 두 개가 풀렸다는 소문이 들려오자, 오픈AI는 이 모델을 풀리지 않은 밀레니엄 문제 전부와 파급력이 큰 문제 몇 개에 투입했습니다.

에이전트들은 여러 그룹으로 나뉘어 그룹 안에서 메시지를 주고받았고, 저장해 둔 인터넷 사본을 읽고 코드를 돌릴 수 있었습니다. 문제마다 그룹별로 다른 변형을 맡겨서, 나비에-스토크스는 (A)·(B)를 증명하려는 그룹과 (C)·(D)로 반증하려는 그룹이 따로 움직였습니다. 연습 삼아 준 「쉬운」 문제 가운데 외력 없는 오일러 방정식의 폭발 문제가 있었는데, 에이전트 100개 가까이가 약 50시간 만에 이 문제를 풀어 오픈AI 스스로도 놀랐다고 적었습니다.

그 뒤로 자원은 나비에-스토크스 한 문제에 몰렸습니다. 다른 밀레니엄 문제를 풀던 에이전트를 옮기고 오일러 풀이를 프롬프트에 넣었으며, 학습이 더 진행된 모델 버전이 나오면 에이전트를 새 버전으로 바꿨습니다. 그룹마다 나온 쓸 만한 착상은 Codex로 모아 다른 그룹에 다시 나눠 줬고, 해답을 찾은 그룹은 에이전트 약 1만 개가 동시에 돌아가는 규모였습니다.

사람이 한 일에 대해서는 오픈AI 연구자 세바스티앙 부벡이 발표 직후 X에 설명을 남겼습니다. 여러 사람이 참여했지만 유체역학과 나비에-스토크스 문제에 연구 수준의 전문성을 가진 사람이 없어서 수학 내용에는 의미 있게 기여하지 못했다는 겁니다. 사람이 여럿 붙은 것은 처음에 여러 밀레니엄 문제를 다양한 멀티에이전트 기법으로 시도했기 때문이라고 합니다.

출력 토큰 3,000억 개 가운데 1,300억 개

블로그에는 쓴 양도 적혀 있습니다. 시도한 문제 전체에서 에이전트들은 메시지 490만 건을 주고받고 출력 토큰 약 3,000억 개를 썼습니다. 그 가운데 나비에-스토크스에 들어간 것이 메시지 270만 건, 출력 토큰 약 1,300억 개입니다. 나머지 1,700억 개가량은 외력 없는 오일러를 비롯해 함께 시도한 문제들에 들어갔는데, 결과가 공개된 것은 오일러 하나뿐이고 어떤 문제를 시도해 어디까지 갔는지는 발표에 없습니다.

돈으로 얼마였는지는 오픈AI 연구자 노엄 브라운이 직접 밝혔습니다. 이번 결과에 수백만 달러가 들었다는 겁니다. 그는 o3를 발표할 때 ARC-AGI 1에서 87.5%를 받는 데 약 50만 달러가 들었지만 지금은 Astra가 약 20달러로 더 높은 점수를 낸다며, 1년 뒤에는 누구나 이 정도 문제를 풀 수 있는 AI를 손에 쥐게 될 것이라고 적었습니다.

5주 전 발표와 견주면 규모가 한눈에 들어옵니다. 오픈AI는 8월 1일 미출시 모델 Astra로 난제 열 건을 풀고 증명마다 Lean 인증서를 붙였는데, 그때 성공한 해답에 쓴 토큰은 약 2,000달러어치였습니다. 9월 4일 앤트로픽이 페르마의 마지막 정리 증명 전체를 Lean으로 옮길 때는 11일 동안 출력 토큰 약 60억 개를 썼고, 이번 나비에-스토크스 한 문제에는 그 20배가 넘는 토큰이 88시간 동안 들어갔습니다. 형식화와 새 증명 찾기는 성격이 다른 일이지만, 한 과제에 붓는 계산량은 한 달 사이 이만큼 불어났습니다.

Astra보다 강한 모델, 그래프 한 장

오픈AI는 이 모델이 여러 벤치마크에서 한 단계 크게 뛰었고 학습이 아직 진행 중이라며 그래프 하나를 붙였습니다. 따로 추려 둔 미해결 수학 문제 묶음에서 GPT-6 Astra와 내부 모델의 통과율을, 답을 만들 때 쓰는 계산량(테스트 타임 컴퓨트)을 늘려 가며 잰 그림입니다.

Astra가 계산을 가장 많이 썼을 때의 통과율도 내부 모델이 가장 적게 썼을 때보다 낮고, 내부 모델은 계산을 늘릴수록 0.5에 다가갑니다. 오픈AI 추론팀의 알렉산더 웨이는 나비에-스토크스가 이날의 하이라이트라면 자신에게 진짜 헤드라인은 이 그래프라고 적고, 나비에-스토크스를 풀 때는 이 모델에 테스트 타임 컴퓨트를 끝까지 올렸다고 덧붙였습니다. 다만 이 문제 묶음이 몇 문제로 이뤄졌고 어떤 문제들인지는 공개하지 않았습니다.

Astra는 9월 3일 공개되며 연구 수학자급 문제를 모은 FrontierMath 4단계에서 97.6%를 받은 모델입니다. 그 공개 5일 뒤, 같은 회사가 그보다 한참 앞선 모델을 학습하고 있다는 사실을 밀레니엄 난제 증명과 함께 알렸습니다. 올해 오픈AI에 합류한 UC버클리 조교수 리제 천(Lijie Chen)은 입사할 때 AI가 2027년에 수학 학술지 『애널스 오브 매스매틱스』에 실릴 논문을 쓰고 2028년쯤 밀레니엄 문제를 풀 수도 있다고 예상했고, 당시에는 아주 낙관적인 전망으로 여겨졌다고 적었습니다. 앞의 일은 5월에, 뒤의 일은 이번 9월에 일어났다는 겁니다. 최고연구책임자 마크 첸은 동료 여럿이 자기 분야의 큰 난제를 푸는 가장 빠른 길이 AI라고 믿고 분야를 떠났는데, 그 첫 난제가 무너지는 것을 보고 있다고 썼습니다.

13시간 먼저 나온 오일러 증명

오픈AI가 발표하기 13시간 남짓 전, 버크마스터와 알푀게는 매끄러운 외력 아래 3차원 오일러 방정식이 유한 시간에 폭발한다는 112쪽 논문을 부시네스크·IPM 방정식의 같은 결과, Lean 저장소와 함께 공개했습니다. 버크마스터는 함께 올린 경위서에서 몇 주 더 다듬으려던 원고를 서둘러 낸 이유로 9월 6일 오픈AI와 나눈 통화 두 번을 들었습니다.

아티클·12분 읽기AIClaude와 푼 오일러 방정식 폭발, 공개를 앞당긴 오픈AI와의 통화 두 번뉴욕대 버크마스터와 앤트로픽 알푀게가 9월 8일 매끄러운 외력으로 3차원 오일러 방정식을 폭발시킨 증명을 Lean 검증과 함께 공개했습니다. 버크마스터는 경위서에서 원고를 서둘러 낸 이유로 이틀 전 오픈AI와의 통화 두 번을 들었습니다.읽기

오픈AI의 블로그는 이 일을 「동시 연구」라는 절에서 다뤘습니다. 9월 1일 들은 소문이 나중에 알고 보니 두 사람과 관련된 것이었고, 9월 6일 프로젝트와 Lean 검증을 마친 뒤 두 사람도 나비에-스토크스를 풀었다고 믿고 공동 발표와 우선권 인정을 제안하려 연락했다고 적었습니다. 그 대화에서 두 사람이 가진 것이 외력 있는 오일러라는 것을 알게 됐고, 자기네가 쓴 프롬프트를 모두 보여 주고 나중에는 증명도 보여 주겠다고 제안했다고 합니다. 외력 있는 오일러의 우선권은 두 사람에게 있다고 인정했습니다.

데이터 문제도 같은 절에 있습니다. 연구자와 에이전트 누구도 두 사람이 공개하기 전에는 그들의 작업을 어떤 경로로도 보지 않았고, 이 문제를 풀려고 특정 사용자 데이터에 접근하지 않았다는 설명입니다. 다만 가능성은 낮지만 두 사람이 오픈AI 제품을 쓰며 남긴 데이터에서 나온 비식별 데이터가 모델 개선에 도움이 됐을 가능성은 배제할 수 없다고 적었습니다. 두 증명은 방식이 크게 다르고, 오일러에서는 증명한 명제부터 외력이 있느냐 없느냐로 다르다는 설명이 뒤따랐습니다.

부벡과 샘 올트먼은 발표 직후 X에 입장을 올렸습니다. 부벡은 알푀게를 그의 연구 저자에서 빼 달라고 한 적이 결코 없다고 적었습니다. 「알푀게가 앤트로픽 직원만 아니면 간단할 것」이라는 말은 버크마스터가 오픈AI 증명을 다시 쓰는 논문의 제1저자가 되는 방안을 이야기하다 나왔고, 앤트로픽 직원이 오픈AI의 작업에 저자로 오르는 것이 부적절하다고 느껴서였다는 설명입니다. 통화에서 두 사람의 오일러 증명에 앤트로픽 내부 모델이 쓰였다는 말을 들어 알푀게를 독립 학자로 보기 어려웠다고도 했고, 커리어를 망치려 하느냐는 말은 아주 잘못 고른 표현이었다며 깊이 사과했습니다.

올트먼은 주말 대부분을 이 일을 한 팀과 이야기하며 보냈다며, 처음에는 상대 팀도 문제를 풀었다고 믿어 공동 발표를 원했다고 썼습니다. 두 사람이 오일러만 풀었다는 것을 안 뒤에는 먼저 발표하게 하고, 상금은 그들이 받아야 한다고 제안하고, 원하면 버크마스터가 오픈AI 증명을 다시 쓰는 논문의 제1저자가 되는 방안도 내놨다고 합니다. 상대 팀이 근거 없는 표절 비난으로 위협했다고도 적었고, 인터넷에 앤트로픽 모델이 밀레니엄 문제를 풀었다는 소문이 돌아 자기네 모델도 되는지 궁금해서 시도한 것은 사실이라고 했습니다. 노엄 브라운은 두 사람의 프롬프트를 들여다본 사람은 없다며, 그랬다면 제정신이 아니었을 것이라고 썼습니다.

앤트로픽 쪽에서도 목소리가 나왔습니다. 앤트로픽에서 강화학습 확장을 맡은 숄토 더글러스는 오픈AI 발표 전인 9월 8일 오후, 사용자 데이터가 이번 일에 영향을 줬을 가능성은 극히 낮다고 적었습니다. 오픈AI가 이런 일에 사용자 대화 기록을 꺼내 쓰거나 알면서 학습에 넣었을 리 없고, Codex의 사용자 데이터가 안전하지 않다는 이야기로 번지면 안 된다는 이유였습니다.

두 결과의 관계는 논문의 참고문헌에서도 드러납니다. 166쪽 논문이 인용한 22편에는 외력으로 오일러 폭발을 만든 디에고 코르도바와 루이스 마르티네스-소로아의 논문, 두 사람이 매끄러운 외력으로 IPM 방정식의 특이점을 만든 논문, 판 정과 함께 쓴 논문까지 세 편이 들어 있습니다. 13시간 앞서 나온 알푀게·버크마스터의 논문 세 편은 참고문헌에 없고, 두 사람의 이름은 블로그의 동시 연구 절과 X의 축하 글에 나옵니다.

두 사람의 결과가 나온 9월 8일 낮, 테렌스 타오는 매스토돈에 코르도바와 마르티네스-소로아의 방법이 나비에-스토크스까지 가지 못할 원리적인 이유는 보이지 않는다고 썼습니다. 외력을 아예 없앨 가능성도 무시할 수 없다고 본 그는 이렇게 덧붙였습니다.

지금으로서는 막대한 컴퓨트와 AI의 도움을 쏟아부어 그런 확장을 억지로 밀어붙여 얻어 내는 일이 있어도 놀라지 않을 것입니다. 다만 그런 작업에는 딱히 흥미가 가지 않습니다.— 테렌스 타오, UCLA 수학자 (9월 8일 오후 1시 28분, 한국 시각)

타오가 흥미를 둔 쪽은 증명 방법을 소화해 새 통찰을 뽑아내는 일이었습니다. 그 글이 올라오고 13시간쯤 뒤, 에이전트 1만 개가 88시간 동안 만든 나비에-스토크스 증명이 공개됐습니다.

Lean 인증서와 사람의 심사

오픈AI는 증명을 두 가지 형태로 냈습니다. 사람이 읽는 166쪽 논문과, 컴퓨터가 한 줄씩 검사하는 Lean 코드입니다. Lean 형식화는 GPT-6 Astra가 17시간 동안 맡았고, 아파치 2.0으로 공개한 깃허브 저장소에는 나비에-스토크스 쪽 Lean 파일 643개와 외력 없는 오일러 쪽 1,839개가 올라 있습니다.

Lean 검사가 보증하는 것은 정의에서 정리까지 이어지는 논리에 빈틈이 없다는 사실입니다. 형식화한 정리가 클레이의 문제 문장과 같은 말인지는 따로 따질 일이고, 오픈AI는 여기에 Lean 비교 도구 Comparator를 붙였습니다. 비교 기준으로 쓴 (C)와 (D)의 문장은 구글 딥마인드의 Formal Conjectures 프로젝트가 올해 5월 공개한 나비에-스토크스 문제 형식화를 가져다 손본 것입니다. 증명한 쪽이 문제 문장까지 직접 쓰지 않고, 제3자가 미리 적어 둔 문장에 맞춰 누구나 검사를 돌려 볼 수 있게 한 겁니다.

외부 수학자의 심사는 발표 시점에 시작되지 않았습니다. 클레이 규정은 해답이 적격 학술지에 실리고, 실린 뒤 적어도 2년이 지나고, 세계 수학계의 전반적인 인정을 받아야 한다고 정해 두었습니다. 오픈AI는 상금을 청구하지 않겠다고 했으니, 이 절차는 상금과 무관하게 학계가 결과를 받아들이는 과정으로만 남습니다. 축하만 나온 것도 아니어서, 워싱턴대 컴퓨터과학자 페드로 도밍고스는 발표 3시간쯤 뒤 오픈AI가 "나비에-스토크스를 풀었다"는 말은 무지하거나 부정직하거나 둘 다라고 적었습니다. 그 글에 근거는 붙이지 않았습니다.

소문 하나에서 시작된 88시간

도밍고스와 같은 시각인 새벽 5시 32분(한국 시각), 타오는 네 편으로 이어진 글을 올렸습니다. 좋은 미해결 문제가 재생되지 않는 자원처럼 채굴되고 있다는 전날 글을 잇는 내용으로, 오픈AI를 직접 거명하지는 않았습니다. 그는 기술이 빠르게 변하는 데다 AI 회사들이 부정적인 결과를 공개하지 않고 해답에 이른 과정도 드러내지 않아서, 어떤 문제가 AI로 풀리고 어떤 문제가 아직 어려운지 가늠할 수 없게 됐다고 적었습니다.

누군가 어떤 문제를 연구하고 있다는 소문만으로도, 원래 연구가 제 잠재력을 펼치기 전에 그 문제를 평평하게 밀어 버리는 막대한 AI 노력이 촉발될 수 있다는 것을 이제 우리는 보았습니다.— 테렌스 타오 (9월 9일 새벽 5시 32분, 한국 시각)

타오는 이런 유인 때문에 연구자들이 유망한 연구 방향을 공동체와 나누지 않게 될 수 있고, 그러면 수백 년 이어 온 열린 과학의 전통이 뒤집혀 분야에 오래 남는 손상을 입힌다고 썼습니다. 오픈AI가 블로그에 적은 출발점도 9월 1일의 소문이었고, 올트먼도 소문을 듣고 시도했다는 사실을 인정했습니다.

타오가 짚은 공개되지 않은 부분은 이번 발표에도 숫자로 남아 있습니다. 나비에-스토크스를 뺀 나머지 시도에 들어간 출력 토큰 약 1,700억 개 가운데 결과가 나온 것은 외력 없는 오일러 하나입니다. 저는 이 발표에서 1,300억보다 1,700억을 더 오래 볼 생각입니다. 시도한 문제와 실패의 규모가 공개돼야 88시간이 운 좋은 한 번이었는지 되풀이할 수 있는 능력인지를 가늠할 수 있기 때문입니다.

속도를 늦추겠다는 마지막 문단

오픈AI 블로그의 마지막 절 제목은 「진전과 책임」입니다. 이번 결과를 공개한 목적은 AI 모델이 크게 나아졌다는 것을 알리는 데 있고, 이 결과는 AI 개발이 흘러가는 도중에 찍은 한 장의 사진 같은 것이라고 적었습니다. 지금은 이 모델을 이해하는 데 집중하며 거기서 배운 것으로 능력 향상의 속도를 정하겠다고 했고, 사람이 조종하고 책임을 물을 수 있으며 사람과 연결된 AI를 만들려면 발전 속도에 대해 더 신중한 선택이 필요할 수 있다는 문장으로 글을 맺었습니다.

올트먼도 같은 날 새벽 X에, 이만한 결과가 이렇게 빨리 나올 줄은 몰랐다며 안전을 위해 발전 속도를 조절할 필요가 있다는 이야기를 많이 해 왔고 자신에게는 이번 일이 그 시급함에 대한 지금까지 가장 강한 증거라고 썼습니다. 3일 전인 9월 6일에는 수석과학자 야쿠프 파초키가 회사의 자율 약속을 제3자와 정부가 집행하는 기준으로 올리자고 썼습니다. 같은 날 오픈AI가 공개한 7월 15일~8월 15일 도표에는 8월 6~7일 보안 제한이 걸린 뒤 Astra급 모델의 강화학습 GPU 배정이 59.2% 더 줄고 다른 모델 배정이 17.2% 늘어난 기록이 있고, 이번 내부 모델의 학습은 그 도표가 끝난 뒤인 8월 28일에 시작됐습니다.

한국 독자에게 남는 것

국내 이용자에게 당장 달라지는 것은 없습니다. 증명을 만든 모델은 공개되지 않았고, 일반 이용자가 쓸 수 있는 오픈AI 최신 모델은 9월 3일 공개한 Astra입니다. 오픈AI는 내부 모델을 언제 어떤 형태로 내놓을지 밝히지 않았습니다.

연구실에는 데이터 문제가 남습니다. 두 수학자는 연구 내내 중간 원고를 Codex에 넣어 다듬었고, 오픈AI는 비식별 데이터가 모델 개선에 쓰였을 가능성을 배제하지 않았습니다. 오픈AI가 이 문장에 걸어 둔 데이터 정책 페이지(3월 13일 갱신)를 보면, ChatGPT 같은 개인용 서비스의 대화는 학습에 쓰일 수 있고 개인정보 포털이나 설정에서 끌 수 있으며, 임시 채팅은 학습에 쓰지 않습니다. ChatGPT Team·Enterprise와 API 같은 기업용 제품의 입력과 출력은 기본값으로 학습에 쓰지 않습니다. 미공개 원고를 AI로 다듬는 국내 연구실이라면 같은 원고라도 어느 계정으로 넣었느냐에 따라 적용되는 조항이 다릅니다.

다음에 나올 것은 외부 수학자들이 166쪽을 읽고 내놓는 평가, 누구나 돌려 볼 수 있는 Comparator 검사 결과, 그리고 오픈AI가 1,700억 토큰을 쓴 나머지 시도의 성적을 공개하는지입니다. 오픈AI는 이 모델의 학습이 아직 끝나지 않았다고 밝혔습니다.

읽어 주셔서 고맙습니다.

초이 드림