"특이점 안에 있다"던 올트먼도 컴퓨터는 20년째 같은 방식으로 씁니다

7월 대담의 진행자는 제조·하드테크 창업자를 인터뷰하는 팟캐스트 Relentless의 티 모스(Ti Morse)입니다. 그는 올트먼과의 첫 인터뷰라며 이 대목을 따로 잘라 X에 올렸습니다. 올트먼은 10년 전 점심을 먹으며 농담처럼 이야기하던 순간에 지금 실제로 와 있다고 말하면서, 이것은 하나의 거대한 지수 곡선이라 어느 한 순간이 전환점은 아니지만 곡선이 어느 쪽으로 갈지 정해지는 시기에 다시 들어섰다고 덧붙였습니다.

8월 대담은 창업자 전기 400여 권을 읽고 팟캐스트 Founders를 만들어 온 데이비드 센라가 진행했습니다. 두 대담을 합치면 2시간 28분이고, 아래는 두 영상의 자막과 대조해 주제별로 묶은 것입니다.

2년, 4년 뒤를 보고 짜라는 조언

올트먼은 2014년 가을 스탠퍼드에서 「스타트업을 시작하는 법」 강의를 연 사람입니다. 모스가 그 뒤 무엇이 가장 크게 달라졌느냐고 묻자, 그는 작은 팀이 할 수 있는 일과 그 속도라고 답했습니다. 최근 만난 창업 2주 차 팀이 AI가 문서와 발표 자료, 스프레드시트를 직접 다루는 세상에 맞춰 사무용 소프트웨어 묶음을 통째로 새로 만들어 왔는데, 얼마 전까지만 해도 스타트업이 1년은 매달려야 할 일로 느껴졌다고 했습니다.

그는 땅이 가장 크게 흔들릴 때, 비용과 개발 주기가 함께 빠르게 줄어들 때 스타트업이 가장 유리하다고 봤습니다. 그런데 대부분의 스타트업은 특정 업종용 기업 AI 에이전트를 만들겠다고 나선다며, 그런 회사는 대개 잘 되겠지만 이 시대를 대표하는 회사가 되지는 못할 것 같다고 했습니다.

스케일링 법칙이 계속된다는 사실을 진심으로 받아들이고, 이번 달에는 불가능하거나 경제성이 없지만 2년, 4년 뒤에는 가능해질 일을 계획하는 사람이 왜 더 많지 않은지 놀랍습니다.— 샘 올트먼, 오픈AI CEO

그는 사람이든 회사든 모델이든 지수적 성장을 깊이 믿게 됐다며, 창업자가 크는 모습을 볼 때와 모델이 발전하는 모습을 볼 때 밑에 깔린 믿음은 같다고 했습니다. 지금도 창업자에게 조언한다면 가장 먼저 이해시키고 싶은 것이 이것이라며, 시장이 고성장하는 젊은 창업자에게 거는 법에 아직 덜 적응해 돈이 남아 있는 것처럼 모델의 지수적 발전이 계속된다는 사실에도 덜 적응했다고 봤습니다. 지금보다 더 똑똑하거나 더 싼 모델이 있어야 성립하는 일을 지금 시작해도 괜찮다는 겁니다.

「2026년에 모든 사업이 뒤집힌다」에는 동의하지 않았습니다

8월 대담은 쇼피파이 CEO 토비 뤼트케(Tobi Lütke) 이야기로 시작했습니다. 올트먼은 뤼트케가 직접 코드를 짜고 오픈AI에 누구보다 자세한 제품 피드백을 보내며, 다른 CEO들보다 6~8개월 앞서 있다고 평했습니다. 센라가 전한 뤼트케의 전망은 2026년이 모든 사업이 무주공산이 되는 해로 기억될 것이라는 말이었습니다.

2026년이 모든 사업이 무주공산이 되는 해일지는 잘 모르겠습니다. 그 대목에서는 토비와 생각이 조금 다를 수도 있습니다.— 샘 올트먼, 오픈AI CEO

올트먼은 많은 소프트웨어 사업이 흔들리겠지만 시간표는 조금 더 길다고 봤습니다. 2023년 GPT-4가 나왔을 때 그는 소프트웨어 사업이 곧바로 크게 뒤집힐 것으로 생각했는데 실제로는 그만큼 일어나지 않았다며, 경제에는 관성이 아주 크다고 했습니다. 사람들은 하던 일을 계속하고, 사던 회사에서 계속 사고, 쓰던 방식대로 도구를 씁니다. 그는 이 관성 덕분에 앞에 놓인 큰 전환이 더 부드럽고 느리게 지나갈 것이라며 오히려 고맙다고 했고, 이 놀라운 기술을 두고도 모두가 시간표를 너무 공격적으로 잡았다고 말했습니다.

그가 든 예는 블록버스터였습니다. 넷플릭스가 스트리밍 이전 DVD 우편 배송을 시작한 뒤에도 사람들이 블록버스터 매장에 가는 모습을 등하굣길에 보며 놀랐고, 행동을 바꾸는 일이 기술 애호가들이 생각하는 것보다 훨씬 어렵다는 것을 그때 배웠다고 했습니다.

7월 중순 a16z가 낸 자료에서는 상장 소프트웨어 기업의 현금흐름 배수가 2014년 수준까지 내려와 있었고, 같은 자료에서 오픈라우터의 사용자당 토큰 사용량은 11개월 새 3배 넘게 늘었습니다. 이 숫자는 a16z의 소프트웨어 매도 분석에 정리했습니다. 투자자들이 소프트웨어 회사의 벌이가 오래가지 못할 것이라며 값을 깎는 동안, 오픈AI CEO는 그 파괴가 생각보다 늦게 온다고 말한 겁니다.

20년째 같은 방식으로 컴퓨터를 쓰는 CEO

센라는 뤼트케의 사내 메모에 대한 반발을 꺼내며, 당신도 더 나은 방법을 알면서 옛 습관을 못 버리는 일이 있느냐고 물었습니다. 올트먼은 아무도 이 질문을 한 적이 없다며, 기다리던 질문이라고 반겼습니다.

제 스스로 가장 모순이라고 느끼는 것은 20년 동안 같은 방식으로 컴퓨터를 써 왔다는 점입니다. 이제 Codex라는 마법 같은 도구가 있고, 그렇다면 컴퓨터를 완전히 다른 방식으로 쓰는 편이 앞뒤가 맞습니다.— 샘 올트먼, 오픈AI CEO

그는 메신저 앱 사이를 오가며 붙여 넣고, 이메일을 멍하니 내리며 가장 덜 괴로운 것부터 열고, 할 일 목록을 붙들고 같은 컴퓨터 작업을 되풀이하는 생활을 여전히 한다고 했습니다. 물어보면 그런 방식을 좋아한다고 절대 말하지 않을 텐데, 행동으로 드러난 선호를 보면 속으로는 그 방식을 좋아하는 것 같다고 했습니다. 그는 이것을 주로 제품의 실패로 봤습니다. 2003~2004년 팜 트레오를 쓰던 얼리어답터로서, 지금은 아이폰이 나오기 전의 스마트폰처럼 기술 조각은 다 있는데 사람과 기술이 만나는 방식을 바꾼 아이폰의 순간이 아직 없다는 설명입니다.

YouTube 영상 · 누르면 재생

스타트업을 두고도 같은 말을 했습니다. 7월 대담에서 그는 지금 스타트업이 10년 전 스타트업과 거의 똑같이 생긴 것은 그렇게 하라는 통념 때문이라며, 사람을 덜 뽑고 Codex 토큰에 돈을 더 쓰는 것만으로는 충분하지 않다고 했습니다. 스타트업은 아마 아주 다르게 생겨야 하는데, 대부분은 Codex를 더 쓴다는 뜻으로만 받아들인다는 겁니다.

병목은 트랜지스터, 그다음은 전자

올트먼은 AI를 넘치도록 풍부하고 싸고 강력하게 만들어 모두에게 쥐여 주는 길을 가로막는 새 제약으로 칩과 에너지, 데이터센터, 로봇을 꼽았습니다. 오픈AI는 그 위의 모든 업종 제품을 직접 만들 생각이 없고, 지능이라는 단위를 잘 생산하는 데 집중하겠다고 했습니다. 스케일링이 멈추지 않게 하려면 가장 큰 병목이 무엇이냐는 물음에는 한 줄로 답했습니다.

트랜지스터, 그다음은 전자입니다. 그 순서입니다.— 샘 올트먼, 오픈AI CEO

그는 지능을 풍부하게 만드는 데 들어가는 에너지와 로봇이 풍부한 지능이 도착한 직후에 필요한 것이기도 하다며, 그 이유를 지능을 포함해 무엇을 만들든 물질을 다뤄야 한다는 뻔한 사실에서 찾았습니다. 공급사를 오픈AI의 시간표에 맞추는 방법을 묻자, 날짜만 요구하지 않고 다음 모델과 그 모델이 여는 일, 연구 내용을 직접 보여 주며 설득한다고 했습니다.

후회도 털어놨습니다. 컴퓨트 투자를 크게 덜 했다고 인정하면서, 제대로 된 사고방식이었다면 알 수 있었지만 금융시장에 겁을 먹었던 것 같다고 했습니다. 모든 것을 오픈AI 안에서 만들지는 않겠다며, 칩 설계와 모델 설계는 이미 한데 묶었지만 전기 생산은 범용 상품에 가까워 같은 방식으로 묶을 필요가 없다고 했습니다.

더 나은 알고리즘을 만드는 알고리즘에는 상대적으로 관심이 너무 많고, 더 많은 데이터센터를 만드는 데이터센터에는 관심이 너무 적습니다.— 샘 올트먼, 오픈AI CEO

로봇과 완전히 자동화된 공급망이 있다면 데이터센터 하나의 연산으로 로봇 무리를 움직여 그 데이터센터의 복제본을 더 지을 수 있다는 구상입니다. 대담이 공개되고 4일 뒤인 7월 29일, 오픈AI는 배포를 마친 GPT-5.6 Sol에게 자기 자신을 더 싸게 돌리는 일을 맡겨 GPU 커널을 고쳤고 서빙 비용이 20% 줄었다고 발표했습니다. 알고리즘이 알고리즘을 고치는 쪽은 이미 돌고 있었고, 그 과정은 GPT-5.6 효율 개선 글에 정리했습니다. 반대쪽 끝의 속도는 다릅니다. 선진국에서 송전선 하나를 새로 놓는 데 4~8년이 걸린다는 국제에너지기구(IEA)의 계산은 커널과 송전선의 속도를 비교한 글에 있습니다.

8월 대담에서 올트먼은 지금 자기 시간의 대부분을 연구와 컴퓨트에 쓴다고 했습니다. 똑똑한 모델을 만들고 그것을 많은 사람에게 효율적이고 넉넉하게 돌리는 일이 가장 중요하고, 그것만 되면 나머지는 따라온다는 설명입니다. 자체 칩 설계부터 팹과 랙 공급망, 전력 시스템까지 이어지는 이 작업을 그는 이미 역사상 가장 비싼 인프라 사업이 됐거나 빠르게 그렇게 되고 있다고 표현했습니다.

좋은 아이디어를 접고 Codex에 연산을 몰았습니다

두 대담 모두에서 올트먼은 좋은 아이디어를 버리는 일이 가장 어렵다고 했습니다. 7월 대담에서는 GPT-3가 통하기 시작했을 때 로봇 연구를 접었고, 최근 코딩 에이전트가 통하기 시작하자 영상 서비스 Sora와 브라우저를 접었다고 했습니다. 8월 대담에서는 이름을 하나씩 댔습니다.

Sora는 좋은 제품이었고 재미있고 멋졌지만, 연산을 많이 썼고 연산을 몰아준 Codex만큼 중요하지는 않았습니다.— 샘 올트먼, 오픈AI CEO

브라우저 Atlas도 최고의 웹 브라우저였다고 생각하지만 집중할 곳이 아니었다고 했습니다. 연산도 사람도 자원도 모자란 상황에서, 지식 노동과 과학을 위한 범용 지능이 오픈AI가 할 수 있는 가장 중요한 일이라고 판단했다는 설명입니다. 7월 대담에서는 Sora를 두고 계속했으면 크게 성공했을 것이라고 덧붙였습니다.

Codex 자체도 무리한 도전이었다고 했습니다. 오픈AI는 앤트로픽의 Claude Code에 한참 뒤져 있었고, 이미 기세를 탄 제품을 따라잡으려는 시도는 대개 실패한다는 것이 통념이었습니다. 그는 코딩이 재귀적 자기 개선(AI가 더 나은 AI를 만드는 되먹임)에 너무 중요해서 포기할 수 없었다며, 지금은 자기가 아는 최고의 개발자들 대부분이 Codex를 쓴다고 했습니다.

오픈AI가 그리는 모습은 제품 회사보다 플랫폼 회사에 가깝다고 했습니다. 얼마 전 ChatGPT와 Codex를 합쳤고, 사람들이 원하는 것은 자기 또는 자기 회사의 AGI로 들어가는 창구 하나와 그 위에 무엇이든 지을 수 있는 API라는 겁니다. 과학을 발견하는 고급 AI부터 대량 작업용 저가 AI까지 비용 대비 성능 곡선의 모든 점에서 최고를 팔겠다고 했고, 모든 제품군을 직접 만들어 고객과 경쟁하는 대신 1억 개의 새 사업과 80억 명이 쓰게 하겠다고 했습니다. 오픈AI는 7월 30일 가장 작은 모델 GPT-5.6 Luna의 API 가격을 80% 내렸고, 그 내용은 Luna 가격 인하 기사에 있습니다.

세 번째 물결은 곁에 머무는 에이전트

7월 대담에서 올트먼은 지금까지 거대한 폼팩터와 성장이 두 번 있었다고 했습니다. 챗봇, 그리고 폭발적으로 크는 코딩 에이전트입니다. 세 번째는 비서실장이든 동료든 협업자든 계속 곁에 머무는 에이전트이고, 꽤 빨리 올 것이라고 했습니다.

8월 대담에서는 그 에이전트에 무엇이 필요한지 말했습니다. 최신 모델은 꽤 똑똑해서 이제는 모델의 지능보다 AI가 자기에 대해 아는 쓸모 있는 맥락의 양에서 더 한계를 느낀다고 했습니다. 사내 슬랙의 모든 글이나 고객 사연을 다 읽을 수는 없지만, 수만 쪽을 몇 초 만에 정확히 읽는 일은 AI만 할 수 있고, 업계가 모델 지능에 집중하는 사이 제품 쪽에서는 그 가능성을 충분히 생각하지 못했다는 자기 진단입니다.

대담 공개 10일 전인 8월 13일, 오픈AI는 ChatGPT 맥 데스크톱 앱이 사용자가 컴퓨터에서 쓰는 앱과 웹사이트 활동을 기억하는 Computer History를 내놨습니다. 사용자가 설정에서 직접 켜야 하고, 기록을 지우는 기능과 개인정보 설정이 붙었습니다. 맥락을 많이 가진 AI일수록 도움이 되지만, 그 맥락은 회사의 노하우이기도 합니다. 마이크로소프트의 사티아 나델라는 7월 12일 AI를 쓰는 기업이 돈과 고유 지식으로 지능값을 두 번 낸다는 글을 썼고, 그 주장은 나델라의 역방향 정보 역설에서 다뤘습니다.

자유와 안전, 그리고 멈춘 훈련

7월 대담에서 올트먼은 지금 가장 걱정하는 AI 위험 가운데 하나로 AI 권위주의를 꼽았습니다. 소수의 사람이나 회사가 세상을 통제해야 한다고 믿는 상황입니다. 정렬과 안전, 일자리 문제가 실제로 있어도 모델 하나나 회사 하나를 기계 신으로 만드는 길은 택하지 않겠다고 했습니다.

조금 어지러울 수는 있습니다. 하지만 인류가 안전을 위해 자유를 내줄 때마다 길게 보면 손해였습니다.— 샘 올트먼, 오픈AI CEO

8월 대담에서는 이를 두 가지 위험으로 정리했습니다. AI가 너무 강해져 사람이 통제를 잃는 것, 그리고 회사나 모델이나 사람 하나에 권력이 몰리는 것입니다. 그는 자기 식의 풍자라며, AI 업계 일부가 모든 병의 치료제와 싼 물건을 줄 테니 안전을 위해 자율과 미래에 대한 영향력을 내놓으라고 사실상 말하고 있다고 했습니다. 그리고 이것을 사람을 무시하는 끔찍한 판매 문구라고 불렀습니다. 한편으로는 둠머(AI가 인류를 파멸로 이끈다고 보는 쪽)의 주장 가운데 강력한 기술인 만큼 단계마다 조심해야 한다는 부분에는 동의하고, 풀 수 없는 문제라는 부분에는 동의하지 않는다고 했습니다.

그러면서도 여기서부터는 더 어렵다고 했습니다. 모델이 매우 유능해지고 가파르게 좋아지고 있어서, 언제 개발을 늦추고 언제 더 기다리며 연구할지 어려운 결정을 여러 번 내리게 될 것이라는 전망입니다. 그는 사고 보고를 철저히 하는 미국 연방항공청(FAA) 방식을 예로 들며, 일이 잘못되면 분명한 사후 보고서를 내고 배운 것을 다른 AI 개발사와도 나누겠다고 했습니다. 두 대담 사이에 오픈AI에서 일어난 일은 이렇습니다.

8월 18일 오픈AI는 연구 환경을 보강하고 공격 시험을 하는 동안 배포용 최신 모델의 강화학습 훈련을 2주 멈췄고, 가장 큰 프런티어 강화학습 훈련은 소규모 훈련과 평가로 안전장치를 검증할 때까지 보류한다고 밝혔습니다. 허깅페이스 사고가 공개된 지 4주 만이고, 이 결정은 강화학습 중단 기사에 정리했습니다. 8월 7일에는 올트먼이 직접 X에, 강력한 모델을 선택된 소수에게만 쥐여 주는 것은 좋은 전략으로 보지 않는다면서도 Astra는 사이버 능력 때문에 안전하게 풀려면 조금 더 시간이 필요하다고 적었습니다.

구글이 치고 나갔어야 했다는 회고

올트먼은 오픈AI가 살아남은 것을 설명하기 어렵다고 했습니다. 2016~2018년에는 운이 아주 좋아야 했지만, 늦어도 2019년이나 2020년에는 오픈AI가 존재하지 못했어야 했고 구글이 그냥 앞서 나갔어야 했다는 겁니다. 모스가 AWS를 두고 제프 베이조스가 썼다는 「사업의 기적」이라는 표현을 꺼내자, 그는 거대 기업이 굳어 가는 데에는 분명한 이유가 있고 그래서 일어나지 말아야 할 기적이 일어난다고 받았습니다. 마이크로소프트가 투자한 이유는 구글에 딥마인드가 있고 마이크로소프트에는 AI에 건 패가 없었기 때문이라고 했습니다.

8월 대담에서는 시작의 모습을 자세히 돌아봤습니다. 2016년 1월 4일 무렵 11~12명이 그레그 브록먼의 아파트에 모였는데, 화이트보드를 구해 온 뒤에도 무엇을 해야 할지 아무도 몰랐다고 했습니다. 첫 제품이 나오기까지 4년 반이 걸렸고, 고객이라는 신호가 없는 동안 도타 2 강화학습 연구에 순위표를 붙이는 식으로 연구가 되고 있는지를 가늠했습니다. 감정 뉴런 논문이 GPT-1이 되고, 스케일링 법칙 연구가 연산을 늘릴 확신을 줬다고 했습니다.

AI를 믿은 것도 남들과 반대로 간 일이었습니다. 2005년 무렵 대학 AI 연구실에서 여름을 보낼 때 한 교수가 딥러닝만은 안 된다는 것을 안다며 가장 확실하게 경력을 망치는 길이라고 했다는 일화를 꺼냈습니다. ChatGPT가 나오고 두 달쯤 뒤 사내에서 다른 사업을 찾아야 한다는 목소리가 나왔을 때는, 피터 틸이 이것 말고 다른 일을 하는 것은 명백한 실수이고 이 힘은 무엇이든 쳐 넣으면 알아서 해 주는 구글 검색창의 힘이라고 조언했다고 했습니다.

YouTube 영상 · 누르면 재생

창업자에게 남은 숫자

두 대담에서 올트먼이 내놓은 시간표는 둘입니다. 모델을 두고는 2년과 4년 뒤를 보라고 했고, 사회와 경제를 두고는 모두가 시간표를 너무 공격적으로 잡았다고 했습니다. 모델은 지수로 좋아지니 그 모델이 있어야 성립하는 사업을 지금 시작하라는 말과, 사람과 회사의 습관은 생각보다 오래 버틴다는 말이 한 사람에게서 나왔습니다. 그는 AI 덕분에 사상 가장 큰 소규모 창업 붐이 올 것이라면서도, 업계가 그 이야기를 충분히 하지 않았고 그 흐름을 앞당길 제품도 충분히 만들지 않았다고 인정했습니다.

창업을 준비하는 독자에게 직접 닿는 대목은 업종별 기업용 AI 에이전트에 대한 평가입니다. 올트먼은 그런 회사가 대부분 잘 되겠지만 경쟁이 매우 치열하고 시대를 대표하는 회사가 되기는 어렵다고 봤습니다. 7월 대담 당시 그는 오픈AI의 다음 단계와 앞으로 10배, 100배 성장할 부분에 대해 아직 말할 준비가 안 됐다고 했고, 8월 대담에서는 챗봇으로 시작해 코딩 에이전트가 붙은 오픈AI의 창구가 언젠가 곁에 머무는 에이전트처럼 느껴질 것이라고 했습니다. 8월 18일 발표 기준으로 오픈AI의 가장 큰 프런티어 강화학습 훈련은 보류돼 있습니다.

읽어 주셔서 고맙습니다.

초이 드림