지능 폭발
intelligence explosion · 점진적 특이점
AI가 자기 연구를 대신하면서 능력 향상이 스스로 가속되는 국면입니다. 재귀적 자기개선과 같은 자리를 가리키고, 시간 지평이나 지출 지평 같은 눈금이 그 속도를 실제로 재려는 시도입니다. 량원펑은 지속학습이 되는 순간 이 국면에 닿는다고 봤습니다.
‘지능 폭발’ 이 나오는 글3
인터뷰AI
램버트 "실험 주기는 10배, 이해는 다른 축"… 에포크 데냉과 RSI 대담
네이선 램버트는 9월 22일 Interconnects 대담에서 실험 주기는 곧 10배 빨라져도 분야의 이해는 다른 축이라고 했습니다. 에포크 AI의 JS 데냉은 오픈AI·앤트로픽이 공개한 사내 가속 수치를 임박한 지능 폭발의 강한 증거로 보지 않았습니다.
12분네이선 램버트·JS 데냉
팟캐스트AI
"멀티에이전트 공로는 10%도 안 된다" 밀레니엄 난제 뒤의 노암 브라운
오픈AI 연구자 노암 브라운이 9월 17일 Dwarkesh Podcast에서 에이전트 1만 개가 나비에-스토크스 문제를 푼 과정을 설명했습니다. 멀티에이전트의 기여는 10%도 안 된다고 했고, AI 연구 자동화의 가속은 3배쯤으로 봤습니다.
1시간 20분Noam Brown
논문AI
사람이 2년 다듬은 연구 에이전트, AI 루프가 8일 만에 앞질렀습니다
Weco AI가 7월 14일 연구 에이전트를 다른 에이전트가 8일 동안 100번 고쳐 쓴 실험 AIDE²를 공개했습니다. 개선판 7개가 처음 보는 벤치마크 세 곳에서 2년 손질한 판을 넘었고, 점화 시험은 통과하지 못했습니다.
18분
함께 나오는 용어5
- 재귀적 자기개선AI가 다음 세대 AI를 만드는 일을 스스로 맡아, 개선 속도가 사람 손을 떠나 점점 빨라지는 상태입니다. 아직 일어나지 않았지만 여러 연구소가 이걸 기준으로 안전 정책을 세웁니다.
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 오픈 웨이트학습된 가중치 파일을 공개해 누구나 내려받아 돌릴 수 있는 모델입니다. 학습 데이터·코드까지 다 여는 '오픈 소스'와는 구분합니다.
- 증류큰 모델의 출력을 교본 삼아 작은 모델을 가르치는 방법입니다. 성능을 상당히 물려받으면서 크기와 추론 비용을 줄일 수 있습니다.
- 추론 모델답을 내기 전에 중간 과정을 길게 생각하도록 학습한 모델입니다. 어려운 문제에서 정확도가 오르는 대신 응답이 느리고 토큰을 많이 씁니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.