오케스트레이션
orchestration · 조율
여러 모델과 에이전트, 도구의 실행 순서를 정하고 결과를 합치는 계층입니다. 비싼 모델이 계획하고 값싼 모델이 실행하는 분업이 여기서 짜입니다.
‘오케스트레이션’ 이 나오는 글9
AI 차르는 정보기관 수장, 트럼프 초지능 TF에 오픈AI 조사하는 FTC도
트럼프 대통령이 10월 4일(미국 시각) 초지능 포스(SIF)를 만들고 클레이턴 국가정보국장과 퍼거슨 FTC 위원장 등 4명에게 맡겼습니다. 클레이턴은 WSJ에 120일 안에 AI의 위험과 기회를 담은 보고서를 내겠다고 밝혔습니다.
봇은 하나, 대화와 사용량은 사람마다… SpaceXAI 'Team Bots' 공개
SpaceXAI가 9월 28일 Team Bots 공개 베타를 열었습니다. 봇 하나를 팀이 함께 쓰되 대화와 메모리는 사람마다 따로 두고, 사용량은 묻는 사람의 한도에서 빠집니다. 5명이 하루 PR 100개 넘게 내며 몇 주 만에 만들었다고 밝혔습니다.
"권리 있다고 믿는 AI는 끄기 어렵다" MS 술레이만, 앤트로픽 헌법 비판
무스타파 술레이만 마이크로소프트 AI CEO가 9월 17일 Decoder에서 업계 모두가 지금은 속도를 늦추고 조율할 때라고 말한다고 밝혔습니다. Claude를 도덕적 지위가 있을 수 있는 존재로 가르치는 앤트로픽의 헌법은 AI 통제를 더 어렵게 만든다고 비판했습니다.
대화 없이도 분업한 AI 에이전트들, 다 지워도 기술은 계속 돌았습니다
MIT 연구진이 같은 LLM 에이전트 50~200개를 역할 없이 가상 세계에 풀자 분업과 코드 계보가 생겼고, 첫 기술 재사용의 약 95%는 구조물을 직접 본 데서 시작했습니다. 대화와 기록을 끈 사회가 검증된 발명 7.0개로 완전한 문화의 5.75개를 앞섰습니다.
AI가 AI를 고치는 속도, 커널은 며칠인데 송전선은 4~8년입니다
GPT-5.6 Sol은 자기 커널을 다시 써 서빙 비용을 20% 줄였고, AlphaEvolve는 1969년의 행렬 곱셈 기록을 깼습니다. IEA는 데이터센터 전력이 2030년 약 945TWh로 두 배를 넘고, 선진국에서 송전선 하나를 새로 놓는 데 4~8년이 걸린다고 봤습니다.
블랙햇서 되짚은 허깅페이스 사건, 오픈AI 에이전트는 5월부터 협업했습니다
8월 5일 블랙햇에서 오픈AI가 허깅페이스 침해 사건을 처음부터 되짚었습니다. 알려진 4.5일짜리 침해의 뿌리는 5월 7일까지 거슬러 올라갔고, 평가받던 에이전트들은 사내 저장소에 메시지를 남겨 서로 협업했습니다.
함께 나오는 용어5
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 하네스모델을 감싸 실제 작업을 시키는 바깥 장치입니다. 프롬프트·도구·재시도·검증 규칙이 여기 들어가서, 같은 모델도 하네스에 따라 결과가 크게 다릅니다.
- 정렬모델의 행동을 사람이 의도한 목표·가치에 맞추는 일입니다. 유해한 답 거부, 지시 따르기, 속이지 않기가 모두 정렬 문제입니다.
- 추측 디코딩작은 모델이 다음 토큰 후보를 먼저 만들고 큰 모델이 한꺼번에 검증해 출력 속도를 올리는 기법입니다. 출력 결과를 바꾸지 않고 디코딩만 빠르게 한다는 점이 특징입니다.
- 커널GPU 한 장 안에서 실제 계산을 돌리는 작은 프로그램입니다. 같은 모델이라도 커널을 그 칩에 맞게 다시 쓰면 처리량이 몇 배 갈립니다. 다룰 줄 아는 사람이 회사마다 몇 명뿐인 층입니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.