TPU
Tensor Processing Unit · 구글 자체 칩
구글이 브로드컴과 함께 설계한 자체 AI 가속기입니다. 엔비디아 GPU를 사지 않고도 학습과 서빙을 돌릴 수 있어서, 구글은 7세대까지 이어 가며 2031년까지 공급 계약을 연장했습니다. 하이퍼스케일러가 자체 칩으로 옮겨 가는 흐름에서 가장 오래된 사례입니다.
‘TPU’ 이 나오는 글5
"10만 칩이면 한 시간에도 여러 번 고장" 구글 AI 인프라 총괄의 굿풋론
구글 AI 인프라를 총괄하는 아민 바흐다트가 10월 6일 Training Data에서 가속기 10만 개면 한 시간에도 여러 번 고장 난다며 FLOPS 대신 굿풋을 잰다고 말했습니다. 6개월마다 두 배인 토큰 용량, TPU 8i·8t 분리, 전력망을 기다리는 이유도 설명했습니다.
"아주 최소한의 시험" 구글 첫 TPU 위성이 교신에 성공했습니다
구글 Project Suncatcher의 첫 시험 위성 M1이 10월 2일 새벽 3시 32분(한국 시각) Falcon 9 로켓으로 발사됐고, 플래닛과 구글이 교신을 확인했습니다. TPU 4개로 1년 동안 방사선과 열을 재고, 2027년에는 레이저로 연결하는 위성 2대가 올라갑니다.
칩 팔고 돈도 대는 브로드컴, 앤트로픽에 최대 420억 달러 빌려줍니다
브로드컴이 앤트로픽에 최대 420억 달러를 빌려주기로 했다고 로이터가 10월 1일 보도했습니다. 5년짜리 TPU 리스 약정 1,252억 달러의 약 3분의 1이고, 브로드컴이 9월 공시에 「고객」으로만 적은 금액과 같습니다.
구글도 못 여는 AI 기억, 슬랙 채널의 Claude는 내 커넥터로 일합니다
구글이 9월 23일 AI의 기억을 서버에 두되 사용자별 키로 봉인해 구글도 못 읽게 하는 설계를 공개했습니다. 다음 날 앤트로픽은 슬랙 채널의 Claude Tag에 개인 커넥터를 열었고, 채널에 올린 답은 구성원 모두가 봅니다.
"TPU가 우주에서 버틸까" 구글이 우주 데이터센터 첫 위성을 쏩니다
구글이 우주 AI 데이터센터 구상 Project Suncatcher의 첫 시험 위성을 10월 1일 SpaceX Falcon 9에 실어 올립니다. TPU 4개로 짧은 Gemini 요청을 처리하며 방사선과 열을 재고, 2027년에는 위성 2대로 레이저 통신을 시험합니다.
함께 나오는 용어5
- 데이터센터모델을 학습하고 서빙하는 GPU와 전력, 냉각 설비를 묶은 건물입니다. 요즘은 규모를 칩 개수 대신 기가와트로 말하는데, 부지 허가와 송전망 연결이 칩 조달보다 훨씬 느리게 움직이기 때문입니다. 뉴멕시코와 와이오밍에서는 건설 지출의 60%가 데이터센터에서 나왔습니다.
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 자본지출데이터센터와 GPU처럼 오래 쓰는 설비에 미리 들이는 돈입니다. 매출보다 이 숫자가 먼저 커지는 구조여서, CoreWeave는 분기 매출 26억 달러에 자본지출 71억 달러를 썼습니다. 메타는 올해 설비투자를 1,250억에서 1,450억 달러로 잡았습니다.
- 추론 칩학습보다 서비스 단계의 연산에 맞춰 설계한 전용 칩입니다. 범용 GPU보다 전력당 처리량을 높이는 쪽에 초점이 있고, 모델 가중치를 회로에 새기는 극단적 설계까지 나왔습니다.
- 굿풋전체 처리량 중 목적과 품질 기준을 만족해 유효한 결과로 남은 양입니다. 네트워크에서는 실제 유용한 데이터 전송량, AI 운영에서는 실패·재작업 등을 구분한 성과를 볼 수 있습니다. 무엇을 유효하게 셀지와 시간 단위를 함께 정해야 합니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.