자본지출
CapEx · 설비투자
데이터센터와 GPU처럼 오래 쓰는 설비에 미리 들이는 돈입니다. 매출보다 이 숫자가 먼저 커지는 구조여서, CoreWeave는 분기 매출 26억 달러에 자본지출 71억 달러를 썼습니다. 메타는 올해 설비투자를 1,250억에서 1,450억 달러로 잡았습니다.
‘자본지출’ 이 나오는 글3
팟캐스트AI
"10만 칩이면 한 시간에도 여러 번 고장" 구글 AI 인프라 총괄의 굿풋론
구글 AI 인프라를 총괄하는 아민 바흐다트가 10월 6일 Training Data에서 가속기 10만 개면 한 시간에도 여러 번 고장 난다며 FLOPS 대신 굿풋을 잰다고 말했습니다. 6개월마다 두 배인 토큰 용량, TPU 8i·8t 분리, 전력망을 기다리는 이유도 설명했습니다.

1시간 4분Amin Vahdat
함께 나오는 용어5
- 추론학습이 끝난 모델을 실제로 돌려 답을 만드는 단계입니다. 비용·속도·지연 시간 이야기는 대부분 여기서 나옵니다.
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 추론 칩학습보다 서비스 단계의 연산에 맞춰 설계한 전용 칩입니다. 범용 GPU보다 전력당 처리량을 높이는 쪽에 초점이 있고, 모델 가중치를 회로에 새기는 극단적 설계까지 나왔습니다.
- TPU구글이 브로드컴과 함께 설계한 자체 AI 가속기입니다. 엔비디아 GPU를 사지 않고도 학습과 서빙을 돌릴 수 있어서, 구글은 7세대까지 이어 가며 2031년까지 공급 계약을 연장했습니다. 하이퍼스케일러가 자체 칩으로 옮겨 가는 흐름에서 가장 오래된 사례입니다.
- 굿풋전체 처리량 중 목적과 품질 기준을 만족해 유효한 결과로 남은 양입니다. 네트워크에서는 실제 유용한 데이터 전송량, AI 운영에서는 실패·재작업 등을 구분한 성과를 볼 수 있습니다. 무엇을 유효하게 셀지와 시간 단위를 함께 정해야 합니다.

