네오클라우드
neocloud · GPU 클라우드
GPU 임대에 특화한 신생 클라우드 사업자입니다. 매출보다 설비 투자가 큰 구조라서 자금 조달 조건이 실적보다 먼저 움직입니다.
‘네오클라우드’ 이 나오는 글2
아티클AI
GPU 클라우드 77곳 중 메달은 19곳, 등급을 가른 건 고장 대응 속도
세미애널리시스가 9월 23일 ClusterMAX 3.0으로 GPU 클라우드 77곳을 평가해 19곳에만 메달을 줬습니다. 같은 GPU 값에서도 고장을 찾고 고치는 속도에 따라 대형 학습의 goodput 손실은 6%와 21%로 벌어집니다.
12분
함께 나오는 용어3
- 굿풋전체 처리량 중 목적과 품질 기준을 만족해 유효한 결과로 남은 양입니다. 네트워크에서는 실제 유용한 데이터 전송량, AI 운영에서는 실패·재작업 등을 구분한 성과를 볼 수 있습니다. 무엇을 유효하게 셀지와 시간 단위를 함께 정해야 합니다.
- 토큰 지출기업이 모델 API에 쓰는 돈과 그 바탕이 되는 토큰 사용량입니다. a16z 집계에서 기업 사이의 토큰 지출 격차는 600배까지 벌어졌습니다. 사용량 자체는 불이 켜져 있다는 표시일 뿐이어서, 사업 성과와 잇는 작업은 따로 남습니다.
- 토큰모델이 텍스트 등을 나누어 처리하는 단위입니다. 단어 전체, 단어의 일부, 문자나 기호가 토큰으로 나뉠 수 있으며, 같은 문장도 토크나이저와 언어에 따라 개수가 달라집니다. 글자 수와 고정된 비율로 대응하지 않습니다. 입력·출력 토큰 수는 컨텍스트 한도와 API 과금의 기준으로 쓰입니다.
