Sand.ai가 114B 가운데 토큰당 약 6B만 쓰는 영상 모델 MAGI-2 Preview를 Apache 2.0으로 공개했고, Cactus는 28MB 메모리로 도는 45M 파라미터 에이전트 모델 Needle 2를 내놨습니다. Liquid AI의 LFM2.5-Encoder는 16개 언어에서 개인정보 40종을 기기 안에서 걸러 냅니다.
AI 인사이트
MoE 구조라 토큰마다 114B 가운데 약 6B만 계산에 들어가고, 그만큼 같은 크기의 밀집 모델보다 생성 한 번에 드는 연산이 적습니다.
AI 인사이트
Needle 2는 할 일을 스마트홈 제어·정보 추출 같은 정해진 작업으로 좁혀 45M 파라미터에 맞췄습니다. 처리가 기기 안에서 끝나면 데이터를 서버로 보내지 않아도 됩니다.
AI 인사이트
개인정보를 찾는 일을 230M·350M 소형 모델이 사내에서 먼저 처리하므로, 외부 AI 서비스에는 개인정보를 지운 문서만 보낼 수 있습니다.
AI 인사이트
퀴즈는 고른 답을 곧바로 채점하고 해설을 붙여, 설명을 읽은 뒤 이해했는지까지 대화 안에서 확인하게 합니다.
AI 인사이트
상위 에이전트가 계획을 세우고 하위 에이전트가 조사·반복 작업을 맡는 구조라, 하위 작업에 빠른 모델을 붙이면 전체 작업 시간과 토큰 사용량을 줄일 수 있습니다.
AI 인사이트
탄이 말한 방식은 업무 절차를 마크다운 문서로 적어 에이전트에게 맡기고, 틀린 결과가 나오면 그 교정을 다시 문서에 반영하는 반복입니다.
AI 인사이트
탄은 프런티어 모델의 연산 비용이 내려가면 10억 명 소비자를 두고 하네스(모델에 도구와 기억을 붙이는 실행 틀) 경쟁이 붙는다고 보고, 그 시기를 2027년 무렵으로 잡았습니다.
같은 날 올라온 〈분기 매출 26억 달러에 설비 64억 달러, 코어위브만 주가가 17% 빠졌습니다〉는 코어위브가 사업 시작 약 25분기 만에 분기 매출 26억 달러에 닿았고, AWS는 같은 매출까지 40분기 무렵이 걸렸다는 a16z 차트를 정리했습니다.
