희소 오토인코더
SAE · sparse autoencoder
모델 내부 활성값을 사람이 이름 붙일 수 있는 특징들로 분해하는 장치입니다. 해석가능성 연구에서 특정 개념이 어느 좌표에 모여 있는지 찾는 데 쓰입니다.
‘희소 오토인코더’ 이 나오는 글1
팟캐스트AI
"가장 똑똑한 모델이 가장 싸진다" Claude Code 타리크의 하네스 전망
앤트로픽 Claude Code 팀의 타리크 시히파르가 9월 28일 Latent Space에서 검증 토큰이 줄면 가장 똑똑한 모델이 쉬운 일도 가장 싸게 하고, CLAUDE.md는 사라질 거라고 내다봤습니다. 하네스를 고치는 Claude Mods와 속도 조절 제안도 풀었습니다.
1시간 32분Thariq Shihipar
함께 나오는 용어5
- 에이전트 메모리에이전트가 이후 단계나 다음 세션에 활용할 정보를 보관하고 다시 찾는 장치입니다. 파일·데이터베이스·요약 등으로 구현할 수 있습니다. CLAUDE.md·AGENTS.md 같은 지침 파일은 작업 규칙을 전달하는 한 형태이지 모든 메모리를 뜻하지 않습니다. 기억의 출처·시점·수정·삭제와 자료 속 지시의 권한을 구분해야 합니다.
- 해석가능성모델 내부의 계산을 사람이 읽을 수 있는 단위로 분해하는 연구 분야입니다. 출력만 보고는 알 수 없는 의도와 중간 상태를 확인하려는 목적으로 감시 설계와 직접 이어집니다.
- 에이전트한 번 답하고 멈추지 않고, 스스로 계획하고 도구를 부르고 결과를 확인하며 여러 단계를 이어가는 AI입니다. 브라우저·터미널·앱을 대신 조작하는 것이 대표 예입니다.
- 하네스모델을 감싸 실제 작업을 시키는 바깥 장치입니다. 프롬프트·도구·재시도·검증 규칙이 여기 들어가서, 같은 모델도 하네스에 따라 결과가 크게 다릅니다.
- 토큰모델이 텍스트 등을 나누어 처리하는 단위입니다. 단어 전체, 단어의 일부, 문자나 기호가 토큰으로 나뉠 수 있으며, 같은 문장도 토크나이저와 언어에 따라 개수가 달라집니다. 글자 수와 고정된 비율로 대응하지 않습니다. 입력·출력 토큰 수는 컨텍스트 한도와 API 과금의 기준으로 쓰입니다.
어려운 말은 풀어서, 매주 한 통
매일 아침 AI 소식도 함께 와요. 언제든 그만 받을 수 있어요.