Jev

Ollama 0.35에 새 /v1/systemone API가 들어가, Jev처럼 정해진 선택지 가운데 하나를 빠르게 고르는 결정 모델을 로컬에서 실행할 수 있습니다.

긴 답을 만드는 대신 선택지를 고르는 방식이라 문의 분류와 AI 모델 라우팅, 콘텐츠 검수 같은 작업에 씁니다.

Nimble과 Tev1 4B, Tev1 0.8B를 지원하며 ollama pull nimble로 내려받아 실행합니다.

jevgrep은 Jev를 쓰는 탐색 단계가 코드베이스를 훑어 필요한 파일과 원문 일부만 추려 코딩 에이전트에 넘깁니다.

처음 공개한 SWE-bench 과제 10개 비교에서는 비용이 약 40% 줄었지만 푼 과제가 7개로 기준선보다 1개 적었습니다.

다시 잰 결과는 기준선과 같은 8개를 풀면서 Sol 비용이 7.62달러에서 5.44달러로 28.6% 줄었습니다.

Google Gemma는 Cloud Run에서 명령 하나로 Jev API와 호환되는 서버를 띄우는 방법을 공개했습니다.

요청 1건은 약 35~60ms가 걸리고, 32건을 동시에 처리하면 초당 약 100~123건을 소화합니다.

RTX PRO 6000을 쓰며 요금은 실행 중일 때 시간당 약 3.19달러, 쓰지 않을 때는 0달러입니다.

Gemma 4 12B를 바탕으로 텍스트와 이미지, 음성, 영상을 보고 선택지마다 확률을 매기는 의사결정 모델이며 개인 프로젝트로 만들었습니다.

H200에서 텍스트는 약 83ms, 이미지는 26ms, 13초 음성은 31ms에 처리하고, Apache 2.0으로 공개됐습니다.

개발자는 아직 Jev보다 성능이 낮다고 밝혔습니다.

이 조합의 모델 비용은 GPT-6 Astra의 컴퓨터 제어 방식보다 약 112배, 스크린샷 기반 방식보다 약 245배 낮았습니다.

Jev만 브라우저를 직접 조작했을 때는 49개 중 25개만 성공했지만, WebMCP를 붙이자 49개 모두 성공했습니다.

화면을 보고 버튼 위치를 찾아 하나씩 클릭하는 대신, 웹사이트가 ‘상품 검색’, ‘예약’ 같은 기능을 AI에게 도구로 직접 제공하는 방식입니다.

에이전트 경쟁에서 모델 성능만큼 웹사이트와 연결하는 방식이 중요해질 것 같습니다.