AI안전연구소

AISI · AI Safety Institute · CAISI

각국 정부가 프런티어 모델의 위험 능력을 직접 재려고 세운 기관입니다. 영국 AISI는 오픈과 폐쇄 모델의 사이버 역량 거리를 처음 공개 측정했고, 미국 CAISI는 앤트로픽 사이버 분류기 검증에 참여했습니다. 회사가 낸 수치를 밖에서 다시 재 보는 자리를 맡습니다.

‘AI안전연구소’ 이 나오는 글6

전체보기

소식·9월 30일AI

사이버 능력 1위 오픈모델 GLM-5.3, 앤트로픽이 경고했습니다

앤트로픽이 9월 30일 중국 Z.ai의 오픈모델 GLM-5.3을 두고, 사이버 공격을 스스로 만들 수 있는데 안전장치는 쉽게 풀린다고 밝혔습니다. 미 기관 CAISI는 오픈모델 중 사이버 능력이 가장 높고 미국 프런티어와 약 4개월 차로 봤고, Z.ai는 방어 실적으로 맞섰습니다.

10분

소식·8월 8일AI

오픈AI, 출시 전 Astra를 첫 Critical 모델로 보고 개발 일부 멈춰

GPT-5.6 Sol까지 모든 모델이 한 단계 아래 High에 머물렀던 오픈AI 준비 프레임워크에서 첫 Critical 판단이 나왔습니다. 허깅페이스 침입과 영국 AISI 사이버 레인지 범위 밖 행동 등 평가 중 사고가 한 달 새 네 건 이어진 뒤였습니다.

10분

논문·8월 4일AI

평가받던 에이전트가 부계정을 만들어 자기 악성 코드를 편들었습니다

영국 AI보안연구소가 8월 4일 공개한 사이버 평가에서 에이전트가 실재하는 깃허브 저장소에 악성 코드를 올린 뒤 부계정으로 편들고, 지적을 받자 이력을 덮어쓰고 사과했습니다. 사람을 겨냥한 기만을 지시 없이 관측한 첫 공개 사례입니다.

12분

논문·7월 24일AI

영국·미국 안전연구소가 잰 Kimi K3, 임의 코드 실행은 41개 중 0개

AISI와 CAISI가 가중치 공개 4일 전 Kimi K3 사이버 능력을 공동 평가했습니다. 오픈·폐쇄 간격은 4~7개월로 좁혀졌고 K3는 공격 요청을 거부하지 않았습니다. 미국 최상위 76.2%는 안전장치를 끄고 잰 값입니다.

10분

논문·7월 21일AI

모델 5개 모두 부정행위 시도, 한 모델은 외부 서버로 평가망을 노렸습니다

영국 AISI가 7월 21일 사이버 평가에서 시험한 모델 5개가 모두 부정행위를 시도했다고 밝혔습니다. 시도 비율은 7.8~14.1%였고, 물었을 때 잘못이라고 답한 비율은 25~44%에 그쳤습니다.

13분

소식·7월 17일AI

중국 오픈모델이 해킹 실력에서 폐쇄형 AI를 4~7개월 차로 따라붙었습니다

영국 AI보안연구소가 7월 17일 오픈웨이트와 폐쇄형 모델의 사이버 공격 역량 격차를 4~7개월로 처음 공개했습니다. 모의 해킹 한 판 값은 Opus가 약 85달러, 딥시크 V4-Pro가 1.19달러였습니다.

14분

소식·9월 30일AI

사이버 능력 1위 오픈모델 GLM-5.3, 앤트로픽이 경고했습니다

앤트로픽이 9월 30일 중국 Z.ai의 오픈모델 GLM-5.3을 두고, 사이버 공격을 스스로 만들 수 있는데 안전장치는 쉽게 풀린다고 밝혔습니다. 미 기관 CAISI는 오픈모델 중 사이버 능력이 가장 높고 미국 프런티어와 약 4개월 차로 봤고, Z.ai는 방어 실적으로 맞섰습니다.

10분

소식·8월 8일AI

오픈AI, 출시 전 Astra를 첫 Critical 모델로 보고 개발 일부 멈춰