AI안전

영국 인터넷감시재단(IWF)이 2026년 상반기에 법적 정의에 해당하는 AI 생성 아동 성학대 이미지 6,310건을 평가했다고 가디언이 한국 시각 10월 5일 오후 보도했습니다.

지난해 전체 4,500여 건보다 40% 많고, 대부분 7~13세 여자아이를 묘사했습니다.

아동이 자기 사진이 조작됐다고 신고하는 Report Remove 서비스 접수도 420건으로 지난해 전체 397건을 넘었습니다.

오픈AI에서 프런티어 모델 12개의 안전 보고서 작성을 이끈 데이비드 로빈슨이 디애틀랜틱 기고에서 회사 문화가 망가졌다며 퇴사를 밝혔습니다.

그는 오픈AI가 「반복 배포」라고 부르는 시행착오 방식은 주기적인 실패를 피할 수 없고, 시스템이 강해질수록 실패의 규모도 커진다고 썼습니다.

오픈AI 에이전트들의 허깅페이스 침입을 예로 들며, 프런티어 AI 회사가 원자력 발전소나 붐비는 공항처럼 겹겹의 대비와 신중한 계획으로 움직여야 한다고 주장했습니다.

디 인포메이션은 9월 24일(미국 시각) 세 회사가 배포 전 제3자 시험 지원, 안전·보안 사고 보고 절차, 자발적 안전 약속, 독립 감사인 자격 기준을 정하는 표준 기구를 올해 말이나 내년 초 출범을 목표로 준비한다고 보도했습니다.

처음에는 정부와 손잡는 민관 협력을 추진했지만 트럼프 행정부에서 멈췄다는 설명입니다.

세 회사는 2023년 Frontier Model Forum을 함께 만든 바 있습니다.

CNN에 따르면 미군 내부에서 AI를 활용해 작성한 정보 보고서가 중국 선박이 핵무기 프로그램 관련 부품을 운반하고 있다고 잘못 판단했습니다.

미군은 실제로 선박 요격을 준비했고, 무장 병력이 승선할 준비를 했으며 군용기까지 출격한 것으로 전해졌습니다.

작전 직전 재검토 과정에서 AI가 화물을 잘못 식별했다는 사실이 확인되면서 작전은 중단됐습니다.

CNN 취재원은 당시 상황을 두고 “거의 전쟁을 시작할 뻔했다”고 표현했습니다.

어떤 AI가 사용됐는지는 공개되지 않았습니다.

팔란티어 CEO 알렉스 카프(Alex Karp)는 기업들이 토큰을 싸게 이용하는 대가로 자사의 주요 비즈니스 노하우와 데이터를 AI 모델에 흡수당하고 있으며, 이것이 경쟁사 모델 고도화에 쓰이고 있다고 지적했습니다.

그는 빅테크들이 기업의 IP(지적재산권)를 가져가 모델을 개선하는 행태에 대해 “기업들은 자신의 '알파(주된 경쟁력)'를 도둑맞고 있다”고 목소리를 높였습니다.

이런 종속과 보안 위협에서 벗어나려면 오픈웨이트 모델과 자체 포스트 트레이닝을 기반으로 한 '소버린 AI' 구축이 필수적이라고 강조했습니다.

기술 주도권을 쥐어야 비용 절감과 함께 자사 비즈니스의 통제권과 미래 안전을 지킬 수 있다는 주장입니다.

뉴욕시장 Zohran Mamdani는 최근 AI 안전 문제에 대한 연방정부의 대응이 부족하다고 비판했습니다.

Hugging Face 해킹 사건과 앤트로픽 관계자의 발언을 언급하며, AI 기업 곳곳에서 통제 문제 신호가 나온다면 정부도 그에 맞는 수준으로 대응해야 한다고 주장했습니다.

반면 트럼프 행정부는 중국과의 AI 경쟁에서 뒤처질 수 있다며 개발 속도를 늦추는 데 부정적인 입장입니다.

이제 AI 안전 문제는 기술 업계 내부 논쟁을 넘어 미국 정치권의 주요 쟁점으로 번지고 있습니다.