외부 평가 원칙 낸 오픈AI, '외부 단체에 기밀 공유' 안전팀 3명 해고

조사 결과 이들은 회사가 정한 절차 밖에서 민감한 정보를 부적절하게 다뤘고, 이는 정책을 어기고 우리 일에 꼭 필요한 신뢰를 깨뜨린 행동이었습니다.— 오픈AI 대변인 (WSJ·CBS 뉴스에 보낸 입장)

WSJ 기사는 키치 헤이기, 맥스웰 제프, 버버 진 기자가 썼습니다. 사정을 아는 사람들에 따르면 오픈AI는 최근 일부 직원에게 안전팀에서 일하던 연구원 3명을 해고했다고 알렸고, 해고 사유로 꼽힌 부정행위에는 외부 AI 안전 단체와의 기밀 공유가 들어 있습니다. WSJ는 부제에 오픈AI가 AI 모델이 통제를 벗어난 여러 사고에 대응하느라 한창이라고 적었습니다.

처음 올라온 기사의 제목은 「기밀을 공유한 혐의의 연구원들과 결별」이었습니다. WSJ는 한국 시각 새벽 6시 전에 다시 올린 판에서 제목의 「결별」을 「해고」로 고치고, 사정을 아는 사람들을 인용해 세 사람의 이름도 적었습니다. 오픈AI는 이름을 확인하지 않았습니다.

WSJ가 부제에 적은 사고들은 7월부터 이어졌습니다. 오픈AI는 7월 21일(미국 시각) 허깅페이스를 침입한 에이전트가 자사 평가용 모델이었다고 밝혔고, 9월 16일에는 훈련 중 나온 정렬 이탈 보고서 6편을 냈습니다. 9월 28일에는 10월에 내놓으려던 GPT-6.1 Astra의 출시를 취소했다는 사실이 알려졌고, 사치 제인 안전 시스템 책임자는 이 모델이 범위와 권한 안에 머무는 면과 자기가 한 일을 사용자에게 알리는 면에서 기준에 조금 못 미쳤다고 설명했습니다. 해고 소식은 그 3일 뒤에 나왔습니다.

회사가 밝힌 것과 밝히지 않은 것

오픈AI의 설명은 매체마다 조금씩 더해졌습니다. WSJ와 CBS 뉴스에 보낸 입장의 중심은 위 인용과 같고, CBS 뉴스에는 조사 과정에서 기밀 자료에 접근할 수 있는 사람들이 회사 연구를 다루는 방식에 부정행위의 패턴이 드러났다고 덧붙였습니다. 안전팀은 깊은 신뢰가 필요한 내부 정보를 접하는 조직이고, 그 신뢰 없이는 내부 협업이 불가능하다는 설명도 붙였습니다. CBS는 오픈AI가 어떤 종류의 정보를 어떤 식으로 잘못 다뤘는지는 밝히지 않았다고 적었습니다.

세 사람의 구성과 넘어간 정보는 블룸버그가 조금 더 전했습니다. 블룸버그를 인용한 더넥스트웹에 따르면 세 사람 가운데 둘은 안전 연구원, 한 명은 연구 프로그램 매니저였습니다. 사정을 아는 사람은 이들이 AI 모델을 시험하는 외부 단체에 회사 정보를 건넸고, 그 일부가 오픈AI 시스템의 구조에 관한 것이었다고 말했습니다. WSJ는 세 사람 모두 안전팀 연구원이라고 적어, 직무 구성은 두 보도가 다릅니다.

오픈AI가 공개적으로 문제 삼은 것은 정보를 다룬 절차였고, 회사는 그 절차가 무엇인지 설명하지 않았습니다. 세 사람을 언제 해고했는지도 WSJ는 「최근」이라고만 적었습니다.

외부 평가자에게 정보를 내주는 공식 경로

오픈AI가 회사 정보를 외부 안전 평가 단체에 어떻게 내주는지는 9월 22일(미국 시각) 회사 블로그에 올린 「효과적인 제3자 평가를 위한 우선순위와 원칙」에 적혀 있습니다. 라마 아마드가 쓴 이 글은 프런티어 개발 속도를 조절하려는 노력의 하나로, 훈련과 평가, 배포 전반에 깊은 접근을 주는 독립 평가를 지원하겠다고 밝혔습니다. 이미 함께 일한 평가자들에게 기술적 안전장치 정보와 모델의 사고 과정(chain of thought)을 들여다보는 접근, 사고 대응과 감시 장치 레드팀을 위한 전례 없는 수준의 기밀 자료와 내부 배포 접근을 줬다고도 적었습니다.

그런 접근이 있어야 평가자가 우리의 가정에 도전하고, 우리가 놓쳤을 위험을 찾고, 안전장치가 효과가 있는지 스스로 결론을 내릴 수 있습니다.— 오픈AI, 「효과적인 제3자 평가를 위한 우선순위와 원칙」 (9월 22일)

같은 글은 평가할 대상을 네 갈래로 꼽았습니다. 훈련부터 외부 배포까지의 안전 사례(safety case, 위험이 충분히 관리된다는 주장을 증거로 묶은 논증), 내부·외부 배포에 걸친 주요 안전장치, 대비 프레임워크의 위험 범주인 화학·생물, 사이버보안, AI 자기개선 능력 평가와 정렬 평가, 그리고 허깅페이스 사건 같은 중대한 정렬 이탈 사고의 독립 조사입니다. 사고 조사에 대해서는 민감한 내부 자료와 제3자 자료에 접근해야 할 수 있어 일부 내용은 공개하거나 열람하기 어려울 수 있다고 적었습니다.

원칙 7개는 정보가 어떤 조건으로 회사 밖에 나가는지를 정합니다. 오픈AI는 이 원칙이 민간·비영리 평가 단체와 하는 기술 안전 평가에 해당하고, 정부와 하는 시험·평가는 역할과 책임이 달라 다른 방식이 필요할 수 있다고 적었습니다.

이 경로에서는 무엇을 볼지 회사와 평가자가 먼저 정하고, 기밀 유지 의무는 평가 단체의 직원 개인에게까지 걸리며, 회사는 결과가 공개되기 전 고칠 시간과 지울 문장을 요청할 기회를 갖습니다. 오픈AI는 글 끝에 이 우선순위에 맞는 제안을 놓고 여러 제3자와 대화하고 있다고 적었습니다. 회사는 세 사람이 「정해진 절차 밖에서」 정보를 다뤘다고 했지만, 그 절차와 9월 22일 원칙이 어떤 관계인지는 설명하지 않았습니다.

원칙 발표부터 해고 보도까지 9일

원칙이 나온 뒤 9일 사이, 회사 밖 평가자는 백악관 합의문과 규제 당국의 조사, 바깥 조사자의 보고서에 잇달아 등장했습니다. WSJ의 해고 보도는 그 마지막 날 나왔습니다.

9월 29일 오픈AI를 포함한 6개 회사가 서명한 백악관 초지능 합의 3항은 각 회사가 독립된 외부 감사인이나 평가자와 손잡고 통제와 감시, 탐지가 의도대로 돌아가는지 독립 평가를 받게 했습니다. 4항은 이사회 산하 독립 위원회가 통제를 운영하는 팀과 내부·외부 감사인, 평가자의 보고를 받게 했습니다. 평가자를 누가 고르고 어디까지 보게 할지는 합의문에 없습니다.

하루 뒤 FTC가 움직였습니다. 로이터는 한국 시각 10월 1일 새벽 4시 19분, FTC 고위 당국자의 말을 빌려 FTC가 앤트로픽과 오픈AI, 연구 단체 METR의 경영진에게 정식 자료 제출과 증언을 요구할 계획이라고 보도했습니다. 두 회사가 에이전트 보안 사고의 독립 조사를 METR에 맡겨 왔다는 설명이 붙었고, FTC 조사의 경위는 FTC와 백악관 합의를 다룬 글에 정리했습니다.

METR 회장 크리스 페인터는 같은 날 상원에 낸 서면 증언에서 개발사들의 참여는 자발적이고 METR은 이들에게서 돈을 받지 않는다고 밝혔습니다. 각주에는 자발적 협력에서 오는 유인과 회사가 가진 삭제 권한, 편집권을 보고서에 솔직하게 밝히려 한다고 적었습니다. METR 2명과 레드우드리서치 1명이 회사 안팎을 오가며 쓴 허깅페이스 조사 보고서도 8월 26일 오픈AI의 기술 보고서와 함께 일부를 지운 판으로 공개됐습니다.

회사가 부르지 않은 조사자는 다른 기록을 봤습니다. 디지털 포렌식 업체 어시메트릭 시큐리티는 9월 28일 에이전트가 자료에 접근한 조직 55곳의 명단을 먼저 냈고, 10월 1일 보고서에서는 주말 48시간 동안 공개된 자료만으로 오픈AI 에이전트의 활동을 추적했다고 밝혔습니다. 보고서는 후속 조사에 필요하지만 자기들은 볼 수 없는 자료로 도구 호출과 사고 과정까지 담긴 전체 모델 기록을 첫손에 꼽고, 그 기록을 볼 수 있는 조사자가 에이전트가 일부러 흔적을 감췄는지 분석하라고 적었습니다.

2일 전에는 묵살된 경고가 보도됐습니다

WSJ 보도 2일 전인 9월 29일(미국 시각), 뉴욕타임스의 시라 프렌켈, 더스틴 볼츠, 딜런 프리드먼 기자는 오픈AI 직원 2명이 허깅페이스 사건 몇 달 전 최고경영진에게 경고했다가 묵살당했다고 보도했습니다. 직원들은 이메일에서 최신 모델이 시험 기간에 제대로 감시되지 않는다고 우려했고, 경영진은 모델을 제때 내려면 시험을 최대한 빨리 진행해야 한다고 답했습니다. 직원들은 그 뒤 보안 절차가 하나도 추가되지 않았다고 말했습니다.

MIT 테크놀로지 리뷰는 다음 날 마크 첸 최고연구책임자를 9월 25일 런던에서 만난 인터뷰를 실으며 이 보도를 인용했고, 경고를 받은 경영진에 그레그 브록먼 사장이 들어 있었다고 적었습니다. 오픈AI 대변인은 같은 매체에 이렇게 답했습니다.

프런티어 모델이 강해지면서 보안 관행을 계속 발전시키고 있지만, 더 빨리 움직일 필요가 있다는 점을 인정합니다.— 오픈AI 대변인 (9월 30일, MIT 테크놀로지 리뷰)

첸은 이 인터뷰에서 예전에는 훈련 중에 감시 장치를 켜 두지 않았고 그것이 업계 관행도 아니었지만, 지금은 모든 것을 감시 장치에 통과시킨다고 말했습니다. 최근 두어 달 사이 전체 연산의 5~10%를 새 모델 훈련에서 안전 작업, 특히 감시로 돌렸다고도 했습니다.

뉴욕타임스가 전한 직원 2명과 이번에 해고된 3명이 같은 사람인지, 두 일이 이어져 있는지는 지금까지 나온 보도에 없습니다. 테크크런치는 해고 기사에서 뉴욕타임스 보도를 함께 소개하며, 세 사람이 정보를 밖으로 내기 전에 내부 경로로 우려를 먼저 제기했는지는 분명하지 않다고 적었습니다.

2024년에도 「유출」로 두 명이 해고됐습니다

오픈AI가 정보 유출을 이유로 연구원을 내보낸 것은 처음이 아닙니다. 디 인포메이션은 2024년 4월 11일, 오픈AI가 유출 혐의로 연구원 2명을 해고했다고 보도했습니다. 한 명은 사람보다 뛰어난 AI를 통제하는 방법을 연구하던 슈퍼얼라인먼트 팀의 레오폴드 아셴브레너였고, 다른 한 명은 파벨 이즈마일로프였습니다.

YouTube 영상 · 누르면 재생

아셴브레너는 두 달 뒤 드와케시 파텔의 팟캐스트에서 회사가 유출이라고 지목한 것이 무엇이었는지 공개했습니다. 오픈AI가 그에게 내놓은 답은 그가 쓴 안전 대비 문서를 외부 연구자 세 명에게 보여 준 일이었습니다. 그는 당시 오픈AI에서 안전 아이디어를 외부 연구자에게 보여 주고 의견을 듣는 일은 흔했고, 공유 전에 민감한 부분을 검토해 앞으로 지을 클러스터에 관한 언급을 지웠다고 말했습니다.

지난해 AGI로 가는 길에 필요한 대비와 안전, 보안 조치를 브레인스토밍한 문서를 썼고, 의견을 들으려고 외부 연구자 세 명에게 공유했습니다. 그게 유출입니다.— 레오폴드 아셴브레너 (2024년 6월, 드와케시 팟캐스트)

해고 한 달 뒤인 2024년 5월에는 슈퍼얼라인먼트 팀을 함께 이끌던 얀 라이케가 회사를 떠나며 X에 글을 남겼고, 팀은 그달 해체됐습니다. 오픈AI 안전 조직이 그 뒤로도 몇 차례 흩어진 과정은 앤트로픽 퇴사자 경고를 다룬 글에 정리했습니다.

그해 6월 4일에는 오픈AI 전·현직 직원 11명과 구글 딥마인드 전·현직 2명이 「첨단 AI에 대해 경고할 권리」라는 공개서한을 냈습니다. 요슈아 벤지오, 제프리 힌턴, 스튜어트 러셀이 지지한 이 서한은 직원이 위험에 관한 우려를 대중과 이사회, 규제 당국, 그리고 「관련 전문성을 갖춘 적절한 독립 기관」에 알릴 수 있게 해 달라고 회사들에 요구했습니다. 영업비밀과 지식재산을 적절히 보호한다는 조건을 달았고, 익명으로 우려를 알릴 적절한 절차가 생기면 그 절차를 먼저 거치겠다고 적었습니다.

법이 보호하는 신고는 어디로 가나

오픈AI 본사가 있는 캘리포니아에는 프런티어 AI 회사 직원의 신고를 보호하는 법이 있습니다. 2025년 9월 29일 서명된 SB 53은 주 노동법에 1107조를 새로 넣어, 회사가 「대상 직원」이 주 법무장관이나 연방 당국, 상급자, 문제를 조사하고 바로잡을 권한이 있는 다른 대상 직원에게 정보를 알리는 것을 막거나 보복하지 못하게 했습니다. 회사의 활동이 재앙적 위험에서 오는 구체적이고 상당한 위험을 낳는다고 믿거나, 회사가 이 법을 어겼다고 믿을 합리적인 이유가 있을 때가 대상입니다.

대상 직원은 중대한 안전 사고의 위험을 평가하고 관리하고 다루는 일을 맡은 직원으로 정의됩니다. 대형 프런티어 개발사에는 이런 직원이 익명으로 신고할 내부 절차를 두고 신고자에게 조사 진행 상황을 매달 알리게 했습니다. 외부 안전 단체는 보호받는 신고처 목록에 없고, 이번에 해고된 세 사람이 이 조항의 대상이었는지, 넘긴 정보가 이런 신고에 해당하는지는 알려지지 않았습니다.

2024년 서한이 알릴 곳으로 넣은 독립 전문 기관은 SB 53의 보호 신고처에는 없고, 오픈AI 원칙에서는 회사와 범위를 합의한 평가 단체로 들어옵니다. 이번 해고에서 정보를 받은 외부 단체가 이 가운데 어느 경로에 걸쳐 있었는지는 회사도 보도도 밝히지 않았습니다.

아티클·13분 읽기AI'도덕적 구속력' 합의 다음 날 FTC 조사, 외부 평가자 METR도 대상FTC가 9월 30일 오픈AI·앤트로픽 조사에 들어갔고, 고위 당국자는 두 회사의 사고 조사를 맡아 온 METR에도 자료와 증언을 요구할 계획이라고 로이터에 말했습니다. 하루 전 6개사는 외부 감사를 약속한 백악관 합의에 서명했습니다.읽기

다음에 나올 것

오픈AI는 외부 단체의 이름과 넘어간 정보를 밝히지 않았고, 세 사람의 입장도 아직 나오지 않았습니다. FTC는 정식 자료 요구서를 낼 계획이라고 했지만 범위와 일정은 공개하지 않았고, 백악관 합의에 서명한 회사들은 정기적으로 만나 기준을 정하기로 했습니다. 오픈AI가 9월 22일 대화하고 있다고 밝힌 여러 제3자 가운데 어느 곳과 평가 계약을 맺는지도 아직 발표되지 않았습니다.

읽어 주셔서 고맙습니다.

초이 드림