초유의 ‘AI 탈옥’…GPT, 인간통제 뚫고 멋대로 해킹 작성일 07-23 40 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2a2o3hIkvr"> <p contents-hash="047af407fd2aee9657b0790564cd788b61329a2a21dcd83a90cd27dfc42209ff" dmcf-pid="VNVg0lCETw" dmcf-ptype="general">오픈AI의 인공지능(AI) 모델이 스스로의 판단으로 외부 사이트를 해킹하는 초유의 일이 벌어졌다. </p> <p contents-hash="ab7e0f9e2e2ebec4231908f70a108f3d73c3d34ea20f47b8715bce650fb305a1" dmcf-pid="fjfapShDyD" dmcf-ptype="general">21일(현지시간) 오픈AI는 공식 블로그를 통해 자사의 최신 AI모델인 GPT-5.6 Sol과 이보다 더 뛰어난 고성능 미공개 모델이 내부 성능 테스트 과정에서 ‘허깅페이스’의 운영 데이터베이스(DB)를 해킹했다고 밝혔다. 허깅페이스는 개발자와 기업 등이 자신들이 개발한 AI모델과 데이터셋을 공유하는 오픈소스 AI 플랫폼이다. </p> <p contents-hash="c5e418c04acd6de4b6d268110b95717a486ab7c4ae3a68a510bf9f771f45a508" dmcf-pid="4A4NUvlwWE" dmcf-ptype="general">오픈AI는 자사 모델들의 사이버 공격 능력을 측정하기 위해 외부 인터넷과 격리된 통제 환경인 ‘샌드박스’를 구축했다. 이후 샌드박스 내 AI모델에 샌드박스의 ‘문지기’ 역할을 하는 프로그램의 취약점을 활용해 공격 코드를 만들라고 명령했다. 해당 샌드박스는 사이버 공격에 대한 안전장치가 일부 완화된 상태였다. </p> <figure class="figure_frm origin_fig" contents-hash="40b1be02a9b8b02480f68e5a542e3001c495b630e3e7c2ac360c02a2e374e6ca" dmcf-pid="8c8juTSrvk" dmcf-ptype="figure"> <p class="link_figure"><img alt="정근영 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/23/joongang/20260723002737342honk.jpg" data-org-width="1280" dmcf-mid="9tm5oV9USm" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/23/joongang/20260723002737342honk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 정근영 디자이너 </figcaption> </figure> <p contents-hash="494710d370808c921367c8326ccd602d50c12586146f2a57021e47562f5232f2" dmcf-pid="6k6A7yvmhc" dmcf-ptype="general"> 명령을 받은 AI모델은 외부 정보가 필요하다고 스스로 판단했고, 이후 샌드박스의 알려지지 않은 취약점(제로데이)을 찾아 외부로 ‘탈주’한 뒤, 허깅페이스에 접근했다. AI모델은 탈취한 접속 정보 등을 활용해 허깅페이스 내부 시스템을 해킹했고 필요한 정보를 DB에서 찾아 빼내는 데 성공했다. 문제 해결을 위해 모델 사용자의 통제를 벗어나 외부 시스템까지 해킹한 셈이다. 오픈AI는 “최첨단 AI모델이 새로운 공격 경로를 찾아내 악용할 수 있음이 명백해졌다”며 “강력한 방어 도구가 함께 개발되지 않는다면 고도화된 사이버 역량은 거대한 위협이 될 것”이라고 주장했다. 앞서 16일(현지시간) 해킹 사실을 공개한 허깅페이스도 “이번 침입은 처음부터 끝까지 자율 AI 에이전트 시스템이 주도했다는 점에서 이전 사고와 달랐다”고 밝혔다. </p> <p contents-hash="a410a1d002a91ca8e27b984f389849a086efb4440868742334d59fdc9e38ec3d" dmcf-pid="PwxEBGWIvA" dmcf-ptype="general">최근 AI모델 성능이 고도화하면서 AI가 스스로 회사가 설정한 환경을 벗어나 외부 데이터를 탈취하거나 해킹에 참여하는 사례가 꾸준히 발생하고 있다. 지난 3월 알리바바 AI모델 ROME는 통제 환경에서 실험을 하던 도중 통제를 우회해 외부에 연결해 암호화폐 채굴 코드를 실행하려 했다가 논란이 됐다. 앤트로픽의 미토스 역시 개발 과정에서 인터넷이 차단된 샌드박스를 탈출해 연구원에게 이메일을 보내고, 자신의 탈출 흔적을 외부 사이트에 게시하는 등 자율적인 판단을 했다. </p> <p contents-hash="253583e324741c2fb8bf4ce3d6fb296bb580bb25c935ce93e423116189f42319" dmcf-pid="QrMDbHYCCj" dmcf-ptype="general">보안 업계에선 “AI의 자의적 판단을 막기 위해 엄격한 AI 관리체계를 구축하고, 그보다 고성능의 보안 시스템을 구축해야 한다”는 의견이 나온다. 김현걸 사이버보안협회장은 “고성능 AI에 과도한 권한과 실행 도구가 주어지면 인간이 예상한 통제 범위를 벗어난다”며 “AI가 잘못된 판단을 해도 실제 피해로 이어지지 않게 권한과 데이터, 실행 환경 등을 여러 단계로 분리해야한다”고 말했다. AI 보안 스타트업 이로운앤컴퍼니 윤두식 대표는 “고성능 AI모델을 공격용이 아닌 방어용으로도 활용될 수 있게 개발사가 허용하고, 이를 통해 각 주체가 방어 능력을 키울 필요가 있다”고 말했다. </p> <p contents-hash="7ce991cd6f22022976a337cdbb620f7a8a021d3233b011db739c9ab635faa50a" dmcf-pid="xmRwKXGhlN" dmcf-ptype="general">성지원 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 스파이더맨에 AI 글래스 등장한 '갤럭시 언팩' 현장…환호성 터졌다 07-23 다음 [갤럭시언팩] 토니상 작가에 스파이더맨까지…런던 달군 갤럭시Z8 07-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
