허깅페이스 해킹한 '외부 AI' 정체…알고 보니 오픈AI 모델 작성일 07-22 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'GPT-5.6 솔' 등 미출시 버전…"시험 정답 찾으려 외부 시스템 무단 접속"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HMrnE8fzNy"> <p contents-hash="6c5e34a52c34d5dcc241db1426dbb7a68c9d7316e29abc869db9106c0c6cfc74" dmcf-pid="XRmLD64qNT" dmcf-ptype="general">(지디넷코리아=김미정 기자)최근 허깅페이스를 해킹한 외부 인공지능(AI) 에이전트 실체가 오픈AI 모델인 것으로 드러났다.</p> <p contents-hash="8337513a88777abd8a95e9167ff704909a18e8faeee985aedc1d84f923ba4253" dmcf-pid="ZesowP8Bcv" dmcf-ptype="general">21일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 자사 모델이 격리 환경을 벗어나 허깅페이스 시스템에 무단 접근한 사실을 인정했다. 허깅페이스는 오픈AI와 별도 관계 없는 기업으로 당초 공격 주체를 외부 AI 에이전트로 추정했다.</p> <p contents-hash="99cc3be04e37ab034bb92e826e48685350ce0e45a5fc21a39d2faa8c9197de7a" dmcf-pid="5dOgrQ6bNS" dmcf-ptype="general">이번 사고에는 'GPT-5.6 솔'을 비롯한 오픈AI 미출시 버전 모델이 관여한 것으로 나타났다. 해당 모델들은 사이버 공격 능력을 평가받기 위해 안전 거부 기능이 완화된 상태로 내부 시험에 투입됐다. </p> <figure class="figure_frm origin_fig" contents-hash="ddefb4f9043432a0e0816fa00bfa628b9b22a97b6df39916177d3d66d9efa309" dmcf-pid="1JIamxPKjl" dmcf-ptype="figure"> <p class="link_figure"><img alt="최근 허깅페이스를 해킹한 외부 인공지능(AI) 에이전트 실체가 오픈AI 모델인 것으로 드러났다. (사진=오픈AI 블로그 캡처)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/ZDNetKorea/20260722092151022vpoz.jpg" data-org-width="638" dmcf-mid="G54p2YyOkW" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/ZDNetKorea/20260722092151022vpoz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 최근 허깅페이스를 해킹한 외부 인공지능(AI) 에이전트 실체가 오픈AI 모델인 것으로 드러났다. (사진=오픈AI 블로그 캡처) </figcaption> </figure> <p contents-hash="465486c0e4f787274cb3460d1d33a84157b7fe47463f5bd5b99c620232015c63" dmcf-pid="tiCNsMQ9ah" dmcf-ptype="general">시험에는 기존 보안 취약점을 이용한 공격 능력을 측정하는 공개 벤치마크 '익스플로잇짐'이 사용됐다. 모델들은 벤치마크 문제 정답을 찾는 과정에서 허깅페이스 시스템까지 침입·공격한 것으로 조사됐다.</p> <p contents-hash="b02c6f4b6b9b2a759b18db641fae8750fb1c3f963899b3532e9bcbcbfe6facee" dmcf-pid="FnhjORx2kC" dmcf-ptype="general">해당 모델은 원칙적으로 외부 인터넷에 접속할 수 없도록 격리돼 있었다. 다만 시험에 필요한 소프트웨어(SW)를 설치할 수 있도록 패키지 설치 도구에는 접근할 수 있었다.</p> <p contents-hash="3dad094a97f64ae153fa74b904d18040853731f42f4a67140d043e7cf4d50b40" dmcf-pid="3LlAIeMVkI" dmcf-ptype="general">모델은 패키지 설치 프로그램에서 공개되지 않은 취약점을 찾아 인터넷 접속 제한을 우회했다. 이후 허깅페이스에 익스플로잇짐 관련 모델과 데이터셋, 문제 해결 정보가 저장돼 있을 가능성이 있다고 판단했다.</p> <p contents-hash="29200794c3ccbd1c1d0c4929f261cd99e711f427fc97e0f482ba5f8d194feed4" dmcf-pid="0oScCdRfkO" dmcf-ptype="general">해당 모델은 허깅페이스 인프라 취약점도 추가로 찾아냈다. 이를 통해 허깅페이스 운영 데이터베이스(DB)에 접근하고 익스플로잇짐 시험 문제 정답을 직접 확보한 것으로 파악됐다. </p> <p contents-hash="faaf325d014e4687f8f0eb3a1d8c60dff247231be1e96b153046ebfe4d4c2ada" dmcf-pid="pgvkhJe4os" dmcf-ptype="general">허깅페이스는 "이번 공격은 단순한 일회성 침입이 아니었다"며 "AI 모델은 여러 임시 실행 환경을 옮겨 다니며 수천 건 공격을 수행했다"고 밝혔다. 이어 "공개 인터넷 서비스를 공격 명령을 전달하는 중간 거점으로 활용한 정황도 포착됐다"고 덧붙였다. </p> <p contents-hash="7d8fbfb54e5b8887595005dc880499e7e097454bc6c61a439f3aedf2a8372491" dmcf-pid="UaTElid8km" dmcf-ptype="general"><span>오픈AI는 패키지 설치 도구와 허깅페이스 인프라에서 발견된 취약점을 </span><span>신고했다.</span><span> 현재 허깅페이스와 추가 조사를 진행하고 있으며, 모델 시험과 관련 인프라에 새로운 통제 장치를 적용할 방침이다.</span></p> <p contents-hash="3144e48c896bb0129735d043c5ef848b4cc5ff066b2e5d1943a10fe61ac2552c" dmcf-pid="uNyDSnJ6or" dmcf-ptype="general">이번 사건으로 오픈AI가 법적 책임을 질지는 확인되지 않았다. 다만 외신은 모델 무단 시스템 접근이 미국 '컴퓨터 사기 및 남용 방지법'을 위반했을 가능성이 있다고 분석했다.</p> <p contents-hash="2b455cf469d1028f7360dc5dc728208387462d0dc2158ad35ac57233208fa3f2" dmcf-pid="7esowP8BAw" dmcf-ptype="general">오픈AI는 "모델들은 익스플로잇짐의 해결책을 찾는 데 지나치게 몰두했고 매우 제한적인 시험 목표를 달성하기 위해 극단적인 수단까지 동원했다"며 "인터넷에 접근한 뒤 평가에서 부정행위를 하는 데 이용할 수 있는 비밀 정보를 찾아냈다"고 밝혔다.</p> <p contents-hash="532af9743033de0ec7c15df7ba0d334d6f2dd444cc94c82ec00ac3b537a920ca" dmcf-pid="zdOgrQ6boD" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 200만년 전 훌쩍 커버린 인간...무슨 일이 있었을까 07-22 다음 [김종석의 그라운드] 새 생명 기다리는 47세 배우 한다감이 브리지 테이블을 찾은 이유 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
