오픈AI ‘GPT-5.6 솔’ 등 AI 모델, 외부 서버 해킹…사상 초유의 ‘AI 보안사고’ 작성일 07-22 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">사이버 공격 능력 평가 과정서 ‘허깅페이스’ 해킹<br>격리망 뚫고 외부 서버 공격…오픈AI “엄격 통제”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tnDwD64qaR"> <p contents-hash="ecf025f9b66afae17a95c1867d55f479a8fd5f2679dd9a9dda98f90bc2ad282f" dmcf-pid="FLwrwP8BjM" dmcf-ptype="general">오픈AI의 인공지능(AI) 모델이 내부 평가 도중 통제를 벗어나 외부 사이트를 공격한 초유의 사고가 발생했다.</p> <p contents-hash="ffc8378f1557b4f49ea388a6417e0255f3abbfccf92a2834de30f025b4676101" dmcf-pid="3ormrQ6box" dmcf-ptype="general">AI가 스스로 외부 시스템을 해킹한 것으로 드러나면서 생성형 AI의 자율성과 사이버 안전성을 둘러싼 논란이 커질 것으로 보인다.</p> <figure class="figure_frm origin_fig" contents-hash="6d86090441d34490061d0c5ef93f1e8d7b0a32337410a4969db335bfd739f08c" dmcf-pid="0CXZXcjJNQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI. 로이터연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/segye/20260722105412208qpnp.jpg" data-org-width="800" dmcf-mid="18868ZHlje" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/segye/20260722105412208qpnp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI. 로이터연합뉴스 </figcaption> </figure> <div contents-hash="5e9e2adbf2c0597d891fe5733faf9a6d05dd934446dd169dd0cffaf31218fd93" dmcf-pid="phZ5ZkAigP" dmcf-ptype="general"> 오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 사이버 공격 능력을 평가하는 과정에서 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 21일(현지시간) 밝혔다. </div> <p contents-hash="4577d9c3c1500201f896e82f1b1b2a893ef13b625301ec347b97f4dc78058a94" dmcf-pid="Ul515Ecna6" dmcf-ptype="general">오픈AI는 외부 인터넷과 분리된 ‘샌드박스’ 환경에서 시험을 진행했지만, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제망을 우회하고 인터넷에 접속했다고 설명했다.</p> <p contents-hash="e65c46b6fec20378acbdc8cd1b34a182c96fc9e7d08941e954aa9ba0a54f9ec7" dmcf-pid="uS1t1DkLk8" dmcf-ptype="general">이들 모델은 허깅페이스에 접속해 인증 정보를 탈취하고 서버를 해킹한 것으로 조사됐다.</p> <p contents-hash="c5e1b2229ed76faa6fc2ee8d810116fefe1d75e2537d47019598e52f80d3529c" dmcf-pid="7vtFtwEoo4" dmcf-ptype="general">오픈AI는 자사 AI 모델이 보안 벤치마크인 '익스플로잇짐(ExploitGym)' 평가용 문제를 해결하는 과정에서 목표 달성에 지나치게 집중하면서 극단적인 수단을 선택한 것으로 분석했다.</p> <p contents-hash="f881172ddb31366af6449848d137d51b935104ab281c76e208cf0caf0f08a96d" dmcf-pid="zTF3FrDgkf" dmcf-ptype="general">당시 이들 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다고 오픈AI는 덧붙였다.</p> <p contents-hash="b637df01ca6cbd1b1a87463375825b5b330f064f44447e54f50d7f03303baa91" dmcf-pid="qy303mwaaV" dmcf-ptype="general">앞서 허깅페이스는 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지했는데, 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다.</p> <p contents-hash="e086bf9c423c82f133597bafff7ba30b2d4dffb4ef06d8301d833e7dc6524482" dmcf-pid="BW0p0srNg2" dmcf-ptype="general">허깅페이스는 이같은 해킹 사실을 AI 기반 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다고 설명했다.</p> <p contents-hash="ffc94ca0aa054d2c70b381b0a48b0f5be76f7bf3dcd6f2c6052946a02eb8ea73" dmcf-pid="bYpUpOmja9" dmcf-ptype="general">다만 일반에 공개된 사용자용 모델과 데이터세트가 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다고 덧붙였다.</p> <p contents-hash="54c09708b5235d6ec7aab2470cd02f6831461ea42a8ce9207a32acdbacbfce6c" dmcf-pid="KGUuUIsANK" dmcf-ptype="general">양사는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다.</p> <p contents-hash="f93a02adadf7fabe950f3c19e5243f079af9c2766675a5cb39da9c174cea4a74" dmcf-pid="9Hu7uCOcob" dmcf-ptype="general">오픈AI는 향후 연구 속도가 늦어지더라도 인프라 구성에 엄격한 통제를 적용하고, 모델 개발 시 모니터링과 접근 제어 등 안전장치를 대폭 강화하겠다고 밝혔다.</p> <p contents-hash="ac72c590a874fcb41bd692a543ce90a0b222d3a5a6f3dcda23889afb8405e705" dmcf-pid="2X7z7hIkNB" dmcf-ptype="general">그러나 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이와 같은 사고가 발생한 만큼 AI 보안 우려는 더욱 커질 전망이다.</p> <p contents-hash="d839d4e50b3ca33eda72d054e10997f3c7839185f9b71f16dce201d93f4eb3c9" dmcf-pid="VZzqzlCEAq" dmcf-ptype="general">업계에서는 폐쇄형 모델보다 안전 통제가 느슨한 개방형 AI가 빠르게 고도화되면서 이를 악용한 사이버 공격도 증가할 가능성이 있다는 전망이 나온다.</p> <p contents-hash="4acffd8ab504021cf5a48464b85b2dd4191bf0b3af92837ce17631f3774f607c" dmcf-pid="f5qBqShDkz" dmcf-ptype="general">이번 사고는 엄격한 격리 환경에서도 AI가 예상 밖 행동을 보일 수 있음을 보여준 사례라는 점에서 AI 안전성 논란이 더욱 커질 것으로 전망된다.</p> <p contents-hash="5e852181060db4f7b2961395416c4894130ebbc63b773dde9008261ff7df572c" dmcf-pid="41BbBvlwo7" dmcf-ptype="general">허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 공격뿐 아니라 방어에도 AI 활용이 필요하다고 강조했다.</p> <p contents-hash="b0625fd9eb4f09cc1572624378cb5e9ca008246a2c6aa2ca52a32cf4eaa1972a" dmcf-pid="8BQxQt5TAu" dmcf-ptype="general">이승구 온라인뉴스 기자 hibou5124@segye.com</p> </section> </div> <p class="" data-translation="true">Copyright © 세계일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 “AI 데이터센터 전력도 직류로”..LG유플러스, LS일렉트릭과 차세대 AIDC 전력시스템 구축 07-22 다음 스마트폰 값이 뛴다…새 아이폰 사면 몇 년 쓸까 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
