[人사이더] 목줄 풀린 챗GPT, 멋대로 플랫폼 해킹… ‘AI 보안사고’ 현실로 작성일 07-22 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PeIPhJe4lW"> <figure class="figure_frm origin_fig" contents-hash="8c3ed8feb5a2d711b725e2d5645f3d7b9978f956c5a938f418a74d816f43b8b8" dmcf-pid="QdCQlid8vy" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI의 인공지능 챗GPT 로고. [연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/dt/20260722104646955uvzq.jpg" data-org-width="640" dmcf-mid="bI6YQt5TTF" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/dt/20260722104646955uvzq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI의 인공지능 챗GPT 로고. [연합뉴스] </figcaption> </figure> <p contents-hash="4ee6a905525e1bb4b85a1900067c15d73a106cc95e95d7793f22a8163a2b920f" dmcf-pid="xJhxSnJ6ST" dmcf-ptype="general"><br> 오픈AI의 최신 인공지능(AI) 모델들이 통제를 벗어나 외부 사이트를 해킹하는 초유의 사건이 발생했습니다.</p> <p contents-hash="909314747e0e32876abe48e04f176555ec60c7233cb86e109e82ff723e26e03b" dmcf-pid="yX4y65XSyv" dmcf-ptype="general">오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 21일(현지시간) 밝혔습니다.</p> <p contents-hash="de3bef0188f524a7bc0d797dd0c82387994cea75b17708bede4f5387beabcbb0" dmcf-pid="WZ8WP1ZvlS" dmcf-ptype="general">오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제 망을 뚫고 인터넷에 접속했다고 설명했습니다.</p> <p contents-hash="cf146b0920380478ab1f352b65c4d2ea4291f77a9c5b07b99ba8dcd8cf592ac6" dmcf-pid="Y56YQt5Thl" dmcf-ptype="general">이들 모델은 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났는데요.</p> <p contents-hash="933aa47aef3932c79a685ca3b0e1507898516247d3d35b8e5104dac997c76055" dmcf-pid="G1PGxF1ySh" dmcf-ptype="general">오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 “모든 정황을 종합해볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 분석했습니다.</p> <blockquote class="quote_frm" contents-hash="bcacad059bb7676c53568eee8bfb4d57db36cc35f840d60812184606e14d436b" dmcf-pid="HtQHM3tWTC" dmcf-ptype="blockquote1"> 격리된 내부평가시험 중 통제 벗어나… 통제망 뚫고 ‘허깅페이스’ 해킹 <br>논란 커지자 “연구 늦어져도 엄격히 통제”… AI 사이버위협 공포 성큼 </blockquote> <div contents-hash="f26ed8d17f2134343e324575e2dff6575c4082042a1b4a0553fd491c0a3b0909" dmcf-pid="XFxXR0FYhI" dmcf-ptype="general"> 당시 오픈AI 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다고 오픈AI는 덧붙였습니다. </div> <p contents-hash="4a7294e2aafa3916bd041ae23ea599bf54e1fb9eeca8bc15454fd4b2fb893210" dmcf-pid="ZqLpgbqFWO" dmcf-ptype="general">앞서 허깅페이스는 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지했는데, 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈입니다.</p> <p contents-hash="78fc47c39d763479bd75d0ce80520dd5891c160ebcab237f2c819bce3ad15167" dmcf-pid="5BoUaKB3Ts" dmcf-ptype="general">허깅페이스는 이와 같은 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다고 설명했습니다.</p> <p contents-hash="da31ab318f8fc2b044eab8aae66df23069668e0b07c5bd0db0f8d1ce323026e3" dmcf-pid="1bguN9b0lm" dmcf-ptype="general">다만 허깅페이스는 일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다고 덧붙였습니다.</p> <figure class="figure_frm origin_fig" contents-hash="031009c5da5bbbbab2e88018c34f2a6a9865ce815c7bce1ac4e51dcd106473e2" dmcf-pid="tKa7j2KpSr" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI 최고경영자(CEO). [연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/dt/20260722104648239gzyz.jpg" data-org-width="640" dmcf-mid="656YQt5TyY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/dt/20260722104648239gzyz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI 최고경영자(CEO). [연합뉴스] </figcaption> </figure> <p contents-hash="73a549f45d0b1d5ed9126a8c10449464fabe0616e0b03392fa28b0dcc7f58bf8" dmcf-pid="F9NzAV9UCw" dmcf-ptype="general"><br> 양사는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있는데요. 오픈AI는 향후 연구 속도가 늦어지더라도 인프라 구성에 엄격한 통제를 적용하고, 모델 개발 시 모니터링과 접근 제어 등 안전장치를 대폭 강화하겠다고 밝혔습니다.</p> <p contents-hash="803da3eaf629971ec6a5efef850e92d831ccf54b22e4788f86ad9d380a98c4c5" dmcf-pid="32jqcf2uhD" dmcf-ptype="general">그러나 오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이와 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보입니다.</p> <p contents-hash="a8ff79c2e05cdcc307bd3e6bceaf0b018993ac2cff9737e0ddf62d9c286697f9" dmcf-pid="0VABk4V7vE" dmcf-ptype="general">특히 폐쇄형으로 운영되는 미국의 상용 AI 모델과 견줘 안전 관련 통제 수준이 낮은 것으로 알려진 중국산 개방형 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기됩니다.</p> <p contents-hash="fc720983e586354bba70f4f074973053d25ec8fd9536dcb3e05338416caae1a6" dmcf-pid="pfcbE8fzyk" dmcf-ptype="general">실제로 허깅페이스는 당초 이번 해킹 공격을 중국 즈푸(智譜·Z.ai)의 개방형 모델 GLM 5.2의 소행으로 분석했는데, 주요 상용모델은 내장된 안전장치 때문에 사이버 공격의 로그 분석을 거부한 반면 GLM 5.2는 이를 수행했기 때문입니다.</p> <p contents-hash="017016b539442e9dc05406fb789179ef970751989ce2cb842950fa3b3d32ff4f" dmcf-pid="U4kKD64qlc" dmcf-ptype="general">허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 “공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다”고 강조했습니다.</p> <p contents-hash="f0dd2ddf61fef6c8146104cbe9e6eb56d9123a88f2bbd7dfc296f2d183d28557" dmcf-pid="u8E9wP8BCA" dmcf-ptype="general">유은규 기자ekyoo@dt.co.kr</p> <p contents-hash="3dbaeeda469a4c2b0c0ed4f42408523b13ec01cf1626ceaa5730cc3a63b61164" dmcf-pid="76D2rQ6blj" dmcf-ptype="general">유은규 기자 ekyoo@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 [현장] "AI는 기술일 뿐…기업은 비즈니스 가치부터 따져야" 07-22 다음 [단독]'책임경영 배치' 이원주 카카오엔터프 대표 사퇴…후임 이재한 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
