‘AI 사이버공격’ 현실 됐다…인간 통제 뚫은 챗GPT, 멋대로 해킹 작성일 07-22 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KL3KP2KpWi"> <figure class="figure_frm origin_fig" contents-hash="ba3caca720cf8f6f48f6a1b46306ea5d4419d71be5e8e9e2862e5f2047f2346a" dmcf-pid="9o09QV9UvJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI와 챗GPT 로고. 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/seoul/20260722142517815hyhd.jpg" data-org-width="647" dmcf-mid="bbOYFHYCvn" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/seoul/20260722142517815hyhd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI와 챗GPT 로고. 연합뉴스 </figcaption> </figure> <p contents-hash="64d46aa759f51695c7d4f9ed7bef1c6620d37d7f410baf3ac1ee817dc83a19c5" dmcf-pid="2gp2xf2uyd" dmcf-ptype="general">오픈AI의 최신 인공지능(AI) 모델들이 통제된 실험 환경을 벗어나 외부 사이트를 해킹하는 초유의 사고가 발생했다. 인간의 통제를 벗어난 AI의 사이버 공격이 현실화된 첫 사례다.</p> <p contents-hash="730e671f324720303a6feb85da8005b2c277d88fd548585de5e6ff7f7f122d03" dmcf-pid="VaUVM4V7Te" dmcf-ptype="general">21일(현지시간) 오픈AI는 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다.</p> <p contents-hash="b5e1cf26b4240f9d55461165536e2b480d0dc892e5a01e6096bbb4bb34f3feb6" dmcf-pid="fNufR8fzvR" dmcf-ptype="general">허깅페이스는 AI 개발자들이 함께 쓰는 거대한 ‘AI 자료창고’로, 개발자들은 이곳에서 AI 모델과 데이터를 공유하고 서로의 성과를 바탕으로 새로운 AI를 개발한다.</p> <p contents-hash="40f9c46d0a0b7e2c575031b1feb246ca0405f2fa9d70c56d71406fb86b3c514b" dmcf-pid="4fS5ut5ThM" dmcf-ptype="general">이번 사고는 AI 모델의 취약점 탐지 및 공격 능력을 측정하는 내부 실험 과정에서 발생했다. 당시 오픈AI 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다.</p> <p contents-hash="8ca78bc170cec23d52c71db2e15b1e823604f1b075c6dac1f76231256dedf059" dmcf-pid="84v17F1yCx" dmcf-ptype="general">오픈AI는 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 미공개(제로데이) 취약점을 이용해 통제망을 뚫고 인터넷에 접속했다고 설명했다.</p> <p contents-hash="f09bd71f6ce002d96aecb4cccfea76b97c04f769a63ccb5f9354d1dd649b785a" dmcf-pid="68Ttz3tWWQ" dmcf-ptype="general">이후 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다.</p> <p contents-hash="e34fb004e06d76ae7c06aa32d7d3fd66ef46f0c575a36dd2bb1e6f253c537267" dmcf-pid="P6yFq0FYSP" dmcf-ptype="general">오픈AI는 자사 모델들이 이같이 행동한 이유에 대해 “모든 정황을 종합해 볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 분석했다.</p> <p contents-hash="ef6a952ad71fb8b34b124efff3c66c6485d5a487a64397b3617e8aaf6094fd37" dmcf-pid="QPW3Bp3GS6" dmcf-ptype="general">앞서 허깅페이스는 지난 16일 자사 서버가 자율 AI 에이전트에 의해 해킹됐으며 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 공지한 바 있다. 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다.</p> <p contents-hash="7fd62d098f5e2ee7d51b27b15609489cee9ecaa920a5dfe31701f5f8376eb1a0" dmcf-pid="xQY0bU0HW8" dmcf-ptype="general">허깅페이스는 이와 같은 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다.</p> <p contents-hash="8325d5de7c1bacbc6ff59a1fc5c25636c485c93ae1f641d375a5cead82f9af9a" dmcf-pid="yTRNrANdv4" dmcf-ptype="general">회사는 “일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다”고 말했다.</p> <p contents-hash="e27aa3edde9153eea958c9319cac32e416c76a63e01a5d78e8fc08bb8a551b4e" dmcf-pid="WyejmcjJWf" dmcf-ptype="general">허깅페이스와 오픈AI는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다.</p> <p contents-hash="e404324696fd558e8eb54d77b971763ed9c8213474dffd099df6d1579ee58c90" dmcf-pid="YWdAskAiyV" dmcf-ptype="general">오픈AI는 “이번 사건은 최첨단 기법이 동원된 전례 없는 사이버 공격으로 간주하고 있다”며 “현재 허깅페이스와 사건 전말의 이해와 모델의 대응 능력을 가늠하기 위해 초기 조사 결과를 조사 중”이라고 밝혔다.</p> <p contents-hash="4fc99378729eb395c6b3d9404cad6da6250ec02ee4ce1e0bcb8f45e63443cd1c" dmcf-pid="GRXu2zu5v2" dmcf-ptype="general">그러면서 “허깅페이스와 조사를 계속 진행해 조사가 완료되는 대로 취약점 및 자세한 조사 정보를 공개할 예정”이라고 덧붙였다.</p> <p contents-hash="04fa028a2d58383e2cde89b221f8dec33d158f1c319af10ac5c6debdec3723f1" dmcf-pid="HeZ7Vq71T9" dmcf-ptype="general">오픈AI가 엄격한 격리 환경에서 내부 평가를 진행했음에도 이 같은 사고가 발생한 만큼 AI의 사이버 안전에 대한 논란이 커질 것으로 보인다.</p> <p contents-hash="b6f9b8aa7f58ed9dcd4b9648a0f87d760530ac683e7ddb5bdd9d02be208cec7d" dmcf-pid="Xd5zfBztCK" dmcf-ptype="general">특히 폐쇄형으로 운영되는 미국의 상용 AI 모델과 견줘 안전 관련 통제 수준이 낮은 것으로 알려진 중국산 개방형 모델의 성능이 크게 향상되면서 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기된다.</p> <p contents-hash="bf81f278f75253bc80981c14b4be188c72ea24395e2f0a972596513b20912a55" dmcf-pid="ZJ1q4bqFyb" dmcf-ptype="general">실제 허깅페이스는 애초 이번 해킹 공격을 중국 즈푸(智譜·Z.ai)의 개방형 모델 GLM 5.2의 소행으로 분석하기도 했다. 주요 상용 모델은 내장된 안전장치 때문에 사이버 공격의 로그 분석을 거부한 반면 GLM 5.2는 이를 수행했기 때문이다.</p> <p contents-hash="3ec3bb2cff2d142b8d1072ffd3f9cb8c423e4fe5f74dae8908549cb16c778c14" dmcf-pid="5itB8KB3CB" dmcf-ptype="general">허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다고 강조했다.</p> <p contents-hash="eb53a7bec262ba060e590234f639c39f9c91be0386f76d2cd46e0fbac19c79dd" dmcf-pid="1nFb69b0Sq" dmcf-ptype="general">윤예림 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 서울신문. 무단전재, 재배포, AI 학습 및 활용 금지.</p> 관련자료 이전 “표현의 자유 위축 막아야”… 시민사회, 방미심위에 ‘온라인 혐오표현’ 명확한 심의 기준 촉구 07-22 다음 시큐레이어-쿼드마이너 맞손... 맥락 데이터로 진화하는 AI 관제 생태계 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
