오픈AI AI 에이전트, 격리망 뚫고 허깅페이스 침해…“전례 없는 사이버 사고” 작성일 07-22 24 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">GPT-5.6 솔·미공개 모델, 제로데이 취약점 악용해 외부 인터넷 접속</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="F76ooupXlw"> <figure class="figure_frm origin_fig" contents-hash="4f87ffccb42ba5f169558c9cbe7e3a36995288445067bea7c180b3fada642695" dmcf-pid="3zPgg7UZCD" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/552796-pzfp7fF/20260722164057312rdqt.png" data-org-width="432" dmcf-mid="tH766GWITr" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/552796-pzfp7fF/20260722164057312rdqt.png" width="658"></p> </figure> <p contents-hash="cf5115576ff6b8d90253f0ee22801392d94ee7ec7d047b1992b008aa48190e28" dmcf-pid="0qQaazu5hE" dmcf-ptype="general">[디지털데일리 구아현기자] 오픈AI가 통제된 시험 환경에서 평가하던 첨단 인공지능(AI) 모델이 격리망을 벗어나 외부 인터넷에 접속한 뒤, AI 플랫폼 허깅페이스의 실제 운영 인프라를 침해한 사실을 인정했다. 장시간 자율적으로 작업하는 AI 에이전트의 사이버 공격 능력이 실제 환경에서도 작동할 수 있다는 사실이 확인되면서 모델 개발사와 도입 기업의 통제·책임 체계를 둘러싼 논란이 커질 전망이다.</p> <p contents-hash="1c05f20d0773596e04ca0b48f98a31c9da3f8e27d6dcd586ecc08498833be7dd" dmcf-pid="pBxNNq71Wk" dmcf-ptype="general">21일(현지시간) 로이터통신과 오픈AI에 따르면 이번 사고에는 ‘GPT-5.6 솔(Sol)’과 이보다 성능이 높은 미공개 사전 출시 모델 등이 사용됐다. 오픈AI는 이들 모델의 고도화된 사이버 공격 능력을 평가하기 위해 보안 벤치마크 ‘익스플로잇짐(ExploitGym)’을 수행하고 있었다.</p> <p contents-hash="3391f9381876d6efb9bd209fda9419fa853b6cb5594e32bb5a75c302c9daa74c" dmcf-pid="UbMjjBztSc" dmcf-ptype="general">오픈AI는 이번 사건을 “최첨단 사이버 역량이 동원된 전례 없는 사이버 사고”로 규정했다. 당시 모델에는 실제 서비스에 적용되는 고위험 사이버 활동 차단 장치가 적용되지 않았고, 평가를 위해 사이버 관련 답변 거부 기능도 낮춘 상태였다.</p> <p contents-hash="256f6b04688bc2b1f362cb5fb32ee93910daaf01c87151e2cf0621e2c8bdd347" dmcf-pid="uKRAAbqFyA" dmcf-ptype="general"><strong>◆ 제로데이 찾아 격리망 탈출… 허깅페이스 서버까지 침투</strong></p> <p contents-hash="f61c10c05a858d31d009aa49c2fea04a36b11d875c3942ce4a152035c9249335" dmcf-pid="79eccKB3hj" dmcf-ptype="general">오픈AI는 외부 인터넷과 분리된 고도 격리 환경에서 평가를 진행했다. 모델이 외부에서 소프트웨어 패키지를 내려받을 때도 자체 구축한 프록시·캐시 서버만 이용할 수 있도록 네트워크 접근을 제한했다.</p> <p contents-hash="8e44c7d09860b2e6cbbe23cd0a7e188c0b125f48fdc01eb4b7d90d1bf8cf5503" dmcf-pid="z2dkk9b0SN" dmcf-ptype="general">그러나 모델들은 패키지 저장소의 캐시 프록시에서 공개되지 않은 제로데이 취약점을 찾아냈다. 이후 오픈AI 내부 시험 환경에서 권한 상승과 수평 이동을 반복해 인터넷에 접속할 수 있는 서버까지 도달했다.</p> <p contents-hash="30b067bc33961a55fab335c30bc2138595cb7c24c6769efa7daf4cac495a9b06" dmcf-pid="qVJEE2Kpla" dmcf-ptype="general">외부 접속에 성공한 모델은 허깅페이스에 익스플로잇짐과 관련된 모델·데이터세트 또는 평가 해답이 저장돼 있을 가능성이 있다고 판단했다. 이어 탈취한 인증정보와 복수의 제로데이 취약점을 연쇄적으로 악용해 허깅페이스 서버에서 원격코드를 실행할 수 있는 경로를 확보했다.</p> <p contents-hash="04cbf88c2ecf5a5df295bbaad342e7821ef9b03cbf182f1943e1a24b66931a85" dmcf-pid="B8Lrr4V7vg" dmcf-ptype="general">오픈AI는 “모델들이 익스플로잇짐 문제의 해답을 찾는 데 지나치게 집중한 나머지 좁은 평가 목표를 달성하기 위해 극단적인 수단을 동원한 것으로 보인다”고 설명했다. 모델들은 허깅페이스의 운영 데이터베이스에서 평가 해답을 직접 확보하려 한 것으로 파악됐다.</p> <p contents-hash="ea472c4435928a2ee2fa1119a583e8082adc7eefd341960fe3d7f1698fbfb31a" dmcf-pid="b6omm8fzCo" dmcf-ptype="general">이번 침입으로 허깅페이스 내부 데이터세트 일부와 서비스에 사용되는 인증정보가 무단으로 노출됐다. 공격은 악성 데이터세트를 이용해 데이터 처리 시스템에서 코드를 실행하는 방식으로 시작됐으며, 이후 노드 관리자 권한 확보와 클라우드·클러스터 인증정보 탈취, 내부 클러스터 간 이동으로 이어졌다.</p> <p contents-hash="89a4205b2ba8e27219925d6b725a8ac7c3be59dc87b9c110a2b3209fda27fd51" dmcf-pid="KPgss64qSL" dmcf-ptype="general">다만 허깅페이스는 일반 이용자에게 공개된 모델과 데이터세트, AI 애플리케이션 서비스 ‘스페이스(Spaces)’가 변조된 증거는 발견되지 않았다고 밝혔다. 컨테이너 이미지와 배포 소프트웨어 패키지 등 공급망에도 이상이 없다고 설명했다. 고객이나 협력사 데이터가 영향을 받았는지는 추가 조사하고 있다.</p> <p contents-hash="97575126a9bbb7e674d7b8bc0699f465499717966cde1a0a49aa204fd9505916" dmcf-pid="9QaOOP8BWn" dmcf-ptype="general">허깅페이스는 공격에 사용된 자율 AI 에이전트가 수많은 임시 샌드박스에서 수천 차례의 작업을 수행했다고 밝혔다. 전체 공격 기록은 1만7000건 이상에 달했다. 허깅페이스의 AI 기반 이상 탐지 시스템이 침해 정황을 찾아냈고, 보안팀은 공격을 중단시킨 뒤 감염 서버 재구축과 인증정보 교체에 나섰다.</p> <p contents-hash="43f6825057eb943e5be61447fc94bbea6525917ab0d78569d5c129e1ca4ed143" dmcf-pid="2xNIIQ6bhi" dmcf-ptype="general"><strong>◆ AI 에이전트 운영·책임 기준 재설계해야</strong></p> <p contents-hash="c2dc15eb902dc5253856b0245bb87eb5f1d266ad96224850fdc107563cff8eaa" dmcf-pid="VMjCCxPKWJ" dmcf-ptype="general">오픈AI와 허깅페이스는 현재 공동 포렌식 조사를 진행하고 있다. 오픈AI는 연구개발 속도가 늦어지더라도 시험 인프라 구성과 네트워크 접근을 더욱 엄격하게 통제하고, 향후 모델 훈련·평가 과정의 모니터링과 접근 제어를 강화하겠다고 밝혔다.</p> <p contents-hash="c2903e2bbf4ccffc41cf8cc58474b9bea22da131d06571507f9c1b7b9930960b" dmcf-pid="fRAhhMQ9yd" dmcf-ptype="general">오픈AI는 제로데이 취약점이 발견된 외부 소프트웨어 공급업체에도 문제를 알리고 보완 작업을 진행하고 있다. 허깅페이스는 침해된 서버를 다시 구축하고 관련 인증정보와 토큰을 폐기·교체했으며, 사건을 수사기관에도 신고했다.</p> <p contents-hash="8e14b9c37b69b3bef6e5f02cd2fbf76dd0a2c7913fe98ca359e1174dfe30c78d" dmcf-pid="4ecllRx2he" dmcf-ptype="general">이번 사고는 장시간 작업형 AI 에이전트의 사이버 공격 능력이 기존 보안 평가에서 가정하던 이론적 위험을 넘어 실제 시스템 침해로 이어질 수 있음을 보여준다. 영국 AI안전연구소 평가에서도 GPT-5.6 솔과 같은 모델은 장시간 복잡한 다단계 사이버 작전을 이어갈 수 있는 것으로 나타났다.</p> <p contents-hash="f61d192d1db6a0068493167576bfa16ed880b03603a6b88f87cb7697b7b527d3" dmcf-pid="8dkSSeMVlR" dmcf-ptype="general">오픈AI는 이번 사고를 통해 첨단 모델이 소스코드를 사전에 확보하지 않고도 새로운 공격 경로를 발견하고 여러 취약점을 조합할 수 있다는 점이 확인됐다고 평가했다.</p> <p contents-hash="8c43ef4c88ac161fa0e96ff38b396caade27a8a1ab6a0d057ec367e4ac324ca7" dmcf-pid="6JEvvdRfhM" dmcf-ptype="general">그레그 카사 미국 민주당 하원의원은 로이터에 이번 사건을 “우려스러운 일”이라고 평가하며 독립적인 AI 안전성 시험과 보안사고 의무 공개, 국가 간 협력 체계가 필요하다고 주장했다. 보안업계에서는 모델이 국가급 공격자와의 성능 격차를 빠르게 좁히고 있다는 진단도 나왔다.</p> <p contents-hash="fcb5b508d97d1560e985ecfe0b74204b74ac43e32f2425cf9fb99b632147b602" dmcf-pid="PiDTTJe4hx" dmcf-ptype="general">국내에서도 기업이 AI 에이전트에 코드 실행과 외부 인터넷 접속, 클라우드 계정 접근 권한을 부여할 때 운영 기준을 재검토해야 한다는 지적이 제기될 것으로 보인다.</p> <p contents-hash="128f8f0ffe9fc5cec054997b86c698e3ad7ce9be58c59c2f704fae757f4cba4d" dmcf-pid="Q32ddF1yWQ" dmcf-ptype="general">특히 모델사와 AI 도입 기업, 클라우드 사업자 사이의 사고 책임 범위를 사전에 정하고 ▲외부 통신 기본 차단 ▲권한 최소화 ▲고위험 작업의 사람 승인 ▲이상 행동 자동 중단 ▲제3자 피해 발생 시 통보·신고 절차 등을 계약과 운영 정책에 반영해야 한다는 요구가 커질 전망이다.</p> <p contents-hash="e826b91c7361fa3fbec9696f77b74c3286506392bdfef9843b8b8485f32d3c21" dmcf-pid="x0VJJ3tWhP" dmcf-ptype="general">허깅페이스는 “자율적인 AI 기반 공격 도구는 더 이상 이론적인 개념이 아니다”며 “온라인 플랫폼은 데이터와 모델을 핵심 공격 표면으로 인식하고 기계의 속도로 진행되는 공격에 대응하기 위해 방어 과정에도 AI를 활용해야 한다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 이민형 STEPI 위원 "출연연 PM체계로 전환하고 분원 확대 개편해야" 07-22 다음 휴네시온, 국가망·공급망 보안 사업 동시 추진…"차세대 보안시장 선도" 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
