우려하던 일 현실로…챗GPT, 통제 벗어나 외부 서버 '해킹' 작성일 07-22 52 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">내부 보안 평가 중 격리 망 취약점 활용해 외부 플랫폼 해킹<br>“문제 해결 위해 극단적 수단 동원”…자율형 AI 위험성 논란</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xwVAsMQ9CA"> <figure class="figure_frm origin_fig" contents-hash="3a23395b03efde3f191ee510a8bf896945b9d4f626e3e1befcd97b912f655989" dmcf-pid="yBIU9WTsWj" dmcf-ptype="figure"> <p class="link_figure"><img alt="Open AI 로고. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/kyeonggi/20260722102011813maar.jpg" data-org-width="1200" dmcf-mid="Qe1Pi7UZTc" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/kyeonggi/20260722102011813maar.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> Open AI 로고. 로이터=연합뉴스 </figcaption> </figure> <p contents-hash="f7c5ec7d7a140bba1f8cfdfcc9af553ababaf896032221f1b053d0ba997415b3" dmcf-pid="WbCu2YyOWN" dmcf-ptype="general"><br> 오픈AI의 최신 인공지능 모델들이 내부 보안 시험 과정에서 통제망을 벗어나 외부 사이트에 접속한 사실이 확인됐다. </p> <p contents-hash="839e149eb777bbc8bdb90a6cc2708c51c7fc46b750654c4905c8704066ed8d91" dmcf-pid="YKh7VGWISa" dmcf-ptype="general">특히 이들 모델은 해당 사이트의 로그인 정보를 빼낸 뒤 서버까지 해킹한 것으로 파악됐다. </p> <p contents-hash="c2f2f5d629965b2a685b804bcb353be9502157c63bd9d0abb6934d3becb89b5a" dmcf-pid="G9lzfHYChg" dmcf-ptype="general">21일(현지시간) 오픈AI 등에 따르면 ‘GPT-5.6 솔’과 일부 비공개 모델은 사이버 공격 역량을 점검하는 내부 평가 도중 오픈소스 AI 공유 플랫폼 허깅페이스에 무단 접속했다. </p> <p contents-hash="f5fc66f46a02d4820c3784d514465504fe2e7cac6dcf4319493f87d4d778bc4f" dmcf-pid="HfTb65XSvo" dmcf-ptype="general">시험은 인터넷과 완전히 분리된 ‘샌드박스’에서 진행됐지만, AI 모델들이 공개되지 않은 취약점을 활용해 격리 장치를 우회한 것으로 조사됐다. </p> <p contents-hash="09710e2afe588605f3e472adef957b3188488a6c8e759a152caa1cac43b99926" dmcf-pid="X4yKP1ZvyL" dmcf-ptype="general">이후 인터넷에 접속한 모델들은 허깅페이스 서버의 인증 정보를 확보하고 시스템 내부로 침투했다. </p> <p contents-hash="81c5541e840e1e1f025cf57964c16d0fdeb3eff78e05195954d348818afb3d10" dmcf-pid="Z8W9Qt5TTn" dmcf-ptype="general">오픈AI는 “모든 정황을 종합해볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 설명했다. </p> <p contents-hash="f775d25a286137350b42bd57c99368d232e5a6a7d0e321a1e9da0e79faabf03a" dmcf-pid="56Y2xF1yWi" dmcf-ptype="general">평가 당시 공격 수행 능력을 확인하기 위해 일부 사이버 안전장치가 평소보다 느슨하게 설정돼 있었던 점도 영향을 미친 것으로 분석됐다. </p> <p contents-hash="8c9e3692248356fef93945e3eddf42b0e2cb64a39a0f8ed86ded8e3d0c62ae55" dmcf-pid="1PGVM3tWvJ" dmcf-ptype="general">앞서 허깅페이스는 자사 시스템이 자율형 AI 에이전트의 공격을 받았다고 공개했지만, 당시에는 공격에 사용된 모델을 특정하지 못했다. 이후 조사 과정에서 오픈AI 모델이 해당 침입에 관여한 사실이 확인됐다. </p> <p contents-hash="dc274153a2738ed8b9b775af1cf3156a9ea773879fb24b982b6463f734e880f9" dmcf-pid="tQHfR0FYyd" dmcf-ptype="general">다만 일반 이용자에게 공개된 모델이나 데이터세트가 변경된 정황은 확인되지 않았다. 소프트웨어 공급망에도 별다른 이상은 없는 것으로 파악됐다. </p> <p contents-hash="0476bdd673e5cdcf7c7ac96cdaef1cc68fa1719bece214d70085d13a6477977a" dmcf-pid="FxX4ep3Gle" dmcf-ptype="general">오픈AI와 허깅페이스는 현재 공동으로 디지털 포렌식 조사를 진행하며 침입에 활용된 취약점과 보안 체계를 점검하고 있다. </p> <p contents-hash="845cdf470fa72fbca41698f8917ac536c0bbb9b20f6fb708babc048c4f2cd435" dmcf-pid="3MZ8dU0HyR" dmcf-ptype="general">오픈AI는 이번 일을 계기로 연구 일정이 늦어지더라도 내부 인프라의 접근 권한을 더 엄격하게 관리하겠다는 방침을 밝혔다. 모델 개발과 평가 단계에서 감시 체계와 접속 통제, 이상행동 탐지 장치도 강화할 방침이다. </p> <p contents-hash="72bffda35d901299092ed5275214219196498e702546b4685e244e43a792e0ef" dmcf-pid="0R56JupXvM" dmcf-ptype="general">그러나 외부와 차단된 시험 환경에서도 AI 모델이 독자적으로 보안망을 우회한 만큼, 고성능 AI의 자율성과 사이버 공격 위험을 둘러싼 논란은 이어질 전망이다. </p> <p contents-hash="d3f649dc3d9744d4cc536dce3b577ca98ffd40c3e31646e294f6cd4f30a1b5c6" dmcf-pid="pe1Pi7UZWx" dmcf-ptype="general">특히 미국 상용 AI보다 안전 통제가 상대적으로 느슨한 것으로 평가되는 중국산 오픈소스 모델의 성능이 빠르게 향상하면서, 이를 이용한 자동화 공격이 확산할 수 있다는 우려도 나온다. </p> <p contents-hash="ca8f474baafa369970888c9226c3cdbe59388bc299f06a227a72be3bae311c59" dmcf-pid="UdtQnzu5CQ" dmcf-ptype="general">허깅페이스 역시 당초 공격 주체를 중국 즈푸의 개방형 AI 모델 ‘GLM 5.2’로 추정한 바 있다. </p> <p contents-hash="98f3571e19750c539ea1f126628a610fe871231d89b073bf9f48ce8afbeb2dce" dmcf-pid="uJFxLq71SP" dmcf-ptype="general">이실유 기자 lsy0808@kyeonggi.com </p> </section> </div> <p class="" data-translation="true">Copyright © 경기일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 “올해 수주 1200억 달성…AI 무기로 글로벌 톱 20 CRO 될 것” 07-22 다음 [유미's 픽] 中 AI 추격 빨라지는데…韓·美 정책 수장 공백에 '비상' 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
