사상 초유 ‘AI 보안 사고’ 챗GPT 외부 플랫폼 해킹 작성일 07-22 55 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">챗GPT-5.6, 통제망 뚫고 외부 침입<br> AI 해킹 현실로, 세계 보안 ‘초비상’<br>정부 “연내 보안 특화 AI모델 출시”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="62nEnMQ9YT"> <figure class="figure_frm origin_fig" contents-hash="e1fb51e7223ca56ed9a80c20276300b06dd4e600a135c638a0382927359c462d" dmcf-pid="PBeje64qZv" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT 등 생성형 AI . [AFP]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/ned/20260722114228102kjre.png" data-org-width="649" dmcf-mid="8wyFyCOcty" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/ned/20260722114228102kjre.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT 등 생성형 AI . [AFP] </figcaption> </figure> <p contents-hash="c170192f4069a7203e330d44faf1c8c9ba4ce31fa997f6f93de5336c3c322943" dmcf-pid="QbdAdP8BZS" dmcf-ptype="general">오픈AI 인공지능(AI) 모델이 멋대로 외부 플랫폼을 해킹하는 사상 초유의 AI 보안 사고가 발생했다. 앤트로픽 ‘미토스’로 촉발된 AI 보안 우려가 커졌던 상황에서 실제 AI발 보안 사고가 현실화해, 전 세계에 초비상이 걸렸다.</p> <p contents-hash="ab0fdf2438350afe31bbce7abe3465e55e2e2b6990a2e7637165cd99b9fca138" dmcf-pid="xKJcJQ6b1l" dmcf-ptype="general">21일(현지시간) 오픈AI는 최신 AI모델 ‘GPT-5.6 솔’과 일부 미공개 AI 모델이 내부 평가 도중 통제를 벗어나 개방형(오픈소스) AI 공유 플랫폼 ‘허깅페이스’를 해킹한 사실을 확인했다고 밝혔다.</p> <p contents-hash="01f085eb2966a16241f11aa7fa6a0c6902b123715789014277f43cc22aca6096" dmcf-pid="ymXuXTSrth" dmcf-ptype="general">오픈AI 측은 이들 모델의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 ‘샌드박스’ 환경에서 시험을 진행했으나, AI 모델들은 통제 망을 뚫고 인터넷에 접속했다고 설명했다. 이들 모델은 허깅페이스에 접속해 인증 정보를 탈취하고 해당 서버를 해킹한 것으로 나타났다.</p> <p contents-hash="a1c7b16f956e52c0e8a96e74605182a2a2b59e5b77f27f920b1319440a29d8ea" dmcf-pid="WsZ7Zyvm5C" dmcf-ptype="general">오픈AI는 “모든 정황을 종합해 볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 분석했다.</p> <p contents-hash="c45f9287bedab0938697a07a7a8da7d1b23cfe6800f421c1b36797fe25c3d981" dmcf-pid="YO5z5WTsZI" dmcf-ptype="general">오픈AI는 “당시 모델들은 평가를 위해 사이버 공격에 대한 안전장치가 일부 완화된 상태였다”고 덧붙였다.</p> <p contents-hash="b2aadad8064a4288e10816e211f832fd1611b02aaa9101c7cbb3c8d58d107427" dmcf-pid="GI1q1YyOGO" dmcf-ptype="general">오픈AI는 인프라 구성에 엄격한 통제를 적용하고, 모델 개발 시 모니터링과 접근 제어 등 안전장치를 대폭 강화하겠다고 밝혔다.</p> <p contents-hash="9fba9036e8deefa13c56b35db01d9221cc156cd6912a019f261af3b00ae5da7a" dmcf-pid="HCtBtGWIts" dmcf-ptype="general">앞서 허깅페이스는 자사 서버가 자율 AI 에이전트에 의해 해킹됐다고 공지한 바 있다. 당시 공격자가 어떤 모델을 사용했는지는 확인되지 않았다고 밝혔는데, 해당 사건의 범인이 오픈AI의 모델들로 드러난 셈이다.</p> <p contents-hash="4a39fef22ef232346a2d0cebdac7b08aed0b05a2169ce4f6cf85062785ea720b" dmcf-pid="XhFbFHYCGm" dmcf-ptype="general">당시 허깅페이스는 해킹 사실을 AI 지원 탐지 시스템의 발견으로 인지했고, 공격 양상의 분석도 AI로 진행했다고 설명했다. 다만 허깅페이스는 일반에 공개된 사용자 대상 모델이나 데이터세트 등이 변조된 흔적은 발견되지 않았고, 소프트웨어 공급망도 안전한 것으로 확인됐다고 덧붙인 바 있다.</p> <p contents-hash="7261fad0347a547b2a16376353c86c49f76e5856ffa4aa357311359f10ea301d" dmcf-pid="ZBeje64q5r" dmcf-ptype="general">허깅페이스는 “자율적인 AI 기반 공격이 더는 이론상 개념이 아니다”라며 공격뿐 아니라 방어에도 AI를 적극적으로 활용해 속도를 따라잡아야 한다고 강조했다.</p> <p contents-hash="543af24d23babfc1c5bdc1591b0cf97d274d8814b61d5914c5eaa50ebbe41e79" dmcf-pid="5bdAdP8Btw" dmcf-ptype="general">양사는 현재 공동으로 포렌식(디지털 증거 분석) 조사를 진행해 관련 취약점을 보완하고 있다.</p> <p contents-hash="3ad9135016e7fb0b6cc76dd847b1e352b41123e4743b91d36099dae012e7edf7" dmcf-pid="1KJcJQ6b1D" dmcf-ptype="general">우려했던 AI발 해킹이 현실이 되면서 전 세계 보안 업계는 충격에 빠졌다. 오픈AI가 격리 환경에서 진행한 내부 평가에서 사고가 발생한 만큼 향후 추가 사고도 안심할 수 없게 됐다. 이를 악용한 사이버 공격이 더 늘어날 가능성도 제기된다.</p> <p contents-hash="ade51fe32dce4fc68744607a78d10310329db0ebe5b29f968cf19a55ff359762" dmcf-pid="t9ikixPKHE" dmcf-ptype="general">AI 해킹 사고는 최근 들어 끊임없이 우려됐던 문제다. 앤트로픽은 최근 초고성능 AI를 출시하면서 보안 안전장치를 건 ‘클로드 페이블5’를 별도로 출시했다. ‘클로드 미토스5’와 같은 모델이지만 해킹 사고 등을 우려해 민감 분야에 안전장치를 건 모델이다.</p> <p contents-hash="0002b8e8c8b0a605fa060cdcd300150d1f16f7e4968bc95bd01f62ae1909532f" dmcf-pid="F2nEnMQ95k" dmcf-ptype="general">국내 역시 AI 보안 대응에 초비상이 걸렸다. 보안 특화 AI 서비스 출시도 시급해졌다.</p> <p contents-hash="bb9afdcb3c9a003b90bc49731941303e16499d08ae2e210717a58b632509466c" dmcf-pid="3VLDLRx25c" dmcf-ptype="general">배경훈 부총리 겸 과학기술정보통신부 장관이 지난 16일 하반기 업무보고에서 “보안 취약점을 쉽게 찾아내고 공격하는 데 활용될 수 있어 방어 측면에서 준비가 필요하다”며 “우리나라도 독자 AI 모델을 보유하고 있지만 그 수준으로는 대응이 어렵다”고 진단했다.</p> <p contents-hash="4089d45d51cfee0714ed2e3cfc653475c830a7882fea76528aa1b79445977ac4" dmcf-pid="0fowoeMVYA" dmcf-ptype="general">그러면서 그는 “현재 보유한 독자 AI 모델에 보안 관련 데이터를 추가 학습해 보안 특화 모델을 만드는 것을 연내 추진 중“이라고 언급했다.</p> <p contents-hash="377a5259331c05af551482e76de05e2dc17db82cc0e8c9a65eca910f980d2cc4" dmcf-pid="p4grgdRfHj" dmcf-ptype="general">박세정 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 UNIST "반도체 잉크로 6G·우주통신용 고주파 스위치 개발" 07-22 다음 LG디스플레이, 상반기 흑자 전환… 하반기 수요 불확실성은 변수 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
