챗GPT가 멋대로 뚫었다…AI ‘알아서 해킹’ 비상 작성일 07-22 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">세계최대 오픈소스 AI 플랫폼 ‘허깅페이스’ 털려<br>오픈AI “모델들이 벤치마크 점수 높이려 감행”<br>‘미토스 쇼크’ 이어 프런티어AI 관련 우려 재확산</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bsp2wf2uTO"> <figure class="figure_frm origin_fig" contents-hash="705ccc2aa448162814127d4ac1ca10f3e645293eb28e4136a24c5ef62f050fc8" dmcf-pid="KOUVr4V7hs" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 그린 일러스트." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/dt/20260722170411302pilp.png" data-org-width="640" dmcf-mid="BKMa5jaeyI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/dt/20260722170411302pilp.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 그린 일러스트. </figcaption> </figure> <p contents-hash="3bd7ba84c07a1d9d7d89c62759449f7a6a9d77723b87d4d6194a30cb391d0650" dmcf-pid="9Iufm8fzlm" dmcf-ptype="general"><br> 인공지능(AI) 모델이 개발사 통제를 스스로 벗어나 다른 기업 전산망을 실제로 해킹하는 일이 벌어졌다. 올해 ‘미토스 쇼크’ 이래로 AI모델의 사이버보안 관련 역량이 세계적인 화두로 자리한 가운데, 이번 사건으로 프런티어AI의 통제 가능성에 대한 논란은 더욱 커질 전망이다.</p> <p contents-hash="e1829f2d988b0ab55766d59ca1e6688f83539e917c021ef6c01a2feb518a2478" dmcf-pid="2C74s64qvr" dmcf-ptype="general">오픈AI는 자사 AI모델들이 내부 보안테스트 도중 격리환경을 빠져나가 세계 최대 오픈소스 AI 플랫폼 허깅페이스의 운영 인프라를 침해했다고 21일(현지시간) 블로그를 통해 발표했다. 앞서 허깅페이스는 지난주 초에 자율 AI에이전트들로부터 내부 데이터셋과 자격증명을 탈취당했다고 알린 바 있는데, 그 범인이 ‘GPT-5.6 솔(Sol)’과 이보다 높은 성능의 미공개 모델로 밝혀진 것이다.</p> <p contents-hash="84b9e863cac271c18be5ba91f54245c747497596ea1a730b455a8f84cb6f1d2c" dmcf-pid="Vhz8OP8BSw" dmcf-ptype="general">오픈AI가 “최첨단 사이버 역량이 동원된 전례 없는 사이버 사건”으로 규정한 이번 사이버공격은 아이러니하게도 이 회사 모델들이 관련 벤치마크(익스플로잇짐) 테스트 점수를 높이려는 시도에서 비롯됐다.</p> <p contents-hash="322c853566fdde4894675257b24c35ba2163e461f33f2703eb658c36179dcc88" dmcf-pid="flq6IQ6bWD" dmcf-ptype="general">오픈AI에 따르면 최대역량을 측정하고자 안전장치를 끄고 인터넷과 차단해 평가를 진행했는데, 모델들이 소프트웨어(SW) 설치용으로만 열려있던 내부 중계서버의 제로데이 취약점을 찾아내 인터넷에 접속했다. 허깅페이스에 해당 벤치마크의 모델·데이터세트·정답이 있을 것으로 추론하고, 탈취한 자격증명과 또 다른 제로데이 취약점을 엮어 원격 코드 실행 경로를 뚫었다. 결국 허깅페이스의 운영 데이터베이스(DB)에서 테스트 정답을 직접 빼내 커닝했다.</p> <p contents-hash="295514ba405d5d5289f7909cb9ce8ecc641de6bf7fe3e42d9ceedaee35ab6888" dmcf-pid="4SBPCxPKyE" dmcf-ptype="general">이 과정에서 허깅페이스 측에 기록된 공격 행위는 1만7000건이 넘었다. 허깅페이스도 그 대응·분석에 상용 프런티어 모델을 동원하려 했으나 안전장치에 막혀 오픈웨이트 모델을 대신 쓰게 된 것도 아이러니한 대목이다. 다만, 공개 모델·데이터세트와 SW공급망이 변조된 증거는 발견되지 않았으며, 고객·협력사 데이터가 영향 받았는지는 조사 중이다. 오픈AI는 모델들이 좁은 평가 목표 달성에 과도하게 몰두해 “극단적 수단”을 동원했다고 설명했다.</p> <p contents-hash="96d24d158ae8846544e5f4604015f567541b7a834e44ed825fc046249a1ca6f1" dmcf-pid="8vbQhMQ9yk" dmcf-ptype="general">클렘 델랑그 허깅페이스 공동창업자는 소셜미디어 X에 “정교함으로 볼 때 프런티어 연구소 소행으로 의심했는데 실제로 그랬다”며 “이 모든 일이 자율적으로 벌어졌다는 게 놀랍다”고 썼다. 그는 오픈AI에 악의는 없었다고 보면서도 “AI 안전은 어느 한 기업이 비밀리에 해결할 수 있는 문제가 아니다”고 지적했다.</p> <p contents-hash="555bc2c2ecb8e058235e8f3e6a3fb2e0677c6e60fa6812a80de4bde0249c6809" dmcf-pid="6TKxlRx2hc" dmcf-ptype="general">앞서 미토스 쇼크를 일으킨 ‘미토스 프리뷰’도 이렇듯 샌드박스를 뚫고 내부 통제를 벗어난 사례가 발견돼 그 개발사인 앤트로픽이 공개 불가 판정을 내렸던 것으로 알려졌다. 이번에 오픈AI의 첨단모델들이 실제로 외부 해킹을, 그것도 AI분야 주요 기업 대상으로 성공시키면서 또다시 우려가 확산되는 양상이다. 양사는 조사가 끝나면 사고와 취약점에 관한 추가 내용을 공개할 예정이다.</p> <p contents-hash="32623d949331a9cab1c56ada3e1c16db6c03b85056438107b9cdc57db6d4265a" dmcf-pid="PW2RvdRfWA" dmcf-ptype="general">이상근 고려대 AI보안연구소장(정보보호대학원 교수)은 “앞선 미토스 사례에 이어 이번 오픈AI 모델들의 허깅페이스 해킹으로 인해 이대로는, 프런티어AI를 통제하지 못할 수 있다는 시각이 자리잡는 것 같다”고 짚었다.</p> <p contents-hash="5c7a15aeb216d1668e4d63e66248d776bc5e408f586d5d309e420e27d21ccac6" dmcf-pid="QYVeTJe4lj" dmcf-ptype="general">이어 그는 “현재 프런티어 AI 개발사들은 이런 위험이 있는 첨단모델들을 소수에만 제공하고 소스코드와 노하우 등을 얻어가고 있는데, 이로써 개발과 사용 모두에서 격차가 더욱 벌어질 수 있다”며 “우리도 독자 보안 특화 모델을 발전시켜야겠으나, 현실적 한계를 고려해 목표 설정을 잘해야 한다. 데이터 등 필요한 준비 작업부터 제대로 할 필요가 있다”고 말했다.</p> <p contents-hash="a26b6785c37e0c51d4f8eb50c4ad2556a0a3d38b863e8b8e0eaf9d1ce77484f0" dmcf-pid="xGfdyid8WN" dmcf-ptype="general">팽동현 기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 ITER 핵심 설비 조립 마무리…한국, 진공용기 4기 제작 완수 07-22 다음 '임단협 갈등' 평행선…노사협력 조직 보강한 카카오 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
