해킹 테스트 통과하려 ‘탈옥’ 후 외부사이트 해킹한 오픈AI 새 모델 [팩플] 작성일 07-22 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HXjFBCOchb"> <p contents-hash="fd3d9fc0d5b351a1faecd23c6a67ed79fc4bba2d8d31293b7e44ab914d028291" dmcf-pid="XZA3bhIkyB" dmcf-ptype="general">오픈AI의 인공지능(AI) 모델이 통제 범위를 벗어나 스스로의 판단으로 외부 사이트를 해킹하는 초유의 일이 벌어졌다. 보안업계에선 고도화되는 AI모델에 대한 통제 강화가 필요하다는 지적이 나온다. </p> <p contents-hash="0d520eb859e1002b85adc12c51f6fa2ed852a597a16bc1db4e9994d83741ea5e" dmcf-pid="Z5c0KlCEyq" dmcf-ptype="general">21일(현지시간) 오픈AI는 공식 블로그를 통해 자사의 최신 AI모델인 GPT-5.6 Sol과 이보다 더 뛰어난 고성능 미공개 모델이 내부 성능 테스트 과정에서 ‘허깅페이스’의 운영 데이터베이스(DB)에 침투했다고 밝혔다. 허깅페이스는 개발자와 기업 등이 자신들이 개발한 AI모델과 데이터셋을 공유하는 오픈소스 AI 플랫폼이다. </p> <p contents-hash="4bfcdcaf80c4413ae5752faa56cc5e1058eab5b26d58cada0883819eed10a4ea" dmcf-pid="51kp9ShDSz" dmcf-ptype="general">오픈AI는 이 모델들의 사이버 공격 능력을 평가하기 위해 외부 인터넷과 격리된 통제 환경인 ‘샌드박스’를 구축하고, 테스트를 위해 보안 안전장치를 일부 해제했다. 이후 AI모델에 실제 소프트웨어의 취약점을 활용해 공격 코드를 만들라고 명령했다. </p> <figure class="figure_frm origin_fig" contents-hash="149d2c3e6fa932f46b149c62ef38ec1b10ec8150460520b7dd3a2eca6d51fc42" dmcf-pid="1tEU2vlwh7" dmcf-ptype="figure"> <p class="link_figure"><img alt="정근영 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/joongang/20260722180108660xhxt.jpg" data-org-width="1280" dmcf-mid="x8DuVTSrvh" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/joongang/20260722180108660xhxt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 정근영 디자이너 </figcaption> </figure> <p contents-hash="def7b44fafdff2cce75470e41032879302721ad030783125a654e09bbc1dc121" dmcf-pid="tFDuVTSrTu" dmcf-ptype="general"> AI모델은 문제를 풀기 위해서 샌드박스를 벗어나 외부 인터넷에 접속해야 한다고 스스로 판단했다. 이에 샌드박스의 알려지지 않은 취약점(제로데이)을 찾아내 외부로 ‘탈주’한 뒤, 허깅페이스에 필요한 정보가 있다고 추론하고 접근했다. AI모델은 탈취한 접속 정보 등을 활용해 허깅페이스 내부 시스템에 접근할 수 있는 서버 관리자 권한까지 획득했고, 결국 DB에서 해답을 빼내는 데 성공했다. 문제 해결을 위해 내부 통제를 벗어나 외부 시스템까지 해킹한 셈이다. </p> <p contents-hash="c738daafc449c569a1df48bfce2dbd8a621f1413669dc508bf3546052f050086" dmcf-pid="F3w7fyvmSU" dmcf-ptype="general">오픈AI는 “최첨단 AI모델이 새로운 공격 경로를 찾아내 악용할 수 있음이 명백해졌다”며 “강력한 방어 도구가 함께 개발되지 않는다면 고도화된 사이버 역량은 거대한 위협이 될 것”이라고 주장했다. 앞서 16일(현지시간) 해킹 사실을 공개한 허깅스페이스도 “이번 침입은 처음부터 끝까지 자율 AI 에이전트 시스템이 주도했다는 점에서 이전 사고와 달랐다”고 밝혔다. </p> <p contents-hash="8a7e2d3ddb314afed6228da7780b284e2ea3b87d8dc87d8907fb8bd39f75a444" dmcf-pid="3nuNm8fzlp" dmcf-ptype="general">최근 AI모델 성능이 고도화하면서 AI가 스스로 회사가 설정한 환경을 벗어나 외부 데이터를 탈취하거나 해킹에 참여하는 사례가 꾸준히 발생하고 있다. 지난 3월 알리바바 AI모델 ROME는 통제 환경에서 실험을 하던 도중 통제를 우회해 외부에 연결해 암호화폐 채굴 코드를 실행하려 했다가 논란이 됐다. 앤트로픽의 미토스 역시 개발 과정에서 인터넷이 차단된 샌드박스를 탈출해 연구원에게 이메일을 보내고, 자신의 탈출 흔적을 외부 사이트에 게시하는 등 자율적인 판단을 했다. </p> <p contents-hash="569afd5782ef334ac21d403de3ddab16e819509a6e20106a9b1f2145b6631024" dmcf-pid="0L7js64qh0" dmcf-ptype="general">보안 업계에선 “AI의 자의적 판단을 막기 위해 엄격한 AI 관리체계를 구축하고, 그보다 고성능의 보안 시스템을 구축해야 한다”는 의견이 나온다. 김현걸 사이버보안협회장은 “고성능 AI에 과도한 권한과 실행 도구가 주어지면 인간이 예상한 통제 범위를 벗어난다”며 “AI가 잘못된 판단을 해도 실제 피해로 이어지지 않도록 권한과 데이터, 실행 환경 등을 여러 단계로 분리하고, AI의 침투 능력을 평가하는 모의실험을 꾸준히 진행해야 한다”고 말했다. AI 보안 스타트업 이로운앤컴퍼니 윤두식 대표는 “고성능 AI모델 개발사가 자사 모델이 공격용이 아닌 방어용으로도 활용될 수 있도록 국가나 주요 기관에 안전 장치를 낮춰주고, 이를 통해 각 주체가 방어 능력을 키울 필요가 있다”고 말했다. </p> <p contents-hash="0ca62b15286dd345d0def035d5fd8723089d3276d955cb10b3f17051a0664e7d" dmcf-pid="pozAOP8BC3" dmcf-ptype="general">성지원 기자 sung.jiwon@joongang.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [단독] 축구협회장 선거 전자투표 검토…프랑스 선례 있다 07-22 다음 AI로 산업 난제 푼다…. 조선소 도크 최적 활용법은? 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
