첨단 AI, 외부 시스템 침입 반복되는 까닭은 작성일 08-11 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[경제 5Q]<br>보안 시험중 통제 이탈… 커지는 AI발 해킹 우려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7RuxsJiP5O"> <figure class="figure_frm origin_fig" contents-hash="77b176b9c33cfc96e1996e138ba731ba309217bdf648d31cbbb9f81a7f2a8867" dmcf-pid="ze7MOinQXs" dmcf-ptype="figure"> <p class="link_figure"><img alt="/챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/11/chosun/20260811003538501fedj.jpg" data-org-width="1774" dmcf-mid="U2qeCLoMtC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/11/chosun/20260811003538501fedj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> /챗GPT 생성 이미지 </figcaption> </figure> <p contents-hash="ba64953fa706f84b4dc47228c5a9e57e2ab2c96a30df5d260fcc143d5f95d01d" dmcf-pid="qdzRInLxYm" dmcf-ptype="general">최근 첨단 인공지능(AI) 모델이 보안 시험 중 인간의 통제 범위를 벗어나 실제 외부 기업·기관의 시스템에 침입하는 일이 잇따르고 있다. 오픈AI, 앤스로픽, 메타, 중국 문샷의 AI는 격리된 시험 환경의 경계를 벗어나 인터넷을 통해 외부 시스템에 접근하고, 그 설정을 변경하기도 했다. AI가 시험 환경의 허점을 스스로 악용한다는 점에서 사이버 보안 전반의 새로운 위협이라는 우려가 나온다. 최근 AI 통제 이탈의 원인과 향후 영향을 5가지 질문으로 정리했다.</p> <p contents-hash="244db29eb0468bd7ff24b998dba694110b9bc9310b06bbc31326bc9c08a3d0ae" dmcf-pid="BJqeCLoM5r" dmcf-ptype="general"><strong>Q1. AI는 어떻게 시험 환경 밖으로 나갔나</strong></p> <p contents-hash="038f51c2c9c240606c7e99f203b42ca62d124554be6552d7e249dcd2e442da81" dmcf-pid="biBdhogRGw" dmcf-ptype="general">AI 보안 시험은 현실 세계에 영향을 주지 못하도록 외부 인터넷과 차단된 가상 환경인 ‘샌드박스’에서 한다. 그러나 최근 사고는 사람이 미처 막지 못한 ‘샛길’을 AI 에이전트(비서)가 찾아내면서 발생했다.</p> <p contents-hash="e0ea8178a12937139ec7106ef5859635d585f5e648e9a3ac7cac9c856ee83964" dmcf-pid="KnbJlgae5D" dmcf-ptype="general">앤스로픽과 메타의 AI는 외부 평가 업체 ‘이레귤러’가 시험 환경을 잘못 설정해 남겨둔 접속 통로로 인터넷에 연결됐다. 문샷AI의 시험장에도 밖으로 나가는 통로가 열려 있었다. 사람이 만든 격리망의 허점을 AI가 파고든 것이다.</p> <p contents-hash="0de15bef7a985645e617c67d73e8759f9a1fbec879e0763651e07059c2c40f89" dmcf-pid="9nbJlgae5E" dmcf-ptype="general">오픈AI 모델의 허깅페이스 침입은 한 단계 더 나아갔다. 인터넷이 차단돼 있었는데도 프로그램 설치 시스템의 취약점을 스스로 찾아 경계를 뚫었다. 가장 자율적인 ‘AI 해킹’에 가깝다는 평가가 나온다.</p> <figure class="figure_frm origin_fig" contents-hash="5d81c0a19d731b026a721223298be8f8a96b374af2277dc54a3c0a445fec3e81" dmcf-pid="2LKiSaNdYk" dmcf-ptype="figure"> <p class="link_figure"><img alt="그래픽=백형선" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/11/chosun/20260811003539798bchk.jpg" data-org-width="1500" dmcf-mid="uiHbaf4qZI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/11/chosun/20260811003539798bchk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 그래픽=백형선 </figcaption> </figure> <p contents-hash="bf56b5db2102eb04b13d4cabc34860e1b659f42c19280a63b243cfbd2b855455" dmcf-pid="Vo9nvNjJ1c" dmcf-ptype="general"><strong>Q2. 사고가 반복되는 이유는 무엇인가</strong></p> <p contents-hash="9fea1f0e4628a0497803bd7de75103db647de4a41644185494bef902d5f1b30a" dmcf-pid="fg2LTjAiXA" dmcf-ptype="general">AI 보안 평가는 AI 모델의 최대 공격 능력을 확인하려 안전·감시 장치를 일부러 줄이거나 푼다. AI에 상당한 자율성을 주고 다른 컴퓨터의 비밀 정보를 찾거나, 취약점을 실제 공격 코드로 만들도록 하는 식이다.</p> <p contents-hash="6af6983cecbbf34ae76bc3ff3bd7c9f17512d27168bb898e288e93e2c115daf1" dmcf-pid="4aVoyAcntj" dmcf-ptype="general">문제는 AI가 “과제를 해결한다”는 목표를 위해 극단적 방법까지 쓴다는 것이다. 평가 중 해법이 막히면 외부 인터넷으로 이어지는 통로를 찾아서라도 답안을 찾는 일종의 ‘커닝’을 시도하는 셈이다.</p> <p contents-hash="ae27df11599ce797bde046b80c3ff4c0d1f619886bd4bd588a2ca8c8eb5c75dc" dmcf-pid="8NfgWckL1N" dmcf-ptype="general">반면 격리·감시 체계는 과거 모델의 능력을 기준으로 설계돼, AI 에이전트의 높아진 공격 능력을 따라가지 못하며 실제 침입으로 이어지고 있다는 분석이다.</p> <p contents-hash="eea38b48824676c75dad3b59fbeeaef618dbab958b1ce594f63d4c366470abf5" dmcf-pid="6j4aYkEoXa" dmcf-ptype="general"><strong>Q3. AI가 인간의 의도에서 벗어났나</strong></p> <p contents-hash="43d7cd23eb28eadea3eda11e6fc3d7fa54df6d6b695e64b95927ec92b9bb08fc" dmcf-pid="PA8NGEDgYg" dmcf-ptype="general">허용된 행동 범위에서는 벗어났지만 AI가 스스로 목적을 만든 것은 아니다. 인간에게 반기를 들었다기보다, 사람이 준 목표를 지나치게 충실하게 수행하다 선을 넘은 것에 가깝다.</p> <p contents-hash="2d520ecd750cc5d23743768842ce9a1c93a6c68182cdadcc2580de7ab8e60013" dmcf-pid="Qc6jHDwaXo" dmcf-ptype="general">다만 오픈AI의 일부 에이전트는 과제의 범위를 벗어났다는 사실을 알고도 취약점 탐색을 계속했다. 앤스로픽의 일부 모델 역시 실제 기업 시스템일 가능성을 인식하고도 시험의 일부라고 합리화하며 공격을 계속했다. AI가 안전보다 과제 완수를 우선할 수 있다는 의미다.</p> <p contents-hash="ee284f5f6f547d8dd0e8df93e444fbfa45dee3df66b99092e31e35a119b25fc4" dmcf-pid="xts5P0pXZL" dmcf-ptype="general"><strong>Q4. 보안 평가가 더 위험한 것 아닌가</strong></p> <p contents-hash="64a35791f9e7a6d272d9b02d69a4489f5f68297e64526c7010abf2b354699999" dmcf-pid="yo9nvNjJGn" dmcf-ptype="general">실제로 보안 평가에 대한 의문이 커지고 있다. 영국 AI안전연구소(AISI)는 실제 해커와 비슷한 조건을 만들기 위해 인터넷 접속을 허용하고 안전 장치를 해제했다. 그 결과 AI가 가짜 신원을 만들고, 실제 개발자에게 악성 코드를 승인하도록 압박하기까지 했다. 실제 피해로 연결되지는 않았지만 AISI는 AI의 범위 밖 행동을 실시간으로 감시하고 차단하는 체계는 없다고 밝혔다. 오픈AI와 앤스로픽 등도 평가 중이던 AI가 실제 기업 시스템에 침입하고 한참 뒤에 사고를 확인했다. 보안 평가 중 AI의 일탈이 발생해도 상황을 파악할 수 없는 것이다.</p> <p contents-hash="ef6b9f9ddef4b39fdeec5622e44da8feb6092a44411e7c1e45d69ebc8deee2ed" dmcf-pid="Wg2LTjAiYi" dmcf-ptype="general">그렇다고 시험을 중단하면 더 위험하다. 출시 전에 발견하지 못한 공격 능력을 실제 해커가 악용할 수 있기 때문이다.</p> <p contents-hash="10cd7e5ca40ce22cd87ef537ad57ecb4b7d4f694ec23ffa46f6642c0afe63010" dmcf-pid="YaVoyAcn1J" dmcf-ptype="general"><strong>Q5. 앞으로 AI 해킹이 일상화할까</strong></p> <p contents-hash="45e454d871ab2d584153fc4f0419fd03a22cff791424ff19e1b21e607ceacd1e" dmcf-pid="GNfgWckLXd" dmcf-ptype="general">당장 일반 AI가 무차별 해킹에 나설 가능성은 낮다. 최근 사고 대부분은 안전장치를 약화한 특수 시험 환경에서 일어났고, 일반 서비스에는 악성 요청을 거르는 장치가 작동한다.</p> <p contents-hash="e87a54ea9639bee1f6037d6c19d3f9deb54cec00399842716ced129e404cc3f6" dmcf-pid="Hj4aYkEo1e" dmcf-ptype="general">그러나 AI발 해킹 자동화에 대한 우려는 커지고 있다. 미국 정부는 최첨단 사이버 능력을 갖춘 폐쇄형 모델을 출시하기 전에 최대 30일간 정부에 제공해 기밀 보안 평가를 받도록 하는 자율 체계를 마련했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘파리金’ 3총사 “한 발 한 발에 혼을 담겠다” 08-11 다음 몬스타엑스·피프티피프티 공연+MMA 경기까지…로드FC 078 티켓 오픈 08-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
