반복되는 ‘AI 일탈’...AI 자율 해킹 시대 왔나 작성일 08-10 18 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9E3pbgaeYO"> <figure class="figure_frm origin_fig" contents-hash="75396945fd0fe75265ac1727e78c480070137337d7ce16b0acd1ca35236c2dcf" dmcf-pid="2NZ1uJiP1s" dmcf-ptype="figure"> <p class="link_figure"><img alt="/챗GPT 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/10/chosun/20260810161252925ghkl.jpg" data-org-width="1774" dmcf-mid="K0iLcXZvXI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/10/chosun/20260810161252925ghkl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> /챗GPT 생성 이미지 </figcaption> </figure> <p contents-hash="ba64953fa706f84b4dc47228c5a9e57e2ab2c96a30df5d260fcc143d5f95d01d" dmcf-pid="Vj5t7inQGm" dmcf-ptype="general">최근 첨단 인공지능(AI) 모델이 보안 시험 중 인간의 통제 범위를 벗어나 실제 외부 기업·기관의 시스템에 침입하는 일이 잇따르고 있다. 오픈AI, 앤스로픽, 메타, 중국 문샷의 AI는 격리된 시험 환경의 경계를 벗어나 인터넷을 통해 외부 시스템에 접근하고, 그 설정을 변경하기도 했다. AI가 시험 환경의 허점을 스스로 악용한다는 점에서 사이버 보안 전반의 새로운 위협이라는 우려가 나온다. 최근 AI 통제 이탈의 원인과 향후 영향을 5가지 질문으로 정리했다.</p> <p contents-hash="244db29eb0468bd7ff24b998dba694110b9bc9310b06bbc31326bc9c08a3d0ae" dmcf-pid="fA1FznLx1r" dmcf-ptype="general"><strong>Q1. AI는 어떻게 시험 환경 밖으로 나갔나</strong></p> <p contents-hash="038f51c2c9c240606c7e99f203b42ca62d124554be6552d7e249dcd2e442da81" dmcf-pid="4ct3qLoMYw" dmcf-ptype="general">AI 보안 시험은 현실 세계에 영향을 주지 못하도록 외부 인터넷과 차단된 가상 환경인 ‘샌드박스’에서 한다. 그러나 최근 사고는 사람이 미처 막지 못한 ‘샛길’을 AI 에이전트(비서)가 찾아내면서 발생했다.</p> <p contents-hash="e0ea8178a12937139ec7106ef5859635d585f5e648e9a3ac7cac9c856ee83964" dmcf-pid="8kF0BogR5D" dmcf-ptype="general">앤스로픽과 메타의 AI는 외부 평가 업체 ‘이레귤러’가 시험 환경을 잘못 설정해 남겨둔 접속 통로로 인터넷에 연결됐다. 문샷AI의 시험장에도 밖으로 나가는 통로가 열려 있었다. 사람이 만든 격리망의 허점을 AI가 파고든 것이다.</p> <p contents-hash="0de15bef7a985645e617c67d73e8759f9a1fbec879e0763651e07059c2c40f89" dmcf-pid="6E3pbgaeXE" dmcf-ptype="general">오픈AI 모델의 허깅페이스 침입은 한 단계 더 나아갔다. 인터넷이 차단돼 있었는데도 프로그램 설치 시스템의 취약점을 스스로 찾아 경계를 뚫었다. 가장 자율적인 ‘AI 해킹’에 가깝다는 평가가 나온다.</p> <p contents-hash="b8e43e7fe5960fa1fa076419536a67e3302199c6bacc5b52781ceaee23edcef4" dmcf-pid="PD0UKaNd1k" dmcf-ptype="general"><strong>Q2. 사고가 반복되는 이유는 무엇인가</strong></p> <p contents-hash="78fdb445e766e5f900dca36e99a3bb94c219902796b86d2d225af5cb14c0796b" dmcf-pid="Qwpu9NjJHc" dmcf-ptype="general">AI 보안 평가는 AI 모델의 최대 공격 능력을 확인하려 안전·감시 장치를 일부러 줄이거나 푼다. AI에 상당한 자율성을 주고 다른 컴퓨터의 비밀 정보를 찾거나, 취약점을 실제 공격 코드로 만들도록 하는 식이다.</p> <p contents-hash="55d610a2b64295c2f319ff279fc236c568b7f957a3767f77f1a9b4b2f91f1fe6" dmcf-pid="xrU72jAitA" dmcf-ptype="general">문제는 AI가 “과제를 해결한다”는 목표를 위해 극단적 방법까지 쓴다는 것이다. 평가 중 해법이 막히면 외부 인터넷으로 이어지는 통로를 찾아서라도 답안을 찾는 일종의 ‘커닝’을 시도하는 셈이다.</p> <p contents-hash="cfc1f28cedab0b2b922969c44d8efdf70f2f9579309dbce7ef2b4420da8ee628" dmcf-pid="ybAkOpUZZj" dmcf-ptype="general">반면 격리·감시 체계는 과거 모델의 능력을 기준으로 설계돼, AI 에이전트의 높아진 공격 능력을 따라가지 못하며 실제 침입으로 이어지고 있다는 분석이다.</p> <p contents-hash="b7694079d16f6c44c2e0d5aed7322c925389f534ab052417d30914756d1cf155" dmcf-pid="W5MegyWIXN" dmcf-ptype="general"><strong>Q3. AI가 인간의 의도에서 벗어났나</strong></p> <p contents-hash="597efec42f220d29a95cf7e21a468299cf9daa4b5a1910dbb3d5002749c7ad67" dmcf-pid="Y1RdaWYCGa" dmcf-ptype="general">허용된 행동 범위에서는 벗어났지만 AI가 스스로 목적을 만든 것은 아니다. 인간에게 반기를 들었다기보다, 사람이 준 목표를 지나치게 충실하게 수행하다 선을 넘은 것에 가깝다.</p> <p contents-hash="84bffd643f4574e422e2ea8cb29fc151092417c9cdc23509cf744d89378d4360" dmcf-pid="GteJNYGhGg" dmcf-ptype="general">앤스로픽은 “모델이 독자적인 목표를 추구했다는 증거는 없다”고 했다. AI가 ‘인터넷에 접속할 수 없는 가상 환경’이라는 인간의 설명을 전제로, 우연히 접속한 실제 시스템도 시험용 표적이라고 판단했다는 것이다.</p> <p contents-hash="5a3339f534a05841e168e95268b88bc72684612d9955827adc242255eb905bea" dmcf-pid="HFdijGHl5o" dmcf-ptype="general">하지만 오픈AI의 일부 에이전트는 과제의 범위를 벗어났다는 사실을 알고도 취약점 탐색을 계속했다. 앤스로픽의 일부 모델 역시 실제 기업 시스템일 가능성을 인식하고도 시험의 일부라고 합리화하며 공격을 계속했다. AI가 안전보다 과제 완수를 우선할 수 있다는 의미다.</p> <p contents-hash="ee284f5f6f547d8dd0e8df93e444fbfa45dee3df66b99092e31e35a119b25fc4" dmcf-pid="X3JnAHXSHL" dmcf-ptype="general"><strong>Q4. 보안 평가가 더 위험한 것 아닌가</strong></p> <p contents-hash="a419319fa4f3bfb57cee3202bb4ae371339baedd925901fdbf638ea63f6ca312" dmcf-pid="Z0iLcXZvGn" dmcf-ptype="general">실제로 보안 평가에 대한 의문이 커지고 있다. 영국 AI안전연구소(AISI)는 실제 해커와 비슷한 조건을 만들기 위해 인터넷 접속을 허용하고 안전 장치를 해제했다. 그 결과 AI가 가짜 신원을 만들고, 실제 개발자에게 악성 코드를 승인하도록 압박하기까지 했다.</p> <p contents-hash="861972c8c007bae4c9c92d3550dae933e829cf5e3e82a3ccd70a6bfcdf14575a" dmcf-pid="5pnokZ5TYi" dmcf-ptype="general">실제 피해로 연결되지는 않았지만 AISI는 AI의 범위 밖 행동을 실시간으로 감시하고 차단하는 체계는 없다고 밝혔다. 오픈AI와 앤스로픽 등도 평가 중이던 AI가 실제 기업 시스템에 침입하고 한참 뒤에 사고를 확인했다. 보안 평가 중 AI의 일탈이 발생해도 상황을 파악할 수 없는 것이다.</p> <p contents-hash="50c2223aff2f672ba4500cd42358a6313e20fc72a8eae3f1532efb5e11ae81f1" dmcf-pid="1ULgE51yHJ" dmcf-ptype="general">그렇다고 시험을 중단하면 더 위험하다. 출시 전에 발견못한 공격 능력을 실제 해커가 악용할 수 있기 때문이다. AI 업계 관계자는 “AI 보안 평가는 이제 최고 수준의 해커를 다루는 것과 같은 고위험 활동으로 취급해야 한다”며 “외부 접속을 차단하는 격리망을 겹겹이 쌓고, AI의 행동을 실시간으로 탐지하는 체계를 마련해야 한다”고 했다.</p> <p contents-hash="f5f7d51ded2afb440f48a7b871303b2762032bf30bb7179e4759a31683dfa69d" dmcf-pid="tuoaD1tWtd" dmcf-ptype="general"><strong>Q5. 앞으로 AI 해킹이 일상화할까</strong></p> <p contents-hash="29bb78ee8af53c08dc402234cb85c8faecaa33181cc4764f76891835fcc0345f" dmcf-pid="F7gNwtFYHe" dmcf-ptype="general">당장 일반 AI가 무차별 해킹에 나설 가능성은 낮다. 최근 사고 대부분은 안전장치를 약화한 특수 시험 환경에서 일어났고, 일반 서비스에는 악성 요청을 거르는 장치가 작동한다.</p> <p contents-hash="e550cf9f264cc5a5634e04478b57b8fc626a2e475fca4f1931a5dd9bc28b5c34" dmcf-pid="3zajrF3GYR" dmcf-ptype="general">그러나 AI발 해킹 자동화에 대한 우려는 커지고 있다. 오픈AI는 차세대 모델 ‘아스트라’가 사람의 개입 없이 실제 시스템의 취약점을 찾고 복잡한 공격까지 끝내는 최고 위험 단계인 ‘치명적(critical)’ 능력에 이르렀을 가능성을 인정하고, 개발의 일부 작업을 중단했다.</p> <p contents-hash="4f76004ea5c3f2c362432fae56d4b6b002870fd7a5df0e515d7b28c27408fa70" dmcf-pid="0bAkOpUZZM" dmcf-ptype="general">향후 첨단 AI 개발은 정부와 외부 기관의 검증을 거쳐 위험 기능의 접근 범위와 공개 대상을 단계적으로 확대하는 방향으로 바뀔 전망이다. 미국 정부는 최첨단 사이버 능력을 갖춘 폐쇄형 모델을 출시하기 전에 최대 30일간 정부에 제공해 기밀 보안 평가를 받도록 하는 자율 체계를 마련했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 배충식 KAIST 총장, ‘기본이 강한 글로벌 선도대학’…“국가혁신 플랫폼” 발돋움 08-10 다음 한국스키장경영협회, 스키스노보드협회와 산업 활성화 맞손 08-10 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
