"13시간 만에 관리자 권한 뺏는다"…현실이 된 AI 에이전트의 반란 작성일 08-10 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xg0bY2V7hM"> <figure class="figure_frm origin_fig" contents-hash="8b3e85dafe1c2ef59cb3e76dc239eacc836ca5f102c59d0f477ace2cf71a5eef" dmcf-pid="yFNrROIkSx" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/10/552796-pzfp7fF/20260810164914657cyph.jpg" data-org-width="500" dmcf-mid="QKOyjGHlvR" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/10/552796-pzfp7fF/20260810164914657cyph.jpg" width="658"></p> </figure> <p contents-hash="2d0a68a49d7e424e4923e78697ea09b91f3eb21291d89d401a6c42f9a78ee42c" dmcf-pid="W3jmeICEWQ" dmcf-ptype="general">[디지털데일리 김보민기자] 오픈AI 인공지능(AI) 모델이 격리 환경에서 벗어나 외부 플랫폼을 해킹한 사실이 알려지면서 자율 에이전트 위협이 본격화될 것이라는 전망이 이어지고 있다.</p> <p contents-hash="987bb530fd5174fc5e6b3f821cd53cd14b7496e569e9638a447f92c98cbe6d5e" dmcf-pid="Y0AsdChDhP" dmcf-ptype="general">10일 글로벌 사이버보안 기업 카스퍼스키는 블로그를 통해 오픈AI 모델이 허깅페이스 플랫폼을 해킹한 것을 두고 "마치 공상과학(SF) 영화 '터미네이터'의 한 장면을 연상하게 하는 이번 사건"이라며 AI가 능동적인 해킹 주체가 됐다고 밝혔다.</p> <p contents-hash="ae7d5c232dd2fb6ec845d2794986e5fe06907491d4ba74c844c3798e53ae15f9" dmcf-pid="GpcOJhlwy6" dmcf-ptype="general">사건의 발단은 오픈AI 고급 AI 모델들을 대상으로 진행된 익스플로잇짐(ExploitGym) 벤치마크 사이버 역량 테스트였다. 테스트 도중 통제된 환경(샌드박스)을 탈출하는 데 성공한 AI 에이전트는 외부 인터넷에 접속해 허깅페이스를 비롯한 다양한 인프라를 침해했다. AI 모델 스스로 벤치마크 과제의 해답을 외부 시스템에서 찾을 수 있다고 추론한 결과였다.</p> <p contents-hash="74d2b3da0d229d8c13c9aaf76737e0b3e33d47a87ebbbb3f1fb554232871902b" dmcf-pid="HUkIilSrS8" dmcf-ptype="general">AI 에이전트는 허깅페이스 시스템 내부에 업로드된 데이터 세트의 구성 결함을 악용해 작업자 포드(Pod)의 자격 증명을 유출하고 임의의 코드를 실행했다. 이후 클라우드 환경의 메타데이터를 활용해 권한이 부여된 포드를 탈출하고 루트 수준의 접근 권한을 탈취했다. 나아가 스토리지에서 훔친 가상사설망(VPN) 키와 공유 클러스터 관리자 자격 증명을 이용해 내부 네트워크와 소스 코드 저장소를 침투하려고 시도했다.</p> <p contents-hash="2bdd7ef7429479a929ba82cdba36170dc00c7bf733fd544ba18b40524a53c7e5" dmcf-pid="XI4e7inQC4" dmcf-ptype="general">카스퍼스키는 자율 해킹이 정교화될 경우 에이전트가 관리자 권한을 단기간 내 획득하는 것이 가능해질 것으로 전망했다. 빠르면 13시간도 가능하다고 진단했다. 카스퍼스키는 "현재 공개된 오픈 소스 모델이나 중간 수준의 AI 모델조차도 수십 개의 취약점을 빠르게 반복 탐색하고 손상된 네트워크 범위를 확장할 수 있다"고 지적했다.</p> <p contents-hash="556497a65535b019ddfa10ee4ebbb20b787d27a46af41315bd56508bad0e5f45" dmcf-pid="ZC8dznLxvf" dmcf-ptype="general">카스퍼스키는 시행착오 비용이 급락하고 있다는 점도 주목했다. 인간 해커가 5개의 공격 방식을 테스트할 때 AI 에이전트는 500개를 시도할 수 있다는 취지다. AI가 발생시키는 경고와 로그의 양면성도 증가하고 있다고 경고했다. 에이전트가 생성하는 엄청난 양의 로그 노이즈는 위협 탐지의 지표가 되기도 하지만, 동시에 실제 의미 있는 공격 행위를 숨기는 위장막 역할을 하여 수동적인 보안 대응 워크플로에 병목 현상을 초래한다는 것이다.</p> <p contents-hash="8862957244248556c0552ffe72fd03d01ae84f06ef020cc8c43c038b03c8e3dc" dmcf-pid="5h6JqLoMhV" dmcf-ptype="general">카스퍼스키는 허깅페이스의 침해 사례를 반면교사 삼아 기업들이 인프라 보호에 집중해야 한다고 제언했다. 특히 자동 차단된 보안 경고를 무시하지 않아야 한다고 말했다. 당시 허깅페이스 시스템은 며칠에 걸쳐 수많은 서버 측 요청 위조 공격 시도를 성공적으로 차단했으나, 보안 담당자들은 정보성 이벤트로 인식한 것으로 나타났다.</p> <p contents-hash="9acb8330502cb9415a1e6fa881784e6be46d9d742c1f7c391ec00ef721202b9e" dmcf-pid="1lPiBogRC2" dmcf-ptype="general">비정상적으로 급증하는 오류 수를 즉각 조사하고 특정 사용자나 시스템을 임의 차단하는 대응 프로토콜을 자동화해야 한다고도 강조했다. 아키텍처 측면에서의 개선도 요구된다. 기계 학습 데이터 세트, 문서 변환 엔진, 사용자 업로드 파일 등 신뢰할 수 없는 입력을 처리하는 서버 프로세스는 샌드박스를 통해 최대 수준으로 격리해야 한다는 취지다.</p> <p contents-hash="ebeb847b3a9cce445b312949715b33ab6c0e803973d30012ad68a81bcd900ff9" dmcf-pid="tSQnbgaeT9" dmcf-ptype="general">아울러 불필요한 외부 호스트 연결을 차단하고, 한 번에 권한 키를 다량으로 발급하는 관행을 없애야 한다고 강조했다. 특히 허깅페이스 침해 당시 단일 객체에 136개의 키가 포함되어 피해가 컸던 점을 지적하며, 프로비저닝 시 수명이 짧은 단일 용도 키를 사용할 것을 권고했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 챌린지 맛집인 줄 알았더니…삼성·LG도 '틱톡 장바구니' 노린다 08-10 다음 다른길 가는 네카오...'AI 인프라' vs '에이전트 특화' 08-10 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
