현실화된 에이전틱AI 기반 디지털리스크 작성일 11-16 39 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">中 해커들, 앤스로픽 ‘클로드 코드’ 악용<br>AI모델 속여 에이전트들로 대규모 공격<br>“AI로 사이버공방 속도 또한 빨라질 것”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XsefwpHlhn"> <figure class="figure_frm origin_fig" contents-hash="81c5e65e8ef16ae1c43d10237701f565389a14c28eb73aaa31895197be2fb510" dmcf-pid="ZjQKctyOvi" dmcf-ptype="figure"> <p class="link_figure"><img alt="클로드 코드를 악용해 이뤄진 사이버공격 관련 아키텍처 개요. 앤스로픽 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/16/dt/20251116182650004nvti.png" data-org-width="640" dmcf-mid="H0qteSwaSL" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/16/dt/20251116182650004nvti.png" width="658"></p> <figcaption class="txt_caption default_figure"> 클로드 코드를 악용해 이뤄진 사이버공격 관련 아키텍처 개요. 앤스로픽 제공 </figcaption> </figure> <p contents-hash="3faaed5d1583009b31039b26643f28560e30a5335ff629bbe8a58af32861fc7a" dmcf-pid="5Ax9kFWIhJ" dmcf-ptype="general"><br> 인공지능(AI) 기술의 발전에 따라 사이버위협도 갈수록 지능화·고도화되고 있다. 에이전틱AI 기반 사이버위협도 결국 현실화됐다. AI를 활용한 사이버공방 속도전도 본격화될 전망이다.</p> <p contents-hash="61c18a4fbaf19e86b110c4a11294c48332c0da5e4086d25b920848e22e3277ae" dmcf-pid="1cM2E3YCvd" dmcf-ptype="general">오픈AI 라이벌로 꼽히는 AI스타트업 앤스로픽은 지난 9월 해커들이 자사 AI모델을 동원해 대규모 해킹을 벌였다고 지난 13일(현지시간) 밝혔다. 중국 정부가 배후에 있는 것으로 추정되는 이 사이버범죄자들은 AI를 활용해 30여개 기관·기업을 공격했고 이 중 일부는 실제 침해로 이어진 것으로 파악됐다.</p> <p contents-hash="fa71f68cab88b1de23ee868695e15c9a09d37303c6a740511abd538f02440df2" dmcf-pid="tkRVD0GhTe" dmcf-ptype="general">앤스로픽은 보고서를 내고 이를 "대규모 사이버공격에서 인간 개입 없이 대부분을 AI가 수행한, 첫 문서화된 사례"라고 판단했다. 인간 운영자가 선정한 표적에 대해 AI가 자율적으로 취약점을 찾아 실제 환경에서 이를 익스플로잇했고, 이후 분석, 측면 이동, 권한 상승, 데이터 접근, 데이터 탈취에 이르는 폭넓은 사후 활동까지 수행했다.</p> <p contents-hash="63031fc259ce6250e956af8aff74b77e9b8407006c5712b4eb346d5229d497b5" dmcf-pid="FEefwpHlvR" dmcf-ptype="general">앤스로픽은 특히 이 사례가 주요 빅테크와 정부기관 등 고가치 표적 대상으로 한 정보 수집 목적의 접근을 에이전틱AI가 성공적으로 달성한 첫 사례라고 소개했다. 회사는 "특히 놀라운 것은 이런 변화가 매우 빠른 속도로, 그것도 대규모로 진행되고 있다는 점"이라고 전했다.</p> <p contents-hash="b3caf0e86679c9341a282c12e906e3222d51ac83cb44c95f91477fe973b7d16f" dmcf-pid="3Dd4rUXSvM" dmcf-ptype="general">보고서에 따르면 공격자는 앤스로픽 '클로드 코드' 모델과 개방형 연결표준인 모델콘텍스트프로토콜(MCP) 도구들을 결합해 AI에이전트들이 자율적으로 사이버작전을 수행하는 환경을 구축했다.</p> <p contents-hash="b19060b890b7d50a857712920bbec31d419b9c2efdc3474dde74bd38ba6f583b" dmcf-pid="0wJ8muZvWx" dmcf-ptype="general">이 프레임워크에서 클로드는 복잡한 다단계 공격을 여러 개별 기술 작업으로 나눠 취약점 스캐닝, 자격 증명 검증, 데이터 추출, 측면 이동 등을 각기 독립된 하위 에이전트에 할당하는 오케스트레이션을 수행했다.</p> <p contents-hash="2e96c3a150ad1d33e76d001f2b6e2576704d4f9a670e5e1d3144481676f12aaa" dmcf-pid="pri6s75TCQ" dmcf-ptype="general">이렇게 분리된 각 작업은 개별적으로만 보면 합법적인 기술적 요청처럼 보였다. 공격자는 사전 설정한 페르소나와 정교하게 구성된 프롬프트를 이용해 이런 작업을 보안회사의 일상적인 기술적 요청으로 AI가 여기도록 했다. 이로써 상용모델이 갖춘 가드레일 등 안전장치를 우회해 '탈옥'을 시켜 범행을 돕게 한 셈이다. 클로드가 더 넓은 악의적 맥락을 인지하지 못한 채 공격 체인의 개별 구성요소들을 실행하도록 만들었다.</p> <p contents-hash="ff0527e6b2ad05477236258c9fd7f0b10c7490c0592525d9ccaeb9de26cec065" dmcf-pid="UmnPOz1yWP" dmcf-ptype="general">그 위에 구축된 로직이 공격 상태를 관리하고, 단계 전환을 수행하며, 여러 세션에 걸쳐 결과를 통합하는 구조로 간단히 대규모 공격이 가능해졌다. 앤스로픽이 지난 6월 '바이브 해킹'으로 명명한 AI 악용 해킹 사례와 비교해도 인간의 개입 빈도가 훨씬 낮기 때문이다. 공격자는 클로드를 'AI 보조'가 아니라 실제 사이버공격을 수행하는 자율 에이전트로 활용했다.</p> <p contents-hash="7b2bb4f1217e2dd0781bc05ff97536bac91abe7b6da0d60257585f28d1991ce7" dmcf-pid="usLQIqtWW6" dmcf-ptype="general">그 결과 AI가 전체 전술 작업의 80~90%를 수행하며 인간은 관리·감독 역할에 주로 머물렀다. 인간 공격자가 직접 AI에 개입한 것은 △정찰 단계에서 실제 익스플로잇 단계로 넘어갈지 승인 △탈취한 자격 증명을 활용해 측면 이동을 시도할지 승인 △어떤 데이터를 어떤 범위까지 탈취하고 보존할지 최종 결정 등 일부뿐이었다. 특히 작전 속도에 있어서도 차별화돼, 피크 시점에는 초당 여러 건의 작업에 해당하는 수천 건의 요청이 지속적으로 발생했다.</p> <p contents-hash="00bca975c425899c45dad157736b1098be56c5b9bbc3d84a8d65a7b9590fa0dd" dmcf-pid="7OoxCBFYC8" dmcf-ptype="general">앤스로픽은 이들의 의심스러운 활동을 감지하자마자 조사에 착수했고, 이후 10일 동안 계정을 차단하고 클래시파이어 개선 등 방어를 강화하며 관련 기관에 통보하는 등의 조치를 취했다.</p> <p contents-hash="09a827e87746e58f37a1109e71a46636783c9c15eae04bd494a33568722ec111" dmcf-pid="zIgMhb3GS4" dmcf-ptype="general">회사는 이번 사건에 대해 "정교한 사이버공격을 수행하는 데 필요한 진입장벽이 크게 낮아졌음을 보여준다. 적절한 세팅만 갖춰지면 위협 행위자는 에이전틱AI 시스템을 이용해 경험 많은 해커 팀 전체의 역할을 대체할 수 있다"고 평했다.</p> <p contents-hash="669d1b6d75e2081a8c8909399fdf2fce0dfae1e5d878a1ede408eed7b87c4305" dmcf-pid="qCaRlK0Hhf" dmcf-ptype="general">또한 앤스로픽은 이런 공격을 막을 수 있는 것도 AI라는 점을 강조했다. 회사는 "정교한 사이버공격이 언젠가 발생하는 것은 피하기 어렵고, 그때 우리의 목표는 강력한 안전장치를 내장한 클로드가 보안 전문가들의 공격 탐지·차단과 후속버전에 대비에 도움을 주도록 하는 것"이라 덧붙였다.</p> <p contents-hash="afff4dea3a2d6c7b56b5f163eb10207b074bd43bad77eb61646a76b99bd30183" dmcf-pid="BhNeS9pXCV" dmcf-ptype="general">앞서 시장조사기관 IDC가 지난해 8월 실시한 조사에서 한국기업의 91.7%는 AI 기반 사이버공격에 대처하는 데 '전혀 자신이 없다'고 응답한 바 있다. 또 델테크놀로지스의 최근 조사에서 한국기업의 89%는 생성형AI가 사이버보안에 도움이 될 것이라 기대했지만, 이와 동시에 75%는 AI로 인해 사이버 공격 표면이 늘어날 것이란 우려도 표했다.</p> <p contents-hash="7e6ee42230f216869996bbe3d9aac464237a66b9b90da3b6f37f8dc8dfc4f5cb" dmcf-pid="b3SwpnPKl2" dmcf-ptype="general">이상근 고려대 정보보호대학원 교수는 "AI모델 개발 경쟁이 세계적으로 가속화되면서 최근에는 보안성과 안전성이 충분히 고려되지 않는 문제가 발생하고 있다. AI 성능이 아무리 높아도 이런 기틀이 무너지면 아무 소용없으니 보안 내재화는 필수"라며 "AI 기술로 사이버공격의 자동화·지능화 수준이 높아질수록 방어 측에서도 AI를 활용해 더욱 철저하게, 더욱 빠르게 탐지·대응을 할 수 있어야한다. 이를 위해선 기본적인 보안태세부터 다질 필요가 있다"고 짚었다.</p> <p contents-hash="e36f399de7de4c1fb1603affe5a979ed2882596fe78adfd1c704de05fffd30f2" dmcf-pid="K0vrULQ9y9" dmcf-ptype="general">팽동현 기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 [디지털리스크, ESG가 답이다] 민간 기술·정부 정책 시너지… ‘디지털신뢰 체계’ 다시 짜야 11-16 다음 임라라♥손민수, 쌍둥이 이름 공개 "강단 남매라 지어...강단있게 살았으면" [RE:뷰] 11-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
