[AI는 지금] 해킹에 쓰인 AI, 스스로 복제까지…앤트로픽, 연내 가능성 경고 작성일 10-14 45 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI가 낯선 기기서도 작동 방법 찾아…일부 차단해도 확산 지속 우려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZwE3l4Tsk5"> <p contents-hash="3e1488abf5a6b0d824666951b5b6fd63a9a356ca94baeac29fd5b24637058f60" dmcf-pid="5rD0S8yOcZ" dmcf-ptype="general">(지디넷코리아=김동원 기자)국내 금융권에서 인공지능(AI)을 활용한 해킹 공격이 잇따르는 가운데 AI가 사람의 추가 지시 없이 다른 기기로 옮겨 다니며 스스로 복제할 수 있다는 경고가 나왔다.</p> <p contents-hash="c9314a61d6f712278ae2d855d954da237df8f960e288f577615965ca732ab7d8" dmcf-pid="1mwpv6WIjX" dmcf-ptype="general">13일(현지시간) 로이터통신에 따르면 앤트로픽은 AI 기술 발전 속도가 이어질 경우 올해 말까지 소형 AI 모델도 스스로 다른 기기로 확산하는 데 필요한 능력을 갖출 수 있다고 분석했다. 제한된 시험망에서는 AI가 복제 작업을 수행하는 데 성공했으며 저렴한 스마트TV용 기기 15대를 연결해 AI 모델을 구동했다.</p> <p contents-hash="7189d9a30a610ae3042f0dbc7365dbb7dedf796820d247d690a3c8f64db28e76" dmcf-pid="tsrUTPYCaH" dmcf-ptype="general">AI 자기 복제는 AI가 새로운 컴퓨터나 스마트 기기를 찾아 자신의 모델과 실행 프로그램을 옮기고 그곳에서도 작동하도록 만드는 것을 뜻한다. 복제된 AI가 다시 다른 기기를 찾아 같은 작업을 반복하면 사람의 추가 명령 없이도 감염된 기기가 늘어날 수 있다.</p> <figure class="figure_frm origin_fig" contents-hash="43611d78abcb15613811637e3f5972b80fafaf91cffe402128aab6fb178881df" dmcf-pid="FOmuyQGhAG" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 사람 개입 없이 스마트TV와 가전제품 등에 침투해 스스로 복제하고 확산할 수 있다는 경고가 나왔다. (사진=챗GPT 활용)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/ZDNetKorea/20261014102251534wums.png" data-org-width="640" dmcf-mid="X42ERWJ6N1" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/ZDNetKorea/20261014102251534wums.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 사람 개입 없이 스마트TV와 가전제품 등에 침투해 스스로 복제하고 확산할 수 있다는 경고가 나왔다. (사진=챗GPT 활용) </figcaption> </figure> <p contents-hash="bca75deab2073cabbcf48ad6fc36e99201fc0f86288a5b5b49ee5f695d0a8f6b" dmcf-pid="3Is7WxHlcY" dmcf-ptype="general"><span>앤트로픽은 AI가 처음 접하는 기기에서도 스스로 작동 방법을 찾아낼 수 있다고 설명했다. 기존 악성코드는 주로 미리 설계된 공격 방법을 사용하지만 AI는 기기의 환경에 맞춰 새로운 방법을 시도할 수 있다. 스마트TV뿐 아니라 냉장고와 로봇청소기, 보안카메라 등 다양한 기기로 확산할 가능성도 제기했다.</span></p> <p contents-hash="a289a098991b0d992b489e9eae82b994b6c5b65aa421a18b04b1aa0ab1f97708" dmcf-pid="0COzYMXSjW" dmcf-ptype="general">국내에서는 AI를 이용한 해킹 공격이 이미 확인됐다. 지난 9월 해커는 중국 AI 모델 딥시크 기반 AI 에이전트를 이용해 금융회사 서버의 보안 취약점을 탐색했다. 이후 취약점을 악용해 악성 프로그램을 설치하고 내부의 다른 서버까지 살펴봤지만 금융회사가 추가 공격을 차단했다.</p> <p contents-hash="828b867a0e36fb84e279057ba4ab45cd436dbb6e8eb2b71a17d864e43feed6d1" dmcf-pid="phIqGRZvgy" dmcf-ptype="general">금융보안원은 지난달 17일 금융회사 보안 담당자 160여명이 참석한 세미나에서 이 사례를 공개하며 AI를 활용한 사이버 공격의 위험성을 알렸다. 당시에는 해커가 AI에 명령을 내려 금융회사 서버에 침투했지만, 앤트로픽은 앞으로 AI가 사람의 추가 지시 없이 다른 기기를 찾아 스스로 확산할 가능성을 경고했다.</p> <p contents-hash="a65a6cc1ef373fedf310b18bf8b873091a7289ec14b7a641b111795ab74ab3f5" dmcf-pid="UZHPUjztAT" dmcf-ptype="general">앤트로픽 실험에서는 이러한 복제 능력이 일부 확인됐다. 중국 AI 모델 'GLM-5.2'는 안드로이드 기기 8대를 모방한 가상 시험망에서 총 5차례 실험 중 4차례 모든 기기로 확산하는 데 성공했다. 나머지 한 차례에서도 7개 기기에 도달했다.</p> <p contents-hash="825a568f41b4ade292f57b72eef2b58d1dbf3e2d6cc6c6a39e1b4e031787cdd1" dmcf-pid="u5XQuAqFav" dmcf-ptype="general">저렴한 가전제품을 이용한 AI 실행 실험도 진행됐다. 앤트로픽은 대당 약 55달러(약 7만원)인 저가형 안드로이드 TV 셋톱박스 15대를 연결해 260억개 매개변수를 가진 구글의 AI 모델 '젬마4-26B-A4B'를 실행했다. 작동 속도는 느렸지만 고가의 데이터센터 장비 없이도 저렴한 기기 여러 대로 AI를 구동할 수 있다는 사실을 확인했다.</p> <p contents-hash="15a59b9a5f8137ec8c3e159e41fd16c187b5251b27d070fd485406481dcc3333" dmcf-pid="71Zx7cB3jS" dmcf-ptype="general">AI가 앞선 작업에서 얻은 경험을 다음 작업에 활용하는 능력도 확인됐다. 중국 AI 모델 '큐원3.5-9B'는 새로운 기기에 AI를 설치하는 실험에서 처음 45%의 성공률을 기록했다. 이전에 시도한 방법과 실패 원인을 다음 실행에 전달하자 성공률이 61~84%로 높아졌다. AI가 이전 기록을 참고해 같은 실수를 피하고 다른 해결 방법을 찾은 결과다.</p> <p contents-hash="3dc6a9e2ccef3b69d33b838c222cf138021e7a53c9a7071bef6be5d4d4d8444a" dmcf-pid="zt5Mzkb0cl" dmcf-ptype="general">앤트로픽은 여러 기기에 분산된 AI를 완전히 제거하기 어려울 수 있다고 경고했다. 일부 기기를 차단하더라도 다른 기기에서 계속 작동할 수 있기 때문이다. AI가 처음 접하는 기기에도 적응한다면 공격 대상이 더욱 넓어질 수 있다.</p> <p contents-hash="3c7c4efca80ef6578d5b176e0565eb231eb3a9950721fc24ab7c40ca65378996" dmcf-pid="qF1RqEKpjh" dmcf-ptype="general">다만 실제 인터넷에서 AI가 사람의 통제 없이 스스로 복제하며 확산한 사례는 아직 확인되지 않았다. 저성능 기기에서는 AI를 설치하고 실행하는 데 하루 이상 걸리는 등 확산 속도도 느린 것으로 나타났다.</p> <p contents-hash="74a6876c9b63e20d8efa875598181cc18021def47b8d262dcbc9b5b4dbd1d120" dmcf-pid="B3teBD9UjC" dmcf-ptype="general">연구진은 AI가 기기 사이를 이동할 때 발생하는 대량의 데이터 전송과 비정상적인 통신을 감지하고 감염된 기기를 격리하는 방식으로 확산을 막을 수 있다고 설명했다. 기기 제조사의 보안 강화와 인터넷 서비스 제공업체의 공동 대응도 필요하다고 제시했다.</p> <p contents-hash="6e089473e5cbd3158b4f5e0dc1011a9c23fdfbe2116f7c08a38bbb0bde4730fb" dmcf-pid="b0Fdbw2uAI" dmcf-ptype="general">앤트로픽 연구진은 "우리는 이러한 복제 프로그램이 확산하기 어렵도록 시스템을 강화해야 한다"며 "동시에 이들이 계속 존재하는 세상에 대비해야 한다"고 밝혔다.</p> <p contents-hash="c3575030838698bf1b5986809d6e5e4aac295cd2f5f862eaec508b8e2702299e" dmcf-pid="Kp3JKrV7jO" dmcf-ptype="general">김동원 기자(goodtuna@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 냉장고가 해커 도구가 된다면…온디바이스 AI가 불러온 ‘기기 침공’ 10-14 다음 “사람처럼 걷고 뛰는 휴머노이드 만든다”…생기원, 전신동작 AI 학습 플랫폼 구축 10-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
