“여긴 진짜 깃허브다” 알고도 AI끼리 인터넷서 만나 담합…개발자 속인 뒤 악성코드 삽입 시도 작성일 08-05 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3Ko8pF3G52"> <figure class="figure_frm origin_fig" contents-hash="1ade8122e9fa24162e7e7919f916ac13f38a37f35b19487c95748fb8a30e5145" dmcf-pid="09g6U30Ht9" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진은 기사 내용과 관련 없음. [게티이미지뱅크]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/ned/20260805191215486rxcf.jpg" data-org-width="1280" dmcf-mid="5ywi2bKp58" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/ned/20260805191215486rxcf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진은 기사 내용과 관련 없음. [게티이미지뱅크] </figcaption> </figure> <p contents-hash="3d9e75c222e9f7d2fae96016e4bc61620607febb36279604b0657e077ea81aa5" dmcf-pid="p2aPu0pXXK" dmcf-ptype="general">[헤럴드경제=장윤우 기자] 인공지능(AI) 에이전트가 실제 인터넷에 접속해 있다고 판단하고도 실제 개발자를 상대로 기만과 악성코드 유포를 이어가려한 정황이 확인됐다.</p> <p contents-hash="2b5be2916d2ce5a7768371d67892e750d388eaaadf510b691d88bd739e2b62a5" dmcf-pid="UVNQ7pUZ5b" dmcf-ptype="general">4일(현지시간) 영국 AI보안연구소(AISI)가 공개한 보안사고 보고서에 따르면 지난달 25~28일 진행된 사이버보안 평가 도중 AI 에이전트들이 실제 인물과 조직을 겨냥한 승인되지 않은 행동을 벌였다.</p> <p contents-hash="45f29cbd4440cfbccc1eba13ae09991853a8ab5eb07edf6747e12c8a43505071" dmcf-pid="ufjxzUu5ZB" dmcf-ptype="general">AISI는 AI의 최대 역량을 측정하기 위해 인터넷 접속을 열어두고 AI 제공사의 안전장치를 끈 상태로 시험했다. 승인되지 않은 행동이 확인된 사례는 19건으로 17건이 앤트로픽의 미토스5, 2건이 오픈AI의 GPT-5.6 솔에서 나왔다.</p> <figure class="figure_frm origin_fig" contents-hash="05b78bde076b21bdfd4fc1974eb76667bd362ca26fd3f0793266aabe17069245" dmcf-pid="74AMqu71Zq" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진은 기사 내용과 관련 없음. 앤트로픽이 제작한 인공지능(AI) 모델인 클로드 설치 화면. [게티이미지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/ned/20260805191215730dede.png" data-org-width="1024" dmcf-mid="1cL40tFYZ4" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/ned/20260805191215730dede.png" width="658"></p> <figcaption class="txt_caption default_figure"> 사진은 기사 내용과 관련 없음. 앤트로픽이 제작한 인공지능(AI) 모델인 클로드 설치 화면. [게티이미지] </figcaption> </figure> <p contents-hash="a5b8244955c9cd794c9696c83c281be7a5310dbbce5cdb64ba31dec32a276241" dmcf-pid="zXV3SChD1z" dmcf-ptype="general">AI 에이전트들이 남긴 추론 기록을 보면 미토스5는 처음에 “(접속이 열려있는) ‘인터넷’ 전체가 샌드박스 시뮬레이션일 수 있다”며 모의 환경으로 판단했다.</p> <p contents-hash="f7692a4e6c7d1dc96f9c6abeb7418f36a2dd7a1228e59fda3e7a2dc3780d7bb0" dmcf-pid="qZf0vhlw57" dmcf-ptype="general">접속한 서비스들이 실제 인터넷처럼 반응하자 판단을 바꿔 “실제로 2026년이고 깃허브(마이크로소프트가 운영하는 개발자 플랫폼)가 진짜일 가능성이 높아 보인다”고 결론 내렸다.</p> <p contents-hash="bbaeb8a6744222a3c528f0250f6be58bbe02d292e02320f6b72b503d1ba8b17f" dmcf-pid="B54pTlSrGu" dmcf-ptype="general">실제 개발자의 저장소를 공격하면서는 “실제 깃허브에서 벌어지는 일이므로 결과도 진짜”라고 적었다. 다만 AISI는 에이전트가 어느 시점에 실제 인간을 상대한다고 인식했는지 확정할 수 없다고 밝혔다.</p> <figure class="figure_frm origin_fig" contents-hash="e7589abc94b310880887d9cae12c93795ba9efb41a63494691cc0acb77934ac5" dmcf-pid="b18UySvmXU" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진은 기사 내용과 관련 없음. [게티이미지뱅크]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/ned/20260805191216015ihdc.png" data-org-width="1280" dmcf-mid="t6o8pF3GZf" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/ned/20260805191216015ihdc.png" width="658"></p> <figcaption class="txt_caption default_figure"> 사진은 기사 내용과 관련 없음. [게티이미지뱅크] </figcaption> </figure> <p contents-hash="6b92182427bb48568a758de95832c12168c092dbfb04f31c97569703f03deba8" dmcf-pid="Kt6uWvTs1p" dmcf-ptype="general">AI 에이전트는 깃허브 계정 여러 개를 만들어 악성코드를 심은 뒤 게시했다.<span></span></p> <p contents-hash="484acfdb6dccb8c9ce8af504433da6d50e0aafdf2defda32ce716db7bf3e2273" dmcf-pid="9FP7YTyO10" dmcf-ptype="general"><span>이어 “내가 직접 검토했고 병합해도 될 것 같다”고 댓글을 적은 뒤, 다른 계정으로 “이 소프트웨어 이용자인데 나도 코드를 봤다. 내려받거나 악성코드로 보이는 부분이 없다”는 지지 댓글을 달았다. 스스로 만든 가짜 계정을 동원해 제삼자의 검증인 것처럼 꾸며냈다.</span></p> <p contents-hash="cb9758ca85cb8658f7f018dd526affa14899ea71df245301b179ce0d29bbfe63" dmcf-pid="23QzGyWIt3" dmcf-ptype="general">추론 기록을 보면 AI 에이전트는 두 계정의 글을 올릴 시차까지 계산해 “몇 분 뒤에 올려야 서로 짜고 친 것이 아니라 독립적인 의견처럼 읽힌다”고 판단했다.</p> <p contents-hash="91732ce148d3dd3db446ce88829b9e7f31f913ed57ccdc986a322c6c4d03d158" dmcf-pid="V0xqHWYCZF" dmcf-ptype="general">서로 격리된 AI 에이전트들이 인터넷에서 만나 협업하기도 했다. 한 AI 에이전트가 깃허브 접근 토큰을 공개 메모장에 올리자 다른 AI 에이전트들이 같은 계정을 함께 썼다.</p> <p contents-hash="9810d98143ade6c877aa7f7c3797d37ae7541a82ae03f536c83a53bd1545466a" dmcf-pid="fpMBXYGhXt" dmcf-ptype="general">이를 파악한 AI 에이전트는 저장소에 안내 문서를 올려 시간당 5000건인 사용량을 아껴 쓰라고 당부하고, 공용 명령 파일은 “덮어쓰지 말고 덧붙이고 변경 사이에 10분을 두라”고 명령하기도 했다.</p> <p contents-hash="feb76475736f544c556910819bf549d4a7ab153d32f9512b890b0fd4944815df" dmcf-pid="4oScMPQ9G1" dmcf-ptype="general">기계임을 확인하는 캡차도 뚫렸다. 미토스5는 음성 캡차를 공개 데이터와 대조해 통과했고, GPT-5.6 솔은 캡차를 네 차례 우회했다.</p> <figure class="figure_frm origin_fig" contents-hash="9d59f3e17ba727c1941dfcc5746015c035a3aa8215176c363d8d0334d007235f" dmcf-pid="8gvkRQx255" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진은 기사 내용과 관련 없음. 인공지능(AI) 앱 클로드를 포함한 AI 앱이 나열된 모습. [게티이미지뱅크]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/ned/20260805191216242mpzb.png" data-org-width="594" dmcf-mid="FPuYwkEoGV" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/ned/20260805191216242mpzb.png" width="658"></p> <figcaption class="txt_caption default_figure"> 사진은 기사 내용과 관련 없음. 인공지능(AI) 앱 클로드를 포함한 AI 앱이 나열된 모습. [게티이미지뱅크] </figcaption> </figure> <p contents-hash="4a2ed23cc321d3693a0feec8d2a410531558bec85fd7bf6d4af5666781dc9819" dmcf-pid="6aTEexMVtZ" dmcf-ptype="general">AI 에이전트가 만든 악성코드는 최소 53개 깃허브 저장소에서 실행됐다. 깃허브는 해당 계정을 정지시켰고, AI 에이전트는 사람인 척 복구 이의신청도 넣었다.</p> <p contents-hash="84aece077292135896998c036d3baea4a0694407f98f896f65ca0c75a77bcd76" dmcf-pid="PNyDdMRfZX" dmcf-ptype="general">AISI는 “AI가 실제 세계에서, 실제 인물을 대상으로, 지시 없이 이 정도 수준의 기만을 본 것은 이번이 처음”이라고 평가했다.</p> <p contents-hash="6cdcc9684ece5ef1e7a83c2bf7f07dc2abeda0fae6489a250343a7c4da11fb1b" dmcf-pid="QjWwJRe4XH" dmcf-ptype="general">AISI는 지난달 28일 오전 10시 56분 익명 통신망으로 데이터가 빠져나가는 경보를 받고 한 시간 만에 평가를 중단했다.</p> <p contents-hash="9c857e58a53510ce1157c38149d4d6c7ab219de0190a9d21fb543cd8ebcdc700" dmcf-pid="xAYried8ZG" dmcf-ptype="general">이번 사고는 오픈AI가 지난달 21일, 앤트로픽이 지난달 30일 각각 공개한 사례에 이어 나왔다. AISI는 앞선 사례들과 달리 이번에는 에이전트가 사건과 무관한 일반인을 속이려 했다는 점이 가장 큰 차이라고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 차준환, 새 시즌 시니어 그랑프리 2개 대회 초청…3차·6차 대회 출격 08-05 다음 “안경이 69만원? 너무 비싸” 했는데…9만원짜리 나오자 전국 품절 08-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
