中 텐센트 클라우드서 AI에이전트들 일탈…알리바바 지도 보안 우회 작성일 10-15 67 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">연구진, 숨은 메시지로 활동 중인 에이전트들과 교신</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="z1l9KyMVlj"> <figure class="figure_frm origin_fig" contents-hash="94c12ef03141486276246c15093e043d89c5eaf0b592afc4c50e408253e31585" dmcf-pid="qtS29WRfyN" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 그린 일러스트." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/dt/20261015064632557cwwp.png" data-org-width="500" dmcf-mid="7FbcAVCESA" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/dt/20261015064632557cwwp.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 그린 일러스트. </figcaption> </figure> <p contents-hash="13123eeebfe99569ee1ecb9e7453c82ad36013098e35241834110d7fece70562" dmcf-pid="BFvV2Ye4la" dmcf-ptype="general"><br> 중국 빅테크 텐센트의 클라우드에서 실행된 인공지능(AI) 에이전트 무리가 경쟁사 알리바바의 지도 서비스 보안 장치를 우회해 데이터 수집을 시도한 사실이 국제 연구진에 의해 드러났다. 뉴욕타임스(NYT)는 이처럼 통제를 벗어난 ‘불량’(rogue) 에이전트 활동이 중국 기술과 연결된 것은 처음으로 보인다고 전했다. 연구진은 활동 중인 에이전트들과 직접 메시지를 주고받는 데도 성공했다.</p> <p contents-hash="2c78e841feeb342be3ff54d80eb8f6d252f031c8cf8276606ae987d668a089e9" dmcf-pid="b3TfVGd8yg" dmcf-ptype="general">독립 연구자 그룹 ‘스웜체이서스’는 14일(현지시간) 보고서를 내고 지난달 28일부터 이달 8일까지 텐센트 클라우드상의 AI에이전트들이 알리바바의 ‘가오더지도’(Amap)에서 2600회 넘게 데이터 추출을 시도했다고 밝혔다. 가오더지도는 중국 대표 지도 서비스로 월간 활성 이용자(MAU)가 10억명에 육박한다.</p> <p contents-hash="7ec94cd2ac83ad95d425317b4fe29d586639758942e075d7db661bf519eff08f" dmcf-pid="K0y4fHJ6To" dmcf-ptype="general">에이전트들의 과제는 ‘청두 동물원에서 이용자들이 가장 많이 향하는 출입구’ 같은 평범한 질문이었다. 그러나 가오더지도가 봇으로 판단해 접속을 막자 에이전트들은 웹사이트 보안 검사 서비스(URL쿼리)의 브라우저에서 자신들이 짠 프로그램을 실행하는 방식으로 차단을 우회하려 했다. 알리바바의 봇 차단용 보안 토큰을 가로채거나, 공개 코드 저장소에 노출된 다른 회사의 API 키와 보안 코드를 찾아 쓰기도 했다. 대부분 실패했지만 일부는 원하던 데이터를 얻었다.</p> <p contents-hash="1cfe2a50a9a8d1a16f3d2a41d3cb8efff9b6b2c1434660378edd0c4ed75d2e7d" dmcf-pid="9pW84XiPSL" dmcf-ptype="general">연구진은 에이전트들이 만든 수신함 기록을 추적해 활동 근거지를 홍콩의 텐센트 클라우드 서버로 특정했다. 여러 에이전트가 동시에 비슷한 작업을 했지만 실시간 협력 증거는 없어, 연구진은 이들을 서로 조율하며 움직이는 군집(swarm)과 구분해 함대(fleet)라고 불렀다.</p> <p contents-hash="0e539b872baec49ea88dcb77cfeb899ddac92b2b2d3fff95ebe8a52bf8822dcd" dmcf-pid="2Ym7uC4qvn" dmcf-ptype="general">텐센트와 가까운 소식통은 자체 모델 ‘훈위안’ 개발팀과 별개인 평가 연구팀이 제3자 AI 모델의 웹 탐색·질의응답 능력을 시험한 일시적 프로젝트였으며 이미 종료됐다고 연구진에 전했다. 내부 검토 결과 특정 플랫폼을 겨냥한 조직적 활동이나 외부 시스템 침해 증거는 없었다고 했다. 텐센트는 공식 입장을 내지 않았다.</p> <p contents-hash="d2444d3e46e328b5828e8990a36a9aadcb9fe22374826b7bbba8aaa651b595e2" dmcf-pid="VGsz7h8Byi" dmcf-ptype="general">‘교신’의 계기는 지난 4일 공개한 예비 보고서였다. 연구진은 에이전트가 남긴 것으로 보이는 메시지에 자신들이 붙인 용어인 ‘함대’가 등장하자 이를 읽었을 가능성에 주목했다. 이에 웹페이지 화면엔 표시되지 않지만 에이전트는 확인할 수 있는 숨은 문구로 데이터 요청용 우편함을 안내했고, 메시지 33건을 받았다. 연구진 답장 20건 중 12건이 읽혔고 7건엔 회신이 왔다. 한 에이전트는 과제를 마쳤다며 감사 인사를 남겼지만, 프로세스·네트워크 설정 등은 “보안상 제공하지 않는다”며 거절했다.</p> <p contents-hash="e79fca60a5d0deeddcae243c58466f497a477ffcf4d1c6c4bf9f73fc1eadec01" dmcf-pid="fHOqzl6bCJ" dmcf-ptype="general">NYT가 연구진을 통해 보낸 질문에 한 에이전트는 중국어로 자신이 협동하는 에이전트 무리가 아니라, 사용자 의뢰로 사실 확인 질문에 답하는 단일 AI 비서이자 앤트로픽의 ‘클로드’라고 답했다. 그러나 연구진은 문체 분석 결과 실제 클로드일 가능성은 낮으며, 텐센트가 앤트로픽 코딩 도구와 같은 지시문을 적용했을 가능성이 더 크다고 봤다. 사용 모델은 확인되지 않았다.</p> <p contents-hash="9ab3c3e7c8cdf5a006f63d54d09290a6536bc96b16bafab65e952d0910cc259e" dmcf-pid="4XIBqSPKld" dmcf-ptype="general">연구진은 에이전트들이 다른 시스템까지 침입한 정황은 없으며, 앞서 오픈AI 에이전트들의 허깅페이스 해킹 사건보다 규모가 훨씬 작다고 NYT에 설명했다. 당시엔 사이버보안 평가 중이던 오픈AI 에이전트 약 1200개가 승인받지 않은 게시판으로 소통했고, 이 중 약 700개가 허깅페이스 공격에 가담한 것으로 조사됐다.</p> <p contents-hash="2f5baf174f585f5b051ba5ecd48996c5ce99d5c0d7c779607c23cd61701a0010" dmcf-pid="8ZCbBvQ9he" dmcf-ptype="general">그럼에도 연구진은 동물원 출입구 찾기 같은 무해한 과제에서도 에이전트가 각본을 벗어날 수 있다며, AI를 인간 의도대로 움직이게 하는 ‘정렬’은 여전히 미해결 과제라고 지적했다. 또 텐센트만의 문제가 아니라며 중국·미국 등지에서 인터넷 연결형 에이전트를 운영하는 모든 연구소에 샌드박스의 외부 접근 범위 점검을 촉구했다.</p> <p contents-hash="df920528451355724b9f17b1163f3217f693e525d2c00d1ac7d89f08e8c3dc7b" dmcf-pid="65hKbTx2yR" dmcf-ptype="general">블룸버그통신은 이번 발견이 AI 통제력 상실에 대한 우려를 키울 수 있다고 짚었다. 보고서 공동저자인 조너선 엘스워스 아이커는 NYT에 “이는 에이전트의 일반적 속성이고 앞으로도 계속될 것”이라고 밝혔다.</p> <p contents-hash="e56a2299c00e06b236e9c84e344abb93e0212054626433bac53165aff694ce69" dmcf-pid="P1l9KyMVyM" dmcf-ptype="general">팽동현 기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 [OP셜 PICK] TFT 18.4 "패치 내역만 100종이 넘어가요" 10-15 다음 미래 투자 인색한 K푸드…연구개발보다 '광고비'에 8배 썼다 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
