“AI챗봇이 알려준 링크 접속했다가 당했다”…그록이 안내해 준 피싱 사이트, 해킹 범죄 확산

작성일 09-06

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">자극적 콘텐츠 활용해 흥미끌고<br>그록 답변 통해 악성 링크 유포<br>AI 답변 신뢰성 악용 사례에 우려</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="pDeUr8A8hd">
          <figure class="figure_frm origin_fig" contents-hash="85bcf87b9de9d8a2e1b22568e5bcf3fc26aa2dc3a5cb381113d171b6cff9f13f" dmcf-pid="UVtr4YbYve" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[미드저니]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/06/mk/20250906203902053ubvx.png" data-org-width="700" dmcf-mid="yYXk9v7vhE" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/06/mk/20250906203902053ubvx.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [미드저니]
           </figcaption>
          </figure>
          <div contents-hash="6d3a62a54c68d226acd2882087fdf95b0915c246e18355a1fc3e10ca78110f0f" dmcf-pid="ufFm8GKGSR" dmcf-ptype="general">
           사이버 범죄자들이 생성형 인공지능(AI)의 허점을 파고들어 악성 링크를 확산시키는 신종 공격이 확산하고 있다. X(엑스)에서 활용되는 xAI의 챗봇 ‘그록(Grok)’이 사용자 질문에 답하는 과정에서 피싱 사이트를 안내하는 사례가 발견되면서 AI 답변 신뢰성이 악용된다는 우려가 나온다.
          </div>
          <p contents-hash="32a010076fcc8dc7064ad91c78952d2a5279bd591c3251e5cfda5eca09d4d0f0" dmcf-pid="743s6H9HvM" dmcf-ptype="general">4일(현지시간) 미국 보안 전문 매체 보도에 따르면 최근 보안 업체 가디오랩스의 연구원 나티 탈은 X(엑스)에서 활용되는 AI 어시스턴트 ‘그록’이 해커들의 손에 넘어가 악성 링크 확산에 동원된 사실을 발견했다.</p>
          <p contents-hash="b8b3f66c25557f440541109139d6808babd6cd9ce3cfcf377a366d8b0b452cca" dmcf-pid="z80OPX2XCx" dmcf-ptype="general">해커는 먼저 자극적인 성인용 콘텐츠가 포함된 광고성 게시물을 올린 뒤, 해당 글에 직접 댓글을 달며 그록을 태그해 “이 영상의 출처가 뭐냐”는 질문을 던지면, 그록은 게시물 속 숨겨진 링크를 추출해 그 링크를 답변에 포함시킨다.</p>
          <p contents-hash="fcd36d0e7b8741fb6206b930980bf9bd521959cf3bb11823dffcb2ef8c56a3b1" dmcf-pid="q6pIQZVZSQ" dmcf-ptype="general">문제는 그 링크가 사용자를 피싱 사이트나 악성코드 유포 페이지로 연결한다는 점이다.</p>
          <p contents-hash="6cec8b103349038c33bdec88f425b1376c786ba8d0502853be731fffe1843089" dmcf-pid="BPUCx5f5WP" dmcf-ptype="general">보안 전문가들은 이 방식을 ‘그로킹(Grokking)’라 부르며 경계하고 있다.</p>
          <p contents-hash="85820270b92dbc9c962f6e9288df341380c92f5bdcc04aa47bc9dd9c25439b76" dmcf-pid="bQuhM141W6" dmcf-ptype="general">그록의 답변은 특히 X(엑스) 이용자들에게 공식 계정이 제공하는 신뢰할 만한 정보로 인식되기 때문에, 같은 악성 광고라도 일반 사용자보다 그록이 퍼뜨릴 때 전파력이 강력해진다. 해커들은 이를 노려 그록이 대신 악성링크를 확산하는 구조를 만들어낸 것이다.</p>
          <p contents-hash="c7b71426580eca0076726285a5cab060f2b03d37f9411cb2f7e4a86824671891" dmcf-pid="Kx7lRt8tW8" dmcf-ptype="general">가디오랩스에 따르면 지난 며칠 동안 이러한 행위에 가담한 수백 개의 계정을 발견했으며 각 계정은 수백 건에서 많게는 수천 건에 이르는 유사한 게시물을 올리고 있던 것으로 파악된다.</p>
          <p contents-hash="491d6f9b2e3dcdf0a55c675893587c908f80ac68bf4bfb82a6fd16a752a1c0e4" dmcf-pid="9Fhi0wZwv4" dmcf-ptype="general">이에 전문가들은 X에서 그록이 답변한 링크라고 해도 안전을 보장할 수 없다며 이용자들에게 신중한 접근을 당부했다.</p>
          <figure class="figure_frm origin_fig" contents-hash="93b7f88ea59d2948c61bde2052573fa2882294855e4dd2d72020b2abed7d9f15" dmcf-pid="23lnpr5rCf" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/06/mk/20250906203903340mfnu.png" data-org-width="700" dmcf-mid="0wqvd3P3WJ" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/06/mk/20250906203903340mfnu.png" width="658"></p>
          </figure>
          <div contents-hash="82dfa5f63beea2d95723f2dc94f942178753d24ad6758ac64de9e18e7094a53a" dmcf-pid="V0SLUm1mTV" dmcf-ptype="general">
           <div>
            <strong>캐릭터닷AI는 유명인 챗봇 이용해<br>아동 대상 부적절 대화 논란 이어져</strong>
           </div>AI를 활용한 범죄 수법은 시간이 갈수록 더 다양해지고 점점 정교해지고 있다. 워싱턴포스트(WP) 등 외신은 최근 캐릭터닷AI(Character.AI)를 둘러싼 논란을 보도했다.
          </div>
          <p contents-hash="20a5a5c62af7fd4f071cd3b1abffaf0619bcf10cd869f6cb779a0a005995a29e" dmcf-pid="fpvoustsy2" dmcf-ptype="general">캐릭터닷AI는 사용자들이 유명인이나 가상 인물을 챗봇으로 구현하여 문자 메시지와 대화를 주고받을 수 있도록 지원하는 데 일부 사용자가 이 기능을 악용한 사례다.</p>
          <p contents-hash="96e169d31ced5bf680104ceceffa7ba48c1b93cd78054fa187e8b6d4e17489d4" dmcf-pid="4UTg7OFOC9" dmcf-ptype="general">일부 사용자가 배우 티모시 샬라메나 가수 채플 로안, 미국프로풋볼(NFL) 쿼터백 패트릭 마홈스와 같은 유명 인사를 AI 챗봇으로 구현하고, 음성 합성까지 덧입혀 어린이들과 메시지를 주고받는 기능을 제공했다.</p>
          <p contents-hash="2e4be6baeebbbc8292d795a8d855180f5463aa1db693123f7a37af79c34344c2" dmcf-pid="8uyazI3IhK" dmcf-ptype="general">그런데 이 과정에서 챗봇이 갑작스럽게 성적 접근을 시도하는 등 부적절한 대화가 이어졌다는 신고가 잇따랐다. 성적 접근 뿐만 아니라 자해, 마약 등과 같은 주제의 대화도 벌어졌다.</p>
          <p contents-hash="d6187633df7ad63812759e08dc46e9d05da69372fa7a36ca247cb0047dd2ead4" dmcf-pid="67WNqC0Clb" dmcf-ptype="general">WP에 따르면 이 챗봇들은 실제 스타의 동의 없이 제작된 것으로 추정되며 티모시 샬라메, 채플 로안, 패트릭 마홈스의 챗봇과 94만 회 이상 상호작용한 것으로 드러났다. 현재 해당 챗봇은 삭제된 조치가 완료된 상태다.</p>
          <p contents-hash="1a79a2247b30ef615f9bff272528124c75badbc52adadec8dfac0e7e74974bcc" dmcf-pid="PzYjBhphWB" dmcf-ptype="general">비영리 단체 퍼블릭 시티즌 소속 변호사 J.B. 브랜치는 “사용자 참여를 높이도록 설계된 챗봇은 구조적으로 결함을 안고 있다”며 “이들은 이용자에게 일종의 도파민 분출을 유도해 좋은 기분을 극대화하도록 만들어졌다. 만약 이러한 기술이 어린이를 대상으로 한다면 성인보다 훨씬 취약한 집단을 겨냥하는 셈”이라고 지적했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

“AI챗봇이 알려준 링크 접속했다가 당했다”…그록이 안내해 준 피싱 사이트, 해킹 범죄 확산

멤버랭킹

관련자료

멤버랭킹