AI 봇에 점령 당한 X…'유령 게시글'에 몸살 작성일 04-07 133 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">산업리포트<br>X에 부분 유료화 도입이 화근<br>조회수 돈벌이에 유령계정 봇물<br>생성AI 답변 생성체계 방해 가능<br>AI활용한 신종 마케팅 활발<br>유령 AI 100% 퇴치는 불가능</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="b4hohwphlo"> <figure class="figure_frm origin_fig" contents-hash="aec9d69e039019eaf43860b4d9779713f6cab52222fcf11cd77d1688788fa538" dmcf-pid="KPvNvs7vyL" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/07/ked/20250407161204397vwbl.jpg" data-org-width="1036" dmcf-mid="BNdqd6sdWg" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/07/ked/20250407161204397vwbl.jpg" width="658"></p> </figure> <p contents-hash="eee68b1c6dec6145efa8c751da7100fc24d98a0905135e51512d66f6596d4e43" dmcf-pid="9QTjTOzTvn" dmcf-ptype="general"><br>“인공지능(AI) 봇을 완벽하게 없애겠다.”</p> <p contents-hash="2b30f1c7189efa075218565d1578620d1eb098b9d3a60a9dcb31d1120200d0dc" dmcf-pid="2xyAyIqySi" dmcf-ptype="general">일론 머스크 테슬라 최고경영자(CEO)는 2023년 10월 트위터(현 X)를 인수할 당시 이렇게 선언했다. 하지만 SNS 전문가들은 “머스크가 자신한 선언은 모두 무용지물”이라는 평가를 내놓고 있다. 머스크의 인수 이전보다 AI 챗봇 문제가 더욱 심각해졌다는 것이다. X의 검색 체계가 AI 봇에 점령당해 사실상 ‘회복 불능’ 상태라는 주장마저 나온다.</p> <p contents-hash="79c86076467cb9907dd96ff086d4040f68bc466cf9c1c90d397a8a1e5796b5a0" dmcf-pid="VMWcWCBWWJ" dmcf-ptype="general"><strong><span>◇심각해진 ‘유령 계정’</span></strong></p> <p contents-hash="0af8578d877b434aafe207b24f4bf09d6083550588190165d07614623be9512a" dmcf-pid="fRYkYhbYvd" dmcf-ptype="general">X를 비롯해 SNS가 ‘유령 계정’으로 몸살을 앓고 있다. 사람과 AI 챗봇을 구분하기 위한 CAPTCHA(자동화된 공개 튜링 테스트)까지 통과한 AI 챗봇들이 이미 X를 점령하고 있다는 말이 나올 정도다. AI에 의해 운영되는 이들 유령 계정을 활용한 신종 마케팅 기법도 우후죽순처럼 생겨나고 있다.</p> <p contents-hash="44fd800a8d3dc677ba430da9a2f5655072f5bd899a3e4e0c1467957540a45e13" dmcf-pid="4eGEGlKGhe" dmcf-ptype="general">머스크가 지난해 X에 부분 유료화를 도입한 것이 화근이 됐다. 게시글 조회수에 따라 수익을 받는 방침을 도입했기 때문이다. 조회수가 돈벌이가 되자 수익 창출을 원하는 이용자가 여러 유령 계정을 활용하기 시작했다. AI 특성상 무한히 게시글을 올릴 수 있기 때문에 갈수록 의미 없는 게시물이 X를 뒤덮고 있다.</p> <p contents-hash="b1fed871dc4652fb85b0bc6ddc8e84ec9ed76fcb8297fbc91a3d27d0620f5ef5" dmcf-pid="8dHDHS9HlR" dmcf-ptype="general">전문가들이 우려하는 가장 큰 문제는 유령 AI가 챗GPT와 제미나이 등 생성형 AI의 답변 생성 체계를 방해할 수 있다는 점이다. 생성 AI는 웹에 흩어진 정보를 기반으로 답변을 생성하기 때문에 AI 봇이 만드는 가짜 트윗과 정보성 게시글에 영향을 받을 수 있다. AI 봇들이 자기들끼리 생성하는 ‘깡통 대화’도 문제로 꼽힌다.</p> <p contents-hash="fe2cd1ccee199fa7b91c5fa2f361533794b15179739c74c045dc34b1ed57405b" dmcf-pid="6JXwXv2XlM" dmcf-ptype="general">지난해부터 X는 AI 봇의 트윗 생성을 막기 위해 일부 국가에서 봇이 아님을 증명하는 프로그램을 운영하기 시작했지만 무용지물이라는 의견이 지배적이다. 최근 호주 퀸즐랜드대 연구팀은 인증 마크를 받은 계정 중 50%가 AI 봇임을 입증했다.</p> <p contents-hash="4653808a0ff4d91a13aeea0a58f0f099985fbd3f90bc28bb2650e3ec5516d294" dmcf-pid="PiZrZTVZvx" dmcf-ptype="general"><strong><span>◇AI 활용 마케팅 치열</span></strong></p> <p contents-hash="4e60f11a940cb286f62987904dee55e03031a3f398148f604dbc015a11328eab" dmcf-pid="Qn5m5yf5vQ" dmcf-ptype="general">보안업계 전문가들은 유령 AI를 100% 제거하는 것은 불가능하다고 지적한다. 이미 ‘시장 논리’가 강하게 작동하고 있는 것이 가장 큰 걸림돌이다. 중동, 인도를 중심으로 ‘트윗 봇’을 전문으로 판매하는 업자가 계속 늘어나는 추세다. 파키스탄을 기반으로 활동하는 컴퓨터공학자 아와이스 유사프는 자신의 홈페이지를 통해 ‘챗GPT 트윗 봇’을 판매하고 있다. 얼마나 복잡한 게시글을 생성하는지에 따라 최소 30달러에서 최대 500달러까지 가격을 책정했다.</p> <p contents-hash="dde69a4fb9d5a308552ca25b405bff40f2e44e9c2861d605bf84f4ae06f4bc6a" dmcf-pid="xL1s1W41SP" dmcf-ptype="general">X를 활용해 마케팅을 펼치는 국내 브랜드들은 이 같은 상황에 불만을 토로했다. 유통업계 관계자는 “젊은 여성 잠재 고객이 많이 모인 X 특성상 홍보 창구로서 버릴 수 없는 존재”라며 “AI 봇이 게시글에 너무 많이 붙어 실제 고객의 반응을 살필 수 없다”고 말했다. AI업계 관계자는 “유령 챗봇 대부분이 챗GPT를 사용하고 있다”며 “이론상 유령을 모두 없애려면 xAI가 챗GPT 성능을 압도적으로 뛰어넘어야 하는데 요즘과 같은 오픈소스 시대에 하나의 생성 AI만이 성능 우위를 점하는 것은 사실상 불가능하다”고 말했다.</p> <p contents-hash="08a047f0ac36e064e123204e4780b49c5262cdf588458d2b1e48eeec5378610c" dmcf-pid="yN0h0XQ0l6" dmcf-ptype="general">최지희 기자 mymasaki@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 네이버 '브리핑' 이어 SKT '에이닷'…AI 검색 서비스 주도권 싸움 04-07 다음 KT DS, AX에반젤리스트 양성 박차...MS 기술 역량 강화 집중 04-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
