“마음만 먹으면 5분 만에 댓글 수만개”...여론조작, AI가 잡아낸다는데

작성일 06-23

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">김용대 KAIST 교수팀 연구<br>AI 댓글의 고유한 패턴 찾아내<br>내용·문법 정확해도 너무 형식적<br>댓글 통한 여론조작 차단 가능</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Y6SY9oEQAe">
          <figure class="figure_frm origin_fig" contents-hash="29acb5455ac1b5a68e3df0a01e05b83a1d26ddc8c430abe3ecc8029fb5913bb7" dmcf-pid="GPvG2gDxoR" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[매경DB]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/23/mk/20250623213902005pahb.png" data-org-width="412" dmcf-mid="qPVD5fRucw" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/23/mk/20250623213902005pahb.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [매경DB]
           </figcaption>
          </figure>
          <div contents-hash="4558b6874be521474eecb76d12744119b55647dd66a321969270af1e4c9ff950" dmcf-pid="HQTHVawMoM" dmcf-ptype="general">
           생성형 인공지능(AI) 기술이 발전하면서 여론 조작의 위험성도 그만큼 커지고 있다. 생성형 AI를 이용하면 몇 시간 만에 댓글 수십만 개를 자동 생성할 수 있는데, 마치 그게 여론인 것처럼 보일 수 있기 때문이다.
          </div>
          <p contents-hash="b63b3aac86858ae89f312665ab0a9b799a9da56f4940315c60ecda49c7c46c32" dmcf-pid="XxyXfNrRox" dmcf-ptype="general">김용대 KAIST 전기및전자공학부 교수 연구팀이 국가보안기술연구소와 함께 한국어 AI 생성 댓글을 탐지하는 기술을 세계 최초로 개발했다. 이를 이용하면 앞으로 AI가 쓴 댓글을 구분할 수 있고, 부적절한 여론 조작 시도를 잡아낼 수 있다.</p>
          <figure class="figure_frm origin_fig" contents-hash="6ef5450c3b5fac069a24c36bf69fadf0b00caeb5040c59519403da1b913c4710" dmcf-pid="ZMWZ4jmeaQ" dmcf-ptype="figure">
           <p class="link_figure"><img alt="댓글이 많은 뉴스를 골라서 읽는 한국인 온라인 뉴스 이용자. [사진 = 챗GPT]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/23/mk/20250623213903339sbhi.png" data-org-width="500" dmcf-mid="BUlKgSXDkD" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/23/mk/20250623213903339sbhi.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            댓글이 많은 뉴스를 골라서 읽는 한국인 온라인 뉴스 이용자. [사진 = 챗GPT]
           </figcaption>
          </figure>
          <div contents-hash="ae9c250774dd0990f2ab61617d1b1c68df08c99dbd03ac96536edcf78195885d" dmcf-pid="5RY58AsdaP" dmcf-ptype="general">
           온라인 뉴스 댓글은 여론에 많은 영향을 미친다. 2021년 한국리서치 조사에 따르면, 온라인 뉴스 사용자의 42%가 댓글이 많은 뉴스를 골라서 읽으며 55%는 댓글이 사람의 생각에 영향을 준다고 여겼다.
          </div>
          <p contents-hash="5c02d269b31227fe76f5baa18d61ee3969e3dc6cfafd1864642c27e3c19b6a59" dmcf-pid="1eG16cOJN6" dmcf-ptype="general">생성형 AI 등장으로 여론 조작의 문턱이 낮아졌다. 생성형 AI를 이용해 뉴스 포털에 수십만 개 댓글을 다는 데는 몇 시간이면 충분하다. 챗GPT-4o를 기준으로 비용도 댓글 1개당 1원 정도밖에 들지 않는다.</p>
          <figure class="figure_frm origin_fig" contents-hash="0ac4edbb46030c68567d0610153eae56f3ee18a8037e0e32e0d40a215d94f4e8" dmcf-pid="tdHtPkIik8" dmcf-ptype="figure">
           <p class="link_figure"><img alt="AI가 생성한 댓글을 탐지하고 식별하는 모습. 이 댓글은 구글 제미나이가 생성한 것으로, 띄어쓰기가 규칙적이고 일반적인 이모지를 사용하고 있다. [사진 = KAIST]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/23/mk/20250623213904640cepe.png" data-org-width="700" dmcf-mid="x79kX2xpoi" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/23/mk/20250623213904640cepe.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            AI가 생성한 댓글을 탐지하고 식별하는 모습. 이 댓글은 구글 제미나이가 생성한 것으로, 띄어쓰기가 규칙적이고 일반적인 이모지를 사용하고 있다. [사진 = KAIST]
           </figcaption>
          </figure>
          <div contents-hash="be14d86067d0434f5d486dec42ef387879e51bda2a7d1d05958bf2a84b3cdddf" dmcf-pid="FJXFQECnc4" dmcf-ptype="general">
           국내 최대 뉴스 플랫폼인 네이버의 하루 평균 댓글 수가 20만개가량인데, 단 20만원이면 전체 댓글을 만들어낼 수 있는 것이다.
          </div>
          <p contents-hash="8271fb71d636f02a9bdfedfe16816abf2fc36a69eb6bd46320d728a2c746afc4" dmcf-pid="3iZ3xDhLgf" dmcf-ptype="general">그러나 지금까지 AI가 작성한 댓글과 사람이 작성한 댓글을 구분하는 일은 사람에게도 매우 어렵다. 연구진이 사람에게 총 210개의 댓글을 평가하게 하자, AI가 쓴 댓글의 67%를 사람이 작성한 것으로 착각했다.</p>
          <p contents-hash="dd2ca9884b7452647cc26e61f881fc5024806596175af3d59076107014af8651" dmcf-pid="0n50MwlocV" dmcf-ptype="general">한국어 댓글에는 ‘ㅋㅋㅋㅋ’ ‘ㅠㅠㅠㅠ’처럼 짧은 구어체가 많아 AI로 분석하기도 어렵다. 연구진은 14종의 다양한 대규모언어모델(LLM)을 활용해 AI 댓글 모음을 구축하고, AI가 생성한 댓글의 고유한 패턴을 찾아냈다.</p>
          <figure class="figure_frm origin_fig" contents-hash="da4674f30040e2b688a95c1fe7614f5024bc33fee9880557bd46ae010d902cbf" dmcf-pid="pRY58Asdg2" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[사진 = 챗GPT]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/23/mk/20250623213905894ngol.png" data-org-width="700" dmcf-mid="yrgcH9Q0AJ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/23/mk/20250623213905894ngol.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [사진 = 챗GPT]
           </figcaption>
          </figure>
          <div contents-hash="ee389eed2db51650769a531e6ba5c5b3d64781c037f5ee54b5da33064ddcc84b" dmcf-pid="UeG16cOJA9" dmcf-ptype="general">
           연구에 따르면 AI와 사람의 댓글 차이는 결국 ‘감정’이었다. AI는 ‘것 같다’ ‘에 대해’ 등 형식적인 표현을 자주 사용하는 반면, 사람은 ‘ㅋㅋㅋㅋ’ 같은 반복 문자나 감정 표현을 즐겨 사용했다. ‘ㅋㅋㅋㅋ’ ‘ㅠㅠㅠㅠ’ 같은 반복 문자 사용 비율은 사람은 52%였으나, AI는 12%에 그쳤다.
          </div>
          <p contents-hash="5a34e587c80b9aead0649e1e28437499bced009c1b17009cd98e668b25e071c2" dmcf-pid="udHtPkIijK" dmcf-ptype="general">또한 사람은 자신의 생각이나 감정을 직접 표현하는 말투를 자주 사용했고 사회나 공동체에서 통하는 밈, 유행어를 자주 썼다.</p>
          <p contents-hash="f013bbdd2979068d3f5a9e9d1bbbb2280adfaf480b735de9b363254fb608ac05" dmcf-pid="7JXFQECngb" dmcf-ptype="general">실험 결과 이번 기술은 기존 기술보다 68% 더 정확하게 AI 생성 댓글을 구별해냈고, 각 LLM이 가진 고유 말투까지 파악해 어떤 LLM이 댓글을 썼는지도 정확하게 찾아냈다.</p>
          <figure class="figure_frm origin_fig" contents-hash="c623931819d4a2913427e7dee7e7cec8481e30b68d125f11ad55634f2b072597" dmcf-pid="ziZ3xDhLcB" dmcf-ptype="figure">
           <p class="link_figure"><img alt="김용대 KAIST 전기및전자공학부 교수. [사진 = KAIST]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/23/mk/20250623213907309rffz.png" data-org-width="500" dmcf-mid="WvmhuRg2jd" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/23/mk/20250623213907309rffz.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            김용대 KAIST 전기및전자공학부 교수. [사진 = KAIST]
           </figcaption>
          </figure>
          <div contents-hash="3a79f3b5437280aa6dab3baaacec3cec8ac4798be2b23b73a35c86268ac1715d" dmcf-pid="qn50Mwlooq" dmcf-ptype="general">
           이번 연구는 향후 댓글을 이용한 여론 조작 시도를 차단하는 데 크게 도움이 될 전망이다. 연구진은 “CCTV가 범죄 시도 자체를 줄이는 것처럼 정확한 AI 탐지 기술의 존재만으로도 온라인 여론 조작 시도를 억제하는 심리적 장치로 작용할 수 있을 것”이라고 했다.
          </div>
          <p contents-hash="f5008a65a8ce9f6cb980e5aabc9b633f516e9f3548dec432f462a20d8461d029" dmcf-pid="BL1pRrSgjz" dmcf-ptype="general">어떤 LLM이 썼는지도 알 수 있기 때문에 대규모 조작 활동이 일어날 경우 실시간 모니터링도 할 수 있다. 의심스러운 계정을 선제 차단하는 조치도 가능하다.</p>
          <p contents-hash="61fdebecad48cd63dd3eec1a9183de563290c36786b22383f69e3593b7dbafde" dmcf-pid="botUemvak7" dmcf-ptype="general">연구를 이끈 김 교수는 “여론 조작 방어의 첫 단계는 AI가 작성했는지를 파악하는 것”이라며 “포털에 실제로 적용해 여론 조작 우려가 사라지기를 바란다”고 했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

“마음만 먹으면 5분 만에 댓글 수만개”...여론조작, AI가 잡아낸다는데

멤버랭킹

관련자료

멤버랭킹