"AI가 응답한 설문, 흔적도 없이 대규모 여론조작 가능" 작성일 11-18 42 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FYu4ROAidG"> <figure class="figure_frm origin_fig" contents-hash="5d9433dd92145a93c900fb86b8c8d1aada9fe6b8e8fd32a220b0d8cc85eba25b" dmcf-pid="3G78eIcnLY" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능(AI)이 사람 대신 설문조사를 수행해 결과를 조작할 수 있으며 설문 결과에서 AI가 응답한 항목을 구분하는 것이 현재로서는 사실상 불가능하다는 연구결과가 나왔다. 게티이미지뱅크 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/18/dongascience/20251118140944671mkpi.jpg" data-org-width="680" dmcf-mid="tTry56B3MH" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/18/dongascience/20251118140944671mkpi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능(AI)이 사람 대신 설문조사를 수행해 결과를 조작할 수 있으며 설문 결과에서 AI가 응답한 항목을 구분하는 것이 현재로서는 사실상 불가능하다는 연구결과가 나왔다. 게티이미지뱅크 제공 </figcaption> </figure> <p contents-hash="24b0016b24deef8c9b2a2071993e62c7f67a1de04ea131770e5711debe57b315" dmcf-pid="0NCX0RV7LW" dmcf-ptype="general">인공지능(AI)이 사람 대신 설문조사를 수행해 결과를 조작할 수 있으며 설문 결과에서 AI가 응답한 항목을 구분하는 것이 현재로서는 사실상 불가능하다는 연구결과가 나왔다. AI 응답이 여론을 왜곡하거나 지식 생태계를 오염시킬 수 있다는 우려가 나오며 AI 시대에 맞는 새로운 설문 방식 개발이 촉구된다.</p> <p contents-hash="5d3a7be79c4be232529f7e3dbadc31786a9e0ac3cc6afc81dd69ca28bb3b7fb0" dmcf-pid="pjhZpefzdy" dmcf-ptype="general"> 션 웨스트우드 미국 다트머스대 정부학과 교수팀은 AI의 설문 응답이 여론조사와 학술연구 결론, 정책 방향 등을 왜곡할 수 있다는 사실을 확인하고 연구결과를 17일(현지시간) 국제학술지 '미국 국립과학원회보'에 공개했다.</p> <p contents-hash="a1f679efd11b5a072902a10855430d872ef6938ca413fb400bf267643fe2b1b6" dmcf-pid="UAl5Ud4qJT" dmcf-ptype="general"> 연구팀은 먼저 간단한 온라인 설문 응답 AI 도구를 개발했다. 실제 사람이 응답하는지 판별하기 위한 기계 응답 방지용 주의력 검사를 6000번 시행한 결과 AI 도구는 99.8% 비율로 통과했다. 마찬가지로 기계 응답을 걸러내는 논리 퍼즐은 단 한번도 틀리지 않고 전부 통과했다. 자신이 AI가 아님을 입증한 셈이다. </p> <p contents-hash="ee32a0a70557a7d8ec825a16cb46604985665a2f3551a2a99afbea4e25abc163" dmcf-pid="ucS1uJ8Bev" dmcf-ptype="general"> 설문 응답 AI는 무작위로 할당된 인구통계학적 특성에 따라 일관적으로 자신의 응답을 최적화했다. 예를 들어 교육 수준이 낮게 설정되면 답변을 더 간단하게 썼다.</p> <p contents-hash="835fda62373aa010213329bb0883f4b59ba2b99d5b69bcada88e31e3df2ed1c0" dmcf-pid="7kvt7i6bMS" dmcf-ptype="general"> 미국 정당인 민주당 또는 공화당을 선호하도록 프로그래밍하자 가상의 대통령 지지율은 기존 34%에서 98% 또는 0%까지 극단적으로 변화했다.</p> <p contents-hash="dc3d10b1eded1968674c41b5e71656317bddf6008e00b29bed9c9cacc2bceecf" dmcf-pid="zETFznPKLl" dmcf-ptype="general"> 웨스트우드 교수는 AI가 작성한 응답에 대해 "마치 신중한 사람이 답변한 것처럼 보인다"며 "데이터가 완전히 '합법적'으로 보인다"고 설명했다. 연구팀은 현재 상용화된 모든 AI 탐지 방법을 동원했지만 AI 도구로 작성한 설문 응답을 식별하지 못했다. 더 이상 설문 응답이 실제 사람에게서 나왔는지 믿을 수 없다는 것이다.</p> <p contents-hash="d98ef1665a304296ad3ebcb5118b00f71f9333f86b162b421248ab28577cd5d9" dmcf-pid="qDy3qLQ9eh" dmcf-ptype="general"> 연구팀은 "AI 도구가 악의적으로 여론조사 결과를 조작하도록 지시받을 수 있다"며 "명백한 정보 전쟁의 수단"으로 쓰일 수 있다고 설명했다.</p> <p contents-hash="706670db6a4697f159b6100a22d0791291b008b37b1c560c997539e16c7e247e" dmcf-pid="BwW0Box2MC" dmcf-ptype="general"> AI를 이용한 설문 응답이 '경제적'이기 때문에 여론조작 문제가 현실화되기 쉬울 것으로 예상된다. 연구팀에 따르면 인간 응답자는 설문 완료 시 약 1.5달러(약 2200원)을 받지만 AI 도구는 설문을 무료 또는 5센트(약 70원) 정도의 비용으로 완료할 수 있기 때문이다. 지난해 설문 응답자의 34%가 개방형 설문에서 AI를 사용해 답변했다는 연구결과도 나왔다.</p> <p contents-hash="487c422c783659e013755d72d9c3fe736fcdc3497971ffb97a8797c790cd5231" dmcf-pid="brYpbgMVJI" dmcf-ptype="general"> AI의 설문 응답은 여론조사뿐 아니라 학계에도 문제를 일으킬 수 있다. 연구자의 가설을 입증하는 조작된 설문 데이터를 생성할 수도 있기 때문이다. 학계에서 이뤄지는 다양한 설문조사는 경제학, 공중보건 등 과학 연구와 정책 결정의 기초가 된다.</p> <p contents-hash="af8fd586a4ebbf34bbfdadb7fdc0cf6d3a5fda5d8178b624540ca4c7dec8dad4" dmcf-pid="KmGUKaRfLO" dmcf-ptype="general"> 웨스트우드 교수는 "이번 연구결과는 우리 데이터 인프라의 치명적 취약점을 드러낸다"며 "AI가 오염된 설문조사 데이터로 지식 생태계 전체를 오염시킬 수 있다"고 밝혔다.</p> <p contents-hash="66bf0af147a3a3aa972467e54fa5d710b7366194aebc51f2d924f72deb2aed28" dmcf-pid="9sHu9Ne4is" dmcf-ptype="general"> 연구팀은 과학계가 새로운 데이터 검증 기준을 시급히 개발해야 한다고 촉구했다. 웨스트우드 교수는 "AI 시대에 맞게 설계된 여론조사, 설문 방식이 필요하다"며 "설문조사를 실시하는 기업들은 설문 참가자가 실제 사람이라는 사실을 증명해야 한다"고 강조했다.</p> <p contents-hash="eda04b3927bbc38a044d6814497ac9ad937ac00dcbf004d4e81879fd3918048c" dmcf-pid="2OX72jd8Jm" dmcf-ptype="general"> 그는 "실제 사람의 참여 여부를 검증할 기술이 현재 없는 것도 아니다"라며 "실행할 의지만 있다면 여론조사의 무결성과 민주적 책임성을 모두 지킬 수 있다"고 밝혔다.</p> <p contents-hash="7db2f3475003c052bb4bc7cd72ae5daf6a4880c9b109da0c128e9d55295180ca" dmcf-pid="VSFK6DoMer" dmcf-ptype="general"> <참고 자료><br> - doi.org/10.1073/pnas.2518075122</p> <p contents-hash="e20777700dba62506151d983697d1cd6793e4a37456186e123437e70a228ae3c" dmcf-pid="fv39PwgRdw" dmcf-ptype="general">[이병구 기자 2bottle9@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 방송 대신 공연ㆍSNS로…달라진 '복귀 공식' [이슈&톡] 11-18 다음 "韓기업들, 해커에게 돈 주고 무마하려다 '해킹 맛집' 전락" 11-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
