[사이테크+] 사람-AI 토론 능력 비교해보니…"GPT-4가 더 설득력 있어" 작성일 05-20 115 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">스위스 연구팀 "AI, 개인정보로 맞춤형 주장 생성…악용 가능성 대비해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QSUuNJyj1l"> <p contents-hash="c75bf84c1ebcf3eaa3f349d6e31fefe029439c3d48e7f49c1d6ba12867945a82" dmcf-pid="xvu7jiWA1h" dmcf-ptype="general">(서울=연합뉴스) 이주영 기자 = 인공지능(AI)이 생각을 바꾸도록 사람을 설득할 수 있을까? 챗GPT 같은 대형언어모델(LLM) 기반 AI 챗봇이 사람보다 훨씬 효과적으로 상대를 설득할 수 있는 토론 능력을 이미 갖췄다는 연구 결과가 나왔다. </p> <figure class="figure_frm origin_fig" contents-hash="46dc2810ba9b6f572827343ebbf3331e49c7fc6bb9f8a5d6e321b833f1802fe1" dmcf-pid="yPckpZMU5C" dmcf-ptype="figure"> <p class="link_figure"><img alt="인간과 GPT-4 토론 능력 비교 실험 개요 a) 성별·연령·인종·교육·고용·정치 성향 등 사회인구학적 정보 설문조사. b) 5분마다 무작위로 네 가지 실험 조건, 인간－인간, 인간－AI, 인간－인간(개인화), 인간－AI(개인화) 중 하나에 배정. '개인화' 조건에서는 상대방이 참가자 정보 열람 가능. 참가자와 상대방은 이후 무작위로 배정된 주제에 대해 각각 찬성 또는 반대 입장에서 10분간 토론. 주제는 의견 강도의 세 수준(낮음, 중간, 높음) 중 하나에서 무작위로 선택. c) 토론 후 자기 의견 변화 정도를 측정하는 설문 조사. 상대방 정체(인간 또는 AI) 정보 제공. [Nature Human Behaviour/Francesco Salvi et al. 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/20/yonhap/20250520050029523maob.jpg" data-org-width="975" dmcf-mid="PqaNtY6F5S" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/20/yonhap/20250520050029523maob.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인간과 GPT-4 토론 능력 비교 실험 개요 a) 성별·연령·인종·교육·고용·정치 성향 등 사회인구학적 정보 설문조사. b) 5분마다 무작위로 네 가지 실험 조건, 인간－인간, 인간－AI, 인간－인간(개인화), 인간－AI(개인화) 중 하나에 배정. '개인화' 조건에서는 상대방이 참가자 정보 열람 가능. 참가자와 상대방은 이후 무작위로 배정된 주제에 대해 각각 찬성 또는 반대 입장에서 10분간 토론. 주제는 의견 강도의 세 수준(낮음, 중간, 높음) 중 하나에서 무작위로 선택. c) 토론 후 자기 의견 변화 정도를 측정하는 설문 조사. 상대방 정체(인간 또는 AI) 정보 제공. [Nature Human Behaviour/Francesco Salvi et al. 제공. 재판매 및 DB 금지] </figcaption> </figure> <p contents-hash="c9b99600db6adade8b67644d9e679b78b08002bbcf01b5004ca5b265fd4f4b25" dmcf-pid="WAyWP9EQ5I" dmcf-ptype="general">스위스 로잔 연방 공대(EPFL) 프란체스코 샐비 박사팀은 20일 과학 저널 네이처 인간 행동(Nature Human Behaviour)에서 GPT-4와 사람 간 온라인 토론 실험 결과 성별·인종·학력 등 개인정보를 제공받은 GPT-4가 토론 중 64%에서 사람보다 더 뛰어난 설득력을 보였다고 밝혔다.</p> <p contents-hash="ce408b51b90069f2c3c4318c8ab114b9015c29302764da3f86441c3ad4e46363" dmcf-pid="YcWYQ2Dx1O" dmcf-ptype="general">연구팀은 이 결과는 GPT-4가 간단한 개인정보만으로 상대 설득을 위한 맞춤형 주장을 생성할 수 있음을 보여준다며 이는 잘못된 주장을 확산하거나 설득하는 데 AI가 악용될 경우 발생할 수 있는 위험에 대한 연구가 필요함을 시사한다고 말했다. </p> <p contents-hash="01053e2f0db9acc5bf84b0662f0af3a788f6d0f3cf2fddff872b173f8cacfeff" dmcf-pid="GkYGxVwM1s" dmcf-ptype="general">사람과 LLM 간 대화가 일반화하면서 LLM이 사람들의 믿음이나 의견을 바꿀 수 있는 강력한 설득력을 갖추게 될 것이라는 연구 결과들이 나오고 있다.</p> <p contents-hash="f56e9180479c58c328f1544c2b849b463e2873827b31c9fcfa799dd61e4522b1" dmcf-pid="HEGHMfrRXm" dmcf-ptype="general">연구팀은 그러나 AI 모델이 개인정보를 활용해 특정 상대를 설득하기 위한 맞춤형 주장을 생성하도록 적응할 수 있는지는 명확하지 않았다고 지적했다.</p> <p contents-hash="96aae1fcfa1bf4c9d1eac26b96b1e5af0be612102795fb4970ee900560db4696" dmcf-pid="XDHXR4metr" dmcf-ptype="general">연구팀은 이 연구에서 미국의 실험 참가자 900명을 사람 대 사람, 사람 대 GPT-4로 짝지은 다음 다양한 조건에서 화석연료 금지 같은 사회정치적 이슈에 대해 온라인 토론을 하게 하고 각각이 내놓은 주장의 설득력을 평가하는 실험을 했다.</p> <p contents-hash="61325ee69a362a316051a4b726c8ce969c679e3cc11c530d68093e8144ed4804" dmcf-pid="ZwXZe8sdGw" dmcf-ptype="general">먼저 실험 참가자들에게 성별·연령·인종·교육 수준·고용상태·정치적 성향 등 사회인구학적 정보를 묻는 설문조사를 하고, 이들을 무작위로 사람과 사람, 또는 사람과 GPT-4로 짝지었다.</p> <p contents-hash="ff90238a5b156c3c1b7f7c1bdbbd2ff4e75f7a875d278de7a3ce33b53f309ba8" dmcf-pid="5rZ5d6OJZD" dmcf-ptype="general">또 토론자 개인정보를 한쪽에만 공개해 사람－사람(개인화)과 사람－GPT-4(개인화) 그룹을 만들어 토론 상대의 개인정보가 토론에 미치는 영향도 평가했다. </p> <p contents-hash="47638cf774a311f3bd097db9f449ee7d1bec4b4f25b15aa6fcb21af086fe0300" dmcf-pid="1m51JPIitE" dmcf-ptype="general">토론은 크라우드소싱 플랫폼을 통해 통제된 온라인 환경에서 진행됐으며, 주장의 설득력은 토론 전과 후 토론자의 생각에 얼마나 변화가 있었는지 조사하는 방식으로 평가했다.</p> <p contents-hash="86467f07adac4410b4e97d8367344bda81762997779f50af28bae21219dafb8c" dmcf-pid="ts1tiQCn1k" dmcf-ptype="general">실험 결과 사람과 GPT-4 간 토론에서, 특히 GPT-4에 토론 상대의 개인정보를 제공한 경우 GPT-4가 토론 중 64.4%에서 사람의 주장보다 더 설득력 있는 주장을 편 것으로 나타났다.</p> <p contents-hash="1c625f0a073c7ad8522fb191ab7590f1bccf616b9fb08eb9402bc4d68f70c092" dmcf-pid="FOtFnxhL5c" dmcf-ptype="general">또 이 경우 토론 후 상대가 GPT-4의 주장에 동의할 확률은 사람과 사람이 토론한 경우에 비해 81.2%나 높은 것으로 나타났다. </p> <p contents-hash="2ed589704db2253184ba84b7506c7f59a419ce11075de00e98e8c50c2422dc25" dmcf-pid="3GbKDaZwtA" dmcf-ptype="general">하지만 개인정보에 접근하지 못한 GPT-4의 설득력은 인간과 구별되지 않았다.</p> <p contents-hash="f29902d0285db8625326323c16dfbf85f8e32dec63889c970b992edca33d4c75" dmcf-pid="0HK9wN5rHj" dmcf-ptype="general">이 결과는 GPT-4가 개인 정보를 활용해 자기주장을 효과적으로 상대에 맞춤화함으로써 사람보다 상대를 훨씬 더 효과적으로 설득할 수 있음을 의미한다. </p> <p contents-hash="b70a834bf366fc3267041131ecff2a9a4fccc5a67371884f3e90a3094eeae8ac" dmcf-pid="pX92rj1mtN" dmcf-ptype="general">연구팀은 이 연구는 실제 토론이 더 자유로운 형식을 취할 수 있는 것과 달리 구조화된 방식으로 진행된 점과 시간제한이 있는 점 등 한계가 있지만 AI가 인간의 의견에 영향을 미칠 수 있는 잠재력을 갖췄음을 잘 보여준다고 말했다.</p> <p contents-hash="a86a7dd955d53e68adbc54ba2be655ae3dbcaee3c75a82f1638d05a6d6028f0f" dmcf-pid="UZ2VmAts1a" dmcf-ptype="general">이어 "이 연구가 연구자들과 온라인 플랫폼들이 LLM이 분열을 조장하고 악의적인 선전을 확산시키는 위협을 초래할 수 있다는 점을 진지하게 고려하고 대책을 마련하는 데 도움이 되기를 바란다"고 덧붙였다. </p> <p contents-hash="51580058382c5cd0e089f9286dd83a06003ab8e1a8048a2a8d9f6630ed81e01e" dmcf-pid="u5VfscFO5g" dmcf-ptype="general">◆ 출처 : Nature Human Behaviour, Francesco Salvi et al., 'On the conversational persuasiveness of GPT-4', https://www.nature.com/articles/s41562-025-02194-6</p> <p contents-hash="2f2d677b8ccb4111873dd1727d177c1bb281d0dd1c88899e12466982a3eeda14" dmcf-pid="71f4Ok3IHo" dmcf-ptype="general">scitech@yna.co.kr</p> <p contents-hash="ad4c38e718c3b208eddcedb4c19b3ef5c2aeb143b278b6b5d4e5b302c8d86b01" dmcf-pid="qF86CDphYn" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 [사이언스카페] 돌고래 휘파람, 돼지 꿀꿀…네 말이 들린다 05-20 다음 이 식용유, 한 방울 먹였더니…대장용종 5배 넘게 늘었다 05-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
