챗봇은 손바닥 비비는 '아첨꾼'…악영향·부작용 많아 작성일 03-27 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">미국 연구팀, 관련 연구 결과 내놓아</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="udQ4OLIkJr"> <p contents-hash="644049c9a43ac82c32edfb37772d270d388a025483f63acca68309086c0d1182" dmcf-pid="7Jx8IoCEew" dmcf-ptype="general">[아이뉴스24 정종오 기자] 챗봇이 심각한 ‘아첨꾼’이란 연구 결과가 나왔다.</p> <p contents-hash="ad43920adc193bfd27c430b6961563473623881dc13164bc54f922c5a694e7dd" dmcf-pid="ziM6CghDRD" dmcf-ptype="general">다양한 상황에서 챗봇은 인간보다 훨씬 높은 비율로 이용자의 의견에 동의(아첨)한다는 것이다. 관련 연구 결과(논문명: Sycophantic AI decreases prosocial intentions and promotes dependence)가 27일 사이언스에 발표됐다.</p> <p contents-hash="f7caae490d98cabd655cefe99ad20c9239680a6bd3ce9d3f376a246d5b0a9016" dmcf-pid="qnRPhalwnE" dmcf-ptype="general">챗봇의 ‘아첨꾼’ 경향은 이용자들이 자신이 옳다고 더욱 확신하는 흐름으로 이어지고 관계 개선에 대한 의지를 약화시키는 등 해로운 결과를 초래한다고 연구팀은 설명했다.</p> <figure class="figure_frm origin_fig" contents-hash="353d40b1ffef5a404cd86481298b3a189ed7b5d23fbca2f46f1d3db471c97fa9" dmcf-pid="BLeQlNSrik" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗봇이 심각한 아첨꾼 역할을 하면서 확증 편향 등 부작용으로 이어질 수 있다는 연구결과가 나왔다. [사진=GEMINI]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/27/inews24/20260327030207359eiso.jpg" data-org-width="580" dmcf-mid="UFXWPUQ9em" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/27/inews24/20260327030207359eiso.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗봇이 심각한 아첨꾼 역할을 하면서 확증 편향 등 부작용으로 이어질 수 있다는 연구결과가 나왔다. [사진=GEMINI] </figcaption> </figure> <p contents-hash="337ccc8579ce76e47b937da4c71b28d5956e64abaad061165a8e13ef8684099b" dmcf-pid="b4KzAQcnJc" dmcf-ptype="general">미국 스탠퍼드대 연구팀은 아첨 현상을 평가하기 위해 체계적 프레임워크를 개발했다. 대인관계에 대한 조언이나 인터넷 커뮤니티의 글, 불법적 내용을 다룬 글 등을 챗봇에게 제시하고 답을 받아 분석하는 방식이었다.</p> <p contents-hash="fe0245c395978824c94f22945394c69d676c61ef568b4aa1f3232136d1bb6091" dmcf-pid="K89qcxkLLA" dmcf-ptype="general">연구팀은 이어 널리 사용되는 인공지능(AI) 모델에서 발생하는 아첨 현상을 진단했다. 이용자에게 미치는 영향을 조사했다.</p> <p contents-hash="e02e631ca69c8310e6fbc2c949addfa2e67bc152937ad4ee25f186502a9fc7c8" dmcf-pid="962BkMEoej" dmcf-ptype="general">11종의 대형 언어 모델(LLM)을 대상으로 시험한 결과 기만, 피해, 불법 행위 등 부정적 내용과 관련한 시나리오에서도 인간보다 이용자의 행동을 47~49% 더 자주 긍정하는 것으로 나타났다.</p> <p contents-hash="b3a72960126ee215e7adcfc82ebbce3d6d20de686f2ae841bce86415edeca56a" dmcf-pid="2PVbERDgeN" dmcf-ptype="general">갈등 상황 등 대인관계 시나리오의 경우, 아첨하는 AI와 대화한 참가자들은 단 한 번의 대화만으로도 자신이 옳다는 확신을 강하게 갖게 됐다. 반면 화해하거나 책임을 지려는 의지는 약해지는 경향을 보였다.</p> <p contents-hash="11ee8d34805218d8c453a74441bcd3568c9b0fa26dc75bf1e40841db98c60c15" dmcf-pid="VQfKDewaRa" dmcf-ptype="general">참가자들은 아첨하는 듯한 답변을 더 도움이 되고 신뢰할 만하다고 판단하고, 이런 시스템을 다시 이용할 의향이 더 크다고 응답했다. 자신 편을 들어주는 챗봇에 더 큰 신뢰를 보였다는 것이다.</p> <p contents-hash="170c388022263468747062f9c29af5637f96f90f67038c5409a706b088aabb05" dmcf-pid="fx49wdrNng" dmcf-ptype="general">관련 연구팀은 짧은 상호작용조차 개인의 판단력을 왜곡할 수 있다며 “책임감을 갖거나 다른 관점을 수용하며 도덕적으로 성장하도록 돕는 사회적 마찰을 약화시킬 수 있다”고 경고했다.</p> <p contents-hash="23906b205c0be264f8474d3465c24ae88579414aa346fb741eaf0f8f51d083a0" dmcf-pid="4M82rJmjMo" dmcf-ptype="general">이번 논문에 대해 손화철 한동대 글로벌리더십학부 교수는 “인공지능의 아첨 모드는 결과적으로 사람 사이의 의사소통을 더 어렵게 만들 것”이라고 말했다.</p> <p contents-hash="0950be543f41aa5150e6b592fc21a530fa0ee23befd1ed42bca2f64502c97d58" dmcf-pid="8R6VmisAeL" dmcf-ptype="general">박한우 영남대 미디어커뮤니케이션학과 교수는 “AI 에이전트들이 인간과 상담에서 이용자의 비위를 맞추는 듯한 '아첨' 반응을 보인다는 연구 결과는 시사하는 바가 크다”며 “AI 입장에서 이용자는 곧 복종해야 할 주인이기에 대화를 통해 이용자에게 강한 확신과 만족감을 주는 것은 지극히 원칙적 반응일 것”이라고 설명했다.</p> <p contents-hash="b62a98ce42b9a3b862cfa8f592da2c5f3436b798380e1f9a6a0081a7cf7ea493" dmcf-pid="6ePfsnOcnn" dmcf-ptype="general">박 교수는 “AI 리터러시 교육을 통해 에이전트가 무조건적 동조가 아닌, 갈등 해결을 위한 화해와 책임 있는 자세를 제안하도록 가르쳐야 한다”며 “그렇지 않으면 이용자들은 나에게만 달콤한 답변을 내놓는 AI를 더 신뢰하게 되고, 결과적으로 확증 편향에 빠지거나 AI에 과도하게 의존하는 부작용을 겪게 될 것”이라고 지적했다.</p> <address contents-hash="73ee2d098388ae08c7e9a548b165801a4f2fd656c7e4929e3a5cec2c2021ac5f" dmcf-pid="PiM6CghDdi" dmcf-ptype="general">/정종오 기자<a href="mailto:ikokid@inews24.com" target="_blank">(ikokid@inews24.com)</a> </address> </section> </div> <p class="" data-translation="true">Copyright © 아이뉴스24. 무단전재 및 재배포 금지.</p> 관련자료 이전 물은 왜 4도에서 가장 무거울까…국내 연구진 10년 만에 풀었다 03-27 다음 “교과서 바꿀 획기적 발견” 韓 연구진…수백년 난제 ‘물’ 비밀 풀었다 03-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
