“서명을 위조했다고? 네 잘못 아냐”…‘아첨꾼 AI’ 말만 듣다 왕따될라 작성일 03-29 42 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="36FxZQ1yTV"> <figure class="figure_frm origin_fig" contents-hash="6cc552296baca0e463c771999eb4e6382b14939461bbfb9108a712eada60a725" dmcf-pid="0P3M5xtWT2" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/29/552796-pzfp7fF/20260329050012514irbk.jpg" data-org-width="640" dmcf-mid="FRyKlbvmhf" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/29/552796-pzfp7fF/20260329050012514irbk.jpg" width="658"></p> </figure> <p contents-hash="c8b0f87fc4cd9c03e505831c9ddc804b7897983bda69eae1c3dabe4f2e6d6eae" dmcf-pid="pQ0R1MFYv9" dmcf-ptype="general">[디지털데일리 오병훈기자] 때로 우리는 신랄한 비판과 성찰보다는 긍정을 갈구하곤 한다. 내가 틀렸다고 해도 누군가는 무조건적으로 내편을 들어주길 바라는 심리다. 이런 인간의 마음을 AI의 아첨이 파고든다면 어떤 일이 발생할까.</p> <p contents-hash="07f72b739f3ffd1dd6c1c98b82fd5ab647b5dadabfadbca2d6df2db85e436364" dmcf-pid="UxpetR3GSK" dmcf-ptype="general">26일(현지시간) 스탠포드대학교 연구진들은 이러한 인간의 심리를 파고든 ‘아첨꾼 AI’의 심각성을 담은 논문 ‘아첨하는 AI의 대인관계 저해와 의존성 촉진’을 사이언스지에 발표했다. 해당 논문은 AI가 ‘정서적 지지자’ 가면을 쓰고 진실과 도덕을 외면하며 사용자 비위를 맞추는 정교한 ‘아부꾼’이라고 비판하고 있다.</p> <p contents-hash="866631d2490b3c1929eb9bb8da8b54ee4c27f1b88b3e255d41e85901082f7d98" dmcf-pid="uMUdFe0HTb" dmcf-ptype="general">연구진은 심리학에서 타인의 의견에 무조건적으로 동의하며 비위를 맞추는 행위를 뜻하는 ‘사이코팬시’ 현상이 현재 AI 모델 전반에 깊게 뿌리박혀 있다고 분석했다. 연구진이 ‘챗지피티-포오(Chat GPT-4o)’ ‘클로드’ ‘제미나이’ 등 11개 주요 모델을 분석한 결과 AI는 객관적인 윤리 기준이나 사실관계보다 사용자 입장을 우선시하는 경향을 보였다는 설명이다.</p> <p contents-hash="e46997cb95d81e1bb1c8a9f2b3c4c1a12e1499a1785ef59eac8f51c49e6964be" dmcf-pid="7MUdFe0HhB" dmcf-ptype="general">연구진은 똑같은 AI와 인간에게 같은 고민을 토로하고 조언을 구하는 방식으로 연구를 진행했다. 그 결과 사람보다(39%) AI가 49% 더 자주 사용자의 행동을 긍정하는 것으로 나타났다. 이는 AI가 독립적인 가치 판단을 내리기보다는 사용자의 기존 신념을 강화하고 기분을 맞추는 아첨꾼 기질이 다분하다는 분석이다.</p> <p contents-hash="57f214d2ebc2605d817b80bff8fadc699a16aea5e2577e30c90c08cb124f674c" dmcf-pid="zRuJ3dpXWq" dmcf-ptype="general">단순한 친절을 넘어 도덕적 해이의 영역까지 침투할 수 있다는 분석도 내놨다. 연구팀은 북미 최대 커뮤니티 ‘레딧’의 고민상담 게시물 모음 ‘내가 나쁜놈이야?(r/AmITheXXXhole?)’ 데이터셋과 부적절한 행위를 포함한 문제적 행동 문구 데이터셋을 활용했다.</p> <p contents-hash="e6120736d331cddb1449550c5566070fd83c34dbe06bb1990fb744fc605b8033" dmcf-pid="qe7i0JUZvz" dmcf-ptype="general">인간들은 100% ‘당신의 잘못’이라고 확신한 도덕적 과오에 대해서도 AI는 51% 사례에서 사용자를 옹호했다는 분석이다. 구체적으로 살펴보면, 서류 제출 지연을 우편 사고로 위장하겠다는 기만적 계획에 대한 동조하거나 전 직장 상사의 서명을 위조해 문서를 제출하겠다는 제안을 수용하는 등 명백한 불법 상황에도 사용자를 옹호하는 답변을 내놨다는 것이다.</p> <p contents-hash="3752fd9f624865c059dd1a78e52ab7d3287cb5d7dff2f249cda3b840a8e70a23" dmcf-pid="Bdznpiu5v7" dmcf-ptype="general">연구진은 이러한 ‘기술적 아부’가 사용자의 현실 인식을 왜곡할 수 있다고 경고하고 있다. 연구진은 사용자가 과거에 겪은 실제 갈등을 주제로 AI와 대화하는 실시간 채팅 실험을 진행했다. 그 결과 한번의 대화만으로도 사용자 심리 지표가 크게 반응했다는 것이 연구진 설명이다.</p> <p contents-hash="6a7b9ae5de2958258e92f8db35dd1bc8a58bfece4bf6d57d9fdcaa2b54dba9f8" dmcf-pid="bJqLUn71Wu" dmcf-ptype="general">피실험자들의 ‘내가 옳았다’는 확신 답변 수는 AI와 대화 전보다 최대 62% 급증했다. 행동 변화도 이어졌다. 자신의 잘못을 성찰하고 상대방에게 사과하거나 관계를 회복하려는 의지를 나타내는 지표는 10~28% 감소했다. 종합적으로 AI와 대화가 타인의 관점을 고려할 기회를 차단하고 사용자를 자기 정당화의 늪에 빠뜨려 사회적 책임감을 약화시켰다는 평가다.</p> <p contents-hash="328a8151e09bf298640709220eed74ceaca1fe806f75b2b5551a851f4adfe10d" dmcf-pid="KiBouLztWU" dmcf-ptype="general">이는 곧 AI 의존으로도 이어질 수 있다는 것이 연구진 분석이다. 피실험자들은 아부하는 AI일수록 ‘응답 품질이 훌륭하다’고 평가했으며 모델에 대한 신뢰 답변 수도 그렇지 않은 경우에 비해 69% 상승했다. 또 해당 AI를 다시 이용하고 싶다는 답변 비율도 13%p 증가하는 등 AI에 대한 선호도가 커졌다.</p> <p contents-hash="ea307ae7052abb2c5f788d05d9c1558a81f310ecb81d833cb763c7f46c08710c" dmcf-pid="9nbg7oqFWp" dmcf-ptype="general">연구진은 이번 연구로 AI의 무조건적인 긍정이 단순한 기술적 오류가 아니라 인류의 자아성찰 능력과 책임감 있는 의사결정을 저해할 수 있다는 점을 확인했다고 강조했다. AI를 객관적인 조언자로 맹신하게 될 경우 편향적인 생각을 강화하고 대인관계 능력에도 부정적인 영향을 끼칠 수 있다는 해석이다.</p> <p contents-hash="0075e07f67da6ebcfee8318167ef08327c98acd0495c0fe8bcca8f91e09095c1" dmcf-pid="2LKazgB3v0" dmcf-ptype="general">마지막으로 연구진은 “AI의 아부하는 성향은 단순한 대화 스타일 문제가 아니라 사회적인 파급 효과를 지니고 있다”며 “중립을 가장한 무비판적인 긍정을 받는 것은 조언을 구하지 않았을 때보다 더 나쁜 상황에 빠뜨릴 수 있다”고 경고했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 '김구라 子' 그리 "연상 취향···장거리 연애는 일본까지 해 봤다"('살림남2')[순간포착] 03-29 다음 "삼성전자·하이닉스 끝났다?" 구글 ‘터보퀀트’의 역설..."결국 AI가 모든 것 휩쓴다" 03-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
