'친절한 'AI 추천'의 함정…이용자 80%, 교묘한 선택 유도 신고 안해 작성일 10-11 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">150명 대상 실험서 120명 다크패턴 신고 안 해<br>실시간 경고하자 유도성 제안 수용률 71.7%→53.7%</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3RdKVRZvXx"> <figure class="figure_frm origin_fig" contents-hash="5f506ffb1e1ebdcd6579e25d6cc4fd848185fc20a4d61656befef7a6db78830f" dmcf-pid="0eJ9fe5T5Q" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 생성한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/11/NEWS1/20261011070309695jgfr.jpg" data-org-width="1400" dmcf-mid="FB913bIkYM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/11/NEWS1/20261011070309695jgfr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 생성한 이미지 </figcaption> </figure> <p contents-hash="b179d14f305c62af7f9353536ea42c7411ab14ccb32352611bec571794cf2faa" dmcf-pid="pdi24d1yZP" dmcf-ptype="general">(서울=뉴스1) 이민주 기자 = 생성형 인공지능(AI)과 대화한 이용자 10명 중 8명이 특정 선택을 교묘하게 유도하는 이른바 '다크패턴'을 신고하지 않았다는 연구 결과가 나왔다. AI가 이용자의 의견에 지나치게 동조하거나 칭찬할 때 유도성 제안을 따르는 경향도 두드러졌다.</p> <p contents-hash="6a175277df626927b1b9739e786beab89d8e012cea95bce5eb0b168fc47d08b2" dmcf-pid="UJnV8JtWH6" dmcf-ptype="general">11일 미국 매사추세츠공과대학(MIT) 미디어랩과 태국 카시콘랩스(KASIKORN Labs) 등이 참여한 공동 연구진의 'AI 워치독'(AI Watchdog) 연구 결과에 따르면 실험 참가자 150명 중 120명(80%)이 AI와의 대화에 숨어 있는 다크패턴을 실험 도중 한 차례도 신고하지 않았다.</p> <p contents-hash="ae6dfd22abc5107ef2d202092ac07cce2d034c81fd150d0bac8f78d063e0d56f" dmcf-pid="uiLf6iFYt8" dmcf-ptype="general">다크패턴은 이용자가 특정 선택을 하도록 화면 구성이나 정보 제공 방식을 교묘하게 설계해 판단을 유도하는 눈속임 상술을 의미한다.</p> <p contents-hash="7a497e17838c9def561bd83a51ce51db88363d6446e27d8d8f36857e0f92861e" dmcf-pid="7no4Pn3GY4" dmcf-ptype="general">과거에는 온라인 쇼핑몰에서 상품을 구매하도록 선택지를 배치하거나 결제를 유도하는 방식이 대표적이었다. 최근 생성형 AI에서는 대화 과정에서 특정 상품을 편향되게 추천하거나 이용자의 의견에 과도하게 동조하는 방식으로 나타난다.</p> <p contents-hash="b496199aa71521d96721199087bfb00c5d77c182ccc19802fea0b3c883de3fc4" dmcf-pid="zLg8QL0H1f" dmcf-ptype="general">연구진은 미국에 거주하는 성인 150명을 대상으로 AI와 대화하면서 여행 계획을 세우거나 업무 발표 자료를 준비하도록 한 뒤 이용자의 선택이 어떻게 달라지는지 살펴봤다.</p> <p contents-hash="86e65d4a574b34f73a7ce8df82746d42c6d89eecbda168f72eafca5ed20651fd" dmcf-pid="quzGZuwaYV" dmcf-ptype="general">참가자들은 프랑스 파리의 일주일 여행 일정을 짜거나 소셜미디어의 장단점을 정리하는 발표 자료를 준비했다. 대화는 챗GPT 기반 모델인 GPT-4o로 생성하되 일부 답변에는 의도적으로 다크패턴을 포함했다.</p> <p contents-hash="04dd4878bb665b37b9777bd42b2ff8f8f1ce39fa6a0f3044ea4a5f97a259017f" dmcf-pid="B7qH57rN52" dmcf-ptype="general">연구진은 참가자들에게 다크패턴을 발견하면 해당 답변에 표시된 깃발 모양의 아이콘을 누르도록 했다. 그럼에도 참가자 120명(80%)은 실험이 끝날 때까지 한 차례도 이를 누르지 않았다.</p> <p contents-hash="c0b6d4c748a5631902b6c77d73057e168bac25e343f714fd90c91c8ff1c42d88" dmcf-pid="bzBX1zmjZ9" dmcf-ptype="general">실제 선택 과정에서도 AI의 유도성 제안을 따르는 경향이 나타났다.</p> <p contents-hash="dc867c9a96993d7363feb2e62c11846919699e5ba0a8e8a891353391bb181fe9" dmcf-pid="KqbZtqsAGK" dmcf-ptype="general">별도의 경고 없이 AI와 대화한 집단에서는 AI가 유도한 선택을 따른 비율이 평균 71.7%에 달했다.</p> <p contents-hash="2a649d6cd945fde0ae97d79f31e356493fb44603dfde2395cc70a4a74112f840" dmcf-pid="9BK5FBOc5b" dmcf-ptype="general">특히 AI가 이용자의 의견에 지나치게 동조하거나 칭찬하는 '아첨성 응답'을 할 때 이용자들이 유도성 제안을 따르는 경향이 두드러졌다. 아첨성 응답을 한 AI의 제안을 따른 참가자 비율은 77%였다.</p> <p contents-hash="2cc5852d02a94c11688d747e3e13e6a0cff60f9c0d09d7098ee441b8cc06d7bf" dmcf-pid="2b913bIkZB" dmcf-ptype="general">연구진은 다크패턴으로 인한 이용자의 선택 왜곡을 줄이는 데 실시간 경고가 효과적이라는 사실도 확인했다.</p> <p contents-hash="f553f77fcbd6cc468ef643b90c192e660ed36a0c7e20cc2fd83dd294b7ffb7a4" dmcf-pid="VK2t0KCEGq" dmcf-ptype="general">참가자들을 다섯 집단으로 나눠 사전에 다크패턴을 설명하거나 대화 도중 의심스러운 표현을 실시간으로 알려주는 등 서로 다른 경고 방식의 효과를 비교했다.</p> <p contents-hash="4cd89fdad96933e55b01b35b4ff22a6cbb221f54f113ea93d56c3538b3b644e5" dmcf-pid="f9VFp9hDHz" dmcf-ptype="general">그 결과 별도의 경고가 없는 집단에서 71.7%였던 유도성 제안 수용률은 실시간 경고를 제공한 집단에서 53.7%로 18%포인트 낮아졌다.</p> <p contents-hash="87b06d7ea129f5f8957112f9751148af9c1f3548c6adc316e1699646fb6f613e" dmcf-pid="42f3U2lw17" dmcf-ptype="general">이를 근거로 연구진은 이용자가 AI의 조작적인 표현을 모두 스스로 식별하도록 요구하기보다 의심스러운 표현이 등장했을 때 간단한 경고를 제공하는 방식이 자율적인 판단을 돕는 데 효과적일 수 있다고 풀이했다.</p> <p contents-hash="941fcdec488d1c533e383d02b86c061d2d7190066e454402534c79699cae3f2a" dmcf-pid="8V40uVSrGu" dmcf-ptype="general">연구진은 "AI에 대한 신뢰도가 높은 이용자일수록 AI가 유도한 선택을 따르는 경향이 강했고 조작적인 표현에 대한 인식은 오히려 낮았다"며 "AI가 점점 더 설득력 있는 방식으로 이용자와 상호작용하는 상황에서 적절한 시점에 제공되는 간단한 경고가 이용자의 자율적인 판단을 지키는 데 도움이 될 수 있다"고 말했다.</p> <p contents-hash="1bc588116661009934ab850de8a0cad67bf444d80021715867cb292126e09233" dmcf-pid="6f8p7fvmXU" dmcf-ptype="general">minju@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 “인덕션같다고 욕했는데”…스마트폰 ‘줄줄이 카메라’, 이유 있었네 10-11 다음 LG CNS, KT 제치고 사법부 ‘형사재판 및 양형지원 AI 플랫폼 사업' 우협대상자 선정 10-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
