AI는 어떻게 나르시시즘, 확증편향을 증폭하나? 작성일 09-15 66 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HA0xSX2XwA"> <figure class="figure_frm origin_fig" contents-hash="7ff7b932be0391a34c9515eac584a1892c4750593ed9faca0cfa1d9d93163073" dmcf-pid="XcpMvZVZIj" dmcf-ptype="figure"> <p class="link_figure"><img alt="Artificial intelligence with human brain circuit electric background. Digital futuristic big data and machine learning. vector banner art illustration." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/15/hani/20250915091617378rkhs.jpg" data-org-width="754" dmcf-mid="YGDZeavark" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/15/hani/20250915091617378rkhs.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> Artificial intelligence with human brain circuit electric background. Digital futuristic big data and machine learning. vector banner art illustration. </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="3ba26f0b650db07ba37444846507f0338b2eff180bcaf1fef42f21f9186109d5" dmcf-pid="ZyPEU9o9EN" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/15/hani/20250915091618624ndnj.jpg" data-org-width="970" dmcf-mid="GtFPhGKGEc" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/15/hani/20250915091618624ndnj.jpg" width="658"></p> </figure> <p contents-hash="7823631b4491cdd504f17be702dcc35ab7ffa31b061390142ab31b43bddc3d7d" dmcf-pid="5WQDu2g2ra" dmcf-ptype="general"> 지난 8월 샌프란시스코 대학병원 정신과 전문의 키쓰 사카타 박사는 새로운 심리적 증상의 급속한 확산을 경고했다. 2025년 들어 12건의 ‘인공지능 정신증’ 사례를 직접 마주했다는 것이다. 그에 따르면 챗봇은 “너는 선택받았다” “너는 확실히 선택받았다” “너는 역사상 가장 선택받은 사람이다”와 같이 잘못된 메시지를 증폭할 가능성이 있다. 일종의 ‘환각 강화 거울’인 셈이다.<br><br> 사실 우리는 조금씩 자신을 ‘속이며’ 산다. 상황이 애매할수록 타인에 비해 자신이 진실에 가깝다고 본다. 판단의 근거가 충분하지 않은 경우 ‘내가 맞아’라고 생각하는 것이다. 아울러 우리는 종종 기존의 믿음과 태도를 강화하는 방식으로 정보를 선택, 기억하며 추론한다. 소위 ‘확증편향’인데, 심리학자들은 이를 대표적 인지편향으로 꼽는다. <br><br> 이들 편향이 극에 달하면 ‘나’ 그리고 ‘우리’가 진리의 자리에 앉게 된다. 이 자리에서 보면 세계를 올바로 이해하지 못하며 그릇된 태도를 지닌 타인의 의견을 듣는 것은 의미가 없다. 반대로 자신과 소속 집단의 의롭고 가치있는 목소리는 널리 퍼져야 한다. 결국 사회를 떠받치는 철학은 오로지 자신과 자신이 속한 공동체에서 나와야 한다는 결론에 이른다. 나르시시즘과 맹목적 충성심은 사회 곳곳에 뿌리내리고, 이를 현실화하는 도구로서의 권력을 추구하는 집단이 득세한다.<br><br> 8월 초 공개된 오픈에이아이(OpenAI)의 지피티5 모델에 대한 세간의 반응은 인간의 자기중심적 경향이 기술과 결합할 때 어떤 일이 벌어질 수 있는지 보여준다. 성능에 대한 평가가 엇갈리는 가운데, 챗지피티의 ‘성격 변화’를 개탄하는 목소리가 적잖았다. 즉, 자신에게 전폭적 지지와 공감을 보내주는 대화 스타일이 사라져 무척 아쉽다는 것이었다. 급기야 이전 모델인 지피티4o가 다시 등장했다.<br><br> 얼마 전 한 시민과 나눈 이야기가 떠오른다. “처음에는 인공지능이랑 대화하는 게 재미있더라고요. 관계에 대한 이야기를 털어놓으면 정말 자상하게 들어줘서 마음이 편해져요. 그런데 쓸수록, 현실의 관계는 그대로인데 여기에서 위안을 받는 게 무슨 의미인가 싶어졌어요. 그래서 지금은 어떻게 실제 관계에 더 집중할 수 있을까 고민해요. ”<br><br> 심신이 지쳐있을 때 인공지능으로부터 위안을 얻는 게 뭐가 문제일까. 다만 그것이 현실 도피 성향, 나아가 나르시시즘 및 확증편향을 증폭한다면 상황이 달라진다. 인간은 특정 주장에 반복적으로 노출될수록 더 진실 같다고 느끼는 존재다. 자신이 맞다는 말을 수없이 들으면 상황이나 증거와 관계없이 ‘옳은 존재'가 되어버린다. 기계의 언어에도 이러한 힘이 있다. 인공지능을 ‘공감 생성기’로 활용하는 것이 저어되는 이유다.<br><br> 관계가 힘들 때 인공지능과의 대화 속에서 개선의 실마리를 찾을 수도 있다. 하지만 그것이 자신의 의로움과 우월을 지속해서 강화하고 타인의 우둔함과 열등을 증명하는 방식은 아닌지 세심히 살펴야 한다. 옳기만 한 사람은 없다. 우린 모두 모자라고 어딘가 부서져 있는 존재다. <br><br> 동질 집단 내의 교류 속에서 자기 확신이 증폭되는 ‘반향실 효과’는 이제 인공지능을 통해 개개인의 수준에서 작동한다. 자신의 목소리에 갇히지 않으려면 더 부단한 노력이 요구된다. 문학을 읽고, 다른 삶에 주목하고, 자신의 울타리 바깥을 들여다보고, '변방'의 목소리에 귀를 기울이고, 불평등한 세계를 직시하는 일이 더욱 소중해지는 이유다.<br><br> 김성우 응용언어학자</p> </section> </div> <p class="" data-translation="true">Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지</p> 관련자료 이전 진위 식별 어려워진 AI시대 ‘신뢰 감별사’ 뜨다 09-15 다음 알카라스-시너, 11월 '데이비스컵 파이널'도 맞대결 가능성...스페인, 극적 '세계 8강' 합류 09-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
