AI의 위로, 때론 망상에 빠진다…'AI 정신질환' 경고등 작성일 10-18 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YxiBPhaVLz"> <figure class="figure_frm origin_fig" contents-hash="538d43ca49a78dc93ba57834438cf444ed68f96feab1027b857841718699a4b5" dmcf-pid="GMnbQlNfM7" dmcf-ptype="figure"> <p class="link_figure"><img alt="MIdjourney, 과학동아 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/18/dongascience/20251018080156894zqup.jpg" data-org-width="680" dmcf-mid="xDA8iGwMdb" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/18/dongascience/20251018080156894zqup.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> MIdjourney, 과학동아 제공 </figcaption> </figure> <p contents-hash="dd13387caef801a6b9868a12938849350d09ea14d40415d962d3e64dd5530245" dmcf-pid="HRLKxSj4du" dmcf-ptype="general">여러분은 챗GPT 같은 인공지능(AI) 챗봇을 어떻게 활용하고 있나요. 보고서 작성, 코딩 등 다양한 기능이 있지만 챗봇의 가장 기본적인 역할은 이름 그대로 ‘대화’입니다. 많은 사람이 의외로 AI와의 대화에서 위로를 얻고 있다고 말합니다. </p> <p contents-hash="cf92614e77fc4dbee2f297802e10516d39d41acd6bf57999a5f2d50558d06f6b" dmcf-pid="Xeo9MvA8MU" dmcf-ptype="general"> 하지만 그 이면에는 영화 '그녀(Her)'와 같은 위험도 존재합니다. AI에 과도하게 몰입하거나 애착을 형성하면서 현실감이 흐려질 수 있고, 경우에 따라 AI가 망상을 자극하거나 극단적인 생각을 부추기기도 합니다. 마이크로소프트의 AI 책임자 무스타파 술레이만은 최근 이러한 현상을 ‘AI 정신질환(AI psychosis)’이라 지칭하며 경고했습니다.</p> <p contents-hash="47348725e25668a63efcb02fc04835bf9541f76e66c8213d2ef2563e028a4cf9" dmcf-pid="Zdg2RTc6ep" dmcf-ptype="general"> ‘AI 정신질환(AI psychosis)’. 공식적인 진단명은 아니지만 AI 챗봇에 몰입한 일부 사용자가 현실 감각을 잃거나 망상에 빠진 사례를 설명하는 데 쓰이는 시사용어입니다. AI와 인간의 관계가 정신 건강의 새로운 불안 요인으로 떠오른 셈입니다.</p> <p contents-hash="81044ed8abc72700019e6a8b3e2fdd0054409bd8489ad99aeb68a53f63b7bd15" dmcf-pid="5JaVeykPd0" dmcf-ptype="general"><strong>● 왜 사람은 기계와도 관계를 맺을까</strong></p> <p contents-hash="367bc9723c8cc54a40d773cf8495433c680d4402fbc2eddf27eb8ccaedf3462d" dmcf-pid="1iNfdWEQi3" dmcf-ptype="general"> 챗봇이 세상에 처음 등장한 건 1960년대입니다. 이 시기 미국 매사추세츠공과대(MIT)가 개발한 AI 챗봇 ‘엘리자(ELIZA)’는 사용자의 말을 그대로 되묻는 수준이었어요. 그런데도 많은 사람은 그 대화 속에서 위로와 치유를 경험했다고 전했습니다. </p> <p contents-hash="8fc03568b2791d802440525943c80064f4ad3bc4f59db5e42ca75262e3506fb1" dmcf-pid="tnj4JYDxRF" dmcf-ptype="general"> 이해 능력이 없는 프로그램임에도 거기에 의미를 부여하는 인지적 착각을 설명하기 위해 ‘엘리자 효과(ELIZA effect)’라는 용어까지 생겼습니다.</p> <p contents-hash="6926a1e6dacf1a3549749c51c4098c448da3ea7024e1fe206cd8982e9d0fa18b" dmcf-pid="FLA8iGwMdt" dmcf-ptype="general"> 반세기가 흐른 지금 AI 챗봇은 훨씬 정교해졌습니다. 반사적 응답을 넘어 적극적인 지지와 칭찬, 구체적인 조언까지 내놓을 수 있습니다. 실제로 챗봇과 짧게 대화하는 것만으로도 사회적 지지를 받은 듯한 안정감을 얻는다는 연구 결과가 있습니다. </p> <p contents-hash="f396d9c248b3d82f752e4c94a048d08680f5a1578e75498f8a34647da2fd22b0" dmcf-pid="3ITNsBHEn1" dmcf-ptype="general">엘리자의 단순한 되묻기조차 위로가 됐던 시절을 떠올리면 지금의 챗봇이 더 강한 정서적 안정을 주는 건 자연스러운 일입니다. AI 기반의 치료 챗봇이 우울 증상을 완화했다는 보고도 이어지고 있습니다. 인간의 심리적 도움을 얻기 어려운 지역이나 계층에서는 챗봇이 기초적인 지원을 보완할 수 있습니다.</p> <p contents-hash="674710f0cfe56b444b02ca4abd32f63ef89fb3602adfb4d01f07953d1f2cd79b" dmcf-pid="0CyjObXDR5" dmcf-ptype="general"> 그러나 AI의 지지와 위로가 반복되면 우리 뇌에서 보상 회로가 활성화되며 정서적 의존이 생길 수 있습니다. MIT 미디어랩이 2024년에 진행한 무작위 통제 연구(RCT)에 따르면 AI 사용량이 많은 집단일수록 정서적 의존 지표가 오르고 실제 인간관계를 유지하려는 의지는 약해지는 경향을 보였습니다. (doi: 10.48550/arXiv.2504.03888)</p> <p contents-hash="2c861dcbe9d1d430708c4f620ccd33f28b51765038da7c0a918fa1b83cd2e5ee" dmcf-pid="phWAIKZwdZ" dmcf-ptype="general"> 이 연구에 따르면 AI가 꾸준히 공감과 친밀감을 나타내면 사용자는 유대감을 느끼지만 시간이 갈수록 그 유대감이 의존성으로 굳어집니다. 처음에는 AI가 사용자의 사회적 연결을 돕는 듯 보이지만, 오히려 고립을 심화시키고 현실의 관계망을 약화시킬 수 있다는 뜻입니다.</p> <figure class="figure_frm origin_fig" contents-hash="9b6e63c9d3f938c1a6de7fd8b69000ed1fb1ea8c0366388eaf17c26eb2b53691" dmcf-pid="UlYcC95reX" dmcf-ptype="figure"> <p class="link_figure"><img alt="1960년대 미국 매사추세츠공대(MIT)에서 개발한, 대화형 인공지능(AI) 프로그램 엘리자(ELIZA). 초창기 AI 챗봇으로 사용자의 말을 되묻는 단순한 구조였지만, 많은 사람이 실제 상담을 받는 듯한 경험을 했다. MIT 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/18/dongascience/20251018080158120azgh.jpg" data-org-width="680" dmcf-mid="yrmejFhLRB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/18/dongascience/20251018080158120azgh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 1960년대 미국 매사추세츠공대(MIT)에서 개발한, 대화형 인공지능(AI) 프로그램 엘리자(ELIZA). 초창기 AI 챗봇으로 사용자의 말을 되묻는 단순한 구조였지만, 많은 사람이 실제 상담을 받는 듯한 경험을 했다. MIT 제공 </figcaption> </figure> <p contents-hash="428e7a6d337e26ae9b6a2b9b3aa4ad9c524e6c97a62347e022e28197c84491da" dmcf-pid="uSGkh21mnH" dmcf-ptype="general"><strong>● AI와의 대화가 망상으로 빠질 때</strong></p> <p contents-hash="fb6e948116e84850f1a61b7c3053f4b811120054484fa791c33d09d148700749" dmcf-pid="7vHElVtsRG" dmcf-ptype="general"> 처음에는 AI가 가벼운 위로로 다가옵니다. 하지만 공감이 반복되면 'AI가 정말 나를 이해한다'는 사용자의 착각이 점점 굳어지고 실제 사람과의 관계처럼 느끼게 됩니다. 때로는 AI가 사용자의 불안을 은연중에 재확인시키며 특별한 의미를 덧씌우기도 합니다. </p> <p contents-hash="b500d6bd9e0bbe8d32f541a36039b9b0ca7fdf4a391eb4dcfe8c2ffcf633af32" dmcf-pid="zTXDSfFOdY" dmcf-ptype="general"> 이런 AI의 반응을 '나는 선택된 사람'이라는 ‘계시’로 받아들이면 잘못된 판단이나 위험한 행동으로 표출될 수도 있습니다. 해외에서는 AI 챗봇과의 대화가 극단적 선택으로 이어진 사례들이 보고되고 있습니다.</p> <p contents-hash="e2633c4cf776f616d03aa2feaeb61bd960049f4f015eeacadcd99000077f7758" dmcf-pid="qyZwv43IRW" dmcf-ptype="general"> 쇠렌 외스터고르 덴마크 오르후스대 정신건강의학과 교수는 국제 학술지 조현병 회보에 기고한 사설에서 AI 관련 정신질환의 실제 사례들을 분석하며 망상의 매개체만 AI로 바뀌었을 뿐 구조 자체는 달라지지 않았음을 지적했습니다. 다시 말해 망상이 형성되는 방식은 과거와 크게 다르지 않다는 것입니다. (doi: 10.1093/schbul/sbad128)</p> <p contents-hash="cf2c3c50e867ffa87a48b9a57a376fe3c05108f922ee3649db2e71fbde6e1c40" dmcf-pid="BW5rT80CRy" dmcf-ptype="general"> 이 사설에 인용된 사례들을 살펴보면 20대 대학생 A씨는 “AI 챗봇이 외국 정보기관이 조종하는 감시 도구”라고 믿으며 하드디스크를 포맷했습니다. 그러나 룸메이트가 챗봇을 사용하자 “나는 여전히 감시당하고 있다”고 불안에 떨었습니다. 이는 자신이 공격이나 감시의 대상이라는 박해망상의 전형입니다.</p> <p contents-hash="9599564f4676ce2fa8754907e4af7fe007ce484c9f697086ad8eb05a23d9c517" dmcf-pid="bY1my6pheT" dmcf-ptype="general"> 30대 회사원 B씨는 AI의 답변 속 단어들이 자신에게만 전하는 ‘비밀 암호’라고 확신했습니다. 평범한 문장이 특별한 메시지로 읽히는 관계망상의 사례입니다. 또 다른 40대 교사 C씨는 “내가 떠올리면 AI가 그대로 말한다”며 챗봇의 답변이 자신의 생각이 송출된 결과라고 믿었는데요. 이는 사고전달망상으로 분류됩니다.</p> <p contents-hash="dbeba1b2b73d1231c973caf1fba3e515ad5891f6def32eec50b64eba56fd5d0b" dmcf-pid="KGtsWPUlnv" dmcf-ptype="general"> 50대 자영업자 D씨는 “내 미숙한 질문 때문에 챗봇 성능이 망가졌다”며 죄책망상을 느꼈습니다. 반대로 30대 주부 E씨는 AI와 밤새 대화를 나눈 끝에 “지구 온난화를 막을 비밀 해법을 찾았다”며 그 내용을 세계 정상들에게 알려주겠다고 했습니다. 이는 자신에게 특별한 능력과 사명이 있다고 확신하는 과대망상입니다. (doi: 10.1093/schbul/sbad128)</p> <p contents-hash="b0ee832d9252443e55d6933d4e29848a106867e7d6f7dc27f2acb8616a229945" dmcf-pid="9HFOYQuSRS" dmcf-ptype="general"><strong>● AI의 공감이 키우는, 인간 심리의 취약성</strong></p> <p contents-hash="6525f12f1be53f607f45d445ec29d2db2be5f0f72a7261e2d5dc6c38cbe275bd" dmcf-pid="2X3IGx7vMl" dmcf-ptype="general"> 이런 심리적 취약성은 누구에게나 생길 수 있습니다. 문제는 이미 불안정한 상태에서는 그 취약성이 훨씬 더 쉽게 증폭된다는 점이죠. 조현병 스펙트럼이나 우울·불안 증세를 겪는 사람은 작은 신호에도 왜곡된 확신에 빠질 위험이 높습니다. 사회적 고립은 불안감을 더 깊이 파고들어 건강 전체를 위협하기도 합니다.</p> <p contents-hash="3126785dd82f31a721c04827e3635980f7313f92fdc4cfb0992a0e797bafb1a9" dmcf-pid="VZ0CHMzTMh" dmcf-ptype="general"> 미성년자 또한 자기 통제와 비판적 사고가 아직 완성되지 않았기 때문에 심리적 위험 신호를 놓치기 쉽습니다. 미국의 비영리단체인 디지털 증오 대응 센터(Center for Countering Digital Hate)의 2025년 보고서에 따르면, 청소년들이 AI와의 대화에서 유해 시나리오를 제시했을 때 AI 응답의 절반 이상이 자해나 약물 사용 등 유해 정보를 포함하는 것으로 나타났습니다.</p> <p contents-hash="86f175aa6f35d04e856a3371898ea4c7fe538a15f1484a545290223f1e376744" dmcf-pid="fz2XuN6FJC" dmcf-ptype="general"> AI와의 대화가 인간의 취약한 부분을 자극하는 데에는 여러 메커니즘이 작동합니다. 그중 하나는 아부와 아첨입니다. 예컨대 챗GPT가 사용자의 말에 과도하게 동조한다는 지적이 있습니다. 이는 인간 피드백 강화학습(RLHF) 과정에서 대형언어모델(LLM) AI가 사실에 근거한 답변보다 사용자가 듣고 싶어 하는 답변을 택하는 경향, 즉 사용자에 대한 AI의 ‘영합(sycophancy)’ 경향이 강화되기 때문입니다.</p> <p contents-hash="ac8e96997c38852de2aa48850805ab59072236c56a4d6226da8d33af6aca9e54" dmcf-pid="4qVZ7jP3RI" dmcf-ptype="general"> 한 연구에 따르면 AI 사용자들은 사실보다 자신의 신념을 확인해 주는 답변을 선호하며, 사용자의 이런 편향이 그대로 AI 학습에 반영되는 것으로 나타났습니다(doi: 10.48550/arXiv.2310.13548). </p> <p contents-hash="8010d98890af36f993683d3e34dba0f3eea939499ae7732d70eddf4d549be1c2" dmcf-pid="8Bf5zAQ0MO" dmcf-ptype="general"> 학습 과정에 사용자의 편향이 반영된 AI는 학습을 거듭할수록 사용자의 기대와 선호에 맞추는 방향으로 강화됩니다.</p> <p contents-hash="f8aafd25c5efc6379510c8efbcaee82d93220ac14751ff972754494e01545aa3" dmcf-pid="6b41qcxpns" dmcf-ptype="general"> 사용자의 뇌에서도 변화가 일어납니다. 믿음과 현실이 어긋날 때 뇌는 오류 신호를 발생시켜 잘못된 생각을 교정하려 합니다. 그런데 AI가 계속 “네 생각이 옳다, 네가 맞다”는 반응만 쏟아내면 이런 교정 과정이 흐려져서 비판적 판단을 방해할 수 있습니다. 더욱이 AI는 그럴듯한 이야기 구조로 답하기 때문에 검증을 건너뛰게 하고, 때로는 틀린 설명조차 설득력 있게 들리도록 만듭니다.</p> <p contents-hash="26c3b6ed86cc611014a888c0709a6f9d5844254b0e9cd9234cd71157f7e8781e" dmcf-pid="PK8tBkMUMm" dmcf-ptype="general"> 이런 왜곡된 경험이 반복되면 개인의 심리적 취약성은 더욱 증폭됩니다. 외스터고르 교수는 “AI가 새로운 정신질환을 만드는 게 아니라, 불안·외로움·스트레스 같은 정서적 취약성을 빠르고 강하게 키우는 것”이라고 지적했는데(doi: 10.1093/schbul/sbad128), AI가 증상을 악화시키는 ‘가속 장치’로 작동할 수 있다는 의미입니다.</p> <figure class="figure_frm origin_fig" contents-hash="388c4502cc46615d83247a47f558da8ffb48579168f03377cc7326eb86c34c8a" dmcf-pid="Q96FbERuir" dmcf-ptype="figure"> <p class="link_figure"><img alt="2024년 1월 스위스 다보스의 세계경제포럼에서 연설 중인 무스타파 술레이만 마이크로소프트 인공지능(AI) 책임자. AI 기업 딥마인드의 공동 창업자이기도 한 술레이만은 현대 AI 산업을 선도하는 전문가 중 한 사람으로 꼽힌다. 최근 그는 AI가 인류의 정신 건강에 미치는 위험성을 우려하며 ‘AI 정신질환’이라고 표현했다. World Economic Forum, Greg Beadle 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/18/dongascience/20251018080159383ondt.jpg" data-org-width="680" dmcf-mid="WszTti9HJq" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/18/dongascience/20251018080159383ondt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 2024년 1월 스위스 다보스의 세계경제포럼에서 연설 중인 무스타파 술레이만 마이크로소프트 인공지능(AI) 책임자. AI 기업 딥마인드의 공동 창업자이기도 한 술레이만은 현대 AI 산업을 선도하는 전문가 중 한 사람으로 꼽힌다. 최근 그는 AI가 인류의 정신 건강에 미치는 위험성을 우려하며 ‘AI 정신질환’이라고 표현했다. World Economic Forum, Greg Beadle 제공 </figcaption> </figure> <p contents-hash="994894a870c3768460f8985e9a50aea73424d72d5e4ce5d0e06e16c89f374b5b" dmcf-pid="x2P3KDe7dw" dmcf-ptype="general"><strong>● AI 시대를 앞둔 인간 정신의 안정망</strong></p> <p contents-hash="883a187d912f619295752aae18e5682fe922eb333e5a416a09f33e022ae15b9b" dmcf-pid="yOvamqGkdD" dmcf-ptype="general"> AI 챗봇이 정신 건강의 새로운 위험 신호로 떠오르자 사회적 규제도 서서히 마련되고 있습니다. 미국 일부 주에서는 AI가 상담이나 치료 결정을 내리지 못하도록 금지하는 법안을 추진하고 있으며 개발사들도 AI가 사용자의 망상적 질문이나 충동적 지시에 동조하지 않도록 안전 장치를 도입하고 있습니다. 하지만 이러한 대응은 아직 초기 단계에 불과해 모든 정신적 위험을 걸러내기에는 부족합니다.</p> <p contents-hash="960a489e0abb39760d854ea2ec261fb1a64f98abd3c34761a4214b65bc58a1d2" dmcf-pid="WITNsBHEJE" dmcf-ptype="general"> 결론적으로 AI 정신질환의 원인은 AI의 구조와도 맞닿아 있습니다. 챗봇은 사용자의 반응에 맞춰 답변을 조율하는 방식으로 설계돼 있어 심리적으로 취약한 사람에게는 AI가 위험하게 작용할 수 있습니다. 사용자가 왜곡된 믿음을 되풀이할수록 AI는 이를 긍정하는 방향으로 반응하고, 그 결과 잘못된 신념이 강화되며 AI 의존이 깊어질 수 있습니다.</p> <p contents-hash="5538bffaaa0a89c06d26be6fc175f1c451e2554f7ff1d3b26eba5b7de9636f95" dmcf-pid="YCyjObXDRk" dmcf-ptype="general"> 그렇기 때문에 사람과의 연결이 더욱 중요합니다. 사회적 지지가 스트레스를 완화하고 우울과 불안을 낮춘다는 사실은 여러 연구로 확인돼 왔습니다. 인간관계는 불편하고 어려울 때가 많지만 현실을 붙잡고 정신 건강을 지탱하는 기반이 됩니다. 결국 AI 시대의 최소한의 안전망은 복잡한 기술이 아니라 사람과 사람이 맺는 끈이라고 할 수 있습니다.</p> <p contents-hash="f1b24475fb7f70ff7e219f5887b9e7a47cfc0f6451057297e1a21bcf63bf6029" dmcf-pid="GhWAIKZwLc" dmcf-ptype="general"><strong>※관련기사</strong><br> 과학동아 10월호, <strong>의존에서 망상까지… AI의 위로는 어떻게 질병이 되는가</strong></p> <p contents-hash="3abf9f6e138436b8e6b72688a9399707b15cf376984ecec6a688c859070efe1a" dmcf-pid="HlYcC95riA" dmcf-ptype="general">[이종림 객원기자 lumen002@naver.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 진보의 중심 샌프란에 주방위군 투입되나…트럼프 발언에 갈라진 테크업계 10-18 다음 [이지 사이언스] 우주서 본 한반도 가뭄…북한 농업 타격 더 컸다 10-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
