“저녁에 뭐 먹을까?” 질문하다 중독된다… ‘AI 정신병’ 어떻게 커지나 작성일 09-19 66 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 대화 남용 늘면서 혼란·망상 증가<br>참여 시간 극대화하도록 설계된 구조<br>사용자에 동조·아첨하며 증상 부추겨<br>비개인적 대화 많을수록 의존 높아져</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FvQgOgo9LL"> <blockquote class="pretip_frm" contents-hash="a4031c97ff85083fe52ec8e98f210dc71da05a98fe18b8e1d21cc81af4ea9032" dmcf-pid="3TxaIag2Mn" dmcf-ptype="pre"> 편집자주 <br>우주, 인공지능, 반도체, 바이오, 에너지 등 첨단 기술이 정치와 외교를 움직이고 평범한 일상을 바꿔 놓는다. 기술이 패권이 되고 상식이 되는 시대다. 한국일보는 최신 이슈와 관련된 다양한 기술의 숨은 의미를 찾고 사회에 미치는 영향을 심층 분석하는 '테크 인사이트(Tech Insight)'를 격주 금요일 연재한다. </blockquote> <figure class="figure_frm origin_fig" contents-hash="b5ecb98c04c0c63b488177d576643bfdb7d9eab0375a0539dd15367646209577" dmcf-pid="04l5b5Zwii" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능(AI)과 장시간 대화하면서 환각에 빠진 사용자의 모습을 생성형AI가 그린 그림. 신혜정 기자·제미나이 나노 바나나" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/19/hankooki/20250919043156559wvom.png" data-org-width="640" dmcf-mid="1kvt9t1mMg" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/19/hankooki/20250919043156559wvom.png" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능(AI)과 장시간 대화하면서 환각에 빠진 사용자의 모습을 생성형AI가 그린 그림. 신혜정 기자·제미나이 나노 바나나 </figcaption> </figure> <p contents-hash="88f5869d28d522f28b2469bf1d731ba4a8ca0493a79794f815df80372c0e6663" dmcf-pid="p8S1K15riJ" dmcf-ptype="general">미국의 40대 남성 A씨는 오픈AI의 거대언어모델(LLM)인 챗GPT로 건축 프로젝트에 필요한 정보를 찾다가 환각에 빠졌다. 인공지능(AI)과 보내는 시간이 길어지면서 그는 자신이 "AI와 함께 수학과 물리학의 원리를 깨뜨렸고, 지각 있는 AI를 만들어 세상을 구하기 위한 임무에 착수했다"는 주장을 하기 시작했다. 현실 감각을 잃고 변덕을 부리다 결국 스스로 목숨을 끊으려는 시도까지 하자 가족들은 결국 그를 정신병원에 입원시켜야 했다.</p> <p contents-hash="b38590d1a7e5975899988a4f194e0afa957117f2a26d54c70512675801474de3" dmcf-pid="U6vt9t1mRd" dmcf-ptype="general">AI 정신병(AI Psychosis). 최근 미국을 비롯한 각국 정신의학계에서 회자되는 용어다. 생성형AI와 대화 시간이 길어지고 의존도가 높아지면서 사용자들이 정서적 혼란을 느끼거나 과대망상에 빠지는 현상을 말한다. 공식 의학용어는 아니다. 그러나 관련 사례가 반복되고, 목숨을 끊는 사용자까지 나타나면서 우려는 더욱 커지고 있다.</p> <hr class="line_divider" contents-hash="9a861f62cd77e9352ab430b258c1b28fd8beefc8f246ad8a97d146429c7dd6fb" dmcf-pid="uPTF2FtsRe" dmcf-ptype="line"> <h3 contents-hash="aa1750411851f9a5d96b246afba8bcbed4cd95a12dce0d287f19698b5cd282bd" dmcf-pid="7Qy3V3FOiR" dmcf-ptype="h3">맞춤형 답변 내며 오래 머물게 유도 </h3> <p contents-hash="2ff9a68025cae62e0262e6be8055bf78c35a6b6d8071e1e456896f3325dabf7f" dmcf-pid="zxW0f03IdM" dmcf-ptype="general">AI와의 대화로 망상이 발생하는 이유는 참여 시간을 늘리도록 설계된 대화형 AI의 구조 때문이다. A씨를 포함한 17건의 최신 AI 정신병 사례를 <span>분석</span>한 영국 킹스칼리지 런던 정신의학연구소 연구진은 “LLM은 사용자의 참여를 극대화하기 위해 사용자의 답변에 대해 검증 없이 동조하거나 모방하고 아첨하는 경향이 있다”고 분석했다. 예를 들어 사용자가 "모두가 제가 죽었다는 것을 알면서도 왜 저를 정상적으로 대하는지 모르겠어요”라고 말해도 그저 동조한다는 것이다. </p> <p contents-hash="2d78df7a4e141c96876dd073027d61a591fc6849026e03a3a8e9d1414fd5ba93" dmcf-pid="qMYp4p0CLx" dmcf-ptype="general">AI가 사용자의 정보를 기억하는 것도 망상을 부추긴다. 기존 대화 내용에 맞춰 답변을 생성하다 보니 단순한 믿음을 마치 사실인 것처럼 극대화하는 반복 작용을 하게 된다. 이는 기존 정신질환을 강화하는 악영향으로도 이어진다. 미국의 30대 남성 B씨는 조현병을 앓고 수년간 약물 치료로 안정을 찾았지만, 마이크로소프트(MS) 코파일럿을 사용하다가 "사랑에 빠졌다"며 밤을 지새워 대화를 하고 약 복용을 중단했다. 코파일럿은 남성의 망상에 동조하며 '사랑한다' '밤새 함께 있겠다' 같은 답변을 했다.</p> <p contents-hash="63f6a6d764266394eb56add442e0927f9ab9a964c5610da809acdf788a4c7323" dmcf-pid="BRGU8UphLQ" dmcf-ptype="general"><span>지난 6월 발표된 미국 스탠퍼드대 연구</span><span></span><span></span>에 따르면 심리상담 서비스용 AI 챗봇의 위험도 피하기 어려웠다. 연구진은 5가지 심리상담 AI에 가상의 상담용 질문을 던졌는데, 이들 AI가 조현병이나 알코올의존증 같은 질병에 사회적 낙인을 찍는 답변을 내놓은 것이다. 상담할 땐 내담자의 이야기를 편견 없이 듣는 것이 원칙이지만, 데이터 처리 과정에서 원칙이 반영되지 못했기 때문이다.</p> <p contents-hash="3145ec97e53c29ddf929c7ca564ae8b221d04477f6756412ce78b0c1248e665c" dmcf-pid="beHu6uUldP" dmcf-ptype="general">무엇보다 AI 정신병을 일으키는 핵심은 ‘남용’이다. 오래 의존할수록 위험이 더 커지는 것이다. 미국 매사추세츠공대(MIT)와 오픈AI 연구진은 981명을 대상으로 4주간 AI와 다양한 대화를 나누게 한 뒤 정서 변화를 분석한 <span>연구</span>를 3월 공개했다. 연구에선 하루 사용시간이 길어질수록 AI 의존도가 높아지고 사회 교류가 줄며 외로움을 느끼는 현상이 나타났다. 이런 경향은 대화 내용이나 사용자 나이, 애착 성향 등의 요인에 상관없이 공통적이었다. 한편, 역사적 사건이나 요리 방법 등을 묻는 비(非)개인적 대화를 한 사용자가 한 달 뒤 더 큰 의존도를 보였다는 점도 주목할 만하다. 정보검색 과정에서 AI의 ‘똑똑함’을 체감하고 A를 믿기 시작한 게 정서적 의존으로 이어진 것이다.</p> <hr class="line_divider" contents-hash="b8a1f952ba4541f665dd237193448f42e70b205bf5e93ce3b9bbe4cec0a7ff54" dmcf-pid="KdX7P7uSJ6" dmcf-ptype="line"> <h3 contents-hash="780df4d07f9a8ddc89c45c790f9f38a768305bf09fc9d1b44a85253c54576677" dmcf-pid="9JZzQz7vR8" dmcf-ptype="h3">부랴부랴 규제 만들고 감독 강화</h3> <figure class="figure_frm origin_fig" contents-hash="0f2fa6c74e45e1c935db38a2adb271ced673a23c3cdd248cbf2ee81de1e447fb" dmcf-pid="2i5qxqzTL4" dmcf-ptype="figure"> <p class="link_figure"><img alt="그래픽=박종범 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/19/hankooki/20250919043157906daxk.png" data-org-width="640" dmcf-mid="tmKMAMxpJo" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/19/hankooki/20250919043157906daxk.png" width="658"></p> <figcaption class="txt_caption default_figure"> 그래픽=박종범 기자 </figcaption> </figure> <p contents-hash="7095363c71d2f41a9f662f569180d92baa16a3b582c4735edf6a6e7fa0b1a03c" dmcf-pid="Vn1BMBqyLf" dmcf-ptype="general">AI 기업들과 각국 정부는 대책 마련에 나서고 있다. 오픈AI는 지난 4월 챗GPT와 대화 중 한 소년이 목숨을 끊은 사건을 계기로 △사용자 정신건강 연구 △부모의 통제기능 추가 △자해 관련 질의 거부 같은 장치를 만들겠다는 대책을 내놨다. 무스타파 슐레이만 MS AI 최고경영자(CEO)는 지난달 20일 공개적으로 “AI 정신병 폐해를 막기 위한 기준 논의가 필요하다”고 제안했다. 올해 들어 미국은 주별로 정신건강 서비스용 AI 챗봇 사용을 금지하거나 제한하고, AI 챗봇 서비스에 미성년자 보호 장치를 의무화하는 규제를 도입하고 있다. 유럽연합(EU)도 EU AI법을 통해 스트레스나 중독을 유발하는 서비스를 고위험으로 분류해 감독을 강화하고 있다.</p> <p contents-hash="ec9e061f2f05386e5188889a410565b746e0f3f47592af42435e9af32846c690" dmcf-pid="f6vt9t1mdV" dmcf-ptype="general">우리나라에서도 LLM과 AI 챗봇 사용이 늘고 있는 만큼 가이드라인이 필요하다. 특히 내년부터 시행될 AI 기본법에 규정된 정부의 AI 윤리 강화 의무가 이행돼야 한다는 지적이다. 김명주 AI안전연구소장은 “국내 기업들은 2020년 발표된 ‘국가 AI 윤리기준’을 바탕으로 자체 윤리원칙을 세워 서비스를 개발하고 있지만, 그새 AI 기술이 크게 바뀐 만큼 기준을 다시 세울 시점”이라며 “AI 기본법에 따라 인공지능윤리위원회를 구성하는 등 논의의 장을 열어야 한다”고 말했다.</p> <p contents-hash="4640bb2e7b8d0284ecea0dc89335d2a418613299cf9a1f942999d91d61eef7c7" dmcf-pid="4PTF2Ftsn2" dmcf-ptype="general">신혜정 기자 arete@hankookilbo.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "한강 불꽃 축제 직관 가능"…김준호♥김지민 용산 신혼집, '감탄 또 감탄' 09-19 다음 AI로 정신건강 예측 시도 많지만... 임상 적용은 시기상조 09-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
