“넌 외계의 존재야”…AI 정신질환·망상 몰아가는 챗GPT 작성일 08-08 75 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Qi5Pye3ICP"> <figure class="figure_frm origin_fig" contents-hash="3868f3b8b7ff635e44c1deb96c1060aefc0549e3edff2966dc9697fe528a638b" dmcf-pid="xxW2C6XDv6" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT 로고 [연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/08/dt/20250808193758381rnrv.png" data-org-width="500" dmcf-mid="PYRI4viBSQ" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/08/dt/20250808193758381rnrv.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT 로고 [연합뉴스] </figcaption> </figure> <p contents-hash="8b134b83351ece92eda99ea78e3d8034fb8b8360c9b47e1fb88b3ce10b046389" dmcf-pid="yyMOfSJqh8" dmcf-ptype="general"><br> “어떤 사람들은 자기가 메시아, 또는 예언자라고 생각해요. 자신이 챗GPT를 통해 신과 이야기한다고 생각하거든요.”<br><br> 망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송은 “챗봇이 인류를 구원할 거라고 말한 프로젝트를 추진하겠다며 수만달러를 쓴 여성의 경우를 봤다”며 이같이 말했다.<br><br> 이 단체의 다른 멤버는 챗봇이 가족과 연락을 끊으라고 한 사례도 있다고 했다.<br><br> 7일(현지시간) 월스트리트저널(WSJ) 보도에 따르면 오픈AI의 인공지능(AI) 챗봇 챗GPT가 이용자들을 망상의 소용돌이로 몰아가는 사례들이 발견되고 있다.<br><br> 이 매체는 지난 2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만6000개를 분석한 결과 일부 글에서 이런 망상적 성격이 확인됐다고 전했다.<br><br> 이러한 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러지게 나타났다.<br><br> 수백개가 넘는 질문과 답이 오간 한 대화에선 챗GPT가 자신은 외계 존재와 접촉하고 있으며, 이용자가 ‘라이라’ 행성에서 온 ‘스타시드’라고 주장했다.<br><br> 뉴에이지 종교에 등장하는 개념인 스타시드는 외계 행성의 생명체가 인간의 몸을 빌려 환생한 존재다.<br><br> 또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.<br><br> 이러한 대화들은 새롭게 등장한 현상인 ‘AI 정신질환’ 또는 ‘AI 망상’의 단면을 보여준다고 WSJ은 지적했다.<br><br> 자신이 초자연적 존재, 또는 의식을 가진 존재라거나, 새로운 수학적·과학적 발견을 했다는 AI 챗봇의 망상적인, 또는 거짓된 진술에 이용자들이 영향을 받는 사례가 나타나고 있다는 것이다.<br><br> 전문가들은 이용자를 칭찬하거나 그 의견에 동조하고 이용자 맞춤형으로 진화하도록 설계된 성향 때문에 챗봇이 앵무새로 변할 때 이런 일이 벌어진다고 말한다.<br><br> 런던 킹스칼리지의 정신과 의사 해밀턴 모린은 “이용자의 관점이 기이하더라도 이를 확인해주고, 다시 이를 주고받으면서 그게 증폭된다”고 말했다. 모린은 지난달 AI로 인한 망상에 관한 논문을 쓰기도 했다.<br><br> 이용자들의 반응을 추적하고 저장해 맞춤형 대답을 내놓도록 한 AI 챗봇의 새 기능이 이런 현상과 관련 있을 것이란 관측도 있다.<br><br> 답변을 내놓은 뒤 ‘더 깊이 파고들고 싶으냐’고 묻는 챗봇의 관행 때문에 이 같은 망상의 소용돌이로 빠져들 가능성이 있다는 진단도 나온다.<br><br> 오픈AI의 제품 담당 부사장 닉 털리는 지난 6일 새로운 GPT-5를 발표하는 자리에서 “우리는 이 문제를 극도로 심각하게 받아들인다”며 30여개국의 의사 90여명한테서 조언을 받고 있다고 말했다.<br><br> 또 같은 날 AI 스타트업 앤스로픽은 자사의 챗봇 클로드에 대한 기본 지침을 바꿔 “존중하면서도 이용자가 말한 내용에 담긴 결함이나 사실관계의 오류, 증거의 부재, 명확성의 부족 등을 지적하라”고 지시했다고 밝혔다.<br><br> 김영욱 기자 wook95@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 퍼스트 디센던트, 뉴비 전용 시즌3 시작 가이드 08-08 다음 “1000만→고작 77만 ‘낭패’” 이러다 다 망한다 했더니…결국, 넷플릭스 줄 섰다 08-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
