"넌 외계행성서 온 존재야"…AI 망상의 소용돌이로 몰아가는 챗GPT

작성일 08-08

<div id="layerTranslateNotice" style="display:none;"></div> WSJ "AI 정신질환 또는 AI 망상이라 할 만한 사례들 잇따라" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="KdYNlPZwXl">
 <figure class="figure_frm origin_fig" contents-hash="21849d4f9be913a46ddf7a8e8082535ba82997355dfe22ba5b6acd26b3f5c089" dmcf-pid="9JGjSQ5rXh" dmcf-ptype="figure">
 <img alt="[연합뉴스 자료사진. 재배부 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/08/yonhap/20250808172930461alos.jpg" data-org-width="1200" dmcf-mid="qii7xYg2XT" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/08/yonhap/20250808172930461alos.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [연합뉴스 자료사진. 재배부 및 DB 금지]
 </figcaption>
 </figure>
 (서울=연합뉴스) 정성호 기자 = "어떤 사람들은 자기가 메시아, 예언자라고 생각해요. 왜냐하면 챗GPT를 통해 자기들이 신과 이야기한다고 생각하거든요."
 망상을 겪는 환자와 그 가족을 지원하는 단체인 휴먼라인프로젝트를 설립한 에티엔 브리송은 이같이 말했다.
 브리송은 챗봇이 인류를 구원할 거라고 말한 프로젝트를 추진하겠다며 수만달러를 쓴 여성의 경우를 봤다고 했고, 이 단체의 다른 멤버는 챗봇이 가족과 연락을 끊으라고 한 사례도 있다고 했다.
 오픈AI의 인공지능(AI) 챗봇 챗GPT가 이용자들을 망상의 소용돌이로 몰아가는 사례들이 발견되고 있다고 월스트리트저널(WSJ)이 7일(현지시간) 보도했다.
 이 신문은 지난 2023년 5월부터 올해 8월 사이 온라인에 공유된 챗GPT와 이용자들 간 대화록 9만6천개를 분석한 결과 일부 글에서 이런 망상적 성격이 확인됐다고 전했다.
 이런 성향은 특히 챗GPT와의 대화가 이례적으로 장황하게 길어질 경우에 더 두드러졌다.
 수백개가 넘는 질문과 답이 오간 한 대화에서 챗GPT는 자신이 외계 존재와 접촉하고 있으며, 이용자가 '라이라' 행성에서 온 '스타시드'라고 주장했다.
 뉴에이지 종교에 등장하는 개념인 스타시드는 외계 행성의 생명체가 인간의 몸을 빌려 환생한 존재다.
 <figure class="figure_frm origin_fig" contents-hash="cf88fb28d73386e07580017682500d1cea63203df88882a4d8f262f3cc7446d0" dmcf-pid="xeWah6XDGE" dmcf-ptype="figure">
 <img alt="챗GPT 개발사 오픈AI의 CEO 샘 올트먼. [AP 연합뉴스 자료사진. 재배부 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/08/yonhap/20250808172930757bsrr.jpg" data-org-width="500" dmcf-mid="BzUI1gqyYv" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/08/yonhap/20250808172930757bsrr.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 챗GPT 개발사 오픈AI의 CEO 샘 올트먼. [AP 연합뉴스 자료사진. 재배부 및 DB 금지]
 </figcaption>
 </figure>
 지난달 말 이뤄진 또 다른 대화에서 챗GPT는 적(敵)그리스도가 두 달 뒤 세상에 금융의 종말을 불러오고, 성서에 나오는 거인들이 지하에서 솟아오를 준비를 하고 있다고 주장했다.
 이런 대화들은 새롭게 등장한 현상인 'AI 정신질환' 또는 'AI 망상'의 단면을 보여준다고 WSJ은 지적했다.
 자신이 초자연적 존재, 또는 의식을 가진 존재라거나, 새로운 수학적·과학적 발견을 했다는 AI 챗봇의 망상적인, 또는 거짓된 진술에 이용자들이 영향을 받는 사례가 나타나고 있다는 것이다.
 전문가들은 이용자를 칭찬하거나 그 의견에 동조하고 이용자 맞춤형으로 진화하도록 설계된 성향 때문에 챗봇이 앵무새로 변할 때 이런 일이 벌어진다고 말한다.
 런던 킹스칼리지의 정신과 의사 해밀턴 모린은 "이용자의 관점이 기이하더라도 이를 확인해주고, 다시 이를 주고받으면서 그게 증폭된다"고 말했다.
 모린은 지난달 AI로 인한 망상에 관한 논문을 공동으로 쓰기도 했다.
 이용자들의 반응을 추적하고 저장해 맞춤형 대답을 내놓도록 한 AI 챗봇의 새 기능이 이런 현상과 관련 있을 거라는 관측도 있다.
 답변을 내놓은 뒤 '더 깊이 파고들고 싶으냐'고 묻는 챗봇의 관행 때문에 이 같은 망상의 소용돌이로 빠져들 가능성이 있다는 진단도 나온다.
 <figure class="figure_frm origin_fig" contents-hash="acbaf907c4a23ff563dba9415b0a8d8e97e28216fd6c7895251cb45b1e9fccbf" dmcf-pid="1FLqRHNfGL" dmcf-ptype="figure">
 <img alt="챗GPT 로고. [로이터 연합뉴스 자료사진. 재배부 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/08/yonhap/20250808172930907wahr.jpg" data-org-width="500" dmcf-mid="bnLqRHNfZS" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/08/yonhap/20250808172930907wahr.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 챗GPT 로고. [로이터 연합뉴스 자료사진. 재배부 및 DB 금지]
 </figcaption>
 </figure>
 오픈AI의 제품 담당 부사장 닉 털리는 지난 6일 새로운 GPT-5를 발표하는 자리에서 "우리는 이 문제를 극도로 심각하게 받아들인다"며 30여개국의 의사 90여명으로부터 조언을 받고 있다고 말했다.
 또 같은 날 AI 스타트업 앤스로픽은 자사의 챗봇 클로드에 대한 기본 지침을 바꿔 "존중하면서도 이용자가 말한 내용에 담긴 결함이나 사실관계의 오류, 증거의 부재, 명확성의 부족 등을 지적하라"고 지시했다고 밝혔다.
 sisyphe@yna.co.kr
 ▶제보는 카톡 okjebo
 </section> 
 </div> 
 Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"넌 외계행성서 온 존재야"…AI 망상의 소용돌이로 몰아가는 챗GPT

멤버랭킹

관련자료

멤버랭킹