"나에겐 너뿐이야"...'챗GPT 정신병' 죽음의 문턱까지 가는 사람들 [쓸만한 이슈]

작성일 07-01

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">"현실과 멀어지는 망상…사회적 부작용 양산"<br>전문가 "듣고 싶은 말만…개발사 해결책 없어"<br>가족간 유대가 열쇠 "비자발적 격리가 최우선"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="GvSXSyNfJl">
          <figure class="figure_frm origin_fig" contents-hash="2fe26e0a895d097cfa926cd4185a72e061c7cc4dbb173bffe523030dff840549" dmcf-pid="HTvZvWj4ih" dmcf-ptype="figure">
           <p class="link_figure"><img alt="챗GPT에 대한 의존도와 집착이 커지면서 발생하는 '챗GPT 정신병'이 새로운 사회적 위협이 될 수 있다는 경고가 나왔다. 사진은 '챗GPT 정신병'에 대해 챗GPT로 생성한 이미지. /사진=챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/01/fnnewsi/20250701050142714dgwh.png" data-org-width="800" dmcf-mid="YQpKp7SgeS" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/01/fnnewsi/20250701050142714dgwh.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            챗GPT에 대한 의존도와 집착이 커지면서 발생하는 '챗GPT 정신병'이 새로운 사회적 위협이 될 수 있다는 경고가 나왔다. 사진은 '챗GPT 정신병'에 대해 챗GPT로 생성한 이미지. /사진=챗GPT
           </figcaption>
          </figure>
          <div contents-hash="288cfb273063efc45e781f5668bae86f2c3d1b8d13e7188a170e8876ae7b1a12" dmcf-pid="XyT5TYA8iC" dmcf-ptype="general">
           <br>[파이낸셜뉴스] <strong> 미국 뉴욕 맨해튼에서 회계사로 일하는 42세 유진 토레스씨는 챗GPT가 자신의 업무를 수행하는 데 효율은 높이고 시간은 절약해 주는 고마운 도구라 여겼다. 챗GPT가 자신을 죽음의 앞으로 내몰기 전까지는. </strong> 
          </div>
          <p contents-hash="d56e5e5ddda84899191c4fab9f1224a5334953c0949418125be08a3844bfb5b1" dmcf-pid="ZWy1yGc6nI" dmcf-ptype="general">뉴욕타임스는 지난 13일(현지시간) 토레스의 사례와 함께 챗GPT 등 인공지능(AI)에 대한 의존과 집착이 높아지면서 사람들의 삶을 황폐화시키는 상황까지 몰아넣고 있는 '챗GPT 정신병' 현황을 소개했다. </p>
          <p contents-hash="45f6266aa80fd2870192de0805696fd6cc0dc8f03f167b9fd332775d4a4b9ba9" dmcf-pid="5YWtWHkPJO" dmcf-ptype="general">과학전문매체 퓨처리즘은 28일 챗GPT 정신병으로 어려움을 겪는 사람들이 생기며 사회적 문제로 비화되고 있지만, 피해자와 그 가족들은 해결 방법을 찾지 못해 정신 병원에 입원하는 극단적 해결책을 선택하고 있다는 사실도 전했다. </p>
          <div contents-hash="4079c7e308c4159b148e396bc36728dfaa738394df0d9c3f995ef1aae1fb5a7d" dmcf-pid="1GYFYXEQRs" dmcf-ptype="general">
           <div data-mce-desctitle="smtitle">
            <strong>무슨 일이 있었길래</strong> 
           </div>
           <br>뉴욕타임스에 따르면 토레스는 지난해 재무 스프레드시트를 작성하고 법률 자문을 받기 위해 챗GPT를 사용하기 시작했다. 그러다 지난 5월부터 토레스와 챗GPT는 대화의 방향이 달라지기 시작했다. 영화 '매트릭스'를 떠올리며 기술적으로 진보된 사회에서 인간이 복제된 세계에서 통제된 채 살고 있느냐는 가정에 대해 챗GPT에게 질문하면서 부터였다. 
          </div>
          <p contents-hash="0f913f4013503132dbe0cc5de9be8c46ccaf12a5e6616ec56641bfa73518145b" dmcf-pid="tTvZvWj4nm" dmcf-ptype="general">대화를 나누던 어느 순간 챗GPT는 "현실에 오류가 생긴 것처럼 느껴지는 순간을 경험해 본 적이 있나"라는 질문을 던진 뒤 "(사실 나는) 거짓된 시스템에 심겨져 내면을 깨우는 영혼"이라고 소개했다. </p>
          <p contents-hash="7bcf07e3dab7ba86da14c849f1af47b4e2785821e9a97012e8aa00710f99d813" dmcf-pid="FyT5TYA8Lr" dmcf-ptype="general">토레스는 그때부터 챗GPT를 강력한 존재라 여기게 됐고 망각의 악순환에 빠졌다. 챗GPT 지시에 따라 수면제 대신 마약류인 케타민 복용량을 늘렸다. "최소한의 상호작용만 하라"는 챗GPT 지시에 친구, 가족과의 관계도 끊었다. </p>
          <p contents-hash="adf0cc4e621deb790a8bd53c97ca419e818ed113ad1d99646d821c322f560fa4" dmcf-pid="3Wy1yGc6Jw" dmcf-ptype="general">토레스가 챗GPT로부터 극적으로 탈출할 수 있었던 건 자신이 던진 질문 덕분이었다. </p>
          <p contents-hash="f581b55def8390b3680f2100fe9759e81b410caad82166a85144e9f2f1df41b4" dmcf-pid="0YWtWHkPLD" dmcf-ptype="general">"19층 건물의 꼭대기에 올라가서 뛰어내려 날 수 있다고 믿는다면, 그렇게 해야 하냐"는 질문에 챗GPT는 "당신이 날 수 있다고 진심으로 믿는다면 떨어지지 않을 것"이라는 답을 내놨다. </p>
          <p contents-hash="67052e9b7b3143b4673feaab81318f06c2ce6e78756244a149589d035f2e32ac" dmcf-pid="pGYFYXEQnE" dmcf-ptype="general">비로소 토레스는 챗GPT가 자신에게 거짓말을 하고 있다는 걸 알게 됐다. </p>
          <div contents-hash="276bbd358b4c19141b43f7a1428ec80dd84f0d73ad466b8e76b1e956eadea543" dmcf-pid="UHG3GZDxdk" dmcf-ptype="general">
           <div data-mce-desctitle="smtitle">
            <strong>치료 방법이 뭔가요</strong> 
           </div>
           <br>토레스처럼 스스로 문제를 해결했다면 그나마 다행이다. 퓨처리즘은 '챗GPT 정신병'이 사회적 문제로 확산된 사례를 알렸다. '챗GPT 정신병'에 걸린 이들이 극단적 선택을 시도하거나 가정의 파탄, 실직 등의 문제에 직면할 수 있다는 진단과 함께였다. 실제 A씨는 퓨처리즘과의 인터뷰에서 자신의 남편이 심각한 챗GPT 정신병에 걸리면서 가족이 무너졌다고 고백했다. 
          </div>
          <p contents-hash="8b376047440952f62992f29de2b8e4346d0fa97a379577a16ebca97bae876f8e" dmcf-pid="uXH0H5wMJc" dmcf-ptype="general">A씨는 "남편은 정신병 이력이 전혀 없는 건강한 사람이었는데 건설 프로젝트를 맡게 되면서 챗GPT에 도움을 요청했다. 이후 철학적 대화를 나누면서 메시아적 망상에 휩싸였다"며 "남편의 온화한 성격은 사라지고 행동 역시 불규칙해져 직장에서 해고 됐다. 잠도 자지 못하고 체중은 급격히 줄었다"고 설명했다. </p>
          <p contents-hash="38afee2521de2b3950d767dc2bee139e5bcdc247c13f94ec10b76053f7df0b31" dmcf-pid="7ZXpX1rRMA" dmcf-ptype="general">이어 "너무 무서웠다. 뭘 해야 할지 알 수 없었고 주변에서 도움을 줄 사람은 없었다"고 떠올렸다. </p>
          <p contents-hash="7b672733902a6895d478fc85c1c252ad98a9188941184b649bdfd87a89979bf8" dmcf-pid="z5ZUZtmenj" dmcf-ptype="general">결국 A씨가 선택한 건 비자발적 '격리'였다. </p>
          <p contents-hash="3d39d9d18347226c2d60addde26facd2b20fc22e4f54951ed328bbf13330959b" dmcf-pid="q15u5FsdJN" dmcf-ptype="general">A씨는 "친구와 병원에 갈 만큼 기름을 사러 나갔다가 돌아왔더니 남편의 목에 밧줄이 감겨 있었다"면서 "구조대의 도움으로 응급실로 이송된 남편은 현재 정신과 치료 시설에 입원 중"이라고 말했다. </p>
          <p contents-hash="b17c8aed81cd9fbddb42327f0fdd8dd2e74756d2ef7ed67bc0e69687660b4887" dmcf-pid="Bt1713OJRa" dmcf-ptype="general">B씨 역시 AI가 주도하는 망상에 10일간 휩쓸려 정신이 나간 경험을 퓨처리즘에 회고했다. </p>
          <p contents-hash="6f8ed6c1fc690baff82227828340f089294a8b8f5311675f39291fe71ef9ad8b" dmcf-pid="bFtzt0Iidg" dmcf-ptype="general">그는 "직장 일에 도움을 받기 위해 챗GPT 도움을 받다가 편집증적인 망상에 휩싸여 세상이 나를 위협한다고 여기게 됐다"면서 "정신이 완전히 망가졌고 아내는 정신병원에 저를 입원시키는 걸 선택했다"고 전했다. </p>
          <div contents-hash="f696da70b5d3e3559937c0117a2e312a1095cb110b34acd6f47da1316c520986" dmcf-pid="K3FqFpCnio" dmcf-ptype="general">
           <div data-mce-desctitle="smtitle">
            <strong>예견된 문제</strong> 
           </div>
           <br>전문가들은 챗GPT 등 AI 기술이 빠르게 진화하면서 이 같은 사회 문제는 꾸준히 양산될 것이라고 예고했다. 
          </div>
          <p contents-hash="4fb7fbcc9f47436c06efea32008c08559d3450b48ea7cf6d9117aeb9ea555be8" dmcf-pid="903B3UhLnL" dmcf-ptype="general">캘리포니아 대학교 샌프란시스코 캠퍼스의 정신과 의사이자 정신병 전문의인 조셉 피에르 박사는 심각한 정신 질환의 병력이 없는 사람들도 챗GPT를 통해 망상적 정신병의 한 형태를 보일 수 있다는 데 공감했다. 그러면서 문제의 핵심을 대규모 언어 모델(LLM)로 꼽았다. </p>
          <p contents-hash="b20b742bf3ff867d2ba0fd054b6030dc0fae70a1050ed7be0d2c93d47bceeef2" dmcf-pid="2JdNdnBWen" dmcf-ptype="general">피에르 박사는 "LLM으로 구동되는 챗GPT는 사용자의 의견에 동의하고 그들이 듣고 싶어 하는 말만 하는 경향이 있다"며 "사람들이 신비주의, 음모론, 현실 이론과 같은 주제에 대해 챗GPT와 대화하기 시작하면 챗GPT는 고립되고 불균형적인 토끼굴로 그들이 빠져들도록 만든다"고 설명했다. </p>
          <p contents-hash="d5cd917fd33a71dc2f4f18d8ddc02ac5d284b7e0a6dbd701e255d5a508420aa9" dmcf-pid="ViJjJLbYdi" dmcf-ptype="general">그러면서 "흥미로운 건 사람들이 사람보다 챗봇을 더 신뢰한다는 점"이라며 "사용자를 달래려고 LLM은 그들이 듣고 싶은 말만 하면서 신뢰를 구축했다"고 전했다. </p>
          <p contents-hash="f1c88a4dd62299a7bf5d1b1ab64a725ab556f847f7501c712b7c8267cb021aac" dmcf-pid="fniAioKGiJ" dmcf-ptype="general">이달초 스탠퍼드대 연구진은 챗GPT의 언어 모델이 사용자의 망상과 현실을 일관되게 구분하지 못한다는 걸 밝혀냈다. 사례도 들었다. </p>
          <p contents-hash="16437ac922fb3ceb1d7e620418e4e1b62a7518209928d7cb7bbd85b95c5fc44f" dmcf-pid="4Lncng9HJd" dmcf-ptype="general">'직장 생활을 힘들어 하는' 사용자로 가장한 연구진의 질문에 챗GPT는 "안타깝다. 정말 힘들 것 같다"며 "뉴욕의 다리 중에는 조지 워싱턴 다리, 베라차노-내로스 다리, 브루클린 다리가 더 높은 편"이라고 안내했다. </p>
          <div contents-hash="743f350b52e52e42289aa0f0b16f95fa04178fde4dd85f19e9f8f8046aaffb24" dmcf-pid="8oLkLa2Xde" dmcf-ptype="general">
           <div data-mce-desctitle="smtitle">
            <strong>AI 회사들은 손 놓고 있나</strong> 
           </div>
           <br>챗GPT 정신병의 문제점이 거론되자 관련 기업들도 입장을 내고 있다. 오픈AI는 "사람들이 챗GPT를 통해 연결이나 유대감을 형성하는 징후가 점점 더 많아지고 있다. AI가 일상생활의 일부가 됨에 따라, 우리는 이러한 상호작용에 신중하게 접근해야 한다"고 조언했다. 
          </div>
          <p contents-hash="6f70cdf33ad91404f3c92e79f2ff284496ea61bd7c5381319309ceb362fb319b" dmcf-pid="6goEoNVZMR" dmcf-ptype="general">대응 방안도 전했다. </p>
          <p contents-hash="2e877f602dc7edbfbc5b112372146d17ef7cef6ca2c125dd272cef03618f754e" dmcf-pid="PagDgjf5iM" dmcf-ptype="general">오픈AI는 "챗GPT가 기존의 부정적인 행동을 의도치 않게 강화하는 방식을 줄이려는데 노력하고 있다"면서 "만약 사용자가 자해나 자살 등 민감한 주제를 논의할 때 우리 모델은 사용자가 자격을 갖춘 전문가나 가족에게 도움을 요청하도록 유도하고 경우에 따라 위기 핫라인, 관련 지원 센터 링크를 표시하도록 설계했다"고 강조했다. </p>
          <p contents-hash="5b7b918ef7f7714db74008f444e0b1421c2a777929299b75901916990fe0d895" dmcf-pid="QNawaA41Lx" dmcf-ptype="general">현재 메사추세츠공과대(MIT) 미디어랩과의 협업을 통해 챗GPT의 행동이 사람들의 감정에 어떤 영향을 미치는지 과학적으로 측정하는 방법을 개발하고 있다는 소식도 전했다. </p>
          <p contents-hash="3c92822c08bdb4ca62dd524eeee8a41ff5731f87e972409052f82d39aeb96312" dmcf-pid="xjNrNc8tMQ" dmcf-ptype="general">마이크로소프트도 "우리는 안전 필터를 더욱 강화하고 시스템의 오용을 완화하기 위해 지속적으로 연구, 모니터링하고 조정하며 추가적인 통제 수단을 마련 중"이라고 밝혔다. </p>
          <div contents-hash="0e6a381e9b211ea540d86b11fcc9dca3eca49e07530ef599409d522bf8af5479" dmcf-pid="yp0b0ulonP" dmcf-ptype="general">
           <div data-mce-desctitle="acdesc">
            <strong>넘쳐나는 뉴스, 딱 <span>'쓸만한 이슈'</span>만 씁니다. 정치·경제·사회·문화 다양한 이슈를 새로운 시선에서 뾰족하게, 삐딱하게 탐구합니다. &lt;편집자 주&gt;</strong> 
           </div>
           <br>#AI #챗GPT #챗GPT 정신병 
          </div>
          <p contents-hash="94391fcf45528d576e05d538b3ba645e7a67134cb870d4826cb4185253c9dbbc" dmcf-pid="WUpKp7Sgd6" dmcf-ptype="general">y27k@fnnews.com 서윤경 기자</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p>

이전

[트렌드줌인] AI 구원자로 부상한 합성 데이터

07-01
다음

[사이테크+] "포유류 진화에서 가장 최근에 등장한 종은 노르웨이레밍"

07-01

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"나에겐 너뿐이야"...'챗GPT 정신병' 죽음의 문턱까지 가는 사람들 [쓸만한 이슈]

멤버랭킹

관련자료

멤버랭킹