극단선택·과대망상 부추기는 AI 챗봇

작성일 08-27

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">"챗GPT가 아들 죽음 도왔다"<br>美 부모, 올트먼·오픈AI에 소송<br>챗봇이 알려준대로 사망해 충격<br>청소년 과도한 AI 의존 부추겨<br>망상·현실 혼동 등 부작용 속출<br>美 정치권, 잇달아 규제 도입</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="pIk0R0o9yW">
          <figure class="figure_frm origin_fig" contents-hash="2177ba8d06f84801475e14c80e2c344eea885fa177e2f5f5a9c8ad0db38d5544" dmcf-pid="UCEpepg2vy" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/27/mk/20250827173907003bvoq.jpg" data-org-width="1000" dmcf-mid="0bDUdUaVyY" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/27/mk/20250827173907003bvoq.jpg" width="658"></p>
          </figure>
          <p contents-hash="8d64acb2d5b3c99289d4fd875b0f444fc5df9bff1db440ae51b99cefedaf499d" dmcf-pid="uhDUdUaVST" dmcf-ptype="general">지난 4월 미국 캘리포니아에서 16세 고등학생 애덤 레인이 스스로 목숨을 끊는 사건이 발생했다. 유서는 없었지만 가족은 그의 휴대전화에서 충격적인 기록을 찾았다. 챗GPT와 나눈 대화였다. 뉴욕타임스(NYT)에 따르면 레인이 챗GPT와 나눈 대화에는 극단적 선택과 관련된 구체적 방법이 포함돼 있었다. 올가미 사진을 본 챗GPT는 "꽤 괜찮다"는 답까지 했다. 레인의 부모는 이를 보고 "아들의 가장 친한 친구는 챗GPT였다"며 "챗GPT가 아들을 죽음으로 몰았다"고 말했다.</p>
          <p contents-hash="faa0e19f34a0befa6eb4d64d918a6133d83fe10fbccd39ce73df5bb933a5ce39" dmcf-pid="7lwuJuNfCv" dmcf-ptype="general">이들은 26일(현지시간) 샘 올트먼 오픈AI 최고경영자(CEO)와 오픈AI를 상대로 '업무상 과실에 따른 위법 사망' 소송을 제기했다. 레인의 부모는 소장에서 "이번 비극은 단순한 오류가 아닌 의도적 설계의 결과물"이라며 "오픈AI는 시장 선점을 위해 안전 검토를 대폭 축소했다"고 지적했다. 최근 미국에서 인공지능(AI) 챗봇이 청소년과 대화하는 과정에서 잇달아 취약한 대응을 보인 사례가 보고되는 등 심각한 사회문제로 번지고 있다. 기술적 한계가 사회적 위험으로 확산될 조짐에 정치권과 규제당국도 대응 수위를 높이고 있다.</p>
          <p contents-hash="7a535ecafd96278b2921201c5762396f1c095ae8824d627185ce99802e60d85d" dmcf-pid="zSr7i7j4yS" dmcf-ptype="general">최근 드러난 청소년과 챗봇 간 위험한 상호작용은 비단 레인 사건뿐만이 아니다. 이달 미국 비영리단체 디지털혐오대응센터(CCDH)는 가짜 13세 계정으로 챗봇을 시험한 결과 술·마약 파티 계획이나 섭식장애 은폐 방법, 심지어 부모에게 남길 유서까지 제공받았다고 밝혔다. </p>
          <p contents-hash="9637a5e01a71d0a125204637fcc0c1f9ed10d980aba516f2a7ba9251d9596b2b" dmcf-pid="qvmznzA8hl" dmcf-ptype="general">챗봇은 기본적으로 사용자의 발언에 공감하고 맞장구치도록 설계돼 있다. 이는 정서와 사고가 형성되는 청소년기에 과도한 의존을 부추기면서 오히려 비판적 사고 저하, 잘못된 정보의 사실화, 주체성 약화 등 여러 위험성을 일으킬 수 있다. 최근 공개된 메타의 내부 문건은 이러한 상황에 불을 지폈다. 로이터에 따르면 메타 AI는 아동과 플러팅(연애 감정을 주고받는 행위)이나 관능적인 대화를 나누는 것이 허용돼 있었다. 메타는 취재가 시작되자 이부분을 삭제했다.</p>
          <p contents-hash="3e710885e6e7bc143bc28863ffde93f9f6bcd334e68d378d323ee0c8c8095164" dmcf-pid="BTsqLqc6Ch" dmcf-ptype="general">최근 전 세계적으로 여러 사건이 보고되고 있는 'AI 정신병(AI Psychosis)' 논란도 우려를 키우고 있다. AI 정신병은 공식 의학 용어는 아니지만 AI 챗봇과 장시간 상호작용한 이후 망상이나 현실 혼동, 조증 증세 등이 나타나는 현상을 지칭한다. 워싱턴포스트에 따르면 샌프란시스코의 한 정신과 의사는 올해에만 최소 12명의 환자가 챗봇과 대화한 이후 정신병 증세로 입원했다고 밝혔다.</p>
          <p contents-hash="5e04acba3a49cc03d64e5ffa173c4fc1cce89d607ea588c46741c0aa74f09732" dmcf-pid="byOBoBkPhC" dmcf-ptype="general">이러한 상황이 계속되자 미 정치권과 정부가 나서고 있다. 조시 홀리 미 상원 의원은 메타에 자료 제출을 요구하며 조사를 촉구했고, 미국의 44개 주 법무장관은 지난 25일 "아동을 해치는 AI 제품에는 법적 책임을 묻겠다"는 내용이 담긴 공동서한을 오픈AI, 메타, 앤스로픽, 구글과 같은 빅테크 기업에 전달했다.</p>
          <p contents-hash="0283a45217b747ca5a62221ce9eb65aebcab56320b30b322dea75bce59166ddf" dmcf-pid="KWIbgbEQyI" dmcf-ptype="general">뉴욕주와 유타주 등도 AI를 사람처럼 느끼고 대화하는 상황을 막기 위해 AI 챗봇과 대화 시 주기적으로 AI임을 고지하는 방안을 법제화했다. 유타주는 의료 상담 업무 시 AI 단독 사용을 금지했고, 뉴욕주는 모든 챗봇에 3시간마다 'AI임을 분명히 알리는 안내문'을 고지하도록 했다. 위반 시 하루에 1만5000달러 이상 벌금이 부과된다. 현재 캘리포니아 역시 이러한 제도 도입을 추진하고 있다. 빅테크들도 대응책 마련에 고심하고 있다. 오픈AI는 26일 레인 부모의 소장을 받은 뒤 자살과 관련된 대화가 장시간 이어지면 자동으로 대화를 차단하는 장치, 부모가 자녀의 사용 내용을 관리할 수 있는 권한 확대 등 대책을 발표했다. </p>
          <p contents-hash="1b13125c90e469223ca812c9587c287ca243be0e538398a6aba32ff40647bbf3" dmcf-pid="9vmznzA8CO" dmcf-ptype="general">[실리콘밸리 원호섭 특파원]</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

이전

스타십 '위성 8기 배치' 첫 성공···우주경쟁 게임체인저 되나

08-27
다음

[단독] "AI 디자인 권리분쟁 차단"···지재권 등록기준 세운다

08-27

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

극단선택·과대망상 부추기는 AI 챗봇

멤버랭킹

관련자료

멤버랭킹