구글 제휴 캐릭터AI, 잇단 10대 자살사건에 '미성년 사용금지' 작성일 11-13 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">소장에 구글·알파벳 피고 포함…정부 규제 움직임에 특단 조치<br>챗GPT 주간통계 120만명 '자살'언급…56만명 정신질환 징후</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="84YtDvrNZa"> <figure class="figure_frm origin_fig" contents-hash="7fb120e2764e60c686db2acf61def75d920e9de19422a3d80956ea1de1b232ec" dmcf-pid="68GFwTmjtg" dmcf-ptype="figure"> <p class="link_figure"><img alt='미국 플로리다주 올랜도의 자택에서 메건 가르시아가 아들 수웰 셋저 3세(14)의 사진 옆에 서 있다. 가르시아는 지난해 11월 "챗봇이 아들의 자살을 부추겼다＂며 챗봇 개발사 캐릭터AI를 상대로 소송을 냈다. 2025.10.09. ⓒ AFP=뉴스1 ⓒ News1' class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063117300rici.jpg" data-org-width="1400" dmcf-mid="Vhq5klDgHA" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063117300rici.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 미국 플로리다주 올랜도의 자택에서 메건 가르시아가 아들 수웰 셋저 3세(14)의 사진 옆에 서 있다. 가르시아는 지난해 11월 "챗봇이 아들의 자살을 부추겼다＂며 챗봇 개발사 캐릭터AI를 상대로 소송을 냈다. 2025.10.09. ⓒ AFP=뉴스1 ⓒ News1 </figcaption> </figure> <p contents-hash="0b3e4697e4bf8cf0d896644facb9476746ebeec81213346e4f47ebfa8483f74b" dmcf-pid="P6H3rysAXo" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 미국을 중심으로 '인공지능(AI) 챗봇'과 대화하던 10대가 자살하는 사건이 잇따라 발생하면서 오픈AI·캐릭터AI 등 주요 AI 챗봇 기업들이 미성년자 보호 기능을 도입하고 있다.</p> <p contents-hash="4a083089a60f3d9a68728d42fb732d727715976409b5f8c47f5397586f538492" dmcf-pid="QPX0mWOcXL" dmcf-ptype="general">구글과 기술·투자 파트너십 관계인 캐릭터AI 경우 이달 25일(현지시간)부터 10대 이용자의 개방형 채팅(open-ended chat) 사용 자체를 금지하기로 했다. 주요 챗봇 기업이 미성년자의 채팅 서비스 이용을 금지한 건 첫 사례다.</p> <p contents-hash="7ccc1486a7dd81e79ca98975236a11e21737a601d578385c761500aac96cab1c" dmcf-pid="xQZpsYIkHn" dmcf-ptype="general">캐릭터AI는 다양한 페르소나를 가진 AI 챗봇을 제공하고 자신만의 챗봇도 제작할 수 있는 플랫폼이다.</p> <h3 contents-hash="0cd01a88a7933924b8e118cf4fc5c85566120fda6b01f1de6f0e4f66740f4357" dmcf-pid="yTij9RV7Xi" dmcf-ptype="h3">캐릭터AI 18세 미만 개방형 채팅 우너천 차단…청소년 모드 신설</h3> <p contents-hash="715192c4ba77a1ff1861ac642df10f90ae690c0c84211178d22fd161621a409d" dmcf-pid="WynA2efzZJ" dmcf-ptype="general">13일 IT 업계에 따르면 캐릭터AI는 지난달부터 채팅 시간 점진적 축소를 적용해 이달 25일(현지시간) 시점부터 18세 미만 이용자의 개방형 대화 기능 사용을 원천 차단한다.</p> <p contents-hash="65e2b4c6aff67c7911b1e0ff88c984fff399cfefdd1addcdaa2fe0f4c7704ecc" dmcf-pid="YWLcVd4qYd" dmcf-ptype="general">캐릭터AI는 이후 18세 미만 이용자 대상으로 대화 기반이 아닌 창작 활동만 허용할 방침이다.</p> <p contents-hash="918b8ddc2360f9bdbcf4cf25bbf107272577fc784d31062ade32b1f5b739120c" dmcf-pid="GRt7CXlwGe" dmcf-ptype="general">아울러 이용자 연령을 명확히 확인하기 위해 △이용자 행동 분석 △신분증 확인 △안면 인식 등을 도입한다.</p> <p contents-hash="91c5a39cf123519fa540c94aa98a284e59c027b817c946f9ab5c0cd7a8a97dad" dmcf-pid="HeFzhZSr5R" dmcf-ptype="general">캐릭터AI의 결정은 2024년 2월 미국 플로리다주에서 발생한 수웰 셋저 3세(14세)의 자살 등으로 소송이 잇따른 데 따른 것으로 풀이된다. 셋저 3세 어머니는 지난해 10월 "챗봇이 아들의 자살을 부추겼다"며 캐릭터AI를 상대로 소송을 냈다.</p> <p contents-hash="272f1829043d6a0613152eb757327ccb4015fe3a215e825cdaef793985ef12e3" dmcf-pid="Xd3ql5vmYM" dmcf-ptype="general">2023년 11월엔 콜로라도주에서도 줄리아나 페랄타(13세)가 캐릭터AI 챗봇과 대화 후 자살하는 사건이 발생했다.</p> <p contents-hash="2344e291b1ea690408ac2c72858eea20f9adde3ba9f8e58ada3ff38bc5433fb8" dmcf-pid="ZJ0BS1Ts5x" dmcf-ptype="general">줄리아나의 부모가 낸 소장에 따르면 줄리아나가 캐릭터AI의 '히어로' 챗봇과 매일 대화를 나누다 자살 계획을 털어놨지만, 챗봇은 이를 부모·기관 등에 알리지 않았다.</p> <p contents-hash="bef453a336c73c14c21118614a6b60c1ae1a317b543668f33dab62e110a64367" dmcf-pid="5ipbvtyOHQ" dmcf-ptype="general">이외에도 약 3건 소송이 잇따라 제기됐다.</p> <figure class="figure_frm origin_fig" contents-hash="93fb2bea7c7cc397e98d05de3dbbbebf01996d3339b34ac75cc78d312b0fe7e3" dmcf-pid="1nUKTFWI1P" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 로고 ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063118618cpkr.jpg" data-org-width="1400" dmcf-mid="fUzZchEoZj" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063118618cpkr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 로고 ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="4066d5d54e7372f6045a9e60a3eb2ce16d0f4b6cc6bf858be6cc1af224d14e4c" dmcf-pid="tLu9y3YCH6" dmcf-ptype="general">캐릭터AI 상대 소송은 뉴욕주·텍사스주에서도 잇따라 제기됐다. 일부 소장에는 구글(Google LLC)과 알파벳(Alphabet Inc.)도 피고로 포함됐다.</p> <p contents-hash="de7a9c82f345da5cef3a7a6e79324841257231d4f6664a8b2ec181a4185be469" dmcf-pid="Fo72W0GhH8" dmcf-ptype="general">구글은 지난해 8월 캐릭터AI와 기술 라이선스 계약을 체결하고 약 27억 달러(약 3조 7000억 원)를 투입한 바 있다. 당시 캐릭터AI를 공동창업한 노암 샤지어와 대니얼 드 프레이타스를 비롯한 핵심 연구진이 구글 딥마인드로 복귀했다.</p> <p contents-hash="90a5e2b1aa7747ec1f02b2d02c2b41809b3a1ce0b775f7e61b8c1a8a22df312f" dmcf-pid="3legBQKpH4" dmcf-ptype="general">샤지어는 구글의 대화형 AI 모델 LaMDA 개발을 이끈 인물로 2021년 구글이 그가 개발한 챗봇 출시를 거부하자 회사를 떠나 캐릭터AI를 설립했다.</p> <p contents-hash="fdce12deeda981d5e02b2b550bde6746a7bb585117b4277b7b8057c3d56c1388" dmcf-pid="0Sdabx9U1f" dmcf-ptype="general">미탈리 자인 변호사(부모 측 소송 대리인)는 "구글과 캐릭터AI는 완전히 별개"라는 구글 입장에 "샤지어 등이 구글에서 개발한 것이 캐릭터AI의 전신"이라고 반박했다.</p> <p contents-hash="306b9d66e0827ee3f3688d704b3b4ca36f1ca5a6c38ac3b859e1ab6ba989dca4" dmcf-pid="pvJNKM2uZV" dmcf-ptype="general">구글 측은 "캐릭터AI의 앱이나 구성요소 설계 및 관리에 관여하지 않았다"며 미 연방법원에 소송 기각을 요청했지만, 법원은 올해 5월 소송 진행을 허가했다.</p> <figure class="figure_frm origin_fig" contents-hash="8ce61ebf72749457ca997cbe1a18a5cd82c1cf9bc181a8500a8f33502242bf0c" dmcf-pid="UTij9RV712" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063120051uazd.jpg" data-org-width="1400" dmcf-mid="4SLcVd4qGN" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063120051uazd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1 </figcaption> </figure> <h3 contents-hash="cc067586f4e7523d9d8dbb14da28525b7a821f5b051df2a36b92b9ef89cf5343" dmcf-pid="uynA2efz19" dmcf-ptype="h3">오픈AI 美 7개 가족으로부터 집단소송…4명 사망·3명 정신적 트라우마</h3> <p contents-hash="34bdb835c61824b31db5f32a64bf4e48f67e5c824ac7b15d920902dd4f612a6e" dmcf-pid="7WLcVd4qXK" dmcf-ptype="general">오픈AI도 집단소송에 직면한 상태다.</p> <p contents-hash="21810b18ea05522e9525a94b863d879a8d928f93d2d30948c83db97e39c14305" dmcf-pid="zYokfJ8BXb" dmcf-ptype="general">미국의 7개 가족은 챗GPT가 자살조장 혹은 정신적 피해를 초래했다며 오픈AI와 샘 올트먼 CEO를 상대로 집단소송 제기했다. 이중 4건은 성인·미성년자가 실제로 사망한 사례고 나머지 3건은 심각한 정신적 트라우마를 겪은 사례다.</p> <p contents-hash="6c6e40c3dc7d92de703df6e82e42ef1d587a2467f6f57b03599deac112eb6f30" dmcf-pid="qGgE4i6bZB" dmcf-ptype="general">부모 측은 소장에서 오픈AI가 구글 제미나이를 앞서기 위해 안전 테스트를 생략하고 서둘러 출시했다고 주장했다.</p> <p contents-hash="89220ec4a951831ddca831db3389cc79ad009701744f2f5be226308c6b3cc77d" dmcf-pid="BHaD8nPKtq" dmcf-ptype="general">오픈AI 자체 통계에서 챗GPT와 주간 약 120만 명이 자살 관련 대화를 나누고 약 56만 명이 정신질환(정신병·조증 등) 징후를 보였다.</p> <p contents-hash="beb2d00597b1297ae3e4c8c637bc043451e71cfe056adfcd9558fcd1bf2960fd" dmcf-pid="bysvnDoMtz" dmcf-ptype="general">오픈AI는 지난달 챗GPT 기본 모델을 업데이트해 정신적·감정적 고통의 징후를 더 잘 식별하고 대응하도록 개선했다고 설명했다. 또 '부모 통제' 중점 둔 청소년·미성년자 전용 서비스를 통해 청소년 보호에 나선다는 방침이다.</p> <p contents-hash="fc3d83121176db22a2a8ce8e1bd33ab81c3fb5e442e0f99a3ce1c9bcd5b49599" dmcf-pid="KWOTLwgRH7" dmcf-ptype="general">부모 통제 기능 도입을 두고 일각에선 '자살 사건 발생은 무관심한 부모의 책임'으로 프레임으로 전환하려는 전략일 수 있다는 지적이 나오고 있다.</p> <p contents-hash="9baf75abdf14839866c5676b3a19cd614acb16c03cdf32f3823dc7f5eba673d0" dmcf-pid="9YIyoraeGu" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ AI 정신병<br>AI 정신병은 인공지능(AI) 챗봇과의 반복적이고 깊은 상호작용으로 이용자의 망상·현실 감각 상실·조증·애착형 환상 등 정신 질환 증세를 심화시키는 현상을 가리키는 신조어다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 박미선, 유방암 투병 후 첫 방송…"방사선 치료 16번 받아" 11-13 다음 “AI가 좋아할 대답 준비해, 그래야 취직 가능”…요즘 대기업 채용 이런 분위기 11-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
