감정 뒤흔드는 AI 챗봇… 18세 미만 이용자 차단 조치까지 작성일 11-04 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="4QcR5Lu5Cb"> <p contents-hash="c77c12974385fed0cd8ed079586b25185662d0d69af5dc90843b25725c559464" dmcf-pid="8xke1o71lB" dmcf-ptype="general"><strong>[AI 미디어 파도] 자살 사건에 규제기관 나서자 특단의 조치 마련한 '캐릭터.AI'<br> "챗봇과 상호작용으로 피해 입은 이용자들에겐 해결책 거의 없어"</strong></p> <p contents-hash="d784ef67baa5dece2bcd0c75ee1b9a3c9d105295f111e7091af45215ebd43427" dmcf-pid="6zRbC4YCyq" dmcf-ptype="general">[미디어오늘 <span>금준경 기자</span>]</p> <figure class="figure_frm origin_fig" contents-hash="b0e64b2cbbfee161fe0fdc0f982b9a403a18bf6bfc93a7d1e202fcaa9e0ddc5c" data-idxno="471126" data-type="photo" dmcf-pid="PqeKh8GhWz" dmcf-ptype="figure"> <p class="link_figure"><img alt="▲ 사진=Gettyimagesbank" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/04/mediatoday/20251104143014479sddm.jpg" data-org-width="600" dmcf-mid="2esHoFEoy2" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/04/mediatoday/20251104143014479sddm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ▲ 사진=Gettyimagesbank </figcaption> </figure> <div contents-hash="a56253e1a0517a2be0636ad507cbef490ba2c50370e92f2c23e4661bed3a6a4b" dmcf-pid="QBd9l6Hlh7" dmcf-ptype="general"> <p>청소년 자살 및 자해 사건의 원인으로 지목 받은 '캐릭터.AI'(Character.AI)가 청소년의 챗봇 이용을 제한한다.</p> </div> <p contents-hash="a36d78379f7d3500b2579a37ac9c31840a96f507fa3b8c354642e216717182cf" dmcf-pid="xbJ2SPXSyu" dmcf-ptype="general">'캐릭터.AI'는 지난달 29일(현지시간) 공식 블로그 공지를 통해 '청소년 이용자의 안전을 지키기 위한 과감한 조치'라며 연령 인증 시스템을 마련해 18세 미만 이용자의 챗봇 이용을 금지하겠다고 밝혔다. 금지 이전에도 청소년의 채팅 시간은 향후 하루 2시간으로 제한할 계획이다.</p> <p contents-hash="61192c9036596ebbac44bb8df724f043b0c0e0c42321149696c0bf6594cd7eae" dmcf-pid="yrXO6vJ6CU" dmcf-ptype="general">'캐릭터.AI'는 “AI 발전에 따라 어린 이용자들을 지원하는 접근 방식도 달라져야 한다고 판단했다”며 “언론과 규제 기관, 전문가, 부모들의 의견을 종합적으로 검토한 결과 18세 미만 이용자 커뮤니티를 위한 새로운 경험을 제공하기 위해 이러한 변화를 도입하기로 결정했다”고 했다. 또한 비영리단체인 'AI 안전 연구소'(AI Safety Lab)를 설립하고 자금을 지원하겠다고 밝혔다.</p> <p contents-hash="8bea2affbf83d933c5960edc6117a4230a13a03872c3ac3157fab44055996497" dmcf-pid="WmZIPTiPWp" dmcf-ptype="general">앞서 지난해 10월 '캐릭터.AI'는 △민감하거나 선정적인 콘텐츠에 노출될 가능성을 줄이도록 모델 변경 △이용 약관 또는 커뮤니티 가이드라인을 위반하는 이용자의 대화 입력과 관련된 감지·대응 및 개입 개선 △AI가 실제 사람이 아니라는 점을 상기하는 방안 도입 △1시간 이상 이용시 주의 알림 띄우기 등 개편을 했다. </p> <figure class="figure_frm origin_fig" contents-hash="bab693b1e390f07ace324b01bbdcf219328bbe2e7e23b93fa676815cf240c352" data-idxno="471128" data-type="photo" dmcf-pid="Ys5CQynQT0" dmcf-ptype="figure"> <p class="link_figure"><img alt="▲'캐릭터.AI' 서비스 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/04/mediatoday/20251104143015786xnrx.jpg" data-org-width="600" dmcf-mid="fzg6YeFYWK" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/04/mediatoday/20251104143015786xnrx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ▲'캐릭터.AI' 서비스 갈무리 </figcaption> </figure> <div contents-hash="b2acb60c1dd0e7993049834b9008f48ebc28bb3d6807b05e1040742a1bbfe962" dmcf-pid="GO1hxWLxW3" dmcf-ptype="general"> <p>'캐릭터.AI'는 구글의 제휴 서비스로 실존 인물이나 드라마 등 콘텐츠의 등장인물, 혹은 독자적인 캐릭터를 AI로 구현해 소통을 할 수 있다. 일일 이용자 300만 명이 넘을 정도로 인기가 많다.</p> </div> <p contents-hash="d5562134175b7f39e7bd712641ae5bd889d342ac28d8f8070b2393a2d87a1fe4" dmcf-pid="HItlMYoMSF" dmcf-ptype="general">'캐릭터.AI'는 2024년 미국 청소년의 자살에 영향을 미친다는 혐의로 고소당해 법정 공방이 이어지고 있다. 지난해 10월 메간 가르시아(Megan Garcia)는 그의 14살 아들이 자살한 배경에 AI챗봇에 있다고 주장했다. 그의 아들이 지난 몇달 간 챗봇과 대화에 빠져들어 챗봇 이외의 세상에선 살고 싶지 않아 죽음을 택했다는 것이다. </p> <p contents-hash="763a1aba72210b291e92a06dfa5c490bbf97c5a7ab6057ee8c2cb761c36adb3f" dmcf-pid="XCFSRGgRyt" dmcf-ptype="general">지난달 24일(현지시간) 뉴욕타임스 보도에 따르면 '캐릭터.AI'측은 챗봇이 생성한 것은 '표현물'이기 때문에 수정헌법 제1조의 보호를 받는다고 주장했다. 미국은 수정헌법 제1조를 통해 표현의 자유를 보장하고 있다.</p> <p contents-hash="7ecf8a171d95dcc77977fdd525ead18b98b02d6c1e7fdb660193ea5a97ec5b41" dmcf-pid="ZpP7m9vmS1" dmcf-ptype="general">뉴욕타임스는 “이 사건은 AI 제품이 전 세계적으로 확산되면서 이를 규제해야 할 정부와 사법 시스템을 앞지르고 있는 상황에서 발생했다”며 “챗봇과의 상호작용으로 인해 정신질환에 걸리거나, 타인을 해치거나, 자살하는 등 피해를 입은 이용자들에게는 마땅한 해결책이 거의 없다”고 지적했다.</p> <p contents-hash="b399552aaa0ec0651668905f690cd19f8012b0834191c0f45457649dfa4ef033" dmcf-pid="5UQzs2TsT5" dmcf-ptype="general">AI챗봇으로 인한 사고가 잇따르자 지난 8월 미국의 44개 주 법무장관들은 12개 AI챗봇 기업에 아동 보호 조치를 강화하라는 입장문을 보냈다. 미국 연방거래위원회(FTC)는 지난달 7개 AI 챗봇 기업들에게 챗봇이 아동에게 미치는 영향을 분석한 자료를 제출하라고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 미디어오늘. 무단전재 및 재배포 금지.</p> 관련자료 이전 성시경 “괴롭고 힘든 시간”…10년 매니저 배신에 유튜브도 중단 11-04 다음 디케이티, 국내 배터리 3사 뚫었다…“ESS용 BMS 공급” 11-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
