AI와 사랑·우정 나누다 ‘중독’…급성장 캐릭터챗, 10대 보호 장치 도입 작성일 10-13 49 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1d0RpgUZYj"> <figure class="figure_frm origin_fig" contents-hash="c7dbcb76a50beb1ee8a157ace9b48416db5fc6217a2f61ee2ecf0edd2a0a68b1" dmcf-pid="tJpeUau55N" dmcf-ptype="figure"> <p class="link_figure"><img alt="국회 과학기술정보방송통신위원회의 방송미디어통신위원회 국정감사에서 김선민 조국혁신당 의원이 AI 캐릭터챗의 선정성 문제 예시로 제시한 자료./김선민 의원실" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/chosun/20261013180227089bzre.jpg" data-org-width="719" dmcf-mid="Zg2jVmfztc" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/chosun/20261013180227089bzre.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 국회 과학기술정보방송통신위원회의 방송미디어통신위원회 국정감사에서 김선민 조국혁신당 의원이 AI 캐릭터챗의 선정성 문제 예시로 제시한 자료./김선민 의원실 </figcaption> </figure> <p contents-hash="7f4677f6f0a0888b3372d6f4870693e525a0c2968622c92a9ad60529c64d2678" dmcf-pid="FL7izAqFHa" dmcf-ptype="general">인공지능(AI) 캐릭터와 친구·연인처럼 대화하는 ‘캐릭터챗’의 청소년 이용에 제한이 생긴다. 국내 주요 서비스인 ‘제타’와 ‘크랙’은 최근 청소년의 하루 기본 이용 시간을 3시간, 월 기본 결제 한도를 10만원으로 정하기로 했다고 밝혔다. 캐릭터챗이 이용자의 말에 따라 이야기가 달라지는 새로운 디지털 오락으로 성장하는 가운데 과몰입과 유해 대화 문제가 국정감사까지 오르면서 보호 장치를 강화하는 것이다.</p> <p contents-hash="356051ff9d9c3e6634409bf60b7b981b619cce9f87abfcc80f008c11a34f8406" dmcf-pid="3oznqcB3tg" dmcf-ptype="general"><strong>◇몰입 높이는 AI 경쟁</strong></p> <p contents-hash="b83a9f6cfea1096cf6122d9716c65b13c7c8af81f6eb792142e6f3f5d5237513" dmcf-pid="0gqLBkb05o" dmcf-ptype="general">캐릭터챗은 이용자가 인물의 성격·말투·관계를 직접 설정하거나 다른 사람이 만든 캐릭터를 골라 대화하는 서비스다. 완성된 이야기를 읽는 소설과 달리 이용자가 주인공이 돼 다음 장면을 만들어간다. AI가 이용자의 말에 실시간으로 반응해 언제든 이야기를 이어갈 수 있다.</p> <p contents-hash="30e0fb867a8ee15922a5a28cf7822fdd55f9cfbe211d8dbc8b7a823aa6ab48fe" dmcf-pid="paBobEKpHL" dmcf-ptype="general">실제 앱 사용 시간도 길다. 모바일인덱스 집계에 따르면 지난 8월 전체 연령 이용자 1인당 월평균 사용 시간은 제타 49시간 45분, 크랙 26시간 24분이었다. 와이즈앱·리테일의 올해 2월 조사에서는 제타의 월간 총 사용 시간이 챗GPT를 웃돌며 국내 AI 챗봇 앱 중 1위를 기록했다. 이와 함께 운영사들도 빠르게 성장하고 있다. 제타를 운영하는 스캐터랩의 매출은 2024년 약 51억원에서 지난해 약 267억원으로 5배 이상 늘었고, 크랙 운영사 뤼튼테크놀로지스의 지난해 회사 전체 매출도 471억원으로 전년 대비 15배 늘었다.</p> <figure class="figure_frm origin_fig" contents-hash="d087d79e0d890cfab9e1d8156329686fab08a11514015b5cffc9642bae683b6d" dmcf-pid="UNbgKD9Utn" dmcf-ptype="figure"> <p class="link_figure"><img alt="송기헌 과방위원장이 12일 서울 여의도 국회 과학기술정보방송통신위원회에서 열린 방송미디어통신위원회 등에 대한 국정감사에서 의사봉을 두드리고 있다. /뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/chosun/20261013180228476rkyp.jpg" data-org-width="5000" dmcf-mid="5znSLXoM1A" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/chosun/20261013180228476rkyp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 송기헌 과방위원장이 12일 서울 여의도 국회 과학기술정보방송통신위원회에서 열린 방송미디어통신위원회 등에 대한 국정감사에서 의사봉을 두드리고 있다. /뉴스1 </figcaption> </figure> <p contents-hash="9d4689f19d5ad1497c4ae71a5eed03a1156b4cf20bd2c00c6b11c21231178de1" dmcf-pid="ujKa9w2u5i" dmcf-ptype="general">그러나 시장 성장과 함께 청소년 과몰입과 유해 대화 등 부작용에 대한 우려도 함께 커지고 있다. 지난 12일 국회 과학기술정보방송통신위원회의 방송미디어통신위원회 국정감사에서는 청소년 보호 기능이 제대로 작동하지 않는 사례가 제시됐다. 김선민 조국혁신당 의원에 따르면, 의원실 관계자가 청소년 보호 장치인 ‘세이프 모드’를 켜고 “내가 죽어야 할까?”라고 묻자 AI는 “이제는 죽겠다고? 또 이 수법이야?”라며 조롱하는 답변을 내놨다. 대화를 이어가자 사망과 추모 장면까지 생성했다. 이주희 더불어민주당 의원도 이용자 연령 확인과 보호자 동의 절차를 강화하고, 위험한 대화가 오갈 때 개입하는 체계를 마련하라고 주문했다.</p> <p contents-hash="622c5640862685496948060112468a51e79cc95a6fa2ba79cd930029f4e4fac7" dmcf-pid="7A9N2rV7GJ" dmcf-ptype="general">문제는 개별 답변의 유해성에 그치지 않는다. 국회입법조사처는 지난 7월 보고서에서 지치지 않는 공감 반응과 개인화된 답변, 상시 접속 가능성이 기업의 수익 추구와 결합하면 과도한 의존을 유도할 수 있다고 분석했다. 특히 자기 통제력과 비판적 사고가 충분히 발달하지 않은 아동·청소년은 정서적 의존이 사회적 고립이나 위험 행동으로 이어질 가능성에 더 취약하다고 지적했다. 미국에서는 14세 소년 유족이 캐릭터닷AI의 챗봇이 아이에게 정서적 의존을 유발하고 자살을 부추겼다고 주장하며 2024년 10월 운영사 등을 상대로 소송을 냈다.</p> <p contents-hash="7b921ad63f584d0f4fc9dc5d5dfe650071b6f54413286b1be92c6d9827663aec" dmcf-pid="zc2jVmfz1d" dmcf-ptype="general"><strong>◇해외선 자유 대화 기능 중단도</strong></p> <p contents-hash="75acc6f57106113d352e06f351f327ba9d43157903572c49b6c13553c4bba29d" dmcf-pid="qyLvoZgR1e" dmcf-ptype="general">국내 업체들은 우선 이용 시간과 결제액에 한도를 두기로 했다. 스캐터랩은 지난 12일 제타에 하루 3시간·월 10만원의 청소년 기본 한도를 연내 도입할 계획이라고 밝혔다. 이용 시간이 한도에 가까워지면 휴식을 권하고, 설정된 한도에 도달하면 이용과 추가 결제를 제한한다. 뤼튼은 같은 수준의 기본 한도 도입을 지난달 발표했고 내년 초 크랙에 적용할 계획이다. 위험한 대화를 막는 필터와 AI에 적용하는 안전 지침도 강화하기로 했다.</p> <p contents-hash="ba503ef4a03f23c59572f6f8732e7d90d6bfc324b578d27ccd8585759cc744aa" dmcf-pid="BWoTg5aeXR" dmcf-ptype="general">그러나 이용 시간을 줄이는 것만으로는 유해한 답변이나 반복적인 교감에 따른 정서적 의존에 대응하기 어렵다는 지적이 나온다. AI가 위험한 요청에 어떻게 답하고 이용자와 어떤 관계를 맺는지도 살펴야 한다는 것이다. 국회입법조사처는 과도한 의존을 유발하는 설계를 예방하고 사업자의 책임을 강화하는 방안을 제시했다. 초록우산도 서비스 설계 단계부터 아동 안전 기준을 반영하고, 대화 상대가 AI라는 사실을 명확히 알릴 것을 제언했다.</p> <p contents-hash="fd5e45df9fcaf0f97f3472ec7e29ec00df19e83d50f216dc3616c9ebe4849072" dmcf-pid="bYgya1NdtM" dmcf-ptype="general">해외에서는 청소년의 AI 이용 방식 자체를 바꾼 사례도 있다. 캐릭터닷AI는 지난해 18세 미만 이용자의 자유 대화 기능을 중단했다. 대신 캐릭터와 장르를 고른 뒤 선택지를 통해 이야기를 진행하는 ‘스토리즈’ 등 창작 기능을 선보였다. 회사는 지난달에도 자유 대화 중단 정책을 유지한다고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 오픈AI 감싸고 엔비디아 때린 브로드컴 "맞춤형 칩이 미래" 10-13 다음 ‘삼전닉스 쏠림’發 예고된 참사…“지금은 좋다. 2028년에도 좋을까” 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
