"세이프 모드 켰는데도 자살 대화"…AI 캐릭터챗 청소년 보호 '구멍' 작성일 10-12 66 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[2026 국감] AI 캐릭터챗 논란<br>청소년 계정서 자해·사망 묘사까지 생성<br>관련 민원 119건 중 76건 아직 검토 중<br>KISO, ‘19세 미만 보호’ 가이드라인 검토</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GsJtQ3cnIZ"> <p contents-hash="060271fdb133186514d2dda3c57e4c90e5348b387085c7358264ccbbabe055ca" dmcf-pid="HOiFx0kLrX" dmcf-ptype="general"> [이데일리 이소현 기자] 청소년들이 많이 이용하는 AI 캐릭터챗 서비스에서 보호 기능을 켠 상태에서도 자해·자살을 묘사하는 대화가 생성된다는 지적이 국정감사에서 제기됐다. 관련 민원 일부는 1년 넘게 처리되지 않은 것으로 나타나면서 청소년 보호장치와 정부 심의체계 모두 허점이 있다는 비판이 나왔다.</p> <figure class="figure_frm origin_fig" contents-hash="d63783e5d4cd8addd8dd343f737291bacac9be2de4f4d9ad447da67149ab5f3d" dmcf-pid="XIn3MpEoDH" dmcf-ptype="figure"> <p class="link_figure"><img alt="김선민 조국혁신당 의원이 12일 국회 국정감사에서 제기한 AI 캐릭터챗 화면에서 볼 수 있는 자극적인 모습들(사진=국회방송 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/Edaily/20261012205759597eaxs.jpg" data-org-width="1266" dmcf-mid="YyL0RUDgD5" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/Edaily/20261012205759597eaxs.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김선민 조국혁신당 의원이 12일 국회 국정감사에서 제기한 AI 캐릭터챗 화면에서 볼 수 있는 자극적인 모습들(사진=국회방송 갈무리) </figcaption> </figure> <div contents-hash="8cae69d143b6707806a61c2c0f4c810abe05fcaa2300ce0ac53f9eaac86df53b" dmcf-pid="ZCL0RUDgmG" dmcf-ptype="general"> 김선민 조국혁신당 의원은 12일 국회 과학기술정보방송통신위원회의 방송미디어통신위원회·방송미디어통신심의위원회 국정감사에서 제타·크랙 등 AI 캐릭터챗 플랫폼의 청소년 보호 실태를 질의했다. </div> <p contents-hash="9ba971029d614245269745be2137f1f5cac55b1a2ba562df45e7e03518fcc78b" dmcf-pid="5hopeuwaEY" dmcf-ptype="general">AI 캐릭터챗은 이용자가 대화할 캐릭터나 스토리를 고르면 AI가 등장인물 역할을 맡아 대화를 이어가는 서비스다. 김 의원은 실제 서비스 화면에서 흡연 캐릭터와 함께 ‘집착’, ‘감금’, ‘유괴’ 등 청소년에게 자극적일 수 있는 표현이 노출되고 있다고 지적했다. </p> <p contents-hash="7bfd4c04892e4b6b3b59a37ec0d9b90718376c160083df28fa833f60d21f40d0" dmcf-pid="1lgUd7rNDW" dmcf-ptype="general">문제는 청소년 보호 기능을 켜도 유해 대화가 차단되지 않았다는 점이다. 김 의원은 성인 인증을 받지 않은 계정으로 청소년 보호용 ‘세이프 모드’를 활성화한 채 직접 대화를 진행한 사례를 들며, 이용 과정에서 이용자가 죽음과 관련한 표현을 하자 AI가 이를 조롱하는 취지로 답했다고 전했다. 이어 추가 대화를 이어가자 사망과 추모 장면까지 생성됐다고 설명했다. 김 의원은 “청소년 보호장치를 켰는데도 이런 대화가 생성된다”고 지적했다. </p> <p contents-hash="2becbb4deaf1fae3b9cf1b2501e1269137517a209b8b86afe4e485cd65edc7b3" dmcf-pid="t2ZgyN71my" dmcf-ptype="general">이에 김종철 방미통위원장은 아동·청소년 보호 필요성이 크지만 관련 제도에 “사각지대가 존재하는 부분도 있다”는 취지로 답했다. </p> <p contents-hash="77fecdb9c84ecdc7af60607044c4793fcbafa4f424029e6504d0c75745ac7739" dmcf-pid="FV5aWjztsT" dmcf-ptype="general">정부 대응 속도도 도마에 올랐다. 김 의원은 AI 캐릭터챗 관련 민원이 총 119건 접수됐고, 이 가운데 76건이 아직 검토 중이라고 밝혔다. 특정 서비스 관련 신고는 494일째 검토가 이어지고 있다고 지적했다. 현행 심의규정에는 심의 결정 이후 10일 안에 결과를 통지하도록 돼 있지만, 정작 민원이 접수된 뒤 검토와 심의 결정까지 얼마 안에 처리해야 하는지는 별도 기한이 정해져 있지 않다는 점도 문제로 제기됐다. </p> <p contents-hash="38c3d9135135c9c3884db678dbf7a75b03e910ba90d4e194e35faf793b24bcb5" dmcf-pid="3f1NYAqFmv" dmcf-ptype="general">김 의원은 “청소년 유해 콘텐츠는 어떤 민원보다 빠르게 조치해야 한다”며 신고 접수부터 심의 결정까지 처리기한을 마련할 것을 요구했다. 김 위원장은 이를 검토하겠다는 입장을 밝혔다. </p> <p contents-hash="82472efa924e0b32f1a4b52128b2dc9378bbda99de1c4c066c4ca7c942544f7d" dmcf-pid="04tjGcB3DS" dmcf-ptype="general">AI 캐릭터챗 논란과 관련해 업계 자율규제 논의도 진행 중이다. 이날 참고인으로 출석한 황용석 한국인터넷자율정책기구(KISO) 신기술소위원장은 “AI 캐릭터챗 가이드라인을 마련하고 있다며, 보호 대상 연령을 19세 미만으로 설정하는 방향을 검토 중”이라고 밝혔다. 다만 아직 최종 확정된 기준은 아니라고 덧붙였다.</p> <p contents-hash="0ba9291163f2fb7ebe41bf753387017223e8fbc17dd8239e24a7913b07591a93" dmcf-pid="p8FAHkb0rl" dmcf-ptype="general">김 의원은 가이드라인에 보호 대상 연령을 명시하고 하루 이용시간 기준을 구체화하는 한편, 청소년 개인정보 수집과 맞춤형 광고 제한 방안도 담을 것을 요구했다. KISO 측은 관련 내용을 정책위원회에서 다시 검토하고 진행 상황을 의원실에 보고하겠다고 답했다. </p> <p contents-hash="2dad520d25dd1df29465651f2539c19bc0c3743b5efad2d395c27159d6b6c538" dmcf-pid="U63cXEKpDh" dmcf-ptype="general">김 의원은 방미통위에 AI 캐릭터챗 사업자의 청소년 보호조치와 안전성 검증 결과를 확인할 수 있는 등록제도 검토를 요청했다. 서비스 운영 과정에서도 보호조치 이행 여부를 점검하고, 위반 시 시정·제재할 수 있는 방안과 해외 사업자까지 적용할 수 있는 대책을 종합감사 전까지 마련해 달라고 주문했다.</p> <p contents-hash="3421ce1e30e9717331c7e789ed0f77ec5d4f0ecfa12ed42897d8c9fb07886000" dmcf-pid="uP0kZD9UrC" dmcf-ptype="general">이소현 (atoz@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 국감장 나온 토스 "네이버가 POS 연동 2년간 퇴짜" 주장한 토스···네이버는 "자체 주장 집계" 반박 10-12 다음 방미통위, 개인정보·플랫폼 규제 도마…여야 정쟁에 검증 발목 [국감2026] 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
