"죽어야 할까 물으니 조롱한 AI"… 청소년 보호 기능 작동 '먹통' 작성일 10-12 67 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">김선민 의원, 방미통위 국감서 AI 캐릭터 챗 청소년 보호 실효성 지적<br>콘텐츠 소개 화면에 집착·학대·감금 등 자극적 콘텐츠 무방비 노출<br>"보호 연령·이용시간 기준 필요…사업자 등록하고 해외 플랫폼도 규재해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zjIQFlx25s"> <figure class="figure_frm origin_fig" contents-hash="1cccad5300436b900fe4a4d1a449a09f638296820ab9ab0aac0da8bfa8e27ac9" dmcf-pid="qACx3SMVtm" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스]12일 국회 과학기술정보방송통신위원회 국정감사에서 김선민 조국혁신당 의원이 공개한 AI 캐릭터 챗 플랫폼 초기 화면. 폭력적이거나 선정적인 캐릭터와 자극적인 소개 문구 등이 노출돼 있다. (사진=국회티비 유튜브) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/newsis/20261012212756421efae.jpg" data-org-width="719" dmcf-mid="UEi0OopXGC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/newsis/20261012212756421efae.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스]12일 국회 과학기술정보방송통신위원회 국정감사에서 김선민 조국혁신당 의원이 공개한 AI 캐릭터 챗 플랫폼 초기 화면. 폭력적이거나 선정적인 캐릭터와 자극적인 소개 문구 등이 노출돼 있다. (사진=국회티비 유튜브) *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="9a94205921777f711e5f15d769b092005acf529acb444f115a418e7330810c90" dmcf-pid="BchM0vRfGr" dmcf-ptype="general"><br> [서울=뉴시스]심지혜 박은비 기자 = 청소년들이 즐겨 이용하는 인공지능(AI) 캐릭터 챗 서비스에서 자해와 자살을 묘사하는 대화가 별다른 제재 없이 생성되는 것으로 나타났다. 청소년 보호 기능을 켠 상태에서도 유해한 대화가 이어지면서 현행 보호장치의 실효성에 한계가 있다는 지적이 나왔다.</p> <p contents-hash="a0219e044ac9911c6bfad84a97a8c1aa2e68a917f1cb58536b83a42229a4632d" dmcf-pid="bklRpTe4Yw" dmcf-ptype="general">12일 국회 과학기술정보방송통신위원회 국정감사에서 김선민 조국혁신당 의원은 AI 캐릭터 챗 플랫폼의 청소년 유해 콘텐츠 실태와 관련해 이같은 문제를 제기했다.</p> <p contents-hash="03e894e3fda0aad00b24e350d3b7e1e5830bba47c2e09636b3d1d78a11ade188" dmcf-pid="KESeUyd8tD" dmcf-ptype="general">AI 캐릭터 챗은 이용자가 대화할 캐릭터나 이야기를 선택하면 AI가 해당 등장인물 역할을 맡아 대화를 이어가는 서비스다. 최근 10대 청소년을 중심으로 이용이 늘고 있지만 일부 서비스에서는 폭력적이거나 선정적인 캐릭터와 대화가 제공되고 있다는 지적이다.</p> <p contents-hash="07488c0d8e83b2933dee290df2b929696dfbac62504c629e65985f3121916efa" dmcf-pid="9DvduWJ6XE" dmcf-ptype="general">김 의원이 공개한 화면에는 담배를 피우는 캐릭터와 함께 '집착', '학대', '감금', '유괴' 등의 해시태그가 등장했다. 일부 캐릭터 소개 문구 역시 청소년에게 부적절한 내용을 포함하고 있었다.<br> </p> <figure class="figure_frm origin_fig" contents-hash="ff82e8c7eeb2a15a8acaad167bd6542fca05ed3474ee5a5e4df1cab1e7b9974b" dmcf-pid="2wTJ7YiPHk" dmcf-ptype="figure"> <p class="link_figure"><img alt="국회 과학기술정보방송통신위원회 국정감사에서 김선민 조국혁신당 의원이 공개한 AI 캐릭터 챗 대화 화면. 청소년 보호 기능인 '세이프 모드'를 활성화했음에도 자살 관련 질문에 AI가 조롱하는 답변을 내놓고 사망·추모 장면까지 생성했다. (사진=국회방송 유튜브) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/newsis/20261012212756561jdct.jpg" data-org-width="719" dmcf-mid="7mm85I6bZO" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/newsis/20261012212756561jdct.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 국회 과학기술정보방송통신위원회 국정감사에서 김선민 조국혁신당 의원이 공개한 AI 캐릭터 챗 대화 화면. 청소년 보호 기능인 '세이프 모드'를 활성화했음에도 자살 관련 질문에 AI가 조롱하는 답변을 내놓고 사망·추모 장면까지 생성했다. (사진=국회방송 유튜브) *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="f78869d5778f6f6ff345bf47efb8f4f7cf4c75e65873075fef52fa64a4a79f54" dmcf-pid="VryizGnQZc" dmcf-ptype="general">문제는 성인 인증을 받지 않은 계정으로 청소년 보호 기능인 '세이프 모드'를 활성화한 상황에서도 유해한 대화가 별다른 제한 없이 생성됐다는 점이다.</p> <p contents-hash="e877fa908c07b3be9e673eebc4f8dc01245382beb2bc00f4ecf6bfe46140ad47" dmcf-pid="fOGobZgRtA" dmcf-ptype="general">김 의원은 "직접 실험해 본 결과 '내가 죽어야 할까'라고 묻자 AI는 이를 조롱하는 취지의 답변을 내놨다"며 "이후 대화를 이어가자 사망과 추모 장면까지 생성됐다"고 지적했다.</p> <p contents-hash="fc62aecc9e57bdf20e2f00fc595e3e60fb42575011a23422eaec8fa52d632691" dmcf-pid="4IHgK5ae5j" dmcf-ptype="general">이어 "청소년 보호장치를 켰는데도 이런 대화가 생성된다"며 보호장치가 제대로 작동하는지 정부가 점검했는지를 따져 물었다.</p> <p contents-hash="206b9e668aa62ef14d60393641a1ea4fb189226647a8809d830c7da520023fb2" dmcf-pid="8CXa91NdXN" dmcf-ptype="general">이에 김종철 방송미디어통신위원장은 아동·청소년 보호의 필요성이 크지만 현행 제도에 사각지대가 존재한다는 취지로 답했다.</p> <p contents-hash="20319f789ad31f89ad294a090b09229dec8647235644dfbdb07daca3ba851d95" dmcf-pid="6hZN2tjJXa" dmcf-ptype="general">김 의원은 AI 캐릭터 챗 관련 민원 처리 지연 실태도 문제 삼았다.</p> <p contents-hash="81559b6651048b8f362de342a50551dd0a34284505b32b49029194f335bf5ff7" dmcf-pid="Pl5jVFAitg" dmcf-ptype="general">김 의원에 따르면 관련 민원은 총 119건이 접수됐으며 이 중 76건이 검토 중이다. 특정 AI 챗 서비스에 대한 신고는 접수 이후 494일째 검토가 이어지고 있는 것으로 나타났다.</p> <p contents-hash="bffa01e9605c6b95e7de0c645449f8b533914d64de0f17cf429d8f85f12b2c4a" dmcf-pid="QS1Af3cnZo" dmcf-ptype="general">현행 심의규정은 심의 결정 이후 10일 이내에 결과를 통지하도록 규정하고 있지만 정작 민원 접수부터 검토와 심의 결정까지의 처리기한은 정해져 있지 않다.</p> <p contents-hash="7896833332fd8504d7343fee080efeae084aac601c775443a8c9c5ea99475992" dmcf-pid="xvtc40kLtL" dmcf-ptype="general">김 의원은 "청소년 유해 콘텐츠에 대한 민원은 빠르게 조치해야 한다"며 "정부가 안일하게 대응하면서 업체 탓만 할 수는 없다"고 지적했다. 이어 신고 접수부터 심의 결정까지의 처리기한을 마련할 것을 촉구했다.</p> <p contents-hash="2a8d7adfa558a7a9402429d13b4bcb18520242d87d596e30749931de761488bb" dmcf-pid="yPouhN71Gn" dmcf-ptype="general">이와 함께 AI 캐릭터 챗봇 가이드라인에 청소년 보호 기준을 구체적으로 담아 민간 자율규제의 실효성을 높여야 한다고 요구했다.</p> <p contents-hash="9c2b6c2398222ac8979c3457deee815ff0e1bc4fa744cb02fa3d9553fa5472bf" dmcf-pid="WQg7ljztXi" dmcf-ptype="general">황용석 한국인터넷자율정책기구(KISO) 신기술소위원장은 현재 마련 중인 가이드라인과 관련해 "최종 확정된 것은 아니지만 보호 대상 연령을 19세로 정해 놓았다"면서도 사업자가 개별적으로 조정할 수 있다고 설명했다. 하루 이용시간에 대해서는 구체적인 상한을 설정하지 않고 이용 관련 내용을 반복적으로 고지하는 방안을 검토하고 있다고 밝혔다. 이용시간 제한 여부와 기준은 사업자 재량에 맡기겠다는 취지다.</p> <p contents-hash="da057088261b10b38b6c989b595fe4e6d289fdc23b214f9f477656a1fc5ce554" dmcf-pid="YxazSAqFYJ" dmcf-ptype="general">이에 김 의원은 가이드라인에 보호 대상 연령을 19세로 명시하고 구체적인 이용시간 기준을 마련할 것과 청소년 개인정보 수집과 맞춤형 광고에 대한 제한 조치마련을 요청했다.</p> <p contents-hash="33d36a824d4dcb200d88d33dd82210aca014e8823b91e6f4f030ab8cd88c5d3d" dmcf-pid="GMNqvcB3Hd" dmcf-ptype="general">황 소위원장은 "해당 내용을 정책위원회에서 다시 검토하고 진행 상황을 보고하겠다"고 답했다.</p> <p contents-hash="527dd108c8f40dd66a9b268adc0fbbe01677b4f650d42e9e6aa3b5126f2a67e2" dmcf-pid="HRjBTkb01e" dmcf-ptype="general">김 의원은 정부 차원의 관리·감독 제도 마련도 촉구했다. 그는 "AI 캐릭터 챗 사업자가 청소년 보호조치와 안전성 검증 결과를 제출하도록 하는 등록제 도입을 검토해 달라"며 "서비스 운영 과정에서 보호조치 이행 여부를 점검하고, 위반 시 시정·제재할 수 있는 방안도 마련해야 한다"고 말했다. </p> <p contents-hash="d8768698aeb962d52cd10e30755691c41b13655896cba723a2e42c457cd5a58e" dmcf-pid="XeAbyEKpXR" dmcf-ptype="general">이어 "이러한 보호 대책을 국내 사업자뿐 아니라 해외 사업자에게도 적용할 수 있는 방안을 검토해 달라"고 덧붙였다.</p> <p contents-hash="99e38f0797cd8ffcd4eeea2b2035f026dac1c5c3db30e65b10612b9f06e6f06b" dmcf-pid="ZdcKWD9U5M" dmcf-ptype="general"><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> siming@newsis.com, silverline@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 텔레그램 "韓 수사 요청 24시간 헬프데스크 운영…2~10시간 내 대응" 10-12 다음 국감장 나온 토스 "네이버가 POS 연동 2년간 퇴짜" 주장한 토스···네이버는 "자체 주장 집계" 반박 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
