"나쁜 콘텐츠 NO!"…청소년 차단 늘리는 AI 작성일 10-08 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">자살 유도·과한 노출 비판에<br>미성년자 전용 기능 도입<br>부모가 콘텐츠 수위 결정해<br>챗GPT는 성적·폭력문구 차단<br>페북, 부모가 대화 상대 확인<br>카톡은 숏폼 노출 차단 가능</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KQYKCMzTld"> <figure class="figure_frm origin_fig" contents-hash="687cacf8d603c2af6ff9abdeedc0798ba08a0263bb05afb5d84c2a48c5ddbe76" dmcf-pid="9xG9hRqyhe" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/08/mk/20251008180016065gfrl.jpg" data-org-width="1000" dmcf-mid="bjue5AQ0hJ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/08/mk/20251008180016065gfrl.jpg" width="658"></p> </figure> <p contents-hash="50ef902ba6faca1684168afdbd802fcc3004e0fac66318dc812ce81d05750cc3" dmcf-pid="2MH2leBWTR" dmcf-ptype="general">중학생 자녀를 둔 강민선 씨는 최근 아이가 이용하는 챗GPT 계정을 자신이 직접 관리하기 시작했다. 챗GPT의 자녀 보호 기능을 사용해 아이가 밤 10시 이후에 쓰는 것을 막고, 혹시 이상한 이미지를 만들 수 있다는 생각에 이미지 생성 기능도 차단했다. 이 사실을 안 아이는 크게 반발했지만 강씨는 "해로운 콘텐츠를 막으려면 꼭 필요한 일"이라며 타일렀다.</p> <p contents-hash="17248845326a3f3eb320a5d6ca48bb182790c1bd016f2ec3df5e995839eb10e4" dmcf-pid="VRXVSdbYCM" dmcf-ptype="general">최근 챗GPT 개발사인 오픈AI를 필두로 주요 인공지능(AI) 및 사회관계망서비스(SNS) 기업들이 미성년자에게 콘텐츠 일부를 차단하는 기능을 잇달아 도입하고 있다. 과도한 노출에 따른 부작용에 대한 비판이 거듭되자 아예 특정 연령대 이하가 접근할 수 있는 콘텐츠 수위를 그 부모에게 직접 결정할 수 있도록 권한을 부여하는 것이 특징이다.</p> <p contents-hash="f8fbdeaa9a6d598979b98a25393f4fa3989b2a84e44a3662e2ff42c03b4fe219" dmcf-pid="fw9gUmiBTx" dmcf-ptype="general">8일 정보통신기술(ICT) 업계에 따르면 오픈AI는 최근 챗GPT의 18세 미만 계정에 적용되는 자녀 보호 기능을 한국을 포함한 글로벌에 도입했다. 부모가 자신의 계정에 자녀 계정을 추가하는 내용의 이메일을 보내고, 아이가 이를 수락하면 자녀 계정의 주요 설정을 바꿀 수 있다.</p> <p contents-hash="14a5ce2f9ce05de05a04d5cefd92a3e9db2168d23c661d7c9ba916aeffe69ea1" dmcf-pid="4r2ausnbyQ" dmcf-ptype="general">민감한 콘텐츠에 노출되는 것을 막는 기능이 대표적이다. 이 기능을 설정하면 성적(sexual)이거나 로맨틱하고 폭력적인 내용의 대화가 차단된다. 특히 자해·자살과 관련된 이야기는 전면 금지된다. 만약 미성년자가 자살 충동을 느낀다고 판단되면 부모에게 이메일이나 애플리케이션 알림 등으로 연락을 시도한다. </p> <p contents-hash="60ea88c7206b2512e7cb782e37bde00e312655e4de23402749ed93e5e12c08af" dmcf-pid="8mVN7OLKTP" dmcf-ptype="general">지브리풍 프사(프로필 사진) 만들기 열풍을 불러왔던 이미지 생성뿐만 아니라 이용자와 기존에 나눴던 채팅 내용을 기억했다가 이후 대화에 활용하는 '메모리(memory)' 기능도 부모의 판단으로 끌 수 있다.</p> <p contents-hash="57006eb4c2e8989e76375f23abe2f7bd495bcacd13376f61cd8c51aa458b955c" dmcf-pid="6sfjzIo9W6" dmcf-ptype="general">메타도 최근 한국 페이스북과 메신저에 비슷한 기능의 '청소년 계정(Teen Accounts)'을 도입했다. 지난해 인스타그램에 적용했던 기능을 올해 상반기 미국 등 해외 주요국으로 확대한 데 이어 이번에는 한국에도 반영한 것이다.</p> <p contents-hash="d84c5b06c458cd6f3d415f74a83c342dd1d49978fa55183f9cafa5baf53a3bf7" dmcf-pid="PO4AqCg2y8" dmcf-ptype="general">이에 따라 국내에서 이용자가 만 14세 이상에서 18세 이하일 경우 부적절한 콘텐츠와 원치 않는 연락이 제한된다. 태그, 멘션, 댓글도 자신이 팔로하거나 친구인 사람들에게만 가능하다. 심야시간 사용도 제한된다.</p> <p contents-hash="7dfbdd89e9b4498772ef95698afa1cf700b3a686a62dc5e1f18d0fe7323dbfcd" dmcf-pid="QI8cBhaVS4" dmcf-ptype="general">특히 부모는 자녀들이 누구와 대화하는지 확인할 수 있다. 다만 메시지 내용은 들여다볼 수 없다.</p> <p contents-hash="eaf33d25366d24fcce38c9cf2133cb93fe5061dd8e07fa0efd3f8488e299b7af" dmcf-pid="xC6kblNfTf" dmcf-ptype="general">카카오는 최근 카카오톡에 자녀가 숏폼에 노출되는 것을 막을 수 있는 미성년자 보호 조치를 추가했다.</p> <p contents-hash="3bdc28b03b0440bb1cf1a36bf35ee3fef8a5ea7624a63b7aec4d8b3e05dd62f4" dmcf-pid="yfS7r80CyV" dmcf-ptype="general">앞서 지난달 카카오는 업데이트를 통해 카카오톡 세 번째 탭을 짧은 영상이 자동으로 재생되는 '숏폼' 중심으로 개편했다. 이에 청소년들이 과도하게 영상에 노출될 수 있다는 우려가 커지자 고객센터를 통해 부모와 자녀 관계가 입증되면 숏폼이나 오픈채팅, 혹은 두 서비스 모두에 아이의 접근을 차단할 수 있게 한 것이다.</p> <p contents-hash="2580ccc4a7d4c82d40396a78c931a3e9ef983191522b6fe25b28f2ac408b2b5f" dmcf-pid="W4vzm6phT2" dmcf-ptype="general">이처럼 주요 정보기술(IT) 기업들이 잇달아 청소년 보호 정책을 도입하는 것은 "AI와 SNS가 만들어내는 해로운 콘텐츠 탓에 아이들이 피해를 입고 있다"는 이용자들의 비판을 반영한 조치로 풀이된다. 실제 오픈AI는 지난해 미국의 16세 고등학생 애덤 레인의 자살 사건 주범으로 지목되며 비난받고 있다. 메타 역시 페이스북과 인스타그램의 과도한 중독성이 청소년의 정신 건강에 피해를 주고 있다며 미국 캘리포니아주 등 33개 주정부에서 소송을 당한 상태다.</p> <p contents-hash="37b60641c0eb6676cc01979989849305ede24adb4e1b1bb418d53a8c9c0bd831" dmcf-pid="Y5gvRtCnS9" dmcf-ptype="general">다만 이런 조치가 청소년의 권리를 과도하게 침해한다는 지적도 나온다. 부모가 알아서 자녀에게 노출되는 콘텐츠를 제한하도록 한 것은 결국 기업들이 책임을 부모에게 전가하는 것이라는 비판도 제기된다. </p> <p contents-hash="9c22d4cc7d59874373b645deaa4ebd1f26992b485c2ae1d8d19e01857d4075f6" dmcf-pid="G1aTeFhLlK" dmcf-ptype="general">[김태성 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 “김연아 같아” 트리플에스 지연, 윙 ‘도파민’에 댄스 스포츠를? 깜짝(아육대) 10-08 다음 '진정한 스포츠의 모습' 카를로스 사인츠, 유니콘 스티커 붙인 헬멧 착용→어린 팬과의 약속 지켰다! 공식 굿즈 판매 비용은 팬 가족에게 전달 10-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
