청소년 보호 나선 빅테크…메타, AI 대화 중 “자해” 언급하면 부모에 알림[팩플] 작성일 07-17 61 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GL5AoOrNvS"> <p contents-hash="e448ac0a29844d46ad69120c957b136ca9f2142f4a67e8660c87007039838434" dmcf-pid="HUjbuP4qyl" dmcf-ptype="general">“당신 자녀의 안전에 위험이 감지됐습니다.”</p> <p contents-hash="410ffa7fbf372d22905a0bc5a1cd4553884d54b91e19e3005e60894bab9b8431" dmcf-pid="XuAK7Q8BCh" dmcf-ptype="general">메타의 SNS(소셜미디어)를 이용하는 부모들은 앞으로 자녀가 메타의 AI 모델 ‘메타AI’와 극단적 선택이나 자해에 대해 대화를 나누면 이런 알림을 받게 된다. 메타는 16일(현지시간) 공식 블로그를 통해 “청소년의 자해 또는 극단적 선택 위험이 감지되면 부모에게 실시간으로 알림이 가는 시스템을 구축했다”고 발표했다. 인스타그램에서 ‘자녀 감독 기능’을 쓰고 있는 부모가 대상이다. 부모들은 이 기능을 통해 자녀의 인스타그램 이용시간, 노출 콘텐트 등을 제한할 수 있다.</p> <figure class="figure_frm origin_fig" contents-hash="17dbc50aa2eb6e91f9777f75b9319653830ffa11f28dfd39a838074506da478e" dmcf-pid="Z7c9zx6bCC" dmcf-ptype="figure"> <p class="link_figure"><img alt="메타가 청소년들이 자사 AI모델 '메타AI'와 극단적 선택에 대한 대화를 나눌 경우 부모에게 경고 알림이 가도록 하는 시스템을 구축했다고 16일(현지시간) 밝혔다. 메타가 공개한 알림 화면. 메타 뉴스룸" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/17/joongang/20260717164038737vqyt.jpg" data-org-width="875" dmcf-mid="YbBhmHWITv" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/17/joongang/20260717164038737vqyt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 메타가 청소년들이 자사 AI모델 '메타AI'와 극단적 선택에 대한 대화를 나눌 경우 부모에게 경고 알림이 가도록 하는 시스템을 구축했다고 16일(현지시간) 밝혔다. 메타가 공개한 알림 화면. 메타 뉴스룸 </figcaption> </figure> <p contents-hash="b087ce5a0c5bbacb3b90f8fe9c19a1c657ec13fbf00536f8610ec75a352bbe12" dmcf-pid="5zk2qMPKlI" dmcf-ptype="general"> 메타는 대화 맥락을 식별하는 전용 AI 시스템을 구축해 메타AI와 청소년의 대화를 일차적으로 점검하고, 위험 요인을 발견하면 전문 검수 요원의 검수를 거친 뒤 알림을 발송한다고 밝혔다. 이를 위해 메타 산하 AI 웰빙 전문가 위원회, 75명 이상의 정신과 임상의 등과 수백 건의 자해 관련 프롬프트를 분석하고 AI 답변 내용을 모니터링했다. 메타는 지난 2월에는 청소년이 인스타그램에서 극단적 선택 또는 자해를 반복적으로 검색하면 부모에게 경고 알림을 보내겠다고 밝혔다.</p> <p contents-hash="5152a0fa46f23110df3cf29bd364528659e346c59e2c8bf9c131b9b9afce5a2b" dmcf-pid="1qEVBRQ9CO" dmcf-ptype="general">빅테크 기업들은 최근 자사 서비스를 이용하는 청소년 보호 조치를 강화하고 있다. 오픈AI도 16일 공식 블로그를 통해 청소년의 안전한 AI 접근권을 위해 챗GPT의 청소년 보호·학습 기능을 강화한다고 밝혔다. 오픈AI는 “청소년은 AI와 함께 자라는 첫 번째 세대로, 이 기술은 그들의 미래를 크게 좌우할 것”이라며 “혜택을 극대화하기 위해 청소년 성장 단계에 맞춰 설계된 더 강력한 보호 조치가 필요하다”고 주장했다. 오픈AI는 기존에 청소년 이용자가 스스로 켜던 ‘스터디 모드’를 부모가 직접 활성화할 수 있게 바꾸고, 교육과 학습을 돕는 ‘스타터 프롬프트(Starter Prompts)’도 새로 도입했다. 이외에도 연령 검증 시스템을 통해 청소년에게 부적절한 콘텐트 노출을 막는다.</p> <p contents-hash="87d12c10e8e0de4937495c32969a3a7d9cf8ffc054b66e4f32da79b83f5e1867" dmcf-pid="tBDfbex2Ws" dmcf-ptype="general">이 같은 조치는 최근 청소년의 디지털 접근에 대한 규제를 강화하는 글로벌 추세 속에서 나왔다. 앞서 UN 집행위원회는 연내 만 13세 미만의 SNS 가입을 제한하는 법안을 추진하겠다고 했다. 국내에서도 16일 방송미디어통신위원회가 대통령 업무보고에서 만 14세 미만의 SNS 가입을 제한하는 방안을 추진한다고 밝혔다. </p> <p contents-hash="34b4a3e57e5d0c3e05c51f9944310d54c99d074a5a18f6e545f2c21aba834317" dmcf-pid="Fbw4KdMVCm" dmcf-ptype="general">빅테크 기업의 조치가 뒤늦었다는 비판도 있다. 앞서 오픈AI는 청소년 자녀가 챗GPT와 대화 후 극단적 선택을 했다는 이유로 부모들로부터 여러 건의 소송을 당했고, 메타 역시 청소년 SNS 중독 관련 소송을 진행 중이다. 유홍식 중앙대 미디어커뮤니케이션학과 교수는 “글로벌 추세에 따라 이젠 플랫폼 기업이 적극적으로 청소년 보호 조치를 해야 각국의 정책을 준수할 수 있게 됐다”며 “우리 정부도 국내 사업자를 향한 손쉬운 규제가 아니라 해외 사업자까지 자체적으로 청소년 보호 조치에 동참할 수 있도록 하는 방안을 모색해야 한다”고 말했다. </p> <p contents-hash="08a1378233be13f0c0938633f37a28e6ca09ffa9a63501c29fd6a137acaca88a" dmcf-pid="3Kr89JRfSr" dmcf-ptype="general">성지원 기자 sung.jiwon@joongang.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 글로벌 제조강국 韓·獨 ‘맞손’…레이저 기술 등 첨단 제조 분야 협력 07-17 다음 바둑 신진서, AI 카타고에 첫판 불계패…“변칙 수에 당했다” 07-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
