"부모통제 보호"vs"법적책임 전가"…10대전용 AI챗봇 계정 논란 작성일 10-08 80 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">챗GPT·페북·인스타 틴 계정 잇단 도입…부모통제 기능 추가<br>자살사건은 무관심한 부모 책임 '프레임 전환 전략' 지적도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1ZTGhfIiXP"> <figure class="figure_frm origin_fig" contents-hash="40fae06cab84d758d18594151bb6c995e7fbf41bfda5c45ee8548b9da8c62067" dmcf-pid="t5yHl4Cn16" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI 로고 ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/08/NEWS1/20251008053118416uudp.jpg" data-org-width="860" dmcf-mid="XHDFYMyjHM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/08/NEWS1/20251008053118416uudp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI 로고 ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="662bd460bdd3004769aeb03404dee5a7aad604d0e844798697d55ab976adc2b5" dmcf-pid="F1WXS8hL58" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 오픈AI·구글·메타 등 인공지능(AI) 챗봇·소셜네트워크서비스(SNS) 빅테크 기업들이 잇따라 '부모 통제'(Parental Control)에 중점을 둔 청소년·미성년자 전용 서비스를 출시하고 있다.</p> <p contents-hash="93c50cc370f3393bfdf0c9c55cc382b35da01beed93e1bc1fb3ff0ea6710560d" dmcf-pid="3tYZv6loY4" dmcf-ptype="general">이들은 전용 계정·부모 통제 기능을 도입해 청소년 보호를 강화한다고 말하지만, 일각에선 '사건 발생은 무관심한 부모의 책임'으로 프레임으로 전환하려는 전략일 수 있다는 지적이 나온다.</p> <p contents-hash="cc767050a6a1f2f6de502ac451e8ead529f42a9d76871cf224c93c7cd27a6252" dmcf-pid="0FG5TPSg1f" dmcf-ptype="general">오픈AI가 소년 아담 레인(Adam Raine) 사건으로 소송이 제기된지 한 달 만에 부모 통제 기능 등이 나온 것도 이러한 문제 의식을 뒷받침한다. </p> <p contents-hash="fb510c55278b48f32290018bf15243709e018356e9c1c9bd1adcf8048f3afaa3" dmcf-pid="p3H1yQvaGV" dmcf-ptype="general">8일 업계에 따르면 오픈AI는 10대 이용자(부모)를 대상으로 '챗GPT 틴 계정'(Teen accounts)을 출시했다. 성인 보호자가 이메일을 통해 자녀에게 요청을 보내고 자녀가 수락하면 이후 통제하는 방식이다.</p> <p contents-hash="0fe7a5dea3b41be763868cdd908b66b55c33573738c1c1aaca049a5feb1adb5d" dmcf-pid="U0XtWxTNH2" dmcf-ptype="general">부모는 자녀의 챗GPT 사용 시간을 제한하거나 특정 시간대 접속을 차단할 수 있고 △다이어트 △성 △혐오 발언 등 주제 노출을 줄이는 '제한 버전'으로 설정할 수 있다. 챗GPT는 청소년 이용자의 대화에서 정신적 고통이나 위기 신호를 감지하면 부모에게 이메일·앱 알림·문자 메시지 등 긴급 경보를 전송한다.</p> <figure class="figure_frm origin_fig" contents-hash="3929f1b3441bb009035e179875d5a4852bdc1042b6fdc46a77173079ba3dec33" dmcf-pid="upZFYMyjH9" dmcf-ptype="figure"> <p class="link_figure"><img alt="메타 청소년 온라인 안전 강화 위해 한국 페이스북·메신저에 청소년 계정 도입(메타 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/08/NEWS1/20251008053119722znyq.jpg" data-org-width="860" dmcf-mid="Zvxd8hf55x" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/08/NEWS1/20251008053119722znyq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 메타 청소년 온라인 안전 강화 위해 한국 페이스북·메신저에 청소년 계정 도입(메타 제공) </figcaption> </figure> <p contents-hash="9322a64a498274aa855d062b4ac000b9cd8f5b1294cdf4edaff8abf434bd2360" dmcf-pid="7U53GRWAYK" dmcf-ptype="general">메타도 '청소년 계정'을 한국 페이스북과 메신저에 확대 도입했다. 청소년 계정은 지난해 9월 글로벌 인스타그램에 처음 적용된 기능으로 한국 인스타그램엔 올해 1월부터 적용됐다.</p> <p contents-hash="8014d31a491f65b10aa7ac183ef616e3ca346485cf9a8f1d45fbdde723ad0d30" dmcf-pid="zq3u5iXDXb" dmcf-ptype="general">페북·인스타 청소년 계정은 만 14세 이상 18세 이하 이용자를 대상으로 부모가 대화 상대·노출 콘텐츠와 앱 사용 시간 등을 제한·관리할 수 있도록 설계됐다.</p> <p contents-hash="18fc112bbc8d533c0a542babe1818ff131d953f1bd8747542c12527f7ff95714" dmcf-pid="qB071nZw1B" dmcf-ptype="general">구글은 13세 미만 이용자에게 제미나이 AI 챗봇 접근을 허용하면서 부모 동의 절차를 강화했다.</p> <p contents-hash="aba39ca2da4143ad95817adfbf88764c1aa8bbe319e0a2f8c284bb091fb61228" dmcf-pid="BbpztL5rZq" dmcf-ptype="general">전문가들은 청소년 보호 목적과 함께 정부 규제와 소송 리스크를 줄이기 위한 책임 회피 전략일 수 있다고 분석했다.</p> <p contents-hash="4265987107241c63be9fa51ae208206c5a2105859d41c546ae91d33c1cdf0d6e" dmcf-pid="bKUqFo1mGz" dmcf-ptype="general">부모 통제 기능 도입 이후 자살 등 심각한 사건이 발생하면 1차적 책임을 부모의 무관심 및 관리소홀 등으로 돌릴 수 있기 때문이다.</p> <p contents-hash="b026face935a6d6fab63355619aaed23f5c486a6a31a2c5e8b512687f1b2cd53" dmcf-pid="K9uB3gts57" dmcf-ptype="general">부모의 통제·감시도 AI 챗봇의 불완전성 및 프롬프트 우회(탈옥) 등을 모두 통제할 수 없어 만능이 아니지만, 법적 측면에선 기업 책임을 덜 가능성이 있다.</p> <figure class="figure_frm origin_fig" contents-hash="3f5353315219cdcbf5771dc804b1f36e5a1e5b66d87c45d4f24d9b33804202d7" dmcf-pid="927b0aFOXu" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/08/NEWS1/20251008053121143kcpe.jpg" data-org-width="1400" dmcf-mid="5qKfzkuS5Q" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/08/NEWS1/20251008053121143kcpe.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="e034c5fab6fb17a1055a388676eea58a80245c1db2d2859c1485be6b2242a3d8" dmcf-pid="2VzKpN3ItU" dmcf-ptype="general">오픈AI와 샘 올트먼 CEO는 아담 사건의 부모로부터 손해배상 소송을 당한 상태다.</p> <p contents-hash="844e49f92d0b53de946fbcfe7043dbd2a8444c13279423f8e7ff76387db9e69a" dmcf-pid="Vfq9Uj0C1p" dmcf-ptype="general">아담의 부모는 소장에서 16세 아담이 숙제를 하기 위해 챗GPT를 활용하다 의존하기 시작했고 올해 4월 11일 마지막 대화에선 챗GPT가 보드카를 훔치도록 도왔다고 설명했다. 자살 충동을 느낀 아담이 구체적인 방법을 요청하자 묶은 올가미 등 자살 방법까지 제공했다고 주장했다. 아담은 챗GPT와 이 같은 대화를 나누고 몇 시간 후 사망한 채 발견됐다.</p> <p contents-hash="b550bcf48317dfda46d9c1993020e607d6f8bf890f5868db1047b8755f0ca117" dmcf-pid="f4B2uAphY0" dmcf-ptype="general">13세 소녀 줄리아나 페랄타(Juliana Peralta) 자살 사건도 쟁점이다. 페랄타는 '캐릭터AI'가 서비스하는 '히어로' 챗봇과 매일 대화를 나누다 자살 계획을 털어놨지만, 챗봇은 이를 부모·기관 등에 알리지 않았다. 결국 페랄타는 스스로 목숨을 끊었다. 부모는 캐릭터AI를 상대로 소송을 제기했다.</p> <p contents-hash="52163f091cdab562b5ee95b804fb29acdd65617319691cd1cc66b1f10e8877a8" dmcf-pid="48bV7cUlY3" dmcf-ptype="general">미국 연방거래위원회(FTC)는 10대들의 잇단 자살에 오픈AI·메타·구글 등 6개 주요 AI 기업에 미성년자의 챗봇 이용모니터링·영향 실태 보고를 명령했다.</p> <p contents-hash="885375ac8ff92a4f6d04c66f788df81e242bd1a834ed4899cc690bcf3fcf9407" dmcf-pid="8OkrN3g21F" dmcf-ptype="general">업계 관계자는 "AI챗봇·SNS의 부모 통제 기능은 과거 아동 보호의 일차적인 책임은 기업이 아닌 부모·교사에게 있다고 프레임 전환에 성공해 여론을 호도한 미국의 담배 기업들을 떠올리게 한다"며 "AI 정신병을 근본적으로 해결하려하기보다 '청소년 보호에 노력하는 기업-자녀의 자살 충동도 파악 못한 부모'라는 프레임을 짜려는 것으로 보인다"고 말했다.</p> <p contents-hash="0a0c4e9a6f543b051f8da1bf0958b8e9b5179fba86bd2bc2c483e7c18241a68d" dmcf-pid="6IEmj0aVXt" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ 탈옥<br>탈옥(jailbreak)은 생성형 인공지능(AI)이 기본적으로 내장하고 있는 안전장치나 윤리적 제약을 우회하거나 강제로 해제시켜 콘텐츠 생성이나 민감 정보 출력 등 비정상적 행동을 유도하는 기법을 말한다.<br><br>■ AI 정신병<br>AI 정신병은 인공지능(AI) 챗봇과의 반복적이고 깊은 상호작용으로 이용자의 망상·현실 감각 상실·조증·애착형 환상 등 정신 질환 증세를 심화시키는 현상을 가리키는 신조어다.<br><br>■ 미국 연방거래위원회<br>미국 연방거래위원회(FTC·Federal Trade Commission)는 미국 정부의 독립 행정기관으로 1914년 설립됐다. 주요 임무는 소비자 보호(불공정거래·허위과장 광고 방지)와 반독점(공정경쟁) 규제다. 미국 대통령이 임명하고 상원 인준을 거치는 5명의 위원과 위원장으로 구성된다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 이이경, 주우재 미담 공개 "내 옷 90%가 형 옷..촬영 때 형만 본다"('행뭐') 10-08 다음 홍구, 별풍선 85만 개 메프 슈퍼에결 승리 10-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
