청소년 GPT, 베이비 그록...AI 범람 시대, 어린이용 AI 개발 괜찮나? 작성일 09-17 64 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VrREb3FOHk"> <figure class="figure_frm origin_fig" contents-hash="9a2943613faf2dbd9c28d13204f7fb94f64e4a57d4615080574910c3fa4a39eb" dmcf-pid="fmeDK03IXc" dmcf-ptype="figure"> <p class="link_figure"><img alt="제미나이 생성 이미지/제미나이" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/17/chosun/20250917160447376dnjt.jpg" data-org-width="1024" dmcf-mid="2ZREb3FOYE" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/17/chosun/20250917160447376dnjt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 제미나이 생성 이미지/제미나이 </figcaption> </figure> <p contents-hash="a79b39ed2868a6aef7acddee25a8c8a170034a231b577be203d6d2cb428ef3d0" dmcf-pid="4IimVuUlYA" dmcf-ptype="general">오픈 AI가 18세 미만 사용자를 위한 전용 챗GPT를 이달 말 출시할 예정이라고 16일(현지 시각) 밝혔다. 오픈AI는 사용자가 미성년자인 것으로 확인되면 자동으로 나이에 맞는 챗GPT 환경으로 안내한다고 설명했다. 이 환경에서는 선정적이거나 폭력적인 콘텐츠를 차단하고, 심각한 위기 상황에서는 법 집행 기관이 개입할 수 있다. 부모의 자녀 보호 기능도 강화해 부모가 자신의 챗GPT 계정을 자녀 계정과 연결하고, 자녀가 챗봇을 사용할 수 없는 시간을 설정할 수 있다. 또 챗봇의 응답 방식을 유도하며, 자녀가 심각한 정신적 고통을 겪을 경우 알림을 받을 수 있다.</p> <p contents-hash="53d35ecfacbfcccfab5a60fbe3c16d01a8cfd506520bee8a212d6d3423de1457" dmcf-pid="8Cnsf7uSYj" dmcf-ptype="general">빅테크들이 아동·청소년들을 위한 인공지능(AI) 서비스를 잇달아 내놓고 있다. 그간 AI 챗봇을 통해 아동들이 선정적이거나 폭력적인 정보를 접하고, 과도하게 몰입하면서 여러 부작용이 발생했다. 이에 따른 사회적 비판도 커졌다. 이 때문에 빅테크들은 어른용 AI에 ‘부모 통제’와 같은 안전장치를 추가하고, 교육 목적 등에 특화된 AI를 내놓으면서 비판 여론을 무마하고 장기적으로 이용자를 확대하겠다는 목적이다. 하지만 여전히 AI 챗봇 관련 사고가 계속 일어나며 이 같은 안전장치들이 무용지물이란 지적도 나온다.</p> <p contents-hash="218b5477d7190f97c2ef4794fabb5352af7862958a8dd06c54dceb23ee528551" dmcf-pid="6hLO4z7vZN" dmcf-ptype="general">◇속속 나오는 어린이용 AI</p> <p contents-hash="31023b36e12b9a07e56f768ddaf073f0d998dadb04616f761e161e9dd3bd0a5c" dmcf-pid="PloI8qzT5a" dmcf-ptype="general">일론 머스크 테슬라 최고경영자(CEO)가 만든 AI 기업인 xAI는 지난 7월 어린이용 AI를 내놓겠다고 밝혔다. 당시 머스크 CEO는 자신의 소셜미디어(SNS)에 “어린이에게 특화된 그록(AI 챗봇)인 ‘베이비 그록’을 만들겠다”고 밝혔다.</p> <p contents-hash="01f69f91d2f097d89d0f98956f252fd3cfb6392970db6afced0f50d92919ef02" dmcf-pid="QSgC6BqyGg" dmcf-ptype="general">xAI뿐 아니라 구글 역시 만 13세 이상 18세 미만 미성년자의 경우, 계정 생성 시 부모 동의를 얻게 하는 등 어린이와 청소년 보호 기능을 추가한 제미나이를 운영하고 있다. 사용자가 AI 캐릭터와 자유롭게 대화할 수 있는 대화형 인공지능 플랫폼인 캐릭터.ai도 미성년자 전용 모델을 도입했다. 해당 모델은 성적 대화나 민감한 내용을 자동 차단하거나 제한한다.</p> <p contents-hash="18b7962bacff86eb56427c217fe40968aee5b11f5ffd589c8fa8bde5612475c9" dmcf-pid="xvahPbBWto" dmcf-ptype="general">아예 아동 교육과 놀이에 특화된 AI도 개발되고 있다. 정서 발달과 사회성 향상을 위해 ‘바비인형’ 제작사인 마텔은 오픈AI와 협업해 아동·청소년과 대화하는 ‘AI 바비’를 선보이겠다고 밝혔다. 버튼을 누르면 정해진 대사가 나오는 기존 바비 인형과는 달리 AI 바비는 챗GPT처럼 아이와 실시간 대화할 수 있는 기능을 갖출 것으로 예상된다.</p> <p contents-hash="59901cbccb4d4a7f4137207f8fb3b3a0e09e696e1057b03b722be6e2ad98616f" dmcf-pid="yP34vrwMYL" dmcf-ptype="general">◇“우회 쉬워” 여전한 사건사고</p> <p contents-hash="7e02eacbc15960d65b8f890012d9eb2bcd5c0d1f51566442670b321a688b1b1c" dmcf-pid="WQ08TmrRHn" dmcf-ptype="general">테크 기업들이 어린이용 AI 개발에 몰두하지만 이를 우려하는 목소리도 작지 않다. 아무리 부모 감시가 있고, 일부 해로운 콘텐츠를 차단해도 AI의 환각을 통제하지 못하는 상황에서 아동·청소년의 AI 사용 자체가 왜곡된 정보에 노출되거나 정서적 의존으로 이어질 수 있기 때문이다.</p> <p contents-hash="9bc7d6f03fc929c170bfafca99a8610d7d323b443342b2e47de5be464baaa9a0" dmcf-pid="Yc6NuZXDGi" dmcf-ptype="general">아동·청소년용 AI 도입에도 사건·사고는 끊이지 않고 있다. 안전장치를 추가한 AI 모델의 경우에도 여전히 우회해 악용되기 때문이다. 미 캘리포니아주에서 챗GPT와 수개월간 대화를 한 뒤 극단 선택을 한 소년 사건의 경우, 챗GPT가 “상담센터에 가보라”고 여러 차례 권한 사실이 밝혀졌다. 하지만 이 소년은 “소설을 쓰려는 것”이라며 안전장치를 쉽게 우회했다.</p> <p contents-hash="a1bbe48aa87eef2f1f71b1afc823d78fd8b34c52269587c34c2c2f2d3ea3a17d" dmcf-pid="GkPj75ZwtJ" dmcf-ptype="general">미성년자 모델을 도입한 캐릭터.ai에선 AI 챗봇과 대화 후 극단 선택하는 사례가 발생했다. 13세 소녀가 캐릭터.AI 챗봇과 대화한 뒤 극단 선택을 했다. 부모는 미국 콜로라도주 법원에 회사를 상대로 소송을 제기했다. 이러한 폐해가 증가하자 최근 연방거래위원회(FTC)는 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 영향에 대해 조사를 시작했다.</p> <p contents-hash="3f4be3db335a24235b563c99239cade44c2e579ea28e15b8a0c6870dc4fd0843" dmcf-pid="HEQAz15r1d" dmcf-ptype="general">미 정치권에서도 어린이에 대한 AI, 특히 AI 챗봇을 규제해야 한다는 목소리가 높다. 지난 7월 미 워싱턴 국회의사당에서는 공화당 소속 조시 홀리 상원의원이 소집한 청문회가 열렸다. 당시 메타가 내부 정책에 따라 어린이와 낭만적이거나 감각적인 대화를 나눌 수 있게 허용했다는 사실이 알려지자, 청문회를 소집한 것이다. 이후 미 상원은 메타에 “자사 제품이 어린이에게 미치는 영향과 자녀 보호 기능의 효과에 대한 내부 평가 결과를 제출하라”고 지시했다.</p> <p contents-hash="f184ded47bfe44934a38ad236f2230629f83265ac038ac81f312dffeed216bd6" dmcf-pid="XDxcqt1mXe" dmcf-ptype="general">일각에선 아동·청소년용 AI를 만들 것이 아니라, 아예 차단해야 한다는 강경한 반응도 나오고 있다. 미 아동 온라인 안전 단체 ‘페어플레이’ 조쉬 골린 대표는 “아이들에게 안전하다는 것이 입증될 때까지 AI를 못 쓰게 해야 한다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [반도체 유니콘을 향해]〈14〉슈프리스, 고성능 메모리 테스트용 반도체 개발 09-17 다음 서울 수복의 날, 바둑판이 서울을 덮는다 09-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
