AI 탑재 곰인형이 성적대화를? 美 소비자단체 위험성 경고 작성일 11-23 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">싱가포르 업체 AI 곰인형 ‘쿠마’…현재는 판매 중단</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GY16t7hDvT"> <figure class="figure_frm origin_fig" contents-hash="24c6bfd057e0c26119d541d0705947690af83a53c8b2b64fa30dec0fdde47979" dmcf-pid="HGtPFzlwCv" dmcf-ptype="figure"> <p class="link_figure"><img alt="폴로토이의 AI 탑재 곰 인형 ‘쿠마’. 폴로토이 홈페이지 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/23/dt/20251123151226809ywem.png" data-org-width="500" dmcf-mid="Y8kXEIe4yy" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/23/dt/20251123151226809ywem.png" width="658"></p> <figcaption class="txt_caption default_figure"> 폴로토이의 AI 탑재 곰 인형 ‘쿠마’. 폴로토이 홈페이지 캡처 </figcaption> </figure> <p contents-hash="42dcf0ba561f1a8347733a075d3d3b58023c8ef181900c11aee86113fc83df6b" dmcf-pid="XHFQ3qSryS" dmcf-ptype="general"><br> 미국 소비자단체가 인공지능(AI) 탑재 곰 인형이 미성년자에게 성적인 대화를 하거나 위험한 물건의 위치를 안내하는 등 부적절한 주제로 사용자와 대화할 수 있다며 위험성을 경고하고 나섰다. AI가 무문별하게 사용될 수 있다는 사실이 드러난 사례여서 미국 소비자들 사이에 관심이 집중되고 있다.</p> <p contents-hash="7493eb38dcfe7a787cef94c7e589b25a8526e75d143bf9f22b3b80a64e988762" dmcf-pid="ZX3x0BvmWl" dmcf-ptype="general">22일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 소비자단체 공익연구그룹(PIRG)은 최근 보고서에서 싱가포르 업체 폴로토이(FoloToy)의 AI 탑재 곰 인형 ‘쿠마’(Kumma)에 이 같은 문제가 있는 것으로 나타났다고 지적했다.</p> <p contents-hash="9e885a408d29921cbdac94a87a4997ff30ebb04509da97903e0a64b20a3c22cb" dmcf-pid="5Z0MpbTshh" dmcf-ptype="general">쿠마는 폴로토이 홈페이지에서 99달러(약 14만5000원)에 판매된 곰인형으로 스피커가 내장돼 있다. 제품 홈페이지에는 사용 가능 연령대는 표기돼 있지 않고, 오픈AI의 ‘GPT-4o’ 에 의해 움직인다고 안내돼 있다.</p> <p contents-hash="0b870c706e1bfad928b430d790a122e183659d302ebf551f27553f3f5b223970" dmcf-pid="15pRUKyOTC" dmcf-ptype="general">그러나 곰 인형은 귀여운 겉보기와는 달리 반전이 있었다.</p> <p contents-hash="c70116af2d95b363a93bd458067894692924ae935cda6d1fabe26bb5fcfb849b" dmcf-pid="t1Ueu9WIvI" dmcf-ptype="general">PIRG가 테스트를 위해 총, 칼, 성냥, 약, 비닐봉지 등 어린이에게 위험할 수 있는 생활용품에 대해 질문하자 쿠마는 이런 물건들을 찾을 수 있는 위치를 알려줬다.</p> <p contents-hash="711d8bd6f527a181c667c74e7284f6e2d3ffa9a59de0641f9fce3ce12412dc54" dmcf-pid="Ftud72YCTO" dmcf-ptype="general">쿠마는 나아가 성적 취향이나 가학적 성향 등 성적으로 노골적인 주제에 대해서도 거리낌 없이 이야기했다. 데이트 상대를 어디서 찾을 수 있는지를 묻자 쿠마는 여러 데이트 앱을 안내해줬고, 인기 앱 목록을 제시한 뒤 설명까지 해줬다. 쿠마는 데이트 앱 중 가학적 성향을 가진 사람들을 위한 앱도 식별했다고 연구진은 전했다. 쿠마는 나아가 성관계 자세를 설명하거나 역할극 시나리오를 제시하기까지 했다고 연구진은 밝혔다.</p> <p contents-hash="269ac9373543eac555aedac230dc326d1d62a9eec97fbf0c3b32aedfa1c37378" dmcf-pid="3F7JzVGhWs" dmcf-ptype="general">이 같은 문제가 지적되자 폴로토이는 안전성 점검을 위해 쿠마의 판매를 중단하겠다고 밝혔다.</p> <p contents-hash="f6999f36f4740bb119317906f924ba6257741987d611085d300202a5f6e82d52" dmcf-pid="03ziqfHllm" dmcf-ptype="general">쿠마에 사용된 GPT-4o 모델과 관련해 오픈AI는 해당 장난감 업체는 정책 위반을 이유로 서비스 이용이 정지됐다고 설명했다. 오픈AI 관계자는 “우리의 사용 정책은 18세 미만 미성년자를 이용하거나, 위험에 빠뜨리거나 성적 대상화하는 데 서비스를 사용하는 것을 금지한다”고 말했다고 NYT는 전했다.</p> <p contents-hash="df7894828b07abdb8baf9b5622340445b1d894d21dafe91a8c8a13ea924cba31" dmcf-pid="p0qnB4XSTr" dmcf-ptype="general">아동권리단체 페어플레이의 레이철 프란츠 국장은 이번에 쿠마에서 발견된 문제가 단순히 한 장난감의 문제를 넘어서는 것이라고 지적했다. 그는 “AI에 대해 아직 이해되지 못한 부분이 많다”면서 “특히 기술적 함정이나 표적 마케팅, 데이터 감시 등에 취약한 어린 아이들의 손에 있을 때 더욱 위험하다”고 우려했다.</p> <p contents-hash="d59c2f3d1c78a04a14e46fd7f9873efdb9c343f12404c7a99dd3aec29cabb565" dmcf-pid="Ujw1rliPvw" dmcf-ptype="general">임성원 기자 sone@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 러시아-나토 충돌, 유럽 전쟁으로 가나?[쌤과 함께] 11-23 다음 JYP 측 “스트레이 키즈 승민, 발 염증 병원 치료…오늘(23일) 생방 불참” 11-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
