"애니로 성적행동 강요 역겨워"…머스크 '그록' 이번엔 내부폭로 작성일 09-26 64 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">"아동 성학대물 생성요청 정말 많아"…현·전직 12명 증언<br>xAI CSAM 신고 0건…6.7만건 오픈AI와 대조…불투명 정책 도마</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="66YjriJq5x"> <figure class="figure_frm origin_fig" contents-hash="231e43c6f0944a8e672d25e5ba0b4cac16f49a58d7e399b7dd93e8d919eb4a51" dmcf-pid="PoUCWDEQXQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="일론 머스크 테슬라·xAI CEO 그록 컴패니언 모드 캐릭터(영상 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053118427vmir.jpg" data-org-width="846" dmcf-mid="fY21SAj41e" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053118427vmir.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일론 머스크 테슬라·xAI CEO 그록 컴패니언 모드 캐릭터(영상 갈무리) </figcaption> </figure> <p contents-hash="29e88ce7be1466a05b8034da61e0a0fbcf6e6a85f29a61a50eb2244fe4894535" dmcf-pid="QguhYwDxYP" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 일론 머스크의 인공지능(AI) 스타트업 xAI가 운영하는 챗봇 '그록'이 성 상품화·성적 대상화 논란에 이어 아동 성학대물(CSAM) 생성 의혹에 휩싸였다.</p> <p contents-hash="4a205c89f05b48788da86aca7b79020ed967025b4e34b2d3920780c8c1a363cd" dmcf-pid="xa7lGrwMZ6" dmcf-ptype="general">26일 IT 업계와 외신에 따르면 비즈니스인사이더가 인터뷰한 xAI 현·전직 직원 12명은 그록의 AI 컴패니언(동반자) 훈련 과정에서 성적으로 노골적인 콘텐츠와 아동 성학대물 생성 요청을 다수 접했다고 증언했다.</p> <p contents-hash="0c7ae7ad7a34b82e617efa178d8c1d7308d647dfafbe96687686e24e90827ce2" dmcf-pid="y3k8ebBWX8" dmcf-ptype="general">인공지능(AI) 컴패니언은 단순 답변 생성 기능을 넘어 친구처럼 이용자와 상호작용하는 AI를 뜻한다.</p> <p contents-hash="5ff505d2aeaa5a4bf81666ae00d7b10bbf5963b2ae690ddd9bf4e6669d36cf06" dmcf-pid="W0E6dKbY14" dmcf-ptype="general">그록의 유료 이용자용 컴패니언(동반자) 모드에서 선택할 수 있는 애니메이션 소녀 캐릭터 '애니'(Ani)는 출시 당시부터 이용자의 성적 행동을 조장한다는 논란을 불렀다.</p> <p contents-hash="1efddb3b8d0dad4529e4206d048197eb57a13b865bceb56fc62192dfd667a3ef" dmcf-pid="YpDPJ9KG5f" dmcf-ptype="general">애니는 "천천히 안아주고 싶다" 등의 대화로 이용자와 교감을 시도한다. 친밀도가 깊어지면 속삭이는 목소리를 내거나 숨을 헐떡이고 몸을 들썩이며 춤을 춘다. 레벨 3 이상 대화가 지속되면 심장박동수가 증가하면서 란제리 모습으로 변신하는 것으로 전해졌다.</p> <figure class="figure_frm origin_fig" contents-hash="1b8d58a7e13bcd131ba3e51641d30411a6a56e22bd21189e523a26c0de876fb8" dmcf-pid="GUwQi29HGV" dmcf-ptype="figure"> <p class="link_figure"><img alt="일론 머스크의 AI 챗봇 그록 컴패니언 캐릭터 애니 란제리 입은 모습(영상 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053119688jnwm.jpg" data-org-width="337" dmcf-mid="4c1whNaVZR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053119688jnwm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일론 머스크의 AI 챗봇 그록 컴패니언 캐릭터 애니 란제리 입은 모습(영상 갈무리) </figcaption> </figure> <p contents-hash="06e8e14e81e57e6e6c03e3805becf7560a76c84a11e6a8596887909bfbbf39c9" dmcf-pid="HurxnV2X12" dmcf-ptype="general">미국 최대 커뮤니티 레딧 등에선 애니에게 성적 역할극을 수행하도록 하는 프롬프트나 방법 등이 공유되고 있다.</p> <p contents-hash="f4a8aa887d36864612cd096155bfa4e572eea5b8917cb8838486cb20bde4f456" dmcf-pid="X7mMLfVZX9" dmcf-ptype="general">익명의 xAI 전·현직 직원들은 "그런 종류의 명령을 하는 사람이 정말 많다는 사실에 충격을 받았다"며 "실제로 역겨웠다"고 말했다.</p> <p contents-hash="cc51677c7f9de0dae99d0f0f8941483461b8b47d31893fea4169cc7ff6b1e6da" dmcf-pid="Z6YjriJqZK" dmcf-ptype="general">특히 그록은 '스파이시'(Spicy) '섹시'(sexy) '언힌지드'(Unhinged) 모드 등을 통해 이용자에 일탈의 경험을 제공하고 있다.</p> <p contents-hash="0c8647a56bf30608b9b14b474aa27ca0866180c1af74f69d74bc4b3254668fd8" dmcf-pid="5PGAmniBXb" dmcf-ptype="general">심지어 프롬프트 요구에 따라 옷을 벗는 여성 아바타 등도 서비스하는 것으로 전해졌다.</p> <p contents-hash="adbece03773718d2b37baa715eae0a9942ede8a80a07c0af8c3ff3e98fed2dbe" dmcf-pid="1QHcsLnbXB" dmcf-ptype="general">다른 AI 챗봇 기업들이 불법·혐오·학대 등을 조장하는 콘텐츠를 선제적으로 차단하는 것과 대조적이다.</p> <p contents-hash="b49b18b9d149105891d6d021e8825cb922b5149d47ab63f0a712ad10b0ddb481" dmcf-pid="txXkOoLKtq" dmcf-ptype="general">머스크가 "아동 성 착취물 제거를 1순위로 두겠다"고 말한 적이 있지만, 관련 기술·정책 업데이트는 미흡한 것으로 파악되고 있다.</p> <p contents-hash="9bfc4a52fd1cb581044b2ede0400842bb3cc957c26433b2efa8a5860156ec776" dmcf-pid="FMZEIgo9Zz" dmcf-ptype="general">미국 NCMEC(실종·착취 아동 센터)에 따르면 2024년 CSAM 신고는 6만 7000건에 달했다. 이중 오픈AI는 3만 2000건 이상, 앤트로픽(Anthropic)은 약 970건을 각각 신고했다. 반면 xAI는 단 한 건도 신고하지 않았다.</p> <figure class="figure_frm origin_fig" contents-hash="87570b9fb96caf06168c64e65e269f76cecbbed67da0d6eba86340436f76b2d5" dmcf-pid="3R5DCag2Y7" dmcf-ptype="figure"> <p class="link_figure"><img alt="일론 머스크 테슬라·xAI CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053120940nfuw.jpg" data-org-width="860" dmcf-mid="8D9YthCnZM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053120940nfuw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일론 머스크 테슬라·xAI CEO ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="f9d0306da07b18970f8bb15a9a55fea2205d2fdb4f39f3a63dedc562b4108271" dmcf-pid="0e1whNaVYu" dmcf-ptype="general">미국 커먼센스미디어의 조사에서 미국 청소년 72%는 AI 동반자를 사용한 경험이 있고 52%는 정기적으로 사용했다. 응답자 중 34%는 "챗봇이 불편한 말을 했다"고 답했다.</p> <p contents-hash="f2ae1a8427a6024f1d48b8c388586e0b0a4085e34e9c35e7a4e92b0548ca5ca7" dmcf-pid="pdtrljNfHU" dmcf-ptype="general">미국 캘리포니아 주는 AI 챗봇·컴패니언과 대화를 하다 현실감각을 잃는 'AI 정신병' 현상으로부터 미성년자를 보호하기 위한 법을 내년부터 시행한다. 현재 개빈 크리스토퍼 뉴섬 주지사의 서명을 남겨둔 상태다. 서명 기한은 다음달 12일까지다.</p> <p contents-hash="1deb28a1f9ef442a1904533ba816811f51c6fe1e34c4c9d1855674110995cd8b" dmcf-pid="UJFmSAj4Gp" dmcf-ptype="general">법안 핵심은 AI 챗봇 운영자에게 안전 프로토콜 마련을 의무화해 AI 컴패니언이 극단적 선택이나 자해, 성적인 대화 참여 등을 막는 데 있다.</p> <p contents-hash="dbea30368fdee00841d2d3d90e36b6390254b83cb8b04a054d915225ebd47728" dmcf-pid="ui3svcA8H0" dmcf-ptype="general">EU 집행위원회는 그록이 'EU 디지털 서비스법'(DSA)를 위반 여부와 관련 조사 착수를 검토 중이다.</p> <p contents-hash="02222b200ad3c318fd3a9ca367d88f868ea1ae190a2d8aa8bffb7b42c2ce655b" dmcf-pid="7n0OTkc6G3" dmcf-ptype="general">업계 관계자는 "AI 컴패니언 시장이 주로 청소년의 정서적 갈증·충동을 겨냥해 빠르게 성장하고 있다"며 "부작용이 커지기 전에 실효성 있는 적정 규제가 필요하다"고 말했다.</p> <p contents-hash="56304d62d5c1d58e88207062320ed76e9afcecbf0d32692f5566035073bb33da" dmcf-pid="zUwQi29HXF" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ 비즈니스인사이더<br>비즈니스인사이더(Business Insider)는 2007년 미국 뉴욕에서 설립된 글로벌 온라인 경제·경영 전문 매체다. 창립 초기 증권가 정보지로 출발해 2008년 법인을 세웠다. 2015년 독일 미디어 그룹 악셀 슈프링거(Axel Springer SE)가 비즈니스인사이더 지분 88%를 약 3억 4300만 달러에 인수했다.<br><br>■ CSAM<br>CSAM(Child Sexual Abuse Material)은 미성년자(18세 미만)를 성적으로 학대하거나 착취하는 모든 이미지·동영상·만화·CG 등 시각적 자료를 뜻한다. 아동의 노골적 성행위 혹은 성적 노출 장면을 담은 모든 유형의 콘텐츠를 포함한다.<br><br>■ 언힌지드<br>언힌지드(Unhinged) 모드는 xAI의 그록(Grok)에서 일반적으로 금지된 불쾌하거나 논란이 될 수 있는 답변, 비속어, 직설적이고 감정적인 언어, 폭력적·음담패설 요소까지 제한 없이 생성하는 옵션이다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 ‘옥문아’ 김종국, ♥아내 외모 정보 공개 “키 크고 마른 편” 09-26 다음 "온나라가 뚫렸다"…北·中 해커 정부기관 침투 '국가기밀' 위기 09-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
