美, xAI '딥페이크 생성' 조사 착수…머스크 "인지 못해" 항변 작성일 01-15 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3K83zK71Hs"> <figure class="figure_frm origin_fig" contents-hash="ac232b2c8b5441dbd5ee1395c7914c2db63fcbe5019d56608b13847e0096b4f2" dmcf-pid="0960q9ztGm" dmcf-ptype="figure"> <p class="link_figure"><img alt="머스크와 xAI, 그록 로고 이미지 [AFP=연합뉴스 자료사진 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/15/newsy/20260115071344035nozi.jpg" data-org-width="500" dmcf-mid="F9a4MJx2ZO" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/15/newsy/20260115071344035nozi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 머스크와 xAI, 그록 로고 이미지 [AFP=연합뉴스 자료사진 제공] </figcaption> </figure> <p contents-hash="3b5b90188a01e6235ab845cdd4cbb3150e3723af199bb4cd6933d69ce879ca10" dmcf-pid="pW5sSWlw5r" dmcf-ptype="general">일론 머스크 테슬라 최고경영자(CEO)의 인공지능(AI) 스타트업이 개발한 챗봇 '그록'의 성적 이미지 생성 논란이 확산하는 가운데, 미국 캘리포니아주 당국이 이 챗봇에 대한 조사에 나섰습니다.</p> <p contents-hash="229a70192304e26bccec7c4d14cc0eb4950975866a16ee78a7bb64b5fa9e6e9b" dmcf-pid="UY1OvYSr5w" dmcf-ptype="general">롭 본타 캘리포니아주 법무장관은 현지시간 14일 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"고 발표했습니다.</p> <p contents-hash="5c20169ee2d672d326392e21375be48384a17645e7380d8507626954427c9a4a" dmcf-pid="uGtITGvmtD" dmcf-ptype="general">본타 법무장관은 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"고 밝혔습니다.</p> <p contents-hash="10ed19270d1199a684b513f619d3c70f79040087f68aa6d56a4454b9d88013a6" dmcf-pid="7HFCyHTsGE" dmcf-ptype="general">이어 "한 분석에 따르면 지난 크리스마스와 새해 사이에 xAI가 생성한 2만개의 이미지 중 절반 이상이 최소한의 옷만 입은 사람들을 묘사했으며, 그중 일부는 아동으로 보였다"고 지적했습니다.</p> <p contents-hash="b49a64ecb828d5291e633cf01e67f87b95bbaa37da79ab9e22dec5b4607a5080" dmcf-pid="zX3hWXyOZk" dmcf-ptype="general">그러면서 "우리는 동의 없이 생성된 은밀한 이미지나 아동 성 착취물의 AI 기반 제작 및 유포에 대해 절대 용납하지 않는다"고 강조했습니다.</p> <p contents-hash="4e4810e01a24b208d1570eb48ad8a51fd2c44b5918c1de3d76711cfd902355af" dmcf-pid="qZ0lYZWI1c" dmcf-ptype="general">앞서 민주당의 차기 대권 잠룡으로 꼽히는 개빈 뉴섬 캘리포니아 주지사는 이날 엑스에 올린 글에서 "xAI가 아동의 옷을 디지털 방식으로 벗기는 이미지를 포함해 동의 없이 제작된 성적으로 노골적인 AI 딥페이크를 만들어내고 가해자들이 확산시킬 수 있게 한 결정은 극도로 혐오스럽다"며 "나는 법무장관에게 이 회사를 즉시 조사하고 책임을 물을 것을 요구한다"고 밝혔습니다.</p> <p contents-hash="9dac094b59f78cd0aca60c519fd6add5f07adc5e1e617b64b7cb192491545e54" dmcf-pid="B5pSG5YC5A" dmcf-ptype="general">캘리포니아주의 조사 착수는 이번 논란과 관련해 미국 내에서 나온 첫 규제 움직임입니다.</p> <p contents-hash="44ab3e8fc9a913256dfde9ccb080765b827a61e7f18dcc85af67890357b70dc5" dmcf-pid="b1UvH1Ghtj" dmcf-ptype="general">하지만 머스크는 그록이 생성한 미성년자 노출 이미지를 본 적이 없다고 항변했습니다.</p> <p contents-hash="e7617522d96b1e0faf131ed5cdb2f9eebd4b620c4c4276c90a74611d714b77dd" dmcf-pid="KtuTXtHlYN" dmcf-ptype="general">머스크는 자신의 엑스 계정에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 제로(Literally zero)"라고 썼습니다.</p> <p contents-hash="a794d6c572285c426dee708f7bc6ecfe543a14d1f853d77a6a2d90f7e2f98d4b" dmcf-pid="9Ja4MJx2Ga" dmcf-ptype="general">이어 "분명히 그록은 스스로 이미지를 생성하지 않으며, 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때, 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 주장했습니다.</p> <p contents-hash="c755aeb2a70c47887881e8cb468efa81b9f7895a5bb90d15a8873795c9a39f28" dmcf-pid="2iN8RiMV5g" dmcf-ptype="general">그러면서 "그록 프롬프트에 대한 악의적인 해킹으로 예상치 못한 결과가 발생할 수 있는데, 그런 일이 발생하면 우리는 즉시 그 버그를 수정한다"고 덧붙였습니다.</p> <p contents-hash="6180fa437dd9640c354f067662e4e16e2584ea457bdf7eade7912b863fede036" dmcf-pid="Vnj6enRf5o" dmcf-ptype="general">앞서 지난달부터 엑스에서 서비스되는 AI 챗봇 그록이 이용자들의 요구에 따라 기존 여성들의 사진을 비키니 차림 등 성적인 이미지로 편집·생성한 딥페이크 게시물이 확산해 논란이 되자 영국 등 세계 여러 국가 당국이 이 문제에 대한 조사에 나섰습니다.</p> <p contents-hash="0eb34aea429f3653590211007ed55c1d822771cb30f2b2fafeef2da31bcb935b" dmcf-pid="fLAPdLe4GL" dmcf-ptype="general">말레이시아와 인도네시아는 최근 자국 내 그록 접속을 아예 차단하기도 했습니다.</p> <p contents-hash="77ba9a8cd7e15bac5594836fc7e229be0c81c40bae1d7f0082d0aa6b3c21c4a0" dmcf-pid="4ocQJod8tn" dmcf-ptype="general">엑스 측은 지난 9일부터 그록의 이미지 생성·편집 기능 제공을 유료 구독자로 제한하는 방침을 적용했지만, 전문가들과 감시 단체들은 여전히 그록이 노골적인 이미지를 생성할 수 있다고 지적하고 있습니다.</p> <p contents-hash="66774ddf884d877a9168c8a635a57914eda85c9aeb657d89b5869df4fe9ae0e3" dmcf-pid="8gkxigJ6Gi" dmcf-ptype="general">#머스크 #그록 #챗봇 #딥페이크</p> <p contents-hash="0a9c4b1a038c8ad2ab7b5381d3ee768779a85e84a40075dbdbe39017605d8fc1" dmcf-pid="6aEMnaiP5J" dmcf-ptype="general">연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23</p> <p contents-hash="3d3c2290707798d98e80b86c34c9376f1e316336065731c546f925bfb697387e" dmcf-pid="PNDRLNnQYd" dmcf-ptype="general">장효인(hijang@yna.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스TV. 무단전재 및 재배포 금지.</p> 관련자료 이전 "애들 운동부 후배 다루듯 키워" 안정환, '절친' 현주엽 앞 깜짝 고백 (아빠하고)[전일야화] 01-15 다음 탁구 '황금 콤비' 임종훈·신유빈, 올해 WTT 혼복 첫 우승 도전 01-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
