‘표현의 자유’ 주장한 머스크의 AI 그록, 이번엔 성착취 논란 작성일 01-04 8 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI, 허락 없이 사진 속 인물 옷 벗겨</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WnhSOlaeXr"> <figure class="figure_frm origin_fig" contents-hash="5df43ff0dbda6fb8c7bcae1a8077a67f13491f4746f1b746d5d1b4771ab970d9" dmcf-pid="YLlvISNdZw" dmcf-ptype="figure"> <p class="link_figure"><img alt="일론 머스크 테슬라 CEO와 그의 AI 기업 xAI의 AI 챗봇 모델 ‘그록' 로고./AFP연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/04/chosun/20260104140406794wcsh.jpg" data-org-width="5000" dmcf-mid="yjQM8xu5Hm" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/04/chosun/20260104140406794wcsh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일론 머스크 테슬라 CEO와 그의 AI 기업 xAI의 AI 챗봇 모델 ‘그록' 로고./AFP연합뉴스 </figcaption> </figure> <p contents-hash="c66d183e9e07772fdc89cd784e5c62fda71816da7905f646a4a4fac5d1c43ed0" dmcf-pid="GoSTCvjJYD" dmcf-ptype="general">‘표현의 자유’를 위해 자사 인공지능(AI)의 검열을 최소화하겠다던 일론 머스크 테슬라 최고경영자(CEO)의 AI챗봇이 구설수에 올랐다. IT매체 더 버지는 3일(현지시각) “머스크의 AI챗봇 ‘그록’이 어른 아이 할 것 없이 옷을 벗기고 있다”고 보도했다. 이용자가 요청하면 AI가 사진 속 인물의 동의 없이도 비키니 등 노출이 심한 차림으로 변화해주며 성착취 우려가 커진 것이다.</p> <p contents-hash="72fb660a0cacbb46b455429f7bb4377ba669bffb27085f9ce6a8d73e6129dce5" dmcf-pid="HyBK7bHlGE" dmcf-ptype="general">지난 2일 머스크가 소유한 AI기업 xAI는 자사 AI챗봇 그록이 최근 ‘최소한의 옷을 입은 미성년자’를 묘사하는 사진을 생성해주는 등 논란을 빚어 안전장치 허점을 긴급 수정하고 있다고 밝혔다.</p> <p contents-hash="30f4b21423ae47bba4a4d82a94f717ffab594a982e8ad7ab47372c768cb5291d" dmcf-pid="XWb9zKXS1k" dmcf-ptype="general">그록은 머스크의 뜻에 따라 경쟁사 제품인 챗GPT(오픈AI)·제미나이(구글)에 비해 검열 수위가 낮은 AI로 꼽힌다. 외설적이거나 공격적인 내용에 대한 관용도가 다른 제품에 비해 높다는 것이다. 실제로 지난해 8월에는 성적인 이미지와 텍스트를 생성하는 ‘스파이시 모드’를 내놓기도 했다. 다만 그록에도 사진 속 인물을 완전한 나체로 바꾸는 것은 금지되어 있었는데, 일부 이용자들이 최소한의 옷만 입은 상태로 사진을 변화시킬 수 있다는 것을 발견하고 악용하는 사례가 급증한 것이다.</p> <p contents-hash="c133486a8021adf9fd8c0b9d4a18488c7d3093451d4ecc698059aa45db5bf9af" dmcf-pid="ZYK2q9ZvGc" dmcf-ptype="general">최근 X 등 온라인 커뮤니티에는 그록으로 생성한 수위 높은 사진들이 다수 공유됐다. 특히 그 중에는 1~2세 영유아로 보이는 아동의 사진도 포함되며 우려의 목소리가 커졌다.</p> <p contents-hash="ad1bcd67d6a7ecc217cc0247938a219539cf0bd505c220ad466a593d9d029c31" dmcf-pid="5G9VB25TZA" dmcf-ptype="general">2일 파이낸셜타임스(FT)에 따르면 프랑스 당국은 이번 사건에 대해 조사를 시작하겠다는 방침이다. 그록에서 생성한 성착취 이미지가 X에서 확산하도록 놔둔 점이 유럽연합(EU)의 디지털서비스법(DSA)을 위반했을 것으로 본 것이다. FT는 조사 결과에 따라 2년 이하의 징역, 6만 유로 이하의 벌금형에 처해질 수 있다고 전했다.</p> <p contents-hash="6eb5d6fc20215b4a25f5912dd017ba1fc7aacd51f208edc80ecd4434f25e6800" dmcf-pid="1H2fbV1y5j" dmcf-ptype="general">이와 함께 2일 미 IT매체 테크크런치에 따르면 인도 정보기술부 역시 그록이 여성의 옷을 제거하는 음란물 콘텐츠를 시정 조치하라는 명령을 내렸다. 72시간 내에 음란물, 소아성애적 게시물의 생성과 유포를 방지하기 위한 조치를 상세히 보고하도록 한 것이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 '원조 스턴트맨' 김영인 별세…향년 82세 01-04 다음 '프로보노' 정경호, 조작 재판 의혹 "법정에서 보자" 01-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
