X, AI 신기능 '성착취 딥페이크' 악용…각국 차단 기조, 한국은? 작성일 01-13 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">동의없이 '비키니·알몸 합성'…국내서도 피해호소 잇따라<br>인니·말레이 등 차단 조치…韓도 "대응 방안 검토"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="x8KsHTCEts"> <figure class="figure_frm origin_fig" contents-hash="ec29e0b15a9d0c265d823d746531a9ca07fd44123406c993232db5c32b0688fa" dmcf-pid="ylm9dQfz1m" dmcf-ptype="figure"> <p class="link_figure"><img alt="ⓒ News1 양혜림 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/13/NEWS1/20260113073128487zoio.jpg" data-org-width="1400" dmcf-mid="6YRZBUtWHC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/13/NEWS1/20260113073128487zoio.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ⓒ News1 양혜림 디자이너 </figcaption> </figure> <p contents-hash="82356a4c91e9470c7710fdcf1019778e77ea23cc6d6d3643b657fa1ecff2aef1" dmcf-pid="WSs2Jx4qXr" dmcf-ptype="general">(서울=뉴스1) 김정현 김민수 기자 = 엑스(X, 구 트위터)가 '그록'을 통해 선보인 새로운 기능의 딥페이크 성착취물 콘텐츠 제작 논란이 확산되고 있다. 해외에서는 접속을 차단한 국가들도 나오는 중이다.</p> <p contents-hash="551ff396e7155a81c15b5408251de7f964327d9a6feaa762dd0072e281368903" dmcf-pid="YEa0fbu55w" dmcf-ptype="general">13일 IT업계에 따르면 X는 지난달 25일 다른 사람이 X 계정에 올린 사진·그림을 제3자가 마음대로 그록을 이용해 수정하고 자신의 계정에 업로드할 수 있도록 하는 기능을 업데이트했다.</p> <p contents-hash="5ab498b0aaac0aff7888fa377c58c660afbc8dc60a08df4251107168c8681284" dmcf-pid="GDNp4K71ZD" dmcf-ptype="general">현재 X에서는 이미지 우측 하단의 '이미지 편집'(Edit Image) 버튼만 누르면 그록이 실행된다. 그록에게 지시하면 이미지가 AI로 수정된다.</p> <p contents-hash="36900511c63a49b089e7995c6bbb7312cb2b7ded1945bd2889567ec51b00c3f8" dmcf-pid="HwjU89ztZE" dmcf-ptype="general">사용자는 AI로 변형된 이미지로 새로운 게시물을 작성하거나 원본 게시물에 답글로 달 수 있다. 특히 사용자는 팔로우하지 않는 사람에게도 수정한 이미지를 노출시킬 수 있다.</p> <p contents-hash="6d4f9d9d11443cefd99105f52dea5023f9a14d751639228fa35590f283abc925" dmcf-pid="XrAu62qF1k" dmcf-ptype="general">X 이용자들 중에는 옷을 입고 있는 일반적 사진을 올렸다가 모르는 사람이 그록을 이용해 비키니나 속옷을 입은 사진으로 '딥페이크' 합성한 사진에 노출됐다고 호소하는 사람이 적지 않은 상태다.</p> <p contents-hash="e131cfecaa4c86660cf9661c0a4e9709a98153b08a94b4b930f7fd753ce1a794" dmcf-pid="Zmc7PVB31c" dmcf-ptype="general">최근에는 그록이 안전장치 없이 미성년자의 이미지를 가지고 비키니 등 노출이 많은 의상과 합성한 이미지를 생성하고 이를 X에 공개해 큰 논란이 일었다. </p> <p contents-hash="310024c1fde9985e60075ad650179dd3143c84ba927ec84a78cbda1c6cd9e99a" dmcf-pid="5skzQfb01A" dmcf-ptype="general">국내 X 이용자들 사이에서도 얼굴이 나온 사진을 올렸다가 전혀 모르는 제3자가 그록을 이용해 제작한 딥페이크 사진에 노출됐다는 피해 호소가 나오고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="ab13a0ea4ea62a62d6be3575b00569ec2e70394c132d9dbac08fb2d892f1f568" dmcf-pid="1OEqx4KpXj" dmcf-ptype="figure"> <p class="link_figure"><img alt="ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/13/NEWS1/20260113073128732caas.jpg" data-org-width="1400" dmcf-mid="PdAqx4KpHI" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/13/NEWS1/20260113073128732caas.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ⓒ AFP=뉴스1 </figcaption> </figure> <h3 contents-hash="86226571a91eb4b8e7150aec9c6618278ab023a152f6e40477b8b5b4a8e3aa8f" dmcf-pid="tIDBM89UZN" dmcf-ptype="h3">해외 각국 X에 경고·차단 나서…"딥페이크, 인권 존엄성 침해"</h3> <p contents-hash="0ffcc015068d8b0efab8a683b6447ff2b880396b05199647815146156213444c" dmcf-pid="FCwbR62u1a" dmcf-ptype="general">이같은 피해에도 X는 그록 AI 이미지 생성을 차단하는 기능을 제공하지 않고 있다. 이용자들은 자체적으로 X 계정의 답글 기능을 제한하는 등을 미봉책으로 공유하는 중이다.</p> <p contents-hash="e5002f3dc8af9915e278417e7f30109ac8f096c2df3d7f6bc0773d8250862cdb" dmcf-pid="3hrKePV7Xg" dmcf-ptype="general">이번 X의 AI 합성 기능은 세계적으로도 문제가 제기되고 있다.</p> <p contents-hash="57ecf8c168637c31f88639a44e7736b9ddf83cfb1a3756ac187432dcf5c55716" dmcf-pid="05WRcgJ6Xo" dmcf-ptype="general">미국에서는 론 와이든, 에드 마키, 벤 레이루한 등 민주당 소속 상원의원 3명이 지난 9일(이하 현지시간) 구글과 애플 최고경영자(CEO)를 상대로 "그록과 X 앱을 앱스토어에서 퇴출하라"는 요구 서한을 보냈다.</p> <p contents-hash="95d46ab144e6cf5269956fb4686b5a383a51108a08cd2b0be08aa0a321f168e6" dmcf-pid="p1YekaiPtL" dmcf-ptype="general">영국도 리즈 켄덜 기술부 장관이 X의 딥페이크 문제를 두고 "규제 당국인 오프컴(Ofcom)의 접속 차단 결정에 전폭적인 지지를 보낼 것"이라고 경고했다.</p> <p contents-hash="b562daec0701f58fd246cabb6e86e79a06f4393434bbd2d598fde0344b5a72da" dmcf-pid="UtGdENnQHn" dmcf-ptype="general">일부 국가는 X 및 그록의 접속 차단 조치에 나서기도 했다.</p> <p contents-hash="48dfc98928486fa73c64ac954c3cc761f1d15b0a9543e7c8d84fcaaea1d86f7b" dmcf-pid="uFHJDjLxZi" dmcf-ptype="general">인도네시아 통신디지털부는 동의 없는 딥페이크가 인권과 존엄성을 침해한다는 이유로 그록 접속을 차단했다. 말레이시아 통신멀티미디어위원회(MCMC)도 12일 그록 접속을 일시제한했다.</p> <figure class="figure_frm origin_fig" contents-hash="6e5ecdbdec75733901e8bba118b0589d53f80481b48822beb64d9eaa39b3461e" dmcf-pid="73XiwAoM1J" dmcf-ptype="figure"> <p class="link_figure"><img alt="X에서 그록 딥페이크 합성을 호소하는 이용자들(X 갈무리)/뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/13/NEWS1/20260113073130411pjyr.jpg" data-org-width="1080" dmcf-mid="QPbmGvIktO" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/13/NEWS1/20260113073130411pjyr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> X에서 그록 딥페이크 합성을 호소하는 이용자들(X 갈무리)/뉴스1 </figcaption> </figure> <h3 contents-hash="cf80b791f444086b1ae40a7b7a278d78c405d0b6d7285d051cef688553f7c55c" dmcf-pid="z0ZnrcgRGd" dmcf-ptype="h3">방미통위 "X 사태, 유통이 문제…대응방안 종합 검토 중"</h3> <p contents-hash="2a3f672b87888b2f1807815aa67bc40a6d01e30b635cb8be91515c7d4e3809af" dmcf-pid="qp5LmkaeZe" dmcf-ptype="general">한국 정부 역시 이번 논란을 인지하고 대응 방안을 논의하는 중이다.</p> <p contents-hash="07bc8ccf3c10a0ba7034a188ce441a9c6546e1fef6bc58b95e58f44507c3bfb3" dmcf-pid="BU1osENdYR" dmcf-ptype="general">방송미디어통신위원회 관계자는 "현행 정보통신망법을 통해 유통되고 있는 딥페이크물은 사후 삭제·차단을 할 수 있는 체계가 만들어져 있다"면서도 "(X의 사례는) 그록을 통해 생성된 부적절한 이미지가 (X를 통해) 유통된다는 점이 문제"라고 설명했다.</p> <p contents-hash="f31787459657b7931474d571b9b242fb71a3965d150daa27a67ae79a2c5f2379" dmcf-pid="butgODjJtM" dmcf-ptype="general">이어 "현행 성폭력처벌법에 따르면 불법 촬영물이나 성적 딥페이크물은 소지만으로도 처벌이 된다"며 "(딥페이크물) 소지 목적의 생성을 규제해야 한다는 의견도 있어 대응 방안을 종합적으로 검토 중"이라고 말했다.</p> <p contents-hash="07f9315775d7ce1427fb0626c9c8f0695f9f65dbf21da0bf88a5dfaf78caa3ea" dmcf-pid="K7FaIwAiZx" dmcf-ptype="general">한편 일론 머스크 테슬라 최고경영자(CEO)는 이같은 각국의 조치를 두고 "파시스트적"이라며 "(정부들이) 검열을 위한 구실을 찾고 있다"고 반발하고 있다.</p> <p contents-hash="f148d8cd9f317fc43905595b29753001626a16d2bcd0625b617e22b3671a0624" dmcf-pid="9z3NCrcn5Q" dmcf-ptype="general">Kris@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 박정민·개코·황소윤…엔하이픈 신보에 ‘대세’ 총출동 01-13 다음 '세계 2위' 꺾은 탁구 장우진, 세계랭킹 14위로 4계단 상승 01-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
