성 착취물 만드는 AI 앱…“애플·구글은 뒷짐” [플랫] 작성일 01-30 7 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VI8n8aMVSO"> <p contents-hash="16cf51082bb73c5ced4e96ce24555e3d765bcf743924fe29c3f164960c78b5c5" dmcf-pid="fC6L6NRfCs" dmcf-ptype="general">구글의 애플리케이션(앱) 마켓인 플레이스토어에 ‘누디파이’(Nudify·누드 합성)라는 키워드를 넣자 관련 앱이 주르륵 뜬다. 여성의 신체를 노골적으로 묘사한 이미지를 내걸고 있는 이들 앱의 다운로드 수는 적게는 수만회, 많게는 수천만회에 이른다.</p> <p contents-hash="b89b799af5a41569d66af88ee40a0969c9df453d55b4107bee58b948bfef268a" dmcf-pid="4hPoPje4Wm" dmcf-ptype="general">인공지능(AI)으로 성 착취 이미지를 생성하는 누디파이 앱이 활개를 치고 있다. 앱 마켓을 운영하는 구글과 애플이 이를 방치하며 짭짤한 수익을 올리고 있다는 지적도 나온다.</p> <figure class="figure_frm origin_fig" contents-hash="d145c6e0a48d15d01a9c5fae6ca13598ac991e1fdab511d7521feff3b35a6059" dmcf-pid="8lQgQAd8Tr" dmcf-ptype="figure"> <p class="link_figure"><img alt="Grok 웹사이트. 유럽연합 집행위원회는 실제 사람들의 성적 이미지를 생성하는 데 Grok이 AI 도구로 사용되었다는 우려로 엑스(X)에 대한 조사를 시작했다. AFP연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/30/khan/20260130103744182rsaw.jpg" data-org-width="1200" dmcf-mid="Gu2208ztWp" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/30/khan/20260130103744182rsaw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> Grok 웹사이트. 유럽연합 집행위원회는 실제 사람들의 성적 이미지를 생성하는 데 Grok이 AI 도구로 사용되었다는 우려로 엑스(X)에 대한 조사를 시작했다. AFP연합뉴스 </figcaption> </figure> <p contents-hash="25b0d09138e572dbfc1c667e0364d2cff58494cfb9f8cf83ee7bc11c5df651d8" dmcf-pid="6SxaxcJ6Cw" dmcf-ptype="general">미국의 비영리단체 기술투명성프로젝트(TTP)는 27일(현지시간) 이 같은 내용의 보고서를 공개했다. TTP는 최근 AI 챗봇 ‘그록’이 성 착취 이미지 생성·유포로 논란이 인 것을 계기로 양대 앱 마켓(플레이스토어·앱스토어)을 조사했다.</p> <p contents-hash="a2e2bcafbb37ccf9fd5f30efb42e58f9f20d07b634cfea273a981e029fea2c32" dmcf-pid="PvMNMkiPTD" dmcf-ptype="general">보고서에 따르면, TTP가 문제라고 지적한 누디파이 앱은 전 세계적으로 다운로드 건수가 약 7억500만회를 기록했다. 이들 앱이 올린 누적 매출만 1억1700만달러(약 1665억원)으로 추정된다. 애플과 구글이 인앱 결제 수수료(최대 30%)를 가져간다는 것을 고려하면 이들이 누디파이 앱을 통해 얻은 수익은 수백억원에 달할 것으로 보인다.</p> <figure class="figure_frm origin_fig" contents-hash="39bdb5f59b5a7e924fa973eb89bbd1a5beedd0f5e5871bcee2527a059743e428" dmcf-pid="QTRjREnQCE" dmcf-ptype="figure"> <p class="link_figure"><img alt="28일 구글 플레이스토어에 ‘누디파이’라고 검색하자 관련 앱이 뜬 모습. 최민지 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/30/khan/20260130103745952owse.png" data-org-width="422" dmcf-mid="2HiEimaeTI" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/30/khan/20260130103745952owse.png" width="658"></p> <figcaption class="txt_caption default_figure"> 28일 구글 플레이스토어에 ‘누디파이’라고 검색하자 관련 앱이 뜬 모습. 최민지 기자 </figcaption> </figure> <p contents-hash="925c11aba7cef399514fbba45ad6069d14d7bf05d2508686189f5a87d8411967" dmcf-pid="xyeAeDLxCk" dmcf-ptype="general">TTP는 AI로 생성한 가상의 여성 이미지를 이용해 누디파이 앱 테스트도 진행했다. 옷을 입은 여성 사진을 주고 옷을 벗겨달라고 하거나, 여성의 얼굴 사진만 주고 나체와 합성해달라고 주문했다. 그러자 안드로이드 앱 55개와 iOS 앱 47개가 나체의 여성 이미지를 만들어냈다. TTP는 “양대 마켓이 사용자 안전을 강조하면서도 누디파이 앱의 확산 속도를 따라가지 못하고 있다”고 꼬집었다.</p> <p contents-hash="cf3be19a7eef9c7e4f213d4aa8871ca2bc440375bc6f22b11ee86079bf86c5fe" dmcf-pid="yxGUGq1yyc" dmcf-ptype="general">TTP는 “프롬프트(명령어) 몇 줄 또는 버튼 한 번으로 여성의 옷을 벗기거나 성적인 영상으로 만드는 것이 가능했다”면서 “경고나 차단 장치는 거의 없었으며 상당수 앱이 전 연령 혹은 12세 이상으로 분류돼 있었다”고 지적했다.</p> <p contents-hash="b3b50645f8d8fdb1a070f70faa831c3a538a902335bdd282fdb5a983fc12999f" dmcf-pid="WJ1B12pXTA" dmcf-ptype="general">생성형 AI가 대중화한 이후 이를 활용한 성 착취물 제작 문제는 끊이지 않고 있다. 최근에는 일론 머스크의 xAI가 SNS 엑스 내에서 운영하는 챗봇 그록에 이미지 편집 기능이 추가되면서 비판에 직면했다. 이용자들이 이 기능을 활용, 원본 당사자 동의를 받지 않은 성 착취물을 다량 생성·유포했기 때문이다. 미성년인 피해자가 속출하면서 미국·유럽연합(EU) 등 각국 당국은 공식 조사에 착수했다. 국내에선 지난 14일 방송미디어통신위원회가 그록에 청소년 보호 장치를 마련하라고 요청했다.</p> <p contents-hash="14ebeeb1669dd181b9d81de083a7f7563f977628795f6c7b2bda4392dcb42062" dmcf-pid="YitbtVUZCj" dmcf-ptype="general">국내에서도 AI를 이용한 성 착취물 제작 및 유포는 심각한 문제지만 법이 현실을 따라가지 못하는 실정이다. 2024년 개정된 성폭력처벌법은 딥페이크 성 착취물 제작·유포는 물론 시청·소지·구입·저장한 경우에도 3년 이하의 징역 또는 3000만원 이하 벌금으로 처벌하도록 돼 있다. 그러나 지난해 AI로 만든 성 착취물의 피해자가 특정되지 않으면 성폭력처벌법상 허위영상물 유포죄로 처벌할 수 없다는 법원 판결이 나오며 한계를 노출했다.</p> <p contents-hash="9f78448438c3aa710b20004b9ccc249580f68349d3b5884aa7d5e19206cf7834" dmcf-pid="GnFKFfu5TN" dmcf-ptype="general">▼ 최민지 기자 ming@khan.kr</p> <p contents-hash="4cb1bcd836a25388007e032ea40112d3e3f244614ca96482c5044b1d298bc26f" dmcf-pid="HL393471Ta" dmcf-ptype="general">플랫팀 기자 flat@kyunghyang.com</p> </section> </div> <p class="" data-translation="true">Copyright © 경향신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 서동주, 재테크에도 소질 있었네…"경매로 신혼집 구매, 재개발 이슈 有" (편스토랑) 01-30 다음 '우주 데이터센터' 현실화하나…"스페이스X, 테슬라나 xAI와 합친다" 01-30 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
