AI가 디지털 성범죄 모니터링·삭제 신고 지원…서울시 전국 최초 시행 작성일 05-21 68 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5cqDF7aVD3"> <figure class="figure_frm origin_fig" contents-hash="d719830fadcfc9fa7dd44b015c97d95fe08d8dd428f3f180d31fc6ae71b80dcf" dmcf-pid="1kBw3zNfwF" dmcf-ptype="figure"> <p class="link_figure"><img alt="서울시" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/21/etimesi/20250521111604900yvqt.jpg" data-org-width="354" dmcf-mid="Zvxy2PIis0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/21/etimesi/20250521111604900yvqt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 서울시 </figcaption> </figure> <p contents-hash="b57f802b129aa57d5cb16a5873f0bb81940e07b262d8e801cbb0a286572e458f" dmcf-pid="tEbr0qj4Dt" dmcf-ptype="general">서울시가 21일 인공지능(AI)기술을 도입해 디지털 성범죄 영상의 모니터링부터 삭제 신고까지 지원하는 'AI 자동 삭제신고 시스템'을 전국 최초로 개발해 실행한다.</p> <p contents-hash="dd0e5bc234366dfd64573347de9df5caf811353f25936746ca7f8cf8f487a723" dmcf-pid="FI8lBfrRs1" dmcf-ptype="general">'AI 자동 삭제신고 시스템'은 AI가 24시간 피해 영상물을 상시 검출한 뒤, 찾아낸 영상물을 자동 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성한다. 완성된 신고 이메일은 삭제지원관이 최종 확인해 발송하게 된다. 평균 3시간이 걸리던 작업이 6분으로 획기적으로 단축된다.</p> <p contents-hash="042ee09476dec06176070a9e183abdcfcdbb1f331ef78616ad965af8bd472995" dmcf-pid="3C6Sb4meO5" dmcf-ptype="general">AI는 해외에 유포된 피해 영상물도 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성할 수 있다.</p> <p contents-hash="235bd37fb464858c91840c355e6e6d1f53466c54f9b09b0676e4c4d84ab85f83" dmcf-pid="0hPvK8sdsZ" dmcf-ptype="general">이번 시스템은 멀티모달 거대언어모델(MLLM)과 셀레니움 기반 웹 자동화 도구 등을 결합해 디지털 성범죄물의 탐지부터 채증, 문서화, 이메일 생성에 이르는 전 과정을 자동화했다.</p> <p contents-hash="f221c28152233e13859dfbf0bd3b0bda690e66e7e902a127bba0b30986aa4c4e" dmcf-pid="plQT96OJEX" dmcf-ptype="general">기존에는 모두 수작업으로 피해 영상물을 채증하고, 보고서를 작성해야 했기 때문에 많은 시간이 소요됐다. 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 'AI 자동화' 함으로써 처리속도를 30배 개선하는 성과를 기대할 수 있다.</p> <p contents-hash="f6ab664c6184b0c9adcaadc124c190669e81a1b1216c87109003461c5a558fc7" dmcf-pid="USxy2PIirH" dmcf-ptype="general">서울 디지털 성범죄 안심지원센터의 삭제지원 건수도 2022년 2509건에서 AI 모니터링 도입 이후인 지난해 총 1만4256건으로 무려 468%나 상승했다.</p> <p contents-hash="abc214c89fa9081187bc371bbdfe695c5ee9c0ea2cb63b874c716ecb701f667d" dmcf-pid="uvMWVQCnmG" dmcf-ptype="general">센터에서 3년간 지원한 디지털 성범죄 피해지원 인원은 2022년도 309명에서 2024년도 2820명으로 9배가 증가했으며, 이에 따른 피해 지원 건수는 2022년도 6245건에서 2024년도 3만9469건으로 6배가 증가했다. 특히 아동, 청소년을 대상으로 한 온라인 그루밍(길들이기) 피해가 크게 늘어나고 있다.</p> <p contents-hash="db6b3a297af6160deac471ef81ff9d1a385d3bc2edcd45d71357baba53164214" dmcf-pid="7TRYfxhLEY" dmcf-ptype="general">김선순 서울시 여성가족실장은 “전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어서, 이제 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축시킬 것으로 기대하고 있다”고 말했다.</p> <p contents-hash="18eaaa65873c2b1cb4018b13d65b3e05a0dca1b1b9c0b2c6bb01053a0f7f3ba8" dmcf-pid="zyeG4MloEW" dmcf-ptype="general">김명희 기자 noprint@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 함은정, 임신까지 했는데 외도 의혹 불거졌다(‘여왕의 집’) 05-21 다음 ‘불꽃야구’, JTBC 저작권 신고에 모든 영상 시청 불가 05-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
