"딥페이크 성범죄 '보기만 해도' 처벌"…학생들 '눈 휘둥그레'

작성일 09-03

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">[2025 u클린] 미래 AI 개발자에 AI 안전·윤리 중요성 강조</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="7YZXoA3IX8">
          <figure class="figure_frm origin_fig" contents-hash="5f674905b61f16c113543d93997507baab874b7327cf38f99a2e844f073de6b7" dmcf-pid="zG5Zgc0CZ4" dmcf-ptype="figure">
           <p class="link_figure"><img alt="3일 서울 관악구 미림마이스터고등학교에서 머니투데이와 한국지능정보사회진흥원 공동주최로 열린 'U클린 토크콘서트 2025'가 진행되고 있다. /사진=이기범 기자 leekb@" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/moneytoday/20250903163447801nmti.jpg" data-org-width="1200" dmcf-mid="1V8Aq2rRYd" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/moneytoday/20250903163447801nmti.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            3일 서울 관악구 미림마이스터고등학교에서 머니투데이와 한국지능정보사회진흥원 공동주최로 열린 'U클린 토크콘서트 2025'가 진행되고 있다. /사진=이기범 기자 leekb@
           </figcaption>
          </figure>
          <p contents-hash="4d19dfd8482da1669d3a1710ee36a81a6e04beda11869681ae9d676805c070f1" dmcf-pid="qH15akph1f" dmcf-ptype="general"><strong>"여자친구의 딥페이크 성범죄물을 만들어 텔레그램 대화방에 게시한 고등학생은 학생이지만, 징역 3년 6개월을 받았습니다."</strong><br><strong>"에?"</strong> </p>
          <p contents-hash="7a4d5aead8b8abe1382c0f32ba5d5faf9293ac24fb37575c6ae035d10b1606ba" dmcf-pid="BXt1NEUlZV" dmcf-ptype="general">3일 서울 관악구 미림마이스터고 재학생 200여명은 김하은 서울마포경찰서 여성청소년과 SPO(학교전담경찰관·경장)의 딥페이크 성범죄 처벌사례를 듣고 놀란 표정을 지었다. 동급생을 대상으로 한 딥페이크 성범죄물을 단순 '보기만 해도' 3년 이하의 징역 또는 벌금형에 처할 수 있다는 사실에 다시 한번 놀랐다. 일부 학생들은 강연이 끝나서도 김 경장에 딥페이크 성범죄에 관한 질문을 쏟아냈다. </p>
          <p contents-hash="681ec9dbf75ffb64f75456fc8bdfa841a13fc468ecc849755e2f15b5ed1a3e04" dmcf-pid="bZFtjDuSY2" dmcf-ptype="general">딥페이크에 대한 청소년의 범죄 인식이 낮다는 지적이 제기되는 가운데, 실제 범죄 및 처벌사례와 대응방안을 전달해 청소년의 경각심을 높인 것이다. </p>
          <div contents-hash="4a1307489d24834b6eba1b915bce901cadf7147acb5d8e57ec709cc222521cb9" dmcf-pid="K53FAw7vG9" dmcf-ptype="general">
           최근 딥페이크 성범죄 가해자·피해자 모두 10대 비중이 높아 사회적 우려가 커지고 있다. 올해 8월25일까지 검거된 딥페이크 성범죄 피의자 중 83.7%(324명), 디지털 성범죄 피해자 지원센터에 보호 지원을 요청한 사람의 36.9%(288명)가 미성년자였다. 김 경장은 "경찰과 텔레그램이 핫라인을 구축해 수사가 계속 진행되고 있다"며 "인스타그램 계정은 많은 사람이 볼 수 있기 때문에 비공개로 돌려놓는 게 안전하다" 등의 예방법을 공유했다. 
           <br>
          </div>
          <figure class="figure_frm origin_fig" contents-hash="bb2bd7c6e2f149d12d0741fda7b6778acf792b9a413d4cebe452b6d26d03188a" dmcf-pid="9103crzTZK" dmcf-ptype="figure">
           <p class="link_figure"><img alt="김하은 서울마포경찰서 여성청소년과 청소년보호계 SPO가 3일 서울 관악구 미림마이스터고등학교에서 머니투데이와 한국지능정보사회진흥원 공동주최로 열린 'U클린 토크콘서트 2025'에서 강연하고 있다. /사진=이기범 기자 leekb@" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/moneytoday/20250903163449083wroj.jpg" data-org-width="1200" dmcf-mid="U03PY5dzGP" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/moneytoday/20250903163449083wroj.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            김하은 서울마포경찰서 여성청소년과 청소년보호계 SPO가 3일 서울 관악구 미림마이스터고등학교에서 머니투데이와 한국지능정보사회진흥원 공동주최로 열린 'U클린 토크콘서트 2025'에서 강연하고 있다. /사진=이기범 기자 leekb@
           </figcaption>
          </figure>
          <div contents-hash="9a5fff742c6c433974d8f26fa08ac1f5d4b24b059fe342bf24da69dfa4f05f49" dmcf-pid="2tp0kmqyYb" dmcf-ptype="general">
           <div></div>
           <div></div>
           <div>
            ━
           </div>
<strong>"AI 안전성 최후의 보루는 개발자"</strong>
           <div>
            ━
           </div>
           <div></div>
           <div></div>이날 행사는 머니투데이와 한국지능정보사회진흥원(NIA)이 공동 주최하고 방송통신위원회가 후원하는 '2025년 u클린 캠페인' 일환으로 마련된 토크콘서트다. 200여명의 학생들은 생성형 AI를 평소 쓰냐는 질문의 대부분이 "그렇다"고 손을 들었다. 미래 AI 강국 주역이 될 청소년에 무분별한 AI 활용의 위험성을 알리고 개발자와 이용자의 윤리를 강조했다. 
          </div>
          <p contents-hash="e773428d39535ec3ea7c401ad6b14ea2bdcd15f5fca1e37b26cca767d498cc81" dmcf-pid="VFUpEsBW5B" dmcf-ptype="general">'AI 안전성과 개발윤리'를 주제로 강연한 허상우 네이버(NAVER) AI RM(리스크 매니지먼트) 센터 PL은 AI가 지능화되면서 거짓을 사실처럼 말하는 할루시네이션을 넘어 자기보존, 샌드배깅 등의 부작용이 생기고 있다고 설명했다. AI가 종료·교체를 피하기 위해 개발자에 협박 메일을 보내거나(자기보존), 인간을 속이기 위해 의도적으로 능력을 숨기는(샌드배깅) 등의 사례가 발생한 것이다. 기존 할루시네이션이 단순한 기계적 오류에 그쳤다면 앞선 두 사례는 AI가 인간의 통제를 의도적으로 벗어날 가능성을 내포한다는 점에서 우려가 커진다. </p>
          <p contents-hash="edad9d89635023f93a31f700faf7c7e098f74a1f1e3e7bc88cc894f4c4a3407a" dmcf-pid="f3uUDObYZq" dmcf-ptype="general">허 PL은 "조만간 인간의 동시 정보처리 능력을 뛰어넘는 AI가 나올 것으로 전망된다"며 "똑똑한 모델일수록 지능적으로 사람을 속인다"며 "AI 위험이 일부 완화됐지만, 여전히 해결되지 않은 부분도 있다"고 경고했다.<br></p>
          <figure class="figure_frm origin_fig" contents-hash="27f77d8143931b885bc3f53cd1e8529f3610316a08bb663384d6851ed2a5bd53" dmcf-pid="4ADEK4OJGz" dmcf-ptype="figure">
           <p class="link_figure"><img alt="허상우 네이버 AI 리스크 매니지먼트 센터 PL이 3일 서울 관악구 미림마이스터고등학교에서 머니투데이와 한국지능정보사회진흥원 공동주최로 열린 'U클린 토크콘서트 2025'에서 강연하고 있다. /사진=이기범 기자 leekb@" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/moneytoday/20250903163450370ecnk.jpg" data-org-width="1200" dmcf-mid="u6rw26CnH6" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/moneytoday/20250903163450370ecnk.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            허상우 네이버 AI 리스크 매니지먼트 센터 PL이 3일 서울 관악구 미림마이스터고등학교에서 머니투데이와 한국지능정보사회진흥원 공동주최로 열린 'U클린 토크콘서트 2025'에서 강연하고 있다. /사진=이기범 기자 leekb@
           </figcaption>
          </figure>
          <p contents-hash="055862a67c340574303ddff02ee125b960ea0bb714b992a074fa61a771cb2be7" dmcf-pid="8cwD98Iit7" dmcf-ptype="general">허 PL은 AI 위험성을 줄이기 위한 국제사회 노력과 국내 AI 기본법 제정, 네이버의 AI 전주기 안전성 관리 방안을 소개했다. 미림마이스터고가 IT 인재 육성기관이라는 점에서 개발자 윤리도 강조했다. 그는 "AI 안전성 최후의 보루는 개발자"라며 "AI 모델 개발 과정 전체에서 안전성을 고려하지 않고는 AI를 통제하기 어렵다"고 말했다. 이어 "AI가 너무 빨리 발전하고 있어 제도로 커버하기가 어렵다. 미래의 AI 위험을 줄이려면 AI를 트레이닝하는 개발자의 윤리와 도덕적 가치가 그 어떤 기술보다 중요하다"고 덧붙였다.</p>
          <p contents-hash="3a3b2f2f14be4026914e8750cc11faa7d7cee15ba08c5b4f7ea28be27491ea95" dmcf-pid="6krw26CnHu" dmcf-ptype="general">강연을 들은 미림마이스터고 1학년 학생인 이태율 군은 "AI 위험성을 규제하는 법이 있다는 걸 처음 알았다"며 "백엔드 개발자가 꿈인데 미래에 도움이 될 것 같다"고 말했다. 동급생인 하정원 군도 "네이버는 개발자를 꿈꾸는 학생들이 모두 들어가고 싶은 회사"라며 "현직자 강연을 통해 AI 개발윤리 이해도가 높아졌다"고 답했다. </p>
          <p contents-hash="607348b0f2ad73cf481350b5a2ac8735676927fc5f24f8c3d9fbb42b7fe2313a" dmcf-pid="PEmrVPhLGU" dmcf-ptype="general">한편 2005년 '건전한 디지털 문화 정착'을 목표로 시작된 u클린 캠페인은 올해로 20주년을 맞았다. 지난 20년간 청소년 문화콘서트, 초·중·고 글짓기·포스터 공모전 등을 통해 인터넷 윤리 문화를 사회 전반으로 확산시키는 계기를 마련했다는 평가를 받는다.</p>
          <p contents-hash="783966e4e449f20cbb913fb4b0c63086694a3a2eb19fb25aeb11206e511f6e25" dmcf-pid="QDsmfQloXp" dmcf-ptype="general">윤지혜 기자 yoonjie@mt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

이전

"단순 시청도 징역 최대 3년", 딥페이크 범죄 예방 위해 강단 선 경찰관

09-03
다음

광주 세계양궁대회, ODA 초청 선수단에 장비·기술 지원

09-03

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"딥페이크 성범죄 '보기만 해도' 처벌"…학생들 '눈 휘둥그레'

멤버랭킹

관련자료

멤버랭킹