이재명·홍준표 막걸리 회동, 김문수·한덕수 우격다짐?…"딥페이크 변조 꼼짝마"

작성일 05-17

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">대선 앞두로 딥페이크 변조물 우려…선관위, 지난 15일까지 1800여건 삭제<br>얼굴 표정·입술 불일치·혈류로 딥페이크 탐지<br>샌즈랩·라온시큐어, 딥페이크 판별할 수 있는 무료 서비스 제공</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="y3E0gnYcG4">
          <p contents-hash="7632c9e03d4ddbb41a341712c861d5df1d2a7d54ffe4c9fb0a3f1964134965da" dmcf-pid="W0DpaLGktf" dmcf-ptype="general"> [서울=뉴시스]송혜리 기자 = </p>
          <figure class="figure_frm origin_fig" contents-hash="5eec875e6dfc32b4b891b5688c2a83501743f2500608920eeaef3778ed56d0c0" dmcf-pid="YVTfOruSXV" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[그래픽=뉴시스] 재판매 및 DB금지. hokma@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/17/newsis/20250517093011184iycv.jpg" data-org-width="720" dmcf-mid="QipLZGP356" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/17/newsis/20250517093011184iycv.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [그래픽=뉴시스] 재판매 및 DB금지. hokma@newsis.com
           </figcaption>
          </figure>
          <p contents-hash="e5e572847f5f72fc7eb7de66c1bc5af731f4dc5f8515b5f5dd88fe88dd35ce9f" dmcf-pid="Gfy4Im7vY2" dmcf-ptype="general"><strong><br> #후보 단일화를 두고 진통을 겪었던 한덕수 전 총리와 김문수 국민의힘 대선 후보가 포옹 후 우격다짐을 한다. 이재명 더불어민주당 대선 후보는 홍준표 전 대구시장과 막걸리 회동을 한다.</strong></p>
          <p contents-hash="0522d5b08a5d0062f7019f28d2b28cfd65561e72c23b0450f863af0bb97079d0" dmcf-pid="H4W8CszTY9" dmcf-ptype="general">다음달 3일 대통령 선거를 앞두고 대선 후보들의 음성과 얼굴을 악용한 딥페이크 허위 영상이 빠르게 늘고 있다.</p>
          <p contents-hash="254ad2cca7ecb624e1c3620ba2070a821b2c91248573d59fe8bd494027452642" dmcf-pid="X8Y6hOqy1K" dmcf-ptype="general">중앙선거관리위원회에 따르면 선관위가 지난달 4일부터 이달 15일까지 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 딥페이크 영상물은 1843건에 달했다.</p>
          <p contents-hash="e9399167782fe3d39c1a83eee32c4486c6ef7dbbc4e18c1468b65d4b20181635" dmcf-pid="Z6GPlIBWYb" dmcf-ptype="general">특히 지난 11일 누적 769건이던 것이 이틀 만에 누적 1000건을 돌파, 하루 수백 건씩 불어나는 양상이다. 이는 지난해 총선(1월 29일~4월 10일) 전체 기간 삭제 요청 건수 388건의 5배에 가까운 수치다.</p>
          <p contents-hash="81ba05cfa54e9f315444b09b8628cfbba87c759c41e9c6a782d427a14edabce8" dmcf-pid="5PHQSCbYYB" dmcf-ptype="general">현행 공직선거법에서는 ▲AI 기술을 이용해 만든 ▲실제와 구분하기 어려운 가상의 ▲음향·이미지·영상 등을 딥페이크 영상으로 규정하고, 이를 이용한 선거운동을 금지하고 있다. 선관위 측은 "조금이라도 (실제로) 오인할 가능성이 있다면 법 위반에 해당된다"고 설명했다.</p>
          <h3 contents-hash="87a25e374b6ccdaf065f0ebe299790e65ed00ffa50246487886f4e93dbca0caf" dmcf-pid="1QXxvhKGGq" dmcf-ptype="h3"><strong> AI로 AI 변조 잡아낸다…얼굴 미세 움직임, 입모양 일치여부, 혈류 변화 등으로 판별</strong></h3>
          <div contents-hash="c070b1c8053a06260d8e0fc794038b29a3f40ac4f374ec791569abee7b646acb" dmcf-pid="txZMTl9HGz" dmcf-ptype="general">
           <br> 보안업계는 선거를 앞두고 딥페이크 콘텐츠의 악용 가능성이 갈수록 커지고 있다며 유권자들에게 각별한 주의가 필요하다고 당부했다. 
          </div>
          <p contents-hash="638212c8937be49de3394b02761059be2747a2b243b608cf96c71aeae66a608c" dmcf-pid="FM5RyS2X17" dmcf-ptype="general">이 가운데 라온시큐어, 샌즈랩 등 보안 기업들은 국민 누구나 활용할 수 있는 딥페이크 판별 서비스를 무료로 제공하고 있다. 해당 서비스에 적용된 AI기술들은 얼굴의 미세한 움직임, 입 모양의 불일치, 혈류 변화 등 생체 신호로 합성 여부를 분석하는 등 다양하다. </p>
          <p contents-hash="cc3f0471d0129f585b7978aa97df1f03b6ba7e819f6e834625b9450791c14c38" dmcf-pid="3R1eWvVZ1u" dmcf-ptype="general">예를 들어, 사람은 자연스럽게 눈을 깜박이지만 딥페이크 영상에서는 눈 깜박임이 비정상적이거나 거의 나타나지 않는 경우가 많다. 이러한 비정상적인 움직임을 탐지해 딥페이크 여부를 판단할 수 있다. </p>
          <p contents-hash="8f7d5006f544ad86d178b543e424ad9befd4e3c0061dba7dd543acea985db113" dmcf-pid="0etdYTf5tU" dmcf-ptype="general">또 합성된 얼굴 이미지와 실제 얼굴 이미지를 학습한 '합성곱 신경망(CNN)' 모델을 통해 딥페이크 여부를 판별하거나, 딥페이크 생성에 사용된 '생성적 적대 신경망(GAN)'의 흔적을 추적하는 방식도 활용된다.</p>
          <div contents-hash="393ccc3f0aace30f111ffdb61a15b29c560f63982dc5ab640e7bc9bf9a34f00f" dmcf-pid="pdFJGy41Yp" dmcf-ptype="general">
           이외에도, 딥페이크 영상이나 이미지의 메타데이터에서 비정상적인 정보를 탐지하는 방법도 있다. 예를 들어 파일 생성 시간이나 소프트웨어 사용 기록 등에서 의심스러운 점을 발견할 수 있다. 
           <br> 
          </div>
          <figure class="figure_frm origin_fig" contents-hash="8b867275e8028d928ff2010d383aad30aae3daaf8fffabbe6ec5778cac1b5a3a" dmcf-pid="UJ3iHW8tt0" dmcf-ptype="figure">
           <p class="link_figure"><img alt="챗GPT로 만든 합성 이미지를 '페이크체크'에 올리자, 수 초 만에 '페이크' 답변이 떴다.   *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/17/newsis/20250517093011338gogy.jpg" data-org-width="720" dmcf-mid="x5W8CszT58" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/17/newsis/20250517093011338gogy.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            챗GPT로 만든 합성 이미지를 '페이크체크'에 올리자, 수 초 만에 '페이크' 답변이 떴다. *재판매 및 DB 금지
           </figcaption>
          </figure>
          <div contents-hash="7a47f62df7d17a084dc7999b7fafe0827ee1446eb97548be95a8c4b59a762fd1" dmcf-pid="ui0nXY6FX3" dmcf-ptype="general">
           <br> 
          </div>
          <h3 contents-hash="f88310d21529a031d331b8d8e56036799bab16a12d18f57588f557c468e6b334" dmcf-pid="7pwUNoHEZF" dmcf-ptype="h3"><strong>딥페이크 판별해주는 서비스 어디?</strong></h3>
          <div contents-hash="3ad9a370e4cbc6ed8c5c20b3c489cb48461190741c8a978ad478179c7ae11532" dmcf-pid="zUrujgXD1t" dmcf-ptype="general">
           <strong> 라온시큐어는 개인용 백신 앱 '라온 모바일 시큐리티'로 페이크 탐지 서비스를 제공 중이다.<br><br> 라온 모바일 시큐리티는 AI 기반 스미싱 탐지 및 악성앱 탐지, 해킹 방지 등을 제공하는 개인용 모바일 백신 앱이다. 라온시큐어는 이 앱에 자체 개발한 AI 기반 딥페이크 탐지 기능을 추가했다. 현재 라온 모바일 시큐리티는 딥페이크 탐지 기능을 포함해 무료로 이용할 수 있다.<br><br> 이용자들은 라온 모바일 시큐리티에서 동영상이나 이미지, 유튜브 링크(URL) 등을 업로드 하면 해당 콘텐츠가 생성형 AI로 조작된 딥페이크일 가능성이 얼마나 높은지 몇 초만에 알 수 있다.<br><br> 라온시큐어는 추후 '실시간 딥페이크 탐지 서비스'도 라온 모바일 시큐리티에 추가할 계획이다. 이를 통해 영상통화 시에도 상대방이 조작된 얼굴로 지인을 사칭하는지 실시간으로 탐지할 수 있게 된다. 또 회사는 목소리로 타인을 사칭하는 '딥보이스 탐지 기술'도 개발 중이다.<br><br> 샌즈랩은 딥페이크 탐지 서비스인 '페이크체크'를 무료로 제공하고 있다.<br><br> 지난해 말 서비스를 시작한 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 AI가 수 초 내로 위조 진위 여부를 판별해 결과를 알려준다. 회원가입, 인증 등 번거로운 절차없이 PC나 모바일로 접속해 무료로 사용할 수 있다. 샌즈랩 관계자는 "국민 누구나 쉽게 서비스를 이용할 수 있도록 무료 웹사이트로 구현했다"고 설명했다.<br><br> 기존엔 png, jpg, jpeg 등 2MB 이하의 이미지 파일만 판별이 가능했으나, 회사는 최근 가상인물과 허위 영상 탐지까지 가능하도록 기능을 강화했다.<br><br> 구체적으로 전 연령대의 고른 분석이 가능하도록 고도화했으며, AI로 위·변조한 이미지뿐 아니라 챗GPT 등 생성형 AI가 만들어 낸 '가상 인물' 이미지까지 구분할 수 있도록 했다. 이에 더해 '딥페이크 영상 탐지 기능' 또한 적용될 예정이다. 현재 기술 최적화가 진행 중으로, 이달 내 영상 탐지 적용이 완료될 예정이란 게 회사 측 설명이다.<br><br><br><span>☞공감언론 뉴시스</span> chewoo@newsis.com </strong>
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>

이전

이장우, 정육점 사장되나…정육 세계 입문 '고기 해체 도전' (나혼산)[종합]

05-17
다음

뉴진스, 2년 연속 美 빌보드 선정 '21 언더 21'

05-17

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

이재명·홍준표 막걸리 회동, 김문수·한덕수 우격다짐?…"딥페이크 변조 꼼짝마"

멤버랭킹

관련자료

멤버랭킹