“얼굴 보고 한참 대화도 나눴는데” 그녀의 비밀…다들 완전 속았다 작성일 05-06 106 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yVxaMPj4tz"> <div contents-hash="026bd7bd8b0b982b897f1d9b42af89ce7ea949d06275bc331d4512a798419016" dmcf-pid="WqfJ42nbX7" dmcf-ptype="general"> 혈류·미세 움직임 등으로 딥페이크 판별 <br>다만 “비학습 데이터 탐지율 60% 수준” <br>‘워터마크 표시’ AI 기본법 내년 시행 <br>“딥페이크 악용 범죄 가중처벌 해야” </div> <figure class="figure_frm origin_fig" contents-hash="92410abddc7043ee3aaa3f6408aad05df03068092fd2c443cd3b6b1fef8c0b8b" dmcf-pid="YB4i8VLKXu" dmcf-ptype="figure"> <p class="link_figure"><img alt="딥페이크 기술을 이용한 화상통화 영상 [울산경찰청 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/06/ned/20250506174019323ypvj.png" data-org-width="324" dmcf-mid="66llEAvaZK" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/06/ned/20250506174019323ypvj.png" width="658"></p> <figcaption class="txt_caption default_figure"> 딥페이크 기술을 이용한 화상통화 영상 [울산경찰청 제공] </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="d81d6835650277894fb03c6b5cc38843f6f183923c3e037c8576f7dd32445914" dmcf-pid="Gb8n6fo9ZU" dmcf-ptype="figure"> <p class="link_figure"><img alt="딥페이크 기술을 이용한 화상통화 영상 [울산경찰청 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/06/ned/20250506174019960uiam.jpg" data-org-width="1200" dmcf-mid="P62eVKJq5b" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/06/ned/20250506174019960uiam.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 딥페이크 기술을 이용한 화상통화 영상 [울산경찰청 제공] </figcaption> </figure> <p contents-hash="1643f70d1a6008c24404436e2c2b715e31f5f1252b4cf4356923b45939185f56" dmcf-pid="HK6LP4g2Hp" dmcf-ptype="general">[헤럴드경제=권제인·박혜림 기자] 국내외 기업들이 딥페이크 생성 기술을 따라잡기 위해 탐지기술 개발에 속도를 내고 있다. 인공지능(AI)으로 만들어낸 딥페이크 창작물을 AI 모델을 활용해 다시 구분하는 방식이다.</p> <p contents-hash="743217e9a55a3376a32a0f74a111f046809ada0897e3c35fb964db0f57f32c78" dmcf-pid="X9PoQ8aVH0" dmcf-ptype="general">다만, 일각에선 탐지기술 만으로 악의적인 딥페이크 사용을 따라잡기 역부족이라며 AI 생성물임을 표시하는 ‘워터마크’ 도입 등 제도적인 보완이 필요하다는 지적도 나온다.</p> <p contents-hash="3526c3a99918f41e3aa3d0c9a3e9257b94a3ccf91da88956e3986452c37e9989" dmcf-pid="Z2Qgx6NfG3" dmcf-ptype="general">▶딥페이크 잡는 AI 등장했지만…탐지기술 미흡=1일 IT업계에 따르면 국내외 딥페이크 탐지 기업들은 AI 모델을 활용해 영상, 이미지, 음성의 이상 징후를 파악하고 있다. AI 모델에 조작되지 않은 콘텐츠와 딥페이크 창작물을 다량으로 학습시켜 ▷얼굴의 미세한 움직임 ▷눈 깜빡임 패턴 ▷부자연스러운 입 모양 ▷혈류 및 세부적인 피부 특징 ▷음성 주파수의 변화를 감지한다.</p> <p contents-hash="81863c7a7188ec2e4f904101c858913ac260a67f810ce2f208f4c5004080be6e" dmcf-pid="5VxaMPj4GF" dmcf-ptype="general">딥페이크 생성모델을 감지해 진위를 가리기도 한다. 미국 국방부(DoD)와 딥페이크 창작물 감지 계약을 체결한 하이브 AI는 이미지를 입력하면 달이(DALL·E), 그록(Grok), 미드저니(Midjourney), 파이어플라이(Firefly) 등 어떤 AI 모델로 생성됐을 가능성이 높은지 확률로 평가한다.</p> <figure class="figure_frm origin_fig" contents-hash="72607d190de9c14fbaa45c76b4bcda44fe5b927511752fb4a76b5c9ffebc9803" dmcf-pid="1fMNRQA81t" dmcf-ptype="figure"> <p class="link_figure"><img alt="하이브 AI의 탐지 프로그램이 딥페이크 창작물이 어떤 AI 모델로 만들어졌는지 분석해 확률로 표현한 모습. [하이브AI 갈무리]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/06/ned/20250506174020206tpvt.png" data-org-width="324" dmcf-mid="QgGUHW7vYB" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/06/ned/20250506174020206tpvt.png" width="658"></p> <figcaption class="txt_caption default_figure"> 하이브 AI의 탐지 프로그램이 딥페이크 창작물이 어떤 AI 모델로 만들어졌는지 분석해 확률로 표현한 모습. [하이브AI 갈무리] </figcaption> </figure> <p contents-hash="35d45bd18f93bbc5f044302fb8a252bfcdc080f84fb01bcc138c1c80f6cb9a89" dmcf-pid="t4Rjexc611" dmcf-ptype="general">기업들은 높은 탐지율을 강조하고 있지만, 딥페이크 창작 기술의 발전 속도를 따라잡지 못하는 상황이다. 하이브 AI의 탐지 프로그램에 헤럴드경제와 오픈서베이가 일반인을 대상으로 진행했던 딥페이크 판독 문제를 풀게 한 결과, 일반인보다 정답률은 높았지만 실물을 찍은 사진을 딥페이크로 오인하기도 했다.</p> <p contents-hash="0c2c96d88efb97795aedccbacc18702fc126abce3721489f7ec15a611d829b28" dmcf-pid="F8eAdMkPG5" dmcf-ptype="general">권태경 연세대학교 정보대학원 교수는 “딥페이크 탐지 기술 성능이 과거에 비해 크게 발전했지만, 딥페이크 생성 기술은 더 빠르게 앞서나가고 있다”며 “이미 학습한 데이터와 유사한 이미지, 영상물이라면 탐지율이 90% 수준니지만, 학습하지 않은 내용은 60% 정도로 상당히 낮다”고 설명했다.</p> <figure class="figure_frm origin_fig" contents-hash="f7aad83a622dcc6fc0f6adc53cbf8115731f9ae7c4eb6f7629d03a7413017ec4" dmcf-pid="38eAdMkP1Z" dmcf-ptype="figure"> <p class="link_figure"><img alt="[게티이미지뱅크]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/06/ned/20250506174020598oewd.jpg" data-org-width="1280" dmcf-mid="xwOGImXDZq" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/06/ned/20250506174020598oewd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [게티이미지뱅크] </figcaption> </figure> <p contents-hash="071d6da832abbe2ce53b88b1c668a31dc509186be512983ec41711f248287b7b" dmcf-pid="06dcJREQYX" dmcf-ptype="general">▶모호해진 ‘진짜’의 경계…워터마크·딥페이크 가중처벌 등 대안=딥페이크 기술이 활발하게 사용되고 있는 만큼 그 자체로 문제 삼기보다 AI 창작물임을 명시하고 악용 사례를 엄벌해야 한다는 제안도 나온다. 실제로 찍은 사진을 보정하기 위해 AI를 활용하거나, AI 앵커를 도입해 뉴스를 진행하는 등 점점 더 진짜와 가짜의 경계가 모호해지고 있기 때문이다.</p> <p contents-hash="dfb6bf78d592cfcc34bd9156bc10997706540d14fd6a882f49fa48be4caafd32" dmcf-pid="pPJkieDxHH" dmcf-ptype="general">이성엽 고려대학교 기술경영전문대학원 교수는 “내년부터 시행되는 AI기본법에 AI 창작물임을 표기하도록 명시했고, 시행령에서 구체적인 방안을 논의 중”이라며 “전문가도 딥페이크 창작물을 구분하기 어려울 정도로 기술력이 높아져 워터마크 도입이 필수적이다”고 말했다.</p> <p contents-hash="113bc7a966b073cd6192e6b06ca78f8c48919c70baa2076c1c64fd9abbe04078" dmcf-pid="UQiEndwMHG" dmcf-ptype="general">이어 “악의적인 창작자들은 콘텐츠의 영향력을 높이기 위해 워터마크 표시를 회피할 가능성이 높다”며 “콘텐츠를 유통하는 플랫폼 사업자가 문제되는 콘텐츠를 차단·삭제하도록 책임을 강화해야 한다”고 말했다.</p> <p contents-hash="faded610065764281dc9f58899ac5dc645fcf1b27c9cc485191de194e7574c01" dmcf-pid="uxnDLJrR1Y" dmcf-ptype="general">황석진 동국대학교 국제정보보호대학원 교수는 “딥페이크 기술을 악용했을 때 가중처벌 하는 방안이 필요하다”며 “딥페이크 기술로 타인을 사칭해 보이스피싱 범죄를 일으키거나, 타인의 신체를 합성해 성적수치심을 느끼게 할 경우 더욱 강력하게 처벌해야 한다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 AI로 개인화·최대 50만원 보상…삼쩜삼·토스, 국세청 참전에 반격 05-06 다음 '완승' 안세영 향한 전설의 애정어린 조언…박주봉 감독 "안세영의 시대 맞지만, 함께 고민할 것들도…" 05-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
