"AI가 만든 가짜" 표기해야…투명·무음 워터마크도 도입

작성일 08-25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">[2025 u클린] 5-② 한국·유럽·중국, AI 생성물 표기 의무화</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="FyuXFlg21h">
          <figure class="figure_frm origin_fig" contents-hash="feaf385f8c53b294010dcb77d60a894edf67e1cad8def45459fc7e9188ec4b41" dmcf-pid="3W7Z3SaVHC" dmcf-ptype="figure">
           <p class="link_figure"><img alt="주요국 AI 생성물 관련 법안 및 권고사항/그래픽=최헌정" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/25/moneytoday/20250825113639278aigm.jpg" data-org-width="640" dmcf-mid="tubFuWc6Zl" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/25/moneytoday/20250825113639278aigm.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            주요국 AI 생성물 관련 법안 및 권고사항/그래픽=최헌정
           </figcaption>
          </figure>
          <p contents-hash="349353453346c5f84b18ce19e57168e2da8c30ed0e20cf1eb2d312241033fa05" dmcf-pid="0Yz50vNfZI" dmcf-ptype="general"><br>한국뿐 아니라 미국, EU(유럽연합), 중국 등 주요국에서도 생성형 AI의 워터마크 의무화 논의가 뜨겁다. </p>
          <p contents-hash="8c8f102632cdee29c94c818548b23067012a12644a077f339184137a41fc8714" dmcf-pid="pGq1pTj4GO" dmcf-ptype="general">방송통신위원회는 올 초 생성형 AI 확산으로 인한 사회적 문제를 줄이기 위해 '생성형 AI 서비스 이용자 보호 가이드라인'을 발표했다. 생성형 AI 개발사 및 서비스업체가 추구해야 할 4가지 기본원칙과 6가지 실행방식을 담았다. 이중 생성형 AI 결정 과정을 알리는 일환으로 워터마크를 권장했다. 생성형 AI가 만든 이미지·메시지에 AI 로고를 넣어 이용자가 쉽게 인지할 수 있도록 해야 한다는 것이다. </p>
          <p contents-hash="f9b6d8cbf2ec519bbff184c277e36619cc6325d3dd4de04a0e48845ea0f660ca" dmcf-pid="UHBtUyA8Xs" dmcf-ptype="general">내년 1월 시행 예정인 AI 기본법 제31조도 AI 생성 표시 의무를 뒀다. 특히 제31조 제3항은 실제와 구분하기 어려운 가상의 음향·사진·영상 등 결과물을 제공할 경우 AI로 생성됐다는 사실을 이용자가 명확히 인식할 수 있도록 고지·표시해야 한다. 다만 눈에 띄게 AI 표기를 할 경우 콘텐츠 품질과 시청각 경험이 저해되는 예술작품 등은 예외를 둘 전망이다. </p>
          <p contents-hash="970c5c5d9fb3a2e77d71ab2ca565c539e85c1ee1c63d7e4fb127e4579c35a2e5" dmcf-pid="uXbFuWc6Ym" dmcf-ptype="general">최근엔 눈으로 볼 수 없는 비가시적 워터마크를 넣는 연구도 활발하다. 작성자·생성일 등 메타데이터를 암호화해 콘텐츠 내부에 삽입하는 C2PA 기술이 대표적이다. C2PA란 2021년 설립된 글로벌 연합체로 콘텐츠 출처 기술 표준을 개발한다. 이같은 비가시적 워터마크는 별도의 식별 도구가 있다. C2PA 기술이 적용된 이미지는 '콘텐트 크리덴셜스'(content credentials) 등 홈페이지에서 AI 사용 여부를 확인할 수 있다. </p>
          <p contents-hash="ac147da1451227729a1b1b0afb66f9831a2316c9e1107a2e8e8528535760ad1e" dmcf-pid="7ZK37YkPZr" dmcf-ptype="general">AI 작곡이 대중화된 가운데 음향에 워터마크를 넣는 기술도 등장했다. 인간의 청각으로 감지할 수 없는 주파수나 음향 특성을 이용해 워터마크를 삽입, AI 생성물임을 표시하는 동시에 무단 복제도 막는다.</p>
          <div contents-hash="ae781fdf39d06f4e36b688519a1708dcd78f842b9181fe4f9411fe35a9620a98" dmcf-pid="z590zGEQtw" dmcf-ptype="general">
           <div></div>
           <div></div>
           <div>
            ━
           </div>
<strong>"워터마크 위조도 발전…탐지 기술 필요"</strong>
           <div>
            ━
           </div>
           <div></div>
           <div></div>EU는 내년 8월 시행하는 AI법에서 AI로 생성한 콘텐츠를 명시하는 투명성 의무를 규정했다. 위반 시 매출액의 1~7% 또는 750만~3500만 유로의 과징금을 부과할 수 있다. DSA(디지털서비스법)에서도 AI 생성물을 소비자가 알 수 있도록 표시 규정을 마련했다. 중국도 2023년 제정한 '생성형 AI 서비스 관리법'에서 AI 생성물 표시를 의무화했다.
          </div>
          <p contents-hash="0ee3d72a9577109916f3838fd8d35460660dfb48b4599c82181cab197c26dc36" dmcf-pid="qxcJg8FOGD" dmcf-ptype="general">미국은 2023년 조 바이든 행정부 시절 AI 생성물에 라벨을 붙이는 등 AI 안전조치를 담은 행정명령을 발표했으나, 올 초 도널드 트럼프 행정부가 이를 폐기했다. AI가 국가 전략자산으로 떠오른 만큼 규제보단 진흥 위주의 정책을 펴겠다는 취지에서다. 그러나 최근 미 행정부가 발표한 'AI 액션플랜'도 "가짜 증거로 사법 체계를 흔들 수 있다"며 국립표준기술연구소(NIST)를 주축으로 딥페이크 평가 프로그램을 개발하도록 했다. AI 서비스를 장려하면서도 AI 생성물에 대한 법적 책임과 검증을 강화하려는 것으로 풀이된다. </p>
          <p contents-hash="89293f56983671dbcc94ecabdba38937f6d748754af9b1b77539c3098059c31d" dmcf-pid="BMkia63IXE" dmcf-ptype="general">다만 워터마크만으론 충분하지 않다는 지적이다. 온라인상에서 워터마크를 쉽게 없애는 등 삭제·위조 기술도 발전하고 있어서다. 과학기술정보통신부가 발표한 'AI 워터마크 기술 동향 보고서'는 "워터마크로 AI가 만든 가짜 생성물에 속아 발생하는 피해를 예방할 순 있지만, 불법 AI 생성물은 대부분 법으로 규율하기 어려운 곳에서 만들어져 단속이 사실상 불가하다"며 "워터마크가 적용되지 않은 AI 생성물을 탐지하는 기술 개발이 필요하다"고 지적했다. </p>
          <p contents-hash="1e6f33fc0b4adb36791d3c79e9c2670a4d835f14efddfd5356e421af0ece8686" dmcf-pid="bREnNP0CZk" dmcf-ptype="general">윤지혜 기자 yoonjie@mt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

이전

스마트폰 충전 전력으로 95% 고순도 이산화탄소 포집

08-25
다음

최휘영 문체부 장관, 세계도핑방지기구 회장 만나 협력 강화

08-25

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"AI가 만든 가짜" 표기해야…투명·무음 워터마크도 도입

멤버랭킹

관련자료

멤버랭킹