AI가 만든 글·그림에 보이지 않는 워터마크 붙는다… “완전한 식별에는 한계” 작성일 08-12 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">앤트로픽, EU 규제 맞춰 AI 생성물 표시 본격화<br>워터마크·C2PA 등 기업별 대응 방식 제각각<br>편집, 번역 등으로 식별 우회 가능해</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="pca7yCKpAl"> <figure class="figure_frm origin_fig" contents-hash="dc8adc764f2142822a399a9980218db2c90dc751036e823eee7ce096d5a4f693" dmcf-pid="UkNzWh9UNh" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 딥마인드가 개발한 워터마크 ‘신스아이디(SynthID)’로 워터마크가 추가된 사진. 눈으로는 확인이 어렵지만, AI 모델로 조작 여부를 확인할 수 있다./딥마인드" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/12/chosunbiz/20260812163210794ased.gif" data-org-width="960" dmcf-mid="0pwV1YPKoS" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202608/12/chosunbiz/20260812163210794ased.gif" width="960"></p> <figcaption class="txt_caption default_figure"> 구글 딥마인드가 개발한 워터마크 ‘신스아이디(SynthID)’로 워터마크가 추가된 사진. 눈으로는 확인이 어렵지만, AI 모델로 조작 여부를 확인할 수 있다./딥마인드 </figcaption> </figure> <p contents-hash="e4bb7d1339d1b2efabd16bab40f717e3cbff263c66fe8c404e0081517b4f7bf2" dmcf-pid="uEjqYl2uNC" dmcf-ptype="general">유럽연합(EU)이 이달부터 인공지능(AI)이 만든 텍스트·이미지 등에 AI 생성물임을 식별할 수 있는 표시를 의무화하면서 앤트로픽이 클로드 생성물에 워터마크와 출처 정보를 적용하기로 했다. 구글과 오픈AI도 AI가 만든 콘텐츠를 식별하기 위한 기술을 운용하고 있지만 적용 범위와 방식은 기업마다 다른 상황이다. EU 규제를 계기로 관련 기술 도입은 확산할 전망이지만 번역이나 재작성, 파일 변환 등을 거치면 표시가 약해지거나 사라질 수 있다는 한계도 남아 있다.</p> <p contents-hash="e84f6b44d4100a2cdf73141d283b9e6b00fab30ca65ae2e8a9322f8f38baea25" dmcf-pid="7DABGSV7AI" dmcf-ptype="general"><strong>◇ 앤트로픽, 텍스트엔 워터마크·미디어엔 C2PA</strong></p> <p contents-hash="2ee87156c96c132ea83a1cc386bd1ccc1e28d7c586704eb4cac3cb3597a1374a" dmcf-pid="zwcbHvfzaO" dmcf-ptype="general">12일 업계에 따르면 앤트로픽은 지난 2일 이후 EU에서 새로 출시하는 클로드 모델의 생성물에 기계가 판독할 수 있는 출처 표시를 적용하기로 했다. 생성된 텍스트에는 워터마크를 심고, 이미지와 오디오 등에는 콘텐츠의 출처와 변경 이력을 확인할 수 있는 국제 공개 표준 ‘C2PA’ 기반의 메타데이터 정보를 적용한다.</p> <p contents-hash="d9f3c9a288cc0f96ccf574c7442e0538343a6dd273e115763b1a9d2f7d69a9aa" dmcf-pid="qrkKXT4qNs" dmcf-ptype="general">두 방식 모두 사람이 직접 식별하기 어렵고 생성물의 의미나 품질 등에 영향을 주지 않도록 설계됐다. 텍스트 워터마크는 복사해 다른 곳에 붙여넣어도 함께 이동하며, 일부 편집을 거친 뒤에도 신호가 남을 수 있다는 게 앤트로픽의 설명이다. 앤트로픽은 워터마크와 C2PA 정보를 확인할 수 있는 탐지 기능도 개발 중이라고 밝혔다.</p> <p contents-hash="47ce6f25a86d409a202bbab114282ccf537b4ee0e235fcca28df93d71209db47" dmcf-pid="BsD25W6bom" dmcf-ptype="general">앤트로픽이 워터마크 도입에 속도를 낸 직접적인 배경은 EU AI법 시행 때문이다. 지난 2일부터 적용된 AI법 제50조 2항은 텍스트·이미지·영상·오디오를 생성하는 AI 모델 제공자가 생성·변형 콘텐츠에 기계가 판독할 수 있는 표시를 적용하고 AI가 만든 콘텐츠인지 탐지할 수 있도록 규정하고 있다. 이전에 출시된 모델은 4개월의 유예기간이 주어져 12월 2일부터 규제가 적용되는데, 앤트로픽은 기존 클로드 모델에도 표시 기능을 추가하는 작업을 진행 중이며, EU를 제외한 다른 지역에서도 같은 기능을 제공할 예정이다.</p> <p contents-hash="2d25e7018f2c7f2dc1b3999e4a3a86407b7f28532f70f87a9a6c523ee94410d5" dmcf-pid="bOwV1YPKAr" dmcf-ptype="general"><strong>◇ 기업마다 기술·범위는 제각각</strong></p> <p contents-hash="5624f45622c8943fea63bf8f39300bd02783b4967818a594a9b2bb4aad63e783" dmcf-pid="KIrftGQ9cw" dmcf-ptype="general">앤트로픽에 앞서 주요 AI 기업들도 생성물의 출처를 식별하기 위한 기술을 도입해왔다. 다만 어떤 콘텐츠에 어떤 방식을 적용하는지는 회사마다 차이를 보였다. 구글 딥마인드는 2023년 AI 생성 이미지에 보이지 않는 워터마크를 넣는 ‘신스ID(SynthID)’를 처음 선보인 뒤 텍스트와 영상, 오디오까지 적용해왔다. 이미지·영상 픽셀이나 오디오 신호에 미세한 신호를 삽입해 자르기, 필터 적용, 손실 압축 등의 변형이 가해져도 출처를 판별할 수 있게 했다.</p> <p contents-hash="fc570905483fd446ff6353d614535fd153627af1d7fc4f3814b00af5e3fb4459" dmcf-pid="9Cm4FHx2kD" dmcf-ptype="general">특히 텍스트에는 AI가 다음 단어(토큰)를 결정하는 과정에서 워터마크를 넣는다. 대규모언어모델(LLM)은 앞선 문장을 토대로 다음에 등장할 여러 단어에 각각 확률을 부여한 다음 하나를 선택하는데, 신스ID는 이 확률 분포를 미세하게 조정해 일정한 패턴을 남기는 식이다. 이후 이 패턴을 분석하면 신스ID가 적용된 텍스트인지 판별할 수 있다.</p> <p contents-hash="ba88e8cea058fdd3ac44750acd17d855e6168ccc148d4e91381ff32e23341a2d" dmcf-pid="2hs83XMVoE" dmcf-ptype="general">오픈AI는 콘텐츠 종류에 따라 다른 방식을 사용한다. 이미지에는 C2PA 메타데이터와 신스ID를 함께 넣고 있으며, 오디오에는 신스ID를 적용한다. 오픈AI가 이미지에 두 방식을 함께 적용하는 것은 각각의 장단점을 보완하기 위해서다.</p> <p contents-hash="774f49d6cc21f0a37772f54ef3b5d717c225e815ad0dac85a549d260986b3482" dmcf-pid="VlO60ZRfok" dmcf-ptype="general">C2PA는 콘텐츠를 어떤 도구로 만들었는지와 생성 시점, 편집 이력 등 비교적 많은 출처 정보를 담을 수 있다. 그러나 플랫폼 업로드나 파일 변환, 크기 조정 등의 과정에서 메타데이터가 사라질 가능성이 있다. 반대로 신스ID와 같은 워터마크는 콘텐츠 자체에 신호가 포함돼 일부 변형을 거친 뒤에도 남을 수 있지만 담을 수 있는 정보량이 제한적이다.</p> <p contents-hash="c64a46a375193858357dfe8ad61e3c0a8cf8258552fbdf1383b856a90a40bbe3" dmcf-pid="fSIPp5e4Ac" dmcf-ptype="general"><strong>◇ 번역·재작성으로 우회 가능… 완전한 식별엔 한계</strong></p> <p contents-hash="dc81a4cf266cab38dfa323d5b505c02a0e3ba6f3431ed5232c47885e908a4edc" dmcf-pid="4vCQU1d8NA" dmcf-ptype="general">기업들은 워터마크나 C2PA가 AI 생성물을 식별하는 효과적인 도구지만 완벽한 수단은 아니라고 입을 모은다. 앤트로픽도 텍스트를 대폭 수정·의역·번역하거나 다른 글과 섞으면 워터마크가 검출되지 않을 수 있고, 지나치게 짧은 문장 역시 신뢰도 높은 탐지가 어렵다고 인정했다.</p> <p contents-hash="346c018510d2d2149d253012bc01c85c2688e3b0c7ffd6cdcb445aada8404d86" dmcf-pid="8ThxutJ6cj" dmcf-ptype="general">메타도 2024년 AI 생성 이미지 식별 방식을 설명하면서 “아직까지 모든 AI 생성 콘텐츠를 식별할 수 있는 것은 아니며 보이지 않는 워터마크를 제거하는 방법도 존재한다”고 밝혔다.</p> <p contents-hash="21ea1d053522be2c22349f93558af3769ec40b9b764f90d1e7d622a26e119d4f" dmcf-pid="6ylM7FiPgN" dmcf-ptype="general">워터마크 적용에 따른 부작용 우려도 있다. 오픈AI는 텍스트 워터마크 기술을 검토하면서 AI 생성 텍스트를 다른 언어로 번역하거나 다른 생성형 AI로 다시 작성하면 워터마크 탐지를 우회할 수 있다고 설명했다. 또 영어가 모국어가 아닌 이용자가 AI를 글쓰기 도구로 활용할 경우 부정적인 낙인이 찍히는 등 특정 집단에 부정적인 영향을 미칠 가능성도 있다고 덧붙였다.</p> <p contents-hash="432d4b6d80d6f46200976ba5883a29b84a696ee35b9dc2b01b40848e71045200" dmcf-pid="PWSRz3nQka" dmcf-ptype="general">이 같은 한계에도 EU AI법 시행에 따라 빅테크 기업들의 투명성 표준 참여는 더욱 확대될 전망이다. 앤트로픽을 비롯해 구글, 오픈AI, 메타 등 주요 기업들은 EU의 ‘AI 생성 콘텐츠 투명성 행동 강령’에 동참하고 있다.</p> <p contents-hash="2acc9f8dc89209470f7628ce4b6a603f585bcd33cd610caa1eba3afed7f79de9" dmcf-pid="QYveq0Lxog" dmcf-ptype="general">헤나 비르쿠넨 EU 집행위원회 기술 주권·안보·민주주의 담당 수석부위원장은 “유럽인들은 자신이 보고 듣고 읽는 것이 AI에 의해 만들어졌거나 변경됐는지 알 권리가 있다”며 “투명성은 우리가 신뢰를 보호하는 방법”이라고 말했다.</p> <p contents-hash="68c6d5ed713a4e43ccaeed10f2bae19005ce2c05a4264a05baa05213fb168063" dmcf-pid="xGTdBpoMoo" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 2035년 SMR 상용화·2030년 달 착륙…정부 '7대 SEED' 가동 08-12 다음 반도체·AI 처방전 썼던 정부, 20년 성장 책임질 '체질개선안' 내놨다 08-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
