[AI세계속으로]"AI로 쓴 글입니다"…챗GPT·클로드·제미나이로 쓴 글에 워터마크 새긴다 작성일 10-09 71 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">이미지 뿐 아니라 텍스트에도 식별장치</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3BcYFO8Bge"> <p contents-hash="2d2203c6fdcc0a6e6b38adef634d4305828232cc506b9816a7e247916366f992" dmcf-pid="0bkG3I6boR" dmcf-ptype="general">글로벌 인공지능(AI) 기업들이 생성형 AI를 활용해 작성된 글을 식별할 수 있는 '워터마크' 기술을 잇따라 도입하고 있다. 생성형 AI를 활용한 이미지에 관련 표시를 새겨넣어 AI 저작물임을 알리듯, 텍스트에도 이 같은 워터마크를 적용하겠다는 것이다. 유럽연합(EU)과 우리나라를 비롯해 세계 각지에서 AI 생성물에 대한 워터마크 도입을 법제화한 만큼, 워터마크 도입 범위는 점차 확대될 것으로 보인다.</p> <p contents-hash="9b21b7095ab674d6c76e78acc6dfd39e2ea07853c9cc146dda84c482110db055" dmcf-pid="pKEH0CPKkM" dmcf-ptype="general">9일 AI업계에 따르면 오픈AI는 지난 5일(현지시간) AI로 생성한 글인지 식별하는 기술인 '텍스트그레인'을 도입한다고 발표했다. 오픈AI는 이 기술을 향후 몇 주 내에 유럽 지역의 챗GPT와 코덱스에 적용할 예정이다.</p> <figure class="figure_frm origin_fig" contents-hash="d06c8b120cca0e868ff5732e4b60e9385ebb9b5d658fea314ea096d49a2658af" dmcf-pid="U9DXphQ9ax" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/09/akn/20261009063157653ruru.jpg" data-org-width="745" dmcf-mid="F4stzTe4ad" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/09/akn/20261009063157653ruru.jpg" width="658"></p> </figure> <p contents-hash="960d1a49fee2320e6c4e8f4e31d1d8ac34e416c3f792f565b10863d86a13a7fc" dmcf-pid="u2wZUlx2kQ" dmcf-ptype="general">텍스트그레인은 AI 모델이 글을 생성할 때 단어를 고르는 과정에서 미세한 통계적 신호를 넣는 기술이다. 단어를 선택할 때 특정 통계 규칙을 적용해 글 전체에 AI 활용 여부를 알 수 있는 일종의 '무늬'를 새긴다. 문장에 숨겨진 문자나 특수기호를 삽입하는 방식이 아니어서 글을 복사해 다른 곳에 붙여넣더라도 식별할 수 있다.</p> <p contents-hash="398fedf044d0689eda5a73602be4b69289df2290c4bb56adfdeba6167df9e543" dmcf-pid="7Vr5uSMVkP" dmcf-ptype="general">오픈AI는 이 기술이 적용되더라도 AI의 답변 품질이나 성능, 가독성에는 실질적 차이가 없다고 설명했다. 다만 텍스트그레인 방식의 특성상 문장이 짧거나 사용되는 단어가 적은 글이라면 AI 활용 여부를 판별해내는 식별률이 낮아질 수 있다. 이용자가 AI로 생성된 글의 단어나 표현을 일부 바꾸더라도 식별률이 떨어진다.</p> <p contents-hash="3ab9506f7cb8030bce3c22f1894e9055346aef706efde5a491572f2c2b594239" dmcf-pid="zvfNrRZvo6" dmcf-ptype="general">아울러 오픈AI는 접근 권한 신청을 받아 승인된 연구자와 전문 기관에 텍스트그레인을 탐지하는 도구를 우선 제공한다. 이 도구를 제공받은 곳들은 텍스트가 AI로 생성됐는지를 판별할 수 있게 된다.</p> <p contents-hash="86a4e647eb059791e7fb4333059eb577c8ac4ce072ab5ab9b3aed9813db143d0" dmcf-pid="qT4jme5Tc8" dmcf-ptype="general">앞서 앤스로픽과 구글 등 글로벌 AI 주요 기업들은 이 같은 텍스트 워터마크 기술을 이미 도입했다. 앤스로픽은 지난 8월 비슷한 방식의 텍스트 워터마크 기능을 도입했다. 구글 역시 2024년 5월부터 제미나이를 통해 생성한 텍스트에 구글 딥마인드가 개발한 텍스트 워터마크 기술인 '신스ID-텍스트'를 적용해왔다.</p> <p contents-hash="d69f00db01635e84a472aa0be08b0f45ba4b1576877e5cb45cc6b2e2cf498565" dmcf-pid="By8Asd1ya4" dmcf-ptype="general">이처럼 글로벌 기업들이 텍스트 워터마크 기술을 적용하는 배경에는 EU의 AI법이 있다. 우리나라의 'AI 기본법'과 유사한 이 법에는 '생성형 AI 투명성 의무 규정'이 포함됐다. 이미지, 영상, 음성 등 미디어 콘텐츠뿐 아니라 텍스트에도 기술적으로 감지 가능한 워터마크나 식별 표지를 포함해야 한다.</p> <p contents-hash="9a31cefccac4876a5e7b4aa1a55482f9769838989dc02e10d8e2aac88b54325c" dmcf-pid="bW6cOJtWjf" dmcf-ptype="general">AI 저작물이 정교해지면서 이를 악용한 딥페이크나 사이버 범죄, 허위·조작정보의 유통 가능성이 커지자 나온 대응 조치다. 최근 AI 모델의 고도화로 속도조절론이 제기되는 등 AI 안전에 대한 관심도 높아지고 있어 이 같은 워터마크 기술 도입 역시 범위가 확대될 것이라는 전망이 우세하다.</p> <p contents-hash="76ab24a17c0df72d3d1a34adb04336949a008d8d3400df4703812c5219dbdfd9" dmcf-pid="KYPkIiFYNV" dmcf-ptype="general">이명환 기자 lifehwan@asiae.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 아시아경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 메일·예약·쇼핑까지 알아서…개인 AI 비서 시대 ‘성큼’ 10-09 다음 지난해 공공 정보화 사업 절반이 유지보수…SW개발사업은 1년 새 30% 감소 10-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
