구글은 3년째, 오픈AI는 묵혔고...일론 머스크는 거부한 이 기술 [허진의 테크토닉] 작성일 08-16 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">리듬감 있게 읽히는 쉬운 테크⑥<br>이젠 눈으로 판별 안되는 AI 생성물<br>AI워터마크 도입 속 거부하는 이유는</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QWs9lIb0vE"> <p contents-hash="11ff8dba36eb2a32d6aa6f1b81d562495ec5899b00f8d943027d451694bea1be" dmcf-pid="xYO2SCKpvk" dmcf-ptype="general">지난 11일 앤트로픽이 클로드가 쓴 글에 ‘보이지 않는 도장’을 찍기 시작했습니다. 사람 눈엔 안 보이지만 전용 탐지기를 대면 “AI가 만들었다”고 알려주는 흔적입니다. 그런데 반응은 제각각입니다. 구글은 3년 전부터 비슷한 걸 해왔고 오픈AI는 기술을 만들어놓고 몇 년째 묵혀뒀습니다. 일론 머스크의 xAI는 “우리는 안 한다”고 선을 그었습니다. 같은 규제 앞에서 이렇게 온도차가 나는 이유를 짚어봤습니다.</p> <figure class="figure_frm origin_fig" contents-hash="274da672a9b25d874fa4f7551d7089a5e52a697bc866ad8444c66b85c0b9eff4" dmcf-pid="yeVIP4sAvc" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/16/ked/20260816083453138ynvd.jpg" data-org-width="1200" dmcf-mid="8Zd8Wvfzvr" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/16/ked/20260816083453138ynvd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 생성 </figcaption> </figure> <p contents-hash="00c319568fdcddc684497cd0f4aaf58a9c6468af86ef5352be558aeb1da9da0e" dmcf-pid="WdfCQ8OcSA" dmcf-ptype="general"><strong><span> 워터마크, 뭘 심는다는 건가</span></strong></p> <p contents-hash="4d33eb0bc56e4c96d6885e61b4609d3d520589da8748aa220c91cd8c571d1f2b" dmcf-pid="YJ4hx6IkWj" dmcf-ptype="general">AI는 글을 쓸 때 토큰(AI가 인식하는 최소 단위)를 하나씩 골라 나갑니다. 이때 다음에 올 후보 단어들의 확률을 계산해두는데, 워터마크는 비밀 키를 이용해 특정 후보 쪽으로 저울을 아주 살짝 기울입니다. 의미나 문장 완성도는 거의 그대로지만, 글 전체로 보면 “이 단어가 유독 자주 나왔다”는 통계적 패턴이 남습니다. 탐지기는 이 패턴을 잡아내 AI 생성 여부를 판별합니다.</p> <p contents-hash="07f486814db9cac70abed7c18f82db390b1b977903144a775aef906efe28eca0" dmcf-pid="Gi8lMPCEyN" dmcf-ptype="general">배경엔 유럽연합(EU) 규제가 있습니다. EU AI법 50조가 지난 2일부터 적용되면서, AI가 만들거나 손댄 콘텐츠엔 기계가 읽을 수 있는 표식을 남기도록 요구합니다. 구체적 방법을 담은 실행 강령은 자율 서명 방식이지만 사실상 업계 표준처럼 굴러가고 있습니다. 지난달 말 기준 190여개 기업이 서명했고, 딥페이크·가짜뉴스 논란이 반복되며 구분이 필요하다는 공감대가 형성됐습니다.</p> <p contents-hash="fd8e5fe788a07b1bf39e9bba997d1582a68600627056b0be10ed2aa158af4aaa" dmcf-pid="Hn6SRQhDCa" dmcf-ptype="general"><strong><span> 뚫리지는 않나</span></strong></p> <p contents-hash="f15c246e3114b352976ad177be78c668638472a65cc65b67dfedf2dba2d159dc" dmcf-pid="XLPvexlwhg" dmcf-ptype="general">업계에서는 “이미지·영상보다 훨씬 쉽게 뚫린다”는 게 중론입니다. AI 탐지업체 GPT제로의 알렉스 추이 CTO는 단어와 문장 구조를 함께 바꾸는 바꿔쓰기만 거쳐도 표식이 살아남기 어렵다고 지적했습니다.</p> <p contents-hash="37928968df756746e28884685f059e705248f6d80024a5a5338a33da751dab6d" dmcf-pid="ZoQTdMSrTo" dmcf-ptype="general">역번역이나 다른 AI로 재작성하는 것도 마찬가지입니다. 스위스 취리히연방공대 연구진은 워터마크 생성 규칙을 역으로 추정하는 실험에서, 50달러도 안 되는 비용으로 표식을 지우거나 반대로 사람 글에 가짜 표식을 심는 데 평균 80% 성공률을 기록했습니다. 결코 완벽한 자물쇠는 아니라는 말입니다.</p> <p contents-hash="ba4f97ff176f1af2106d60aa301c6f2a8a8bda32b4fa7064f474849bdab52bfb" dmcf-pid="5gxyJRvmTL" dmcf-ptype="general">가장 먼저 움직인 건 구글입니다. 2023년부터 신스ID로 이미지에 워터마크를 넣기 시작해 텍스트·오디오·비디오까지 넓혔습니다. 가장 늦게, 가장 요란하게 등장한 건 앤트로픽입니다. EU뿐 아니라 전 세계 이용자에게 예외 없이 적용한다고 못 박은 점이 눈에 띕니다. 오픈AI는 몇 년 전부터 기술은 갖고 있었지만 텍스트 적용은 미뤄왔고, 메타·마이크로소프트·미스트랄은 강령엔 서명했지만 구체적 시행 시점은 아직입니다.</p> <figure class="figure_frm origin_fig" contents-hash="02154603c0c6b2f99b7cdfc8cace9e54fefe47125ea77754743e10ece8502a42" dmcf-pid="1aMWieTsyn" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 신드AI./구글" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/16/ked/20260816083454390wast.jpg" data-org-width="600" dmcf-mid="6Bfzswu5vw" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/16/ked/20260816083454390wast.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 신드AI./구글 </figcaption> </figure> <p contents-hash="397c51caae2481393360f581ec7dbc46d8ea6e38641e0fa83d9a1ecc7e3730c9" dmcf-pid="tNRYndyOvi" dmcf-ptype="general"><strong><span> 안한다는 곳도 있을까</span></strong></p> <p contents-hash="709e75ba60daf6f30f99c38c214e57b94d4da68c2a31f18d5396d001a9b5f664" dmcf-pid="FjeGLJWICJ" dmcf-ptype="general">일론 머스크의 xAI가 도드라진 입장을 보이고 있습니다. AI 결과물은 이용자가 온전히 소유해야 한다는 원칙을 내세워 강령 서명 자체를 거부했습니다. 워터마크도 결국 단어 선택에 인위적 편향을 주는 기술이니, 일종의 결과물 통제로 보는 셈입니다.</p> <p contents-hash="4387a790bde6e4fd8d05fd5ec159a4e2cf38ae192544551d2733553d2bdaaba7" dmcf-pid="3AdHoiYChd" dmcf-ptype="general">이런 태도는 새삼스럽지 않습니다. 일론 머스크는 X의 전신인 트위터 인수 때부터 표현의 자유를 앞세워 콘텐츠 개입에 부정적인 입장을 고수해왔고, 그록도 다른 AI보다 답변에 손을 덜 대는 걸 정체성으로 내세워왔습니다. 워터마크 거부도 결과물엔 최대한 손대지 않는다는 기존 원칙을 텍스트 생성 방식에도 그대로 적용한 결과로 볼 수 있습니다.</p> <p contents-hash="e6ea5ee9a28f6d4e8f801e995ada11910a3c24157204e47f1c833d09a9020997" dmcf-pid="0cJXgnGhTe" dmcf-ptype="general">다만 서명을 안했다고 EU 법을 안지켜도 되는 건 아니라, 다른 방식으로든 요건은 맞춰야 합니다. 메타도 지난해 EU의 다른 강령(범용 AI 강령)에 “법 범위를 넘어선다”며 서명을 거부한 전례가 있습니다. 오픈AI가 미뤄온 배경엔 이용자 이탈 우려가 꼽히는데, 사내 설문에서 챗GPT 이용자의 약 30%가 “워터마크가 생기면 덜 쓰겠다”고 답한 조사도 있었습니다. </p> <figure class="figure_frm origin_fig" contents-hash="44342496a9ea8ef5924a113c51b62fdb1f79f41195d7ec24de85e85f5c49c673" dmcf-pid="pkiZaLHlvR" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/16/ked/20260816083455700locm.jpg" data-org-width="1200" dmcf-mid="Pyh4ySV7vD" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/16/ked/20260816083455700locm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 생성 </figcaption> </figure> <p contents-hash="36cfe139dc7c3236b8c2368cc47e52005db1a470008b2318cb5d24be2b9d3d3d" dmcf-pid="UEn5NoXShM" dmcf-ptype="general"><strong><span> 中 오픈웨이트 모델은</span></strong></p> <p contents-hash="9407740ad85209eb3b91ca3209f023020dc4e03997610217973f133178440f6c" dmcf-pid="un6SRQhDCx" dmcf-ptype="general">모델 자체를 통째로 공개하는 오픈웨이트 모델은 사정이 다릅니다. 공개되고 나면 만든 회사가 사용처를 통제할 수 없는데요, EU 규제 해석은 모델을 공개한 회사가 아니라 실제로 서비스하는 쪽에 책임을 지운다는 쪽으로 모이고 있습니다.</p> <p contents-hash="f025e09ff8ae95e9ce5d4cb36029afc036292ec1ec3020e9c05d7d1705628c29" dmcf-pid="7LPvexlwyQ" dmcf-ptype="general">자연스럽게 중국 모델에 대한 의문이 떠오릅니다. 딥시크를 비롯해 오픈웨이트 모델을 적극적으로 내놓는 게 중국 기업들이기 때문입니다. 중국 내부 규제는 텍스트 워터마크를 강제하지 않습니다. 다만 오픈웨이트 모델이라도 유럽에서 이를 가져다 서비스하는 사업자가 있다면 책임은 그쪽으로 돌아가는 구조라, 앞으로 EU가 중국 오픈웨이트모델에 어떤 입장을 취할 지도 하나의 관전 포인트겠습니다. 워터마크 경쟁은 이제 막 시작 단계이고, 기술적으로 완벽하지 않은 상태에서 법과 시장의 압력이 동시에 업계를 밀어붙이고 있는 모양새입니다.<br>허진 기자 hjin@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 주민규의 빛바랜 원더골…송민규의 집념의 멀티골 08-16 다음 지멘스 EDA 개방형 인공지능 생태계 영토 확장… 美 무역확장법에 긴장하는 기초 소재 [위클리반도체] 08-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
