챗GPT, 지브리 저작권 침해 논란 이어 가짜 영수증 생성으로 구설…“AI 기능 발전하니 부작용도 커져” 작성일 04-01 108 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5BOKWS9HSF"> <figure class="figure_frm origin_fig" contents-hash="3dfea98dbcac3e2bcf99cd09abe968fff53a941db552afeb11dc2641f5ca4a67" dmcf-pid="1bI9Yv2Xlt" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 생성한 가짜 영수증 이미지 ." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/01/mk/20250401153910540qmxa.png" data-org-width="700" dmcf-mid="ZcujVbA8T3" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/01/mk/20250401153910540qmxa.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 생성한 가짜 영수증 이미지 . </figcaption> </figure> <div contents-hash="dce03ae34097a8c5ccc250b73ee5534a1f5bf22bfa0dc201d681d3d0ab809d44" dmcf-pid="tKC2GTVZS1" dmcf-ptype="general"> 오픈AI의 생성형 인공지능(AI) 서비스 ‘챗GPT’가 내놓은 새로운 이미지 생성 기능이 폭발적인 관심을 끌고 있는 가운데, 지브리풍 이미지 생성에 따른 저작권 침해 논란에 이어 가짜 영수증 제작 등 범죄 악용 가능성까지 제기됐다. AI의 기술 발전에 따라 편의성이 올라감과 동시에, 관련한 사회적 부작용도 커지고 있다는 우려의 목소리가 커지고 있다. </div> <p contents-hash="3456b290633fc57d835f6eb058c6bdc598af2c442e9c20655b8778cbaaa38231" dmcf-pid="F9hVHyf5y5" dmcf-ptype="general">1일(현지시간) IT전문매체 테크크런치에 따르면 최근 챗GPT가 출시한 이미지 생성 기능이 가짜 영수증 만들어낼 수 있다는 사실이 알려지며 사기 범죄 등에 악용될 수 있다는 문제가 제기됐다.</p> <p contents-hash="e15da533cc88bf50e1f17ecbcd456d010072281f65105fa7f0946f5dc74b3d91" dmcf-pid="32lfXW41lZ" dmcf-ptype="general">벤처캐피털리스트 데디 다스는 최근 자신의 X(엑스)에 샌프란시스코의 한 실제 스테이크 하우스를 대상으로 생성한 ‘AI 가짜 영수증’을 공개했다.</p> <p contents-hash="a7c8e13cfda30e0f8e94e6cae4b78cd9ec328504fc20d6f6506494d98fdf394e" dmcf-pid="08yPtXQ0vX" dmcf-ptype="general">이후 온라인 상에는 챗GPT로 만든 각종 영수증 이미지들이 대거 올라왔는데, 이 이미지들은 영수증에 음식이나 음료 얼룩을 넣거나 구겨진 상태를 넣는 등 실제와 매우 유사한 것으로 나타났다.</p> <p contents-hash="b855d02b704a831c37dac902821f639f12abe4e187dd60ce340956bac8794820" dmcf-pid="p6WQFZxpyH" dmcf-ptype="general">일부 영수증에는 음식 가격의 총 합이 맞지 않거나 마침표 대신 쉼표를 쓰는 등 언어모델(LLM)의 숫자 취약성에 따른 오류도 발견됐다. 하지만 이러한 미세한 오류는 사진 편집 소프트웨어 등을 이용해 손쉽게 수정이 가능한 만큼 사기꾼들이 얼마든지 악용할 가능성이 높다는 우려가 커지고 있는 상황이다.</p> <p contents-hash="5859f0a5d42a8ca868aff553bfece726822338e1dead4500cc6d17634b90c83d" dmcf-pid="UPYx35MUSG" dmcf-ptype="general">오픈AI는 이에 대해 테크크런치에 “챗GPT로 생성한 이미지에는 메타데이터가 포함돼 있으며, 사용자가 사용 정책을 위반하면 오픈AI가 조치를 취할 것”이라고 설명했다. 다만 “(이미지 생성 기능은) 사용자에게 최대한 많은 창작의 자유를 주는게 목표다. AI가 만든 가짜 영수증은 사기가 아닌 상황에서 제품 광고제작 등에 쓰일 수 있다”라며 긍정적인 측면을 강조하고 있다.</p> <p contents-hash="6d27e91cef2eaed9e8a2d4904b05b6a6a1e2b4b10b9100e79e905433f0ff83bb" dmcf-pid="uQGM01RuCY" dmcf-ptype="general">이에 앞서 업계에서는 챗GPT로 생성한 이미지에 대한 AI 저작권 논란이 일기도 했다. 챗GPT는 저작권 문제로 특정 작가 스타일의 이미지를 구현할 수는 없지만 특정인이 아닌 ‘스튜디오’ 화풍은 재현이 가능하기 때문이다.</p> <p contents-hash="10d5f8a3065791e361a08baef226b31a19f6c5ce150b43b0673b24beedeadfb3" dmcf-pid="7xHRpte7TW" dmcf-ptype="general">특히 유명 애니메이션 제작사 지브리스튜디오 스타일의 이미지가 소셜네트워크서비스(SNS) 상의 각종 프로필 사진으로 쓰이는 등 전세계적으로 큰 인기를 끌면서, 지브리스튜디오에 대한 저작권 문제가 강하게 제기되고 있는 상황이다.</p> <p contents-hash="e778708a100191f5e551140331f0a9671ae80d90b1625470e79c8f3bfe00b95e" dmcf-pid="zMXeUFdzhy" dmcf-ptype="general">법리적으로 화풍 자체는 저작권법 보호 대상이 아니기 때문에 직접적인 문제가 되기는 어렵다는 의견이 우세하지만, 만약 오픈AI가 챗GPT를 학습시키는 과정에서 지브리스튜디오의 작품을 사용했을 경우 저작권 침해 소지 가능성이 있다.</p> <p contents-hash="60d92b662df727c8e2e79a5778df38bc31f1cc9c1910eb4f34cbcb7c02346a82" dmcf-pid="qRZdu3JqWT" dmcf-ptype="general">이에 대해 조시 와이겐스버그 미국 로펌 변호사는 “AI 모델이 (지브리스튜디오의 대표 프로듀서인) 미야자키 (하야오) 감독 작품으로 훈련했는지가 문제가 될 것”이라며 “동의와 보상 없이 훈련에 활용했다면 저작권 침해 소지가 있다”고 설명했다.</p> <p contents-hash="e92cbdd30c93ee90cd6c549fab1f748c0c62da9c29484e9a487634ce1ec04250" dmcf-pid="Be5J70iBvv" dmcf-ptype="general">한 업계 관계자는 “법적으로는 문제가 되지 않더라도, 사람들이 느끼는 감정적인 측면에서 문제가 있을 수 있다”며 “창작 업계에서 AI가 일을 도와주는 것이 아니라 훔쳐가는 존재로 느껴지는 것도 문제”라고 덧붙였다.</p> <p contents-hash="fd7746f33b0ac6b4a844ef32252690d1a4bc804ee3f68fa2b4e86865f06a49c2" dmcf-pid="bd1izpnbhS" dmcf-ptype="general">부작용이 계속 제기되고 있지만, 아직 국내외에서는 규제 등 명확한 해결 방안은 마련돼 있지 않다.</p> <p contents-hash="801add72aae27c72f98685f923a05bd7b9c62826c37551ae55e76a2059d7c242" dmcf-pid="KkbDPfwMvl" dmcf-ptype="general">해외에서는 비슷한 일이 발생할 때마다 기준 설정 논란이 계속되고 있고, 국내에서는 관련 기준이 사실상 없는 상황이다. 이에 대해 업계 관계자는 “부작용을 줄이기 위해 정부의 기준 마련이 필요해 보이지만, 한국 AI 기술력이 글로벌 시장에서 뒤쳐지고 있는 상황에서 경쟁력을 저해하지 않는 운영의 묘가 필요하다”고 지적했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 블루 아카이브 "4월 1일은 만우절 아닌 만마절" 04-01 다음 아시안MMA연맹(AMMA) 공식 1호 승인 대한MMA연맹 싱가포르 ‘제1회 단 프로모션 & 세미나’ 참가 04-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
