“유재석이 방송에서 말하니 다 믿었지”…10만 클릭 영상의 소름 돋는 실체 작성일 10-08 52 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI로 유명인 얼굴·음성 손쉽게 복제<br>가짜 돈벌이 콘텐츠 넘쳐나는 유튜브<br>“AI 표시 명확·탐지 기술 강화해야”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QO80BbIkTl"> <figure class="figure_frm origin_fig" contents-hash="0ec7ca6e605a9744410d2135587acbe7afaff7a41ca679e00b2106b8df506b6d" dmcf-pid="xEKZpUDgTh" dmcf-ptype="figure"> <p class="link_figure"><img alt="방송인 유재석이 지난 5월 넷플릭스 예능프로그램 ‘유재석 캠프’ 제작발표회에 참석해 소감을 전하고 있다. [연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/08/mk/20261008161806344gxdi.png" data-org-width="700" dmcf-mid="4ueYtFAiSy" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/08/mk/20261008161806344gxdi.png" width="658"></p> <figcaption class="txt_caption default_figure"> 방송인 유재석이 지난 5월 넷플릭스 예능프로그램 ‘유재석 캠프’ 제작발표회에 참석해 소감을 전하고 있다. [연합뉴스] </figcaption> </figure> <div contents-hash="5a9325356b6e7e3908b57668a5752f6fde921431e8a923a7c231af37424a4085" dmcf-pid="yzmijAqFCC" dmcf-ptype="general"> 생성형 인공지능(AI) 기술을 활용해 유명인의 얼굴과 음성을 복제한 딥페이크가 유튜브를 중심으로 확산하고 있다. 제작의 문턱이 낮아지면서 콘텐츠가 완성되는 속도가 빨라지고 진짜와 가짜의 구분이 어려워지는 양상이다. 신기술이 유희와 참고에 그치지 않고 사칭 범죄와 불법 수익 창출 수단으로 악용되는 가운데, 플랫폼의 대응은 여전히 소극적이라는 지적이 나온다. </div> <p contents-hash="3c3b73fdb23e69b3848cac5ccba459bf2b071f219852e9d81cd1c6bd628c6f92" dmcf-pid="WqsnAcB3SI" dmcf-ptype="general">8일 온라인 커뮤니티에 따르면 최근 ‘유재석과 함께하는 이야기’라는 유튜브 채널이 등장했다. 방송인 유재석이 다양한 사연을 소개하고 위로·조언을 건네는 콘텐츠로 구성됐다. 콘텐츠 썸네일에도 유재석의 사진이 걸려있다. 하지만 유재석이 관리하거나 유재석과 계약된 채널은 아니었다. 유재석의 얼굴과 목소리를 도용한 AI 콘텐츠를 게시하는 채널이었다.</p> <p contents-hash="2f0d418c8cf31283c8441a171e02c3e5881b125a38870ffa0cb3577a8d593ee9" dmcf-pid="YBOLckb0lO" dmcf-ptype="general">국민 MC로 불리는 유재석의 인기가 반영돼 조회수가 10만뷰를 돌파한 영상도 있었다. 사회적 우려가 커지자 유재석 팬덤을 선두로 문제의 채널을 유튜브에서 퇴출하려는 움직임이 이어졌다. 다수의 신고가 누적되면서 문제의 채널은 삭제 처리됐다.</p> <p contents-hash="4e6b23076fd5f4d5e126af8b50698d4c8ac72da096d57eec9d60a8f7b222fb61" dmcf-pid="GbIokEKpSs" dmcf-ptype="general">그러자 곧바로 ‘유재석과 털어놓는 이야기’라는 채널이 개설됐다. 유재석과 함께하는 이야기와 유재석과 털어놓는 이야기의 운영자는 동일인인 것으로 추정된다. 채널 소개와 콘텐츠의 형식이 비슷하고, 채널 운영 국가도 대한민국이 아닌 베트남으로 똑같기 때문이다.</p> <figure class="figure_frm origin_fig" contents-hash="b8b6256d51ddf10118078f432404e1f979d1a23f4e48283dc16a7635ca95d7a5" dmcf-pid="HKCgED9Uym" dmcf-ptype="figure"> <p class="link_figure"><img alt="유재석의 얼굴와 음성을 도용해 생성한 인공지능(AI) 콘텐츠를 올리던 유튜브 채널. 현재는 삭제됐다. [유튜브 채널 ‘유재석과 함께하는 이야기’ 캡처]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/08/mk/20261008161807645wxhd.png" data-org-width="700" dmcf-mid="8Ia8ed1yWT" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/08/mk/20261008161807645wxhd.png" width="658"></p> <figcaption class="txt_caption default_figure"> 유재석의 얼굴와 음성을 도용해 생성한 인공지능(AI) 콘텐츠를 올리던 유튜브 채널. 현재는 삭제됐다. [유튜브 채널 ‘유재석과 함께하는 이야기’ 캡처] </figcaption> </figure> <div contents-hash="1d8ce3d43329d6d052818b60abc8551ba04cdab3eaed25c65b8fa3299b0e3bc5" dmcf-pid="X9haDw2uCr" dmcf-ptype="general"> 유재석뿐만 아니라 걸그룹 소녀시대 멤버인 임윤아, 연기파 배우로 평가받는 염혜란, 중증외상 의료분야의 권위자인 이국종 교수, 우리나라 최초의 프로파일러 권일용 박사, 인터넷 만화의 황금기를 주도한 웹툰작가 침착맨 등도 피해를 봤다. 특히 염혜란의 경우에는 표정과 시선, 몸짓까지 흡사했다. </div> <p contents-hash="63ad42acd5b8b145caa99d1bda2b0a011423522fd1a6189fd59eb31351e3f65c" dmcf-pid="Z2lNwrV7Ww" dmcf-ptype="general">그 배경으로 AI 기술의 대중화와 고도화가 꼽힌다. 정보기술(IT) 기기와 기술에 익숙한 청년층이라면 이질적인 소품이나 어색한 발음을 통해서 합성 여부를 눈치챌 수 있지만, 디지털 활동에 취약한 장애인이나 고령층은 진위 구별이 어렵다. 개인의 권리 침해를 넘어 심각한 사회 문제로 번질 수 있다.</p> <p contents-hash="90d7015dee77d8c6ccccd0a665e10740d7387507f6a4dfca84183898d0ff5e09" dmcf-pid="5VSjrmfzlD" dmcf-ptype="general">플랫폼의 이용 환경 관리 능력도 시험대에 올랐다. 현재는 불법·유해 콘텐츠를 이용자나 권리자가 신고하고 플랫폼이 검토를 거쳐서 제재하는 방식이 대부분이다. 하지만 채널을 비공개 처리해도 새로운 채널로 이사하거나, 콘텐츠를 삭제해도 비슷한 콘텐츠를 재제작해 게시하면 도루묵이다.</p> <p contents-hash="234cdef21b8f4f9e0a90905bc4d73ec1994d26a5f91443a357ce1e604b3bb6d9" dmcf-pid="1VSjrmfzCE" dmcf-ptype="general">이에 플랫폼이 실존하는 인물의 얼굴과 음성을 무단으로 사용한 AI 콘텐츠 식별이 가능한 기술력을 갖춰야 한다는 주장에 무게가 실린다. AI로 생성된 게시물에 안내 표시를 넣거나 원본 파일에 생성 이력과 출처 정보를 기록하는 방식은 재가공 과정에서 사라질 수 있기에 플랫폼 차원에서 자본을 투자해 탐지 기술 자체를 강화해야 한다는 의미다. 또 사칭·도용 콘텐츠를 올리는 계정을 특별·밀팍 모니터링하는 시스템 마련도 필수적이다.</p> <figure class="figure_frm origin_fig" contents-hash="e37a779677987dba2bb6b41d9f249ad53aae46bc8e24203bba2a4e33dcf9004c" dmcf-pid="tfvAms4qhk" dmcf-ptype="figure"> <p class="link_figure"><img alt="걸그룹 소녀시대 윤아가 임신을 했다는 인공지능(AI) 합성물이 온라인상에 게재돼 곤혹을 치렀다. [MBN 방송화면 캡처]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/08/mk/20261008161808903ziaj.png" data-org-width="700" dmcf-mid="PQTcsO8BSS" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/08/mk/20261008161808903ziaj.png" width="658"></p> <figcaption class="txt_caption default_figure"> 걸그룹 소녀시대 윤아가 임신을 했다는 인공지능(AI) 합성물이 온라인상에 게재돼 곤혹을 치렀다. [MBN 방송화면 캡처] </figcaption> </figure> <div contents-hash="f3f1e863947b396b2d3a5afa4a6ec0a1f660f86ab0508279bc7bdfba1f22ec2a" dmcf-pid="F4TcsO8BSc" dmcf-ptype="general"> 실효성 있는 제도적 장치도 요구된다. 지난 1월 AI 기본법이 시행되면서 AI를 활용한 결과물 표시가 의무화됐다. 오는 11월부터는 화장품법·약사법 개정으로 AI 광고 규제가 시작된다. 의사나 약사가 제품을 추천하는 것처럼 오인을 유도하는 사업자 한정이라 한계가 명확하다. 인격표지영리권 개정안은 지난 2022년 12월 발의됐지만 지난달에야 상임위원회에 상정됐다. </div> <p contents-hash="cc0d1cd5b8e2b706115cb4c7cc7b3e2fa2553463e542de085a4ed69cd4a10b58" dmcf-pid="38ykOI6byA" dmcf-ptype="general">퍼블리시티권이나 부정경쟁방지법 등을 근거로 대응을 고려할 수 있더라도 개인에게 어디까지 책임을 물을지는 별도의 검토가 필요하다. 지난달 일본도쿄지방법원은 성우 츠다 켄지로가 자신의 목소리가 첨부된 AI 콘텐츠가 188편이나 업로드됐다며 틱톡을 상대로 제기한 소송에서 목소리도 보호 대상이 된다는 취지의 판결을 내렸지만, 소송 과정에서 도용 영상과 계정이 삭제돼 권리 침해 여부에 대한 최종 판단까지 마무리 짓지는 못했다.</p> <p contents-hash="e325fd95bb6c5b2429776c2dc9c3725ecbce017122f9878527eca87e8e1c4145" dmcf-pid="06WEICPKTj" dmcf-ptype="general">IT업계 관계자는 “실제와 가상의 구분은 점점 어려워질 것”이라며 “AI 기술의 사용을 제한하고 규제의 강도를 높이기보다는 당사자의 동의를 받지 않은 콘텐츠가 플랫폼에서 확산하지 않도록 감시하고 수익화가 불가능한 체계가 구축돼야 한다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 ‘리니지 리마스터’, 황금사막 아벨라 업데이트… 신규 클래스 ‘월영사’ 추가 10-08 다음 아이엘, 전고체배터리 ‘에너지 밀도 10배’ 기술 개발 10-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
