"진짜야, AI야?"…실사 수준 AI 영상에 SNS 혼돈 작성일 06-08 86 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'저는 AI 입니다' 경고 영상 화제…최신 AI로 누구나 영상 제작 가능<br>'AI 활용' 표시 움직임 활발…"출처 확인·리터러시 캠페인 필요"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZfCRfOva0m"> <figure class="figure_frm origin_fig" contents-hash="337f0b77a6a71912306f9ae9668e55424fdce054858bc329c8c2c567675a8007" dmcf-pid="54he4ITNpr" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 생성 경고 영상 [유튜버 딸깍 디자이너 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/08/yonhap/20250608070124014gxrq.jpg" data-org-width="1080" dmcf-mid="87mtWQJq3W" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/08/yonhap/20250608070124014gxrq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 생성 경고 영상 [유튜버 딸깍 디자이너 제공. 재판매 및 DB 금지] </figcaption> </figure> <p contents-hash="71a6b50693d154c93813e49bf8df857ee0e3156696ab1e5c2f3e3cec79d54c87" dmcf-pid="18ld8Cyj3w" dmcf-ptype="general">(서울=연합뉴스) 김현수 기자 = 인공지능(AI)을 활용해 만든 영상이 현실과 구분이 어려워지는 수준에 이르면서 소셜미디어(SNS)를 중심으로 우려의 목소리가 커지고 있다.</p> <p contents-hash="8291506bf9ca1fc7f67a14c1a438741897dffff0964909770403e9b7da5c544e" dmcf-pid="t6SJ6hWA7D" dmcf-ptype="general">최근 SNS 스레드에는 AI 생성 영상에 대한 경각심을 불러일으키는 영상이 올라와 화제를 낳았다.</p> <p contents-hash="5a527ea260537dc9fb4cca4854dc965ef3e0f097f4611e6894eb4223e7665dd2" dmcf-pid="FPviPlYc3E" dmcf-ptype="general">해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 속보를 전하며 현장 기자를 연결하는 장면으로 시작한다.</p> <p contents-hash="a1d025485c60148b9b9ffec22f2372678ea08d410cda7b144a55568b12c8c06c" dmcf-pid="3QTnQSGkFk" dmcf-ptype="general">곧바로 등장한 취재 기자는 뒤편으로 시뻘건 용암이 솟아오르지만 태연하게 서 있다.</p> <p contents-hash="b95389f1f5118f8b29f24d455660776e4af1c88291dd841c97454aa98df4aea2" dmcf-pid="0RYgRyZwFc" dmcf-ptype="general">기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 말하고, 뒤이어 등장한 학생, 연예인, 사업가 등도 모두 자신이 AI임을 강조하며 시청자에게 '속지 말라'고 경고한다.</p> <div class="video_frm" dmcf-pid="peGaeW5rUA" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="PT9NdY1muT" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="Q0Cu5JaVUv" frameborder="0" height="370" id="video@PT9NdY1muT" poster="https://t1.daumcdn.net/news/202506/08/yonhap/20250608070127564gpgt.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/455702012?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="ad44867631a577881343a662ec538ee5058a0efda80f515e26b47e38231c71f3" dmcf-pid="UdHNdY1m0j" dmcf-ptype="general">영상을 본 네티즌들 사이에서는 현실에 버금가는 영상 수준이 놀랍다는 반응부터, 끊임없이 진보하는 AI 기술이 악용될까 우려된다는 목소리가 함께 나왔다.</p> <p contents-hash="963ea288b03bdb2acedd7588fc14be8d5b4148ba65d164a9912e954e381c2816" dmcf-pid="uJXjJGtsUN" dmcf-ptype="general">AI 활용이 익숙하지 않은 고령자가 AI 생성 여부를 판단할 수 있게끔 교육해야 한다는 반응도 이어졌다.</p> <p contents-hash="40a7defdee6e489790172db81793d165e970ef64a06b62621b4e40d85f7f97db" dmcf-pid="7iZAiHFOpa" dmcf-ptype="general">아무 의심 없이 콘텐츠를 수용하는 현실을 풍자한 해당 영상에는 구글의 동영상 생성 AI 모델 '비오3'(Veo)가 활용됐다.</p> <p contents-hash="df7ac0306fe98b52538946070ce5ddfbce4985111de30d8b58bb7bacabf12cf4" dmcf-pid="zn5cnX3I3g" dmcf-ptype="general">해당 영상을 제작한 유튜버 '딸깍 디자이너'는 연합뉴스에 "뉴스에서 일론 머스크의 얼굴로 로맨스스캠(연애 빙자 사기)을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 게 놀라웠다"며 영상 제작 배경을 설명했다.</p> <p contents-hash="d6fa08251fdbdab94c60e6e1c7adf65106764db7da855b3fba3f59d278fc2881" dmcf-pid="qL1kLZ0CUo" dmcf-ptype="general">그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상에 대한 접근성이 쉬워지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 덧붙였다.</p> <p contents-hash="8e4d2797cf31f43fee92c2b3474bb343556b270f3b19c3a77d0f7edc8ab1c2c0" dmcf-pid="BotEo5phUL" dmcf-ptype="general">AI 영상 광고 제작소 '아웃오프라인'이 제작한 '한국 남성의 삶' 영상은 유년기부터 노년에 이르는 인생 과정을 AI 기술로 풀어내 주목받았다.</p> <div class="video_frm" dmcf-pid="bS6XS4MUpn" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="HNKvmBf5uO" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="X92yOK8t3s" frameborder="0" height="370" id="video@HNKvmBf5uO" poster="https://t1.daumcdn.net/news/202506/08/yonhap/20250608070131194hoit.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/455702017?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="1547f8eb176463df2e3c64f5ad2c2dddcef69530f57f55c522ac92da165ebfe9" dmcf-pid="KvPZv8Ru0i" dmcf-ptype="general">영상을 본 네티즌들은 '비오3로 만든 영상 중 제일 자연스럽다'는 호평부터 '숏폼은 이런 제작자가 다 선점하겠다' 같은 전망까지 다양한 반응을 내놨다.</p> <p contents-hash="1bbb1e4c8db3f29c2eb48ce64e6469a3b294bc1b4faa04ec67040ffaae8e7672" dmcf-pid="9TQ5T6e77J" dmcf-ptype="general">AI 생성 영상을 쉽게 돈 버는 방법으로 인식하는 이들도 눈에 띄었다.</p> <p contents-hash="c5c72e76a4ea109e595eea2b7b776cff195c6e3a069d099e0e0bb40f35de9ecf" dmcf-pid="2yx1yPdz0d" dmcf-ptype="general">한 스레드 이용자는 "유튜브 영상 직접 안 찍어도 된다"며 "100만 뷰로 돈을 벌고 싶다면 추천하는 프롬프트를 써보라"고 소개했다.</p> <p contents-hash="a3f6d4571f40a6340577f7b959765e8b9506aaa8393058ad6aa2e5349314d754" dmcf-pid="VWMtWQJqUe" dmcf-ptype="general">AI 생성 영상이 현실과 경계를 허무는 수준에 이르자 콘텐츠에 AI 사용 여부를 표시해야 한다는 목소리도 커지고 있다.</p> <p contents-hash="86f74c48a03351acf775040c578e3c98ab911d0a335e5c46681f338b7f097079" dmcf-pid="fYRFYxiB7R" dmcf-ptype="general">내년 시행을 앞둔 AI 기본법에는 생성형 AI를 통해 만들어진 영화·드라마 등 콘텐츠 서비스에 AI 결과물 표시를 의무화하는 내용이 담겨 있다.</p> <p contents-hash="e8a5a2c110c8ff3edbd3e80b3eb2fee80638b410cb32c10afd55babccc83aa2a" dmcf-pid="4Ge3GMnbFM" dmcf-ptype="general">네이버는 지난 달 콘텐츠 블로그, 카페, 네이버 TV, 클립 등에서 'AI 활용' 표시를 통해 작성자가 AI 활용 여부를 표시할 수 있는 기능을 제공하기 시작했다.</p> <p contents-hash="49e28c704edd1c633fefeb4691f8790696328890f518b28088e48757edfcb846" dmcf-pid="8Hd0HRLK3x" dmcf-ptype="general">네이버는 기능 도입 배경에 대해 "콘텐츠에 따라 실제와 가상의 구분이 어려울 수 있어 AI를 활용한 콘텐츠를 구분하는 것이 필요해지고 있다"며 "AI 활용 표시를 통해 이용자들은 콘텐츠의 출처를 명확히 파악할 수 있고, AI로 생성된 콘텐츠가 실제와 혼동되는 것을 방지할 수 있다"고 설명했다.</p> <p contents-hash="ef0fe158aacadb94538d002cdb149da68c563f7a4719aa64bb65b2a25880c85d" dmcf-pid="6XJpXeo9uQ" dmcf-ptype="general">AI 영상 생성 여부를 쉽게 판단할 수 없음을 인정하고, 미디어 리터러시 훈련이 우선돼야 한다는 전문가 지적도 나온다.</p> <p contents-hash="5ed73268db4fe7d5f027e2d0370258da5b7feb2a064cbff4ad7548cd34103046" dmcf-pid="PZiUZdg2pP" dmcf-ptype="general">최병호 고려대 AI연구소 교수는 "오픈소스로 공개된 AI 영상 제작 기술을 응용해 악의적 행동을 하면 진위를 판단하는 게 사실상 불가능하다"며 "누가, 언제, 왜 이런 영상을 만들었는지 콘텐츠 출처를 파악하고, 모든 걸 의심해야 한다는 취지의 캠페인을 언론, 비영리 단체 등이 시행해야 한다"고 조언했다.</p> <p contents-hash="2f0093785283c8e610b4b689efd1280f87e607307a043c5cba3c6211418b9fe7" dmcf-pid="QpjKpaEQu6" dmcf-ptype="general">hyunsu@yna.co.kr</p> <p contents-hash="36edfca85aa3d2b109c6e991114290536b494df0c1abaa969518e6b0e19fa4eb" dmcf-pid="yAUsA0qyU4" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 [KISTI의 과학향기]"임플란트 안녕", 실험실서 내 치아 키우다 06-08 다음 1∼5월 비행기로 한일 오간 승객 1천만명 훌쩍 넘겨…역대 최대 06-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
