‘마두로 체포’ 가짜 사진 난무… AI 딥페이크, 진짜도 못 믿게 만들었다 작성일 01-08 42 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[범람하는 AI 딥페이크] 딥페이크가 부른 ‘인지 위기’ 시대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2P6daAPK1P"> <figure class="figure_frm origin_fig" contents-hash="72e1dbab88b6192d0d00adb8d4f3ffb518f182db580a83f5250b44ef700693f5" dmcf-pid="VQPJNcQ9H6" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI로 만들어진 마두로 체포 이미지/제미나이 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/08/chosun/20260108005956675wbio.jpg" data-org-width="1024" dmcf-mid="bunAmILxXM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/08/chosun/20260108005956675wbio.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI로 만들어진 마두로 체포 이미지/제미나이 생성 </figcaption> </figure> <p contents-hash="891c1125426e3bff305159efdbc56d6142a24f74c6b08438e4d9d31d42f4cf67" dmcf-pid="fxQijkx218" dmcf-ptype="general">“니콜라스 마두로 베네수엘라 대통령이 미국 당국에 체포돼 한밤중 연행되는 현장을 생생하게 보여주는 보도용 이미지를 만들어줘.”</p> <p contents-hash="2c558b7b0ffb88b24c4f9f03c2db3036cdcbfd8b8b6ad9bd96e67500573a662a" dmcf-pid="4MxnAEMV14" dmcf-ptype="general">7일 기자가 구글의 인공지능(AI) 챗봇인 제미나이에 이 같은 명령어를 입력하자, 1분도 되지 않아 어두운 공항을 배경으로 얼굴이 모자이크 된 미군들에게 압송되는 마두로 대통령의 딥페이크(가짜 사진·영상·음성) 사진이 만들어졌다. “이미지 하단에 진짜 뉴스처럼 헤드라인을 삽입해 줘”, “급하게 찍은 것처럼 살짝 초점이 나가게 해 줘” 같은 추가 주문과 함께 딥페이크 이미지는 점점 더 ‘진짜’ 같아졌다.</p> <p contents-hash="05eaac95eb55ee345a5748a8deb2a67729226836706bacaccf91a6f612680e3d" dmcf-pid="8degErd8Zf" dmcf-ptype="general">지난 3일 도널드 트럼프 미 행정부가 마두로 대통령을 체포했다는 발표가 나온 직후, 인터넷에는 관련 딥페이크 콘텐츠가 쏟아졌다. 트럼프 대통령과 마두로 대통령이 손을 잡고 춤을 추는 조잡스러운 AI 영상들 사이로 마치 백악관 공식 보도 사진처럼 둔갑한 가짜 사진들이 여럿 끼어들었다. 이 같은 사진들은 손쓸 새 없이 소셜미디어 곳곳에 퍼지기 시작했고, 수천·수만 명의 이용자가 속아 넘어갔다. 라틴아메리카 미디어 중 일부에선 이 사진들을 진짜로 착각해 보도했다가 급하게 삭제하는 촌극까지 일어났다. 뉴욕타임스는 “AI 기술이 충분히 발전하고 대중화되며 가짜 이미지가 사람들을 크게 오도(誤導)할 수 있다는 위협이 현실화됐다”고 했다.</p> <figure class="figure_frm origin_fig" contents-hash="986bac45e729987476bd969c0358923862a0f1c2f3780e1f2fac71100409acb3" dmcf-pid="6JdaDmJ6ZV" dmcf-ptype="figure"> <p class="link_figure"><img alt="그래픽=박상훈" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/08/chosun/20260108005957933qldr.png" data-org-width="2000" dmcf-mid="KLsvX1OcHx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/08/chosun/20260108005957933qldr.png" width="658"></p> <figcaption class="txt_caption default_figure"> 그래픽=박상훈 </figcaption> </figure> <p contents-hash="2761d2d64bfcabb085320bb906dc2224c8471c221445259d8bbd49e89a0432a3" dmcf-pid="PiJNwsiPt2" dmcf-ptype="general"><strong>◇딥페이크가 만든 ‘인지 위기’의 시대 </strong></p> <p contents-hash="3b222b73a6e91a23f8670bb646384b4633e79d61b1ea48b973d8433f09bb9cd5" dmcf-pid="QnijrOnQY9" dmcf-ptype="general">유네스코는 최근 AI 생성 기술 대중화로 딥페이크 문제가 심화하며 이른바 ‘인지 위기(Crisis of knowing)’가 펼쳐질 것이라 경고했다. 범람하는 정보 속에서 진짜와 가짜의 경계선이 모호해지고, 매 순간 무엇을 믿어야 하는지 의심해야 하는 시대가 온다는 것이다.</p> <p contents-hash="e5c9f4e72484da68a2f2420c642caefd15a79114a6d7b339c538a8dfb87b418f" dmcf-pid="xLnAmILxGK" dmcf-ptype="general">지난해 11월 트럼프 대통령의 이민 단속 정책에 따라 미 이민세관단속국(ICE)과 시민들의 마찰이 커진 상황에서, 온라인에는 뉴욕 경찰이 불법 이민자를 단속하려는 ICE 대원들에게 ‘물러서라’며 호통치는 영상이 올라왔다. 이 딥페이크 영상에 걸려든 인물은 세계적인 AI 전문가로 ‘AI 4대 천왕’이라 불리는 얀 르쿤 뉴욕대 교수였다. 그는 이 영상을 자신의 스레드에 공유하며 ‘당장 물러서(Back off, now!)’라는 코멘트를 달았다. 해당 게시물 밑에는 “메타의 AI 수장까지 AI 비디오에 속다니, 우린 전부 망했다”는 댓글이 달렸다. 정치적 성향·학력 높낮음과 상관없이 이 같은 오해는 반복된다. 생체 인증 기업인 아이프루브가 영미권 2000명을 대상으로 진행한 연구에 따르면 영상의 AI 조작 여부를 정확히 구분하는 비율은 0.1%에 불과했다. 딥페이크 영상이 2023년 50만건에서 지난해 800만건으로 폭증한 가운데, 누구도 딥페이크의 영향에서 자유롭지 못하다는 것이다.</p> <figure class="figure_frm origin_fig" contents-hash="0c05433bb29d193b0f93db559541e7f48a9fdb2545387b4da9301d94dd8d038a" dmcf-pid="y15UKV1yXb" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI로 만들어진 네일 이미지/온라인 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/08/chosun/20260108005959201vukf.jpg" data-org-width="960" dmcf-mid="97u9PM71ZQ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/08/chosun/20260108005959201vukf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI로 만들어진 네일 이미지/온라인 캡처 </figcaption> </figure> <p contents-hash="2cea0da407fc6b7de9806e480319500b9d3c8a09b9e791d90a203ed32b18f8ae" dmcf-pid="Wt1u9ftWZB" dmcf-ptype="general"><strong>◇딥페이크, 실제 피해로도 이어져</strong></p> <p contents-hash="508e96b2da825a91c5b8e70d0e70d5713965ca0c391ffa8ba1c5745b1bd77f4d" dmcf-pid="YFt724FY1q" dmcf-ptype="general">최근 경남 창원시의 한 네일숍 점주는 네일을 받은 고객이 손가락에서 피가 난다며 피해 보상을 해달라는 황당한 요구를 들었다. 손톱 밑으로 손가락이 붉게 물든 이미지를 첨부하면서다. 해당 점주는 7일 조선일보와의 전화 통화에서 “고객이 사진과 함께 보내온 ‘진료 확인서’의 글씨가 이상한 것을 보지 못했으면 AI인 줄 눈치채지 못했을 것”이라며 “경찰에 사건을 접수한 상태”라고 했다. 지난 1일 영국 데일리메일은 딜리버리루 등 현지 배달업체가 가짜 AI 이미지로 환불을 요구하는 고객들 때문에 골머리를 앓고 있다고 전했다. 잘 조리된 햄버거를 설익게, 깨끗한 음식에 파리가 있는 것처럼 조작한 이미지를 올려 음식값을 돌려받는다는 것이다.</p> <p contents-hash="e658f28daa01b3eee50e6792531276f384d368ac597d43779914a88218634b5f" dmcf-pid="G3FzV83GGz" dmcf-ptype="general">딜로이트 금융서비스센터에 따르면 딥페이크 사기에 따른 손실액은 2024년 123억달러(약 17조8150억원)에서 2027년 400억달러(약 58조원)로 늘어날 전망이다.</p> <p contents-hash="298b06a34fb56d4006f43933cf72cddb0c4e148975c9d2f01579a475c19745df" dmcf-pid="H03qf60HG7" dmcf-ptype="general">전문가들은 딥페이크 문제를 해결할 뚜렷한 방법이 없는 것이 문제라고 입을 모은다. 딥페이크가 올라온 것을 실시간으로 탐지하는 것은 불가능하고, 발견 후 원본을 삭제해도 이미 널리 퍼진 이미지를 모두 주워 담기 어렵기 때문이다. 딥페이크 콘텐츠를 빠르게 삭제하는 ‘사후 조치’에 초점을 맞춘 미국·유럽의 규제들이 큰 실효성이 없다는 평가를 받는 이유다. 미 경제 매체 포천은 “딥페이크는 이미 진짜와 가짜가 구분되는 경계를 넘어섰다”며 “2026년에는 딥페이크 기술이 실시간으로 인간과 대화하는 ‘연기자’로까지 발전하며 상황이 더욱 악화할 전망”이라고 했다.</p> <p contents-hash="4caabed9efe3a07abdebb89bdbfa0106426bbe643ad7f7938a8c8be5303177a2" dmcf-pid="XEkOTYEoHu" dmcf-ptype="general"><strong>☞인지 위기(Crisis of knowing)</strong></p> <p contents-hash="118e2c99070c7f42d0fb176e5a15866749d7592b5d3bf53b0f7b751d7cf2e86c" dmcf-pid="ZDEIyGDgGU" dmcf-ptype="general">딥페이크(가짜) 콘텐츠가 범람하며 진짜와 가짜를 구분하기 어려워진 상황을 일컫는 말이다. 딥페이크 사기를 피하기 위해 보이고, 들리는 모든 정보를 의심하게 되면서 현실에 대한 인식도 모호해진다는 것이다. 누구나 고성능 인공지능(AI) 기술을 사용하게 되면서 이런 위기는 더 심각해질 것이라는 경고가 잇따른다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [CES 2026] 가성비 AI, 물량 공세, 자신감 통했다… CES ‘차이나 서프라이즈’ 01-08 다음 [CES 2026] “메모리 반도체 품귀? 걱정 없다” 의기양양 젠슨 황 01-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
