[AI+]블랙박스 찍혀도 "그거 AI잖아"…흔들리는 '증거' 작성일 10-17 59 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI·메타 "AI 영상·음성 100% 판별 어렵다"…법정 증거 기준도 흔들 <br>가짜 탐지보다 '진짜 증명' 기술 부상…촬영·편집 이력까지 확인하는 시대 도래</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7AjxdpAiYc"> <blockquote class="pretip_frm" contents-hash="b82f84d36a513f6191fb7ac67ed0d50f1f4e53a20d40b262dc5521c43acc459d" dmcf-pid="zcAMJUcn5A" dmcf-ptype="pre"> [편집자주] AI 뉴스는 매일 쏟아지지만, 진짜 재미는 그 뒤에 있다. 'AI+'는 국내외 AI 이슈와 글로벌 기업들의 움직임을 따라간다. 낯선 기술 뒤에 숨은 돈의 흐름과 시장 참여자들의 선택, 산업의 변화를 이야기로 풀어낸다. </blockquote> <div contents-hash="1975c0699f979a4595e0148d821c4421d6d65be7d16ce0f77c764b3b1266bd64" dmcf-pid="qkcRiukLXj" dmcf-ptype="general"> <br> </div> <figure class="figure_frm origin_fig" contents-hash="718cff8818c1e09413f315a11a05171dafc9c75efe86656d5cde06d1c4394dad" dmcf-pid="BEken7EoHN" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 딥페이크와 진짜 증거의 경계/이미지=생성형 AI를 활용해 제작" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/17/moneytoday/20261017052038429ueml.jpg" data-org-width="1200" dmcf-mid="uJOgA2IkGk" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/17/moneytoday/20261017052038429ueml.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 딥페이크와 진짜 증거의 경계/이미지=생성형 AI를 활용해 제작 </figcaption> </figure> <div contents-hash="66d27c6296a91db4eb0c4e86fd994277c1eee760f52eff287c61e201e2eb2e54" dmcf-pid="bDEdLzDg5a" dmcf-ptype="general"> 교통사고 순간이 블랙박스에 찍혔다. 상대 차량 번호도, 운전자 얼굴도 선명하다. 예전이라면 결정적 증거였다. 앞으로는 상대가 이렇게 말할 수 있다. "그 영상, AI로 만든 것 아닌가요?". </div> <p contents-hash="e695eda99de7b1554e413de6004bf2328f6f5ff3f81180aa041bbe10f4dd577a" dmcf-pid="KwDJoqwaGg" dmcf-ptype="general">생성형 AI가 실제 촬영물과 구별하기 어려운 영상과 목소리를 만들어내면서 사진·영상·녹음이 '보이는 그대로의 사실'이라는 상식이 흔들리고 있다. 문제는 가짜가 늘어나는 데서 끝나지 않는다. 진짜 영상까지 가짜라고 의심받을 수 있다는 점이다.</p> <p contents-hash="f10bed6edb099a94e35e8286a34f943fb55ae077f6ed22964422d9a7a15eb383" dmcf-pid="9rwigBrNGo" dmcf-ptype="general">오픈AI와 메타는 현재 기술만으로 AI가 만든 영상이나 음성을 완벽하게 가려내기 어렵고, 앞으로도 100% 정확한 탐지기를 만들기 쉽지 않을 것이라고 최근 미국 연방 사법부에 경고했다.</p> <p contents-hash="412a61a3aa495eafe278b15c95582151dc62180ff971bceb165fd6517f500f7d" dmcf-pid="2mrnabmjYL" dmcf-ptype="general">법원이 걱정하는 것도 이 부분이다. 폭행 장면이 담긴 CCTV나 직장 내 괴롭힘 녹음이 있어도 상대가 "AI 합성물"이라고 주장하면 진위를 다시 확인해야 한다. 가짜를 만드는 기술이 진짜를 부정할 핑계까지 만들어주는 셈이다.</p> <p contents-hash="5886c660585305d052bdcf652929857ced41c95e8c0f7e464f99d750862a5312" dmcf-pid="VsmLNKsAGn" dmcf-ptype="general">미국 사법부는 이런 상황에 대비해 증거 규칙을 손보는 방안을 검토 중이다. 영상이 딥페이크일 가능성이 제기되면 이를 증거로 낸 쪽에서 실제 자료라는 점을 더 적극적으로 입증하게 하는 방식이 거론된다.</p> <p contents-hash="7847ffff384955dd45cc87904c429043c24a1f2943063964da5a6b52cc3956b5" dmcf-pid="fOsoj9Octi" dmcf-ptype="general">IT업계의 대응도 바뀌고 있다. 이미 만들어진 영상을 보고 가짜인지 찾아내는 것보다, 촬영하는 순간부터 "이건 진짜 원본"이라는 흔적을 남기는 방식이 주목받는다.</p> <p contents-hash="5889dd00420cdc4bd3386b792ef8b32ede1c707091a0966a28ccf8e3d3168db4" dmcf-pid="4IOgA2Ik1J" dmcf-ptype="general">대표적인 것이 '콘텐츠 자격증명'이다. 사진이나 영상을 찍을 때 어느 기기에서 언제 만들어졌는지 기록하고, 이후 편집 과정도 남긴다. 일종의 디지털 출생증명서다. 앞으로는 영상 자체만 보는 게 아니라 누가 찍었는지, 어떤 기기에서 만들어졌는지, 중간에 수정됐는지까지 함께 확인해야 할 가능성이 커진다.</p> <p contents-hash="c99cbe68ac538cabbf8bb0738de0211bf824ddecf5a24e97277c5f2de8f4e8c6" dmcf-pid="8t1hTLtWHd" dmcf-ptype="general">한국도 예외는 아니다. AI 생성물 표시 의무가 생겼지만, 블랙박스와 CCTV, 통화 녹음처럼 실제 분쟁에 쓰이는 자료의 진위를 확인하는 문제는 별개다.</p> <p contents-hash="5487f1da36448109a3854747a16bc66d86540f30b2027a97ba94b82fe5d90f5e" dmcf-pid="6FtlyoFYYe" dmcf-ptype="general">AI가 바꾸는 것은 가짜 영상의 품질만이 아니다. 지금까지는 "영상이 있으니 사실"이라고 생각했다. 앞으로는 그 영상이 어디서 왔고, 중간에 손대지 않았다는 것을 증명할 수 있느냐가 더 중요해질 전망이다. 증거의 힘이 흔들리고 있다.</p> <p contents-hash="529e9e288f030f262857cc82161cad3156654322eb94c7fd41e78fbf1ec591e4" dmcf-pid="P3FSWg3GYR" dmcf-ptype="general">김평화 기자 peace@mt.co.kr<br><a href="https://www.mt.co.kr/?utm_source=daum&utm_medium=article_text_ad&utm_campaign=mystocksolution" target="_blank">[내 주식이 궁금할땐 머니투데이]</a></p> </section> </div> <p class="" data-translation="true">Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 “3분 만에 동났다”…애플 첫 폴더블폰, 내년 1월까지 예약 밀려 10-17 다음 [단독]"머리 나빠서 노벨상 못 타" SNS 논란에 靑비서관 "도덕성 잣대 아냐" 10-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
