"이거 진짜인가?" 아무리 봐도 갸우뚱…사람 속인 AI, AI가 잡는다

작성일 08-12

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">[2025 u클린] 4-② AI 허위조작정보 판별 시스템</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="FDILd2yjZg">
          <figure class="figure_frm origin_fig" contents-hash="030c939d29a6d120db6228c92a5cb68495987b5dd79d29791de377360550ebd5" dmcf-pid="3wCoJVWAXo" dmcf-ptype="figure">
           <p class="link_figure"><img alt="/그래픽=임종철 디자인 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/12/moneytoday/20250812050237513gzfj.jpg" data-org-width="560" dmcf-mid="tPDRPzCn5a" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/12/moneytoday/20250812050237513gzfj.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            /그래픽=임종철 디자인 기자
           </figcaption>
          </figure>
          <p contents-hash="f7a0dcdb84ef5597e21043aff8e833a3be63e852927c8eb5a980dba7471f2355" dmcf-pid="0rhgifYcHL" dmcf-ptype="general"><br>최근 몇 년 새 생성형 AI(인공지능)가 급속도로 발전하면서 콘텐츠 생산 방식이 크게 바뀌었다. 누구나 쉽게 텍스트를 작성하고, 이미지를 만들며, 심지어 음성과 영상까지 AI로 생성할 수 있게 되면서 정보의 접근성과 창의성은 높아졌다. 그러나 이와 동시에, AI를 악용해 사실처럼 꾸며낸 허위조작정보도 함께 확산하며 사회적 문제로 떠오르고 있다.</p>
          <p contents-hash="1d3b1c2bc41c704a9afeb5d971de47145e5531479689ac349e560275bb5691bf" dmcf-pid="pmlan4Gk5n" dmcf-ptype="general">특히 선거나 정치적 이슈, 기업 평판, 금융 사기, 연예인 및 공인의 이미지 조작 등 다양한 분야에서 가짜 뉴스와 딥페이크 콘텐츠가 실제 피해를 유발하는 사례가 증가하고 있다. 문제는 이러한 정보들이 매우 정교하게 제작돼 일반인이 진위를 구별하기 어렵다는 점이다. 실제처럼 보이거나 들리는 콘텐츠가 SNS(소셜미디어), 커뮤니티, 메신저 등을 통해 빠르게 확산하며 혼란을 가중시킨다.</p>
          <p contents-hash="ca32b8b91446e56acbed7bf48680dc1ff0fe336108319ed23eff60dc0f1792fc" dmcf-pid="UsSNL8HEZi" dmcf-ptype="general">이에 대응하기 위해, 최근에는 'AI 대 AI' 구조가 본격화되고 있다. AI가 만든 허위정보를 다시 AI가 판별하고 거르는 기술이 빠르게 개발된다. 국내에서는 한컴위드가 딥러닝 기반 영상 분석 기술을 활용해 딥페이크 여부를 판별하는 시스템을 개발 중이다. 딥브레인은 음성 합성 탐지 기술을 상용화해 음성 기반 보이스피싱 사기 등에 대응하고 있다. 이들 기술은 콘텐츠가 유통되기 전, 혹은 확산 중에 자동으로 분석해 허위 가능성이 있는 콘텐츠를 빠르게 분류할 수 있게 한다.</p>
          <p contents-hash="ecd9fc264249535c98a56ffd4a220486f9898341d5b52e614000e02ec6131f92" dmcf-pid="uvHwce3ItJ" dmcf-ptype="general">일반 사용자가 접근할 수 있는 도구도 인기를 끌고 있다. 대표적으로 'GPT제로'는 텍스트가 인간이 작성한 것인지, AI가 생성한 것인지 분석하는 서비스다. 문장의 예측성, 길이, 다양성 등을 종합적으로 판단해 결과를 제공한다. 학생들의 과제나 리포트, 기업의 콘텐츠 검수 등에서도 유용하게 활용된다. 또 '인비디'는 이미지나 영상의 메타데이터, 편집 여부, 소스 분석 등을 통해 조작 여부를 판단하는 데 특화된 도구로, 언론사나 팩트체크 기관에서 주로 사용되고 있다.</p>
          <p contents-hash="573977f470d811e7e7aa9d7ec7704d3dc1e74540dc7d9b0e0ec0d11ede5aedbe" dmcf-pid="7TXrkd0CHd" dmcf-ptype="general">이 같은 탐지 솔루션이 주목받는 이유는 생성형 AI 확산과 함께 허위조작정보로 인한 사회적 피해에 대한 경각심이 높아졌기 때문이다. 콘텐츠 생산과 유통 속도가 인간의 직관이나 검수 능력을 넘어서는 상황에서, 기술 기반 탐지 시스템은 정보 신뢰도를 지키기 위한 최소한의 장치로 자리 잡고 있다.</p>
          <p contents-hash="159fbf624d0ceee74f3441d72a7cf722d8280e335482eabbf974a25a386ec351" dmcf-pid="zyZmEJphYe" dmcf-ptype="general">업계 관계자는 "생성형 AI는 창의성과 편의성을 높이는 강력한 도구이지만, 잘못 사용될 경우 정보 환경을 혼란에 빠뜨릴 수 있는 양날의 검"이라며 "기술 발전과 더불어 교육, 감시, 윤리, 법 제도까지 포함한 종합적 대응이 필요하다"고 말했다.</p>
          <p contents-hash="25051e24fa36acad96e16b6468a07ba45c133f1df64ae7d8d26df911019cfe44" dmcf-pid="qW5sDiUlXR" dmcf-ptype="general">김승한 기자 winone@mt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

이전

인재가 회사 다 키운다…'인재 사냥꾼' TA 키운다

08-12
다음

대한체육회, 체육계 제도 혁신 위한 개선 과제 제안한다

08-12

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

"이거 진짜인가?" 아무리 봐도 갸우뚱…사람 속인 AI, AI가 잡는다

멤버랭킹

관련자료

멤버랭킹