훔친 신분증 사진으로 ‘AI 셀카’ 찍어 계좌 개설?… ‘AI 감별사’ 뜬다 작성일 10-20 51 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Bl21i5LxZE"> <figure class="figure_frm origin_fig" contents-hash="796dfdee2f12971a4bc808953eeb4bf44b7afcbd47dc65c6d66024b61f2f69fa" dmcf-pid="bGQujUcn5k" dmcf-ptype="figure"> <p class="link_figure"><img alt="리얼리티 디펜더가 공개한 합성 얼굴 사진 분석 화면. 신원 확인에 제출된 사진은 그럴 듯해보였지만 조작된 이미지로 판별됐다./리얼리티 디펜더 홈페이지 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/20/chosun/20261020120242471hgdr.jpg" data-org-width="722" dmcf-mid="qxlNFa0H1D" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/20/chosun/20261020120242471hgdr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 리얼리티 디펜더가 공개한 합성 얼굴 사진 분석 화면. 신원 확인에 제출된 사진은 그럴 듯해보였지만 조작된 이미지로 판별됐다./리얼리티 디펜더 홈페이지 캡처 </figcaption> </figure> <p contents-hash="706c33845b0bc01e53920a669eb2d3af6a3ac3016c6fd91b7b1799d23bb6d536" dmcf-pid="KHx7AukLtc" dmcf-ptype="general">작년 11월 아르헨티나의 한 핀테크 업체에서 도난 신분증과 인공지능(AI)으로 합성한 얼굴 사진을 이용해 계정을 만들려는 시도가 적발됐다. 사기범들은 신분증을 위조하는 대신 진짜 신분증을 훔친 뒤, 그 안의 사진을 AI로 가공해 본인이 직접 찍은 셀카처럼 보이는 얼굴 사진을 만들었다. 신분증 진위 확인과 얼굴 대조 절차는 모두 통과했지만, 이 업체가 검증 시스템에 연결해 둔 미국 딥페이크 탐지 기업 리얼리티 디펜더의 AI가 합성 사진임을 찾아내면서 계정 개설이 차단됐다.</p> <p contents-hash="6b9709b22663dea0691f9fbfe5f50ad114cb849e3e770907e4bab6a751970e2c" dmcf-pid="9XMzc7EotA" dmcf-ptype="general">AI로 만든 사진과 다른 사람의 목소리를 복제한 합성 음성이 사기에 악용되면서, ‘AI 가짜 감별사’를 도입하는 기업이 늘고 있다. 기존처럼 단순히 신분증 사진과 얼굴이 일치하거나 목소리가 같다는 것만으로는 실제 본인인지 확인하기 어려워졌기 때문이다. 기업들은 기존 서비스에 합성물 탐지 기능을 덧붙이고, AI가 만든 영상·음성을 전문적으로 분석하는 스타트업들도 주목받고 있다.</p> <p contents-hash="7a8179d79fb48179db76e6f929cedba4474bbaaa8dd524365e220c0f656ef1d9" dmcf-pid="2ZRqkzDgtj" dmcf-ptype="general"><strong>◇AI 신원사기 막는 기술 인기…투자 몰려</strong></p> <p contents-hash="ddf3340b0738938b169614371af206dd5540b062ecd508928052d9a3ef9d1c40" dmcf-pid="V5eBEqwa5N" dmcf-ptype="general">19일 시장조사 업체 CB인사이트의 분석에 따르면, AI 생성물 탐지 기업 42곳에 지난해 1월 이후 투자된 약 1억2500만달러(약 1660억원) 가운데 59%인 7400만달러(약 984억원)가 가짜 목소리와 신원을 이용한 사기에 대응하는 업체에 몰렸다. AI가 만든 글·사진·영상 등을 가려내는 사업 중에서도 사칭과 금융 사기를 막는 분야에 투자금의 절반 이상이 몰린 것이다.</p> <p contents-hash="0bbb072050e5bf4d243c5cb1826ebceac7f6a638c33412a7d1b736809d0b0d59" dmcf-pid="f1dbDBrNHa" dmcf-ptype="general">가장 큰 단일 투자금인 3700만달러를 유치한 미국 인코드는 은행 등에 신원 확인 기술을 제공한다. 신분증과 이용자의 얼굴을 대조하고, 카메라 앞에 실제 사람이 있는지와 접속 기기·행동에 의심스러운 점은 없는지 함께 확인한다. 사진이나 합성한 얼굴로 다른 사람을 사칭해 본인 인증을 통과하려는 시도를 걸러내는 것이다. 회사에 따르면 미국 10대 은행 중 8곳이 이 서비스를 이용한다. 신용 정보 회사 엑스페리언도 인코드의 기술을 자사 신원 확인 서비스에 결합해 기업 고객에게 공급하고 있다.</p> <p contents-hash="02f4976dc9e5d9bf81ad8a58edb240306ca1f55bd52bb5332ddb98bfc052c645" dmcf-pid="4tJKwbmjXg" dmcf-ptype="general"><strong>◇가짜 목소리도 잡아낸다…국내 기업도 가세</strong></p> <p contents-hash="70e749a032295d3f164e730b81382d3a9b4d46352daa79bc5716413432a7fc91" dmcf-pid="8Fi9rKsAHo" dmcf-ptype="general">전화 상담에서는 고객과 똑같이 들리는 목소리도 검증 대상이다. 미국 음성 보안 기업 핀드롭은 지난 3월 줌의 고객센터 서비스에 음성 인증과 실시간 딥페이크 탐지 기능을 연동했다. 통화 음성과 접속 기기, 행동 패턴 등을 분석해 통화자가 본인이 맞는지, AI로 만든 목소리를 쓰는지 확인한다. 금융 분석 소프트웨어 기업 피코(FICO)도 지난 5월 외부 데이터·분석 서비스를 제공하는 자사 마켓플레이스에 핀드롭을 추가했다. 금융회사가 기존 사기 심사 절차에 통화 위험 분석 결과를 연결할 수 있도록 한 것이다.</p> <p contents-hash="a63045f7af724f8c6712ea031d798724ffdde6906caf40eea4b6667d3b3fe03a" dmcf-pid="6CKZdXiPHL" dmcf-ptype="general">국내에서는 가상 인간을 만들던 기술이 AI로 합성한 얼굴과 목소리를 찾아내는 데 쓰이고 있다. AI 아바타·영상 제작 기업 딥브레인AI는 가상 인간 개발 과정에서 축적한 기술과 데이터를 활용해 딥페이크 탐지 서비스를 내놨다. 영상·음성·이미지에서 얼굴을 바꾸거나 입 모양을 조작한 흔적을 분석하고, 의심스러운 구간을 표시한 보고서를 제공한다. 지난해 11월부터는 기업이 기존 검증·보안 프로그램에 연결해 쓸 수 있는 형태로도 공급하고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [영상]화성 위성 토양 퍼내 지구 복귀 첫 도전…일본, ‘MMX’ 탐사선 발사 10-20 다음 AI 붐에 주목받는 ‘소형 원전(SMR)’…국내 스타트업은 틈새 공급망 공략 10-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
