과속 단속도 피하나…AI 감시카메라 속이는 '착시 패턴' 등장 작성일 08-11 14 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">3100만번 학습한 AI 패턴…차량·의류 입히자 감시 카메라 '먹통'<br>실차 테스트도 성공…의류·차량 스킨 상용화 추진</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8I3L0Qx2H5"> <figure class="figure_frm origin_fig" contents-hash="ad36bc4ed2ebc426210296723cd64097451519f67a74f8fd5d236aaf3c1e0359" dmcf-pid="6C0opxMVXZ" dmcf-ptype="figure"> <p class="link_figure"><img alt="감시 카메라의 인식을 무력화할 수 있는지 테스트하기 위해 빌 스위어링언이 개발한 착시 패턴으로 차량 전체를 덮은 2009년형 토요타 야리스.(테크크런치 홈페이지 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/11/NEWS1/20260811092643112gixa.jpg" data-org-width="687" dmcf-mid="fKxSMwrNYt" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/11/NEWS1/20260811092643112gixa.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 감시 카메라의 인식을 무력화할 수 있는지 테스트하기 위해 빌 스위어링언이 개발한 착시 패턴으로 차량 전체를 덮은 2009년형 토요타 야리스.(테크크런치 홈페이지 갈무리) </figcaption> </figure> <p contents-hash="794a22f4bd14f0708f314de69d6d555534acdfe5ac835d41b5c88d03824326f9" dmcf-pid="PhpgUMRfZX" dmcf-ptype="general">(서울=뉴스1) 신민경 기자 = 속도위반 단속 카메라가 차량 번호판을 읽지 못하고, 안면인식 시스템이 사람을 제대로 구별하지 못하도록 하는 인공지능(AI) 기반 '착시 패턴' 생성 기술이 공개됐다. </p> <p contents-hash="1c31462cc9874aaafc762952ed811d2f9bc4c77dceae7a6bb62eafd120eb3a2c" dmcf-pid="QlUauRe45H" dmcf-ptype="general">AI를 이용해 AI 영상인식 시스템의 취약점을 찾아내는 방식으로, 실제 차량을 이용한 시연까지 진행되면서 AI 영상인식 기술과 이를 우회하려는 기술 간 경쟁도 이어질 전망이다.</p> <p contents-hash="9e46630e5c4d41d25dc254ba8db750b1ee1ddf2b6f646d389ae75bbd211ad627" dmcf-pid="xSuN7ed8ZG" dmcf-ptype="general">11일(현지시간) 미국 IT 전문매체 테크크런치(TechCrunch)에 따르면 보안 연구가 빌 스위어링언(Bill Swearingen)은 최근 미국 라스베이거스에서 열린 세계 최대 사이버보안 콘퍼런스 '데프콘(Def Con)'에서 AI 영상인식 시스템의 탐지를 교란하는 프로젝트 '노리코그니션(noRecognition)'을 공개했다.</p> <h3 contents-hash="43b9dcb124708d1378a61d09ac1a4aec1110f6c8eff3ddb77745ea7902eb99ce" dmcf-pid="yqJYiICEHY" dmcf-ptype="h3">AI가 AI 취약점 학습…번호판·안면인식도 교란</h3> <p contents-hash="a185ab73904638836bf7e9fc78ff6336b346d40e6a043e3dbe94ffab57bbff35" dmcf-pid="WBiGnChDtW" dmcf-ptype="general">스위어링언이 개발한 컴퓨터 생성 패턴은 카메라 촬영 자체를 막는 기술이 아니다. 대신 AI 영상인식 알고리즘이 차량 번호판과 사람, 얼굴, 차량 등을 제대로 식별하지 못하도록 만드는 패턴을 생성한다.</p> <p contents-hash="ed2bde86e82bf98de95d658bb5915805d17f829fb22f6dfd3608e82c9cdaf67b" dmcf-pid="YbnHLhlwHy" dmcf-ptype="general">최근 AI 영상인식 기술은 과속 단속용 번호판 인식과 안면인식, 차량 탐지, 범죄 수사 등 다양한 분야에 활용되고 있다. 이번 프로젝트는 이러한 AI 모델의 인식 특성을 분석해 탐지를 어렵게 만드는 패턴을 자동 생성하는 데 초점을 맞췄다.</p> <p contents-hash="2f8d71fbc57b422d7cbb8882283c8a615e3e1245cfb3b08c8d1ff1421ebbd6fb" dmcf-pid="GKLXolSrHT" dmcf-ptype="general">핵심은 AI가 새로운 패턴을 반복 생성하고 스스로 성능을 평가하면서 점차 더 효과적인 디자인을 찾아낸다는 점이다.</p> <p contents-hash="c116443ef3bb389a0700f6306926786ef1dda2e7f27ba033e9fca0f346b3c01f" dmcf-pid="H9oZgSvmGv" dmcf-ptype="general">스위어링언은 특정 영상인식 알고리즘에 효과적인 패턴을 찾도록 자율 학습 시스템을 구축했다. 패턴이 탐지되면 새로운 형태를 다시 생성하는 과정을 반복했고, 약 3100만 회의 테스트를 거쳐 성능을 개선했다. 현재도 새로운 패턴을 지속적으로 생성하고 있다고 연구자는 설명했다.</p> <p contents-hash="dd2b720745193f1f6d75b491b997644950b2dd9f8e12f5fd5d7b1d5d4cbbce0d" dmcf-pid="X2g5avTsYS" dmcf-ptype="general">테크크런치는 이 시스템이 번호판 인식 업체 플록(Flock), 경찰 바디캠 업체 액손(Axon), 안면인식 업체 클리어뷰 AI(Clearview AI) 등 11개 오픈소스 및 상용 영상인식 모델을 대상으로 테스트됐다고 전했다.</p> <figure class="figure_frm origin_fig" contents-hash="517f0060eacdefd69b9f82c947883770923c9a2f512c0a3c3922f6afcd323a37" dmcf-pid="ZVa1NTyO5l" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 인식하지 못하는 패턴 티셔츠 사진.(테크크런치 홈페이지 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/11/NEWS1/20260811092644490kutd.jpg" data-org-width="1038" dmcf-mid="4pxSMwrN51" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/11/NEWS1/20260811092644490kutd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 인식하지 못하는 패턴 티셔츠 사진.(테크크런치 홈페이지 갈무리) </figcaption> </figure> <h3 contents-hash="096e8179e1a8c7fec1d836059a920431d0b031d129652d2dfea1855ffce57686" dmcf-pid="5fNtjyWIYh" dmcf-ptype="h3">실제 도로에서 시연…의류·차량 스킨 상용화 추진</h3> <p contents-hash="d6fcf0ab7eea391eab902c608a769814e0d0f8b0b2ed4808ea8babd4cf9df4c9" dmcf-pid="14jFAWYCGC" dmcf-ptype="general">스위어링언은 데프콘 행사에서 자동차 전문 미디어 '도넛 미디어(Donut Media)'와 함께 실제 도로 환경에서 기술을 시연했다.</p> <p contents-hash="deab21c4b9596a97d936eadb5aaa45b34aa95dd36f791a6332f304bfe96b1b9f" dmcf-pid="t14O8Acn5I" dmcf-ptype="general">2009년형 토요타 야리스 차량 전체를 해당 패턴으로 감싼 뒤 미국에서 차량 번호판 인식에 활용되는 플록(Flock) 카메라 앞을 통과시키는 방식이다. 테크크런치는 이 과정에서 시스템이 차량을 제대로 인식하지 못했다고 전했다. 다만 바퀴 부분에서는 일부 인식이 이뤄져 추가 개선이 필요한 것으로 나타났다.</p> <p contents-hash="032d9c53fde6c61f9376795fe395c0dfc003fdd1d318fdeb8ba65870a754ceb9" dmcf-pid="Ft8I6ckLGO" dmcf-ptype="general">연구자는 장기적으로는 티셔츠와 후드티, 차량 래핑 스킨 등 일반 소비자가 일상에서 사용할 수 있는 형태로 상용화하는 방안도 추진하고 있다.</p> <p contents-hash="811946ed17f671415057f3b4ef98cd36a28cd701a8902b38a1751c602b08ed2f" dmcf-pid="3F6CPkEo5s" dmcf-ptype="general">다만 가장 성능이 뛰어난 핵심 패턴은 공개하지 않고 있다. 감시 카메라 제조사나 AI 업체가 해당 패턴을 분석해 대응 기술을 개발할 가능성을 고려한 조치라는 설명이다.</p> <p contents-hash="37e8d3dd591dbe6add440a28b7fcd677a39f80427d4e355292c16f3411bb4863" dmcf-pid="03PhQEDgXm" dmcf-ptype="general">스위어링언은 "패턴 생성과 평가를 반복할수록 모델의 성능은 계속 향상되고 있다"고 밝혔다.</p> <p contents-hash="34f50db00622eb872968d32bb39f63a1633c9382c3a94563a0854f0352d01618" dmcf-pid="p0QlxDwatr" dmcf-ptype="general">smk5031@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 고환율에 주춤한 네이버웹툰…웹툰 원작 게임 키운다 08-11 다음 블리자드 '와우: 한밤 12.1 업데이트', "초보자도 숙련자도 만족할 재미와 보상 가득" 08-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
