"지웠는데 다시 살아나는 AI 기억 막는다"…UNIST, 'AI 기억 지우개' 기술 개발[과학을읽다] 작성일 07-21 63 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">삭제 정보 재학습 공격에도 인식 정확도 0.24%…개인정보 보호 활용 기대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WcVLJdMVk8"> <p contents-hash="de22ee9c3c40a65886542e4a2b013a653648e76ea450b460ba9a3929b3d25b8f" dmcf-pid="YkfoiJRfc4" dmcf-ptype="general">인공지능(AI)이 학습한 개인정보나 저작권 침해 데이터를 삭제한 뒤에도 사진 몇 장만 다시 입력하면 기억을 되살리는 문제를 막는 'AI 기억 지우개' 기술이 국내 연구진에 의해 개발됐다.</p> <div contents-hash="5c9255f95777c6f2c52804892d3170c28de585d31d2b6c3e550465acec9e50df" dmcf-pid="GE4gnie4Nf" dmcf-ptype="general"> <p>울산과학기술원(UNIST)은 윤성환 인공지능대학원 교수팀과 박새롬 산업공학과 교수팀이 삭제한 정보를 다시 학습시키는 공격까지 차단하는 머신 언러닝(Machine Unlearning) 기술 '스포터(Spotter)'를 개발했다고 21일 밝혔다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="2ede4dfefca551ca944319bdce41eb8b2a140d16a679252cd3ceb458c2459dbe" dmcf-pid="HD8aLnd8gV" dmcf-ptype="figure"> <p class="link_figure"><img alt="얼굴 인식 모델에서 재학습 공격(Prototypical Relearning Attack)의 영향 비교. 연구진 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/21/akn/20260721080242294aswl.jpg" data-org-width="597" dmcf-mid="QvNImrEojQ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/21/akn/20260721080242294aswl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 얼굴 인식 모델에서 재학습 공격(Prototypical Relearning Attack)의 영향 비교. 연구진 제공 </figcaption> </figure> <p contents-hash="98a14a7e02f63a975c6d51851c263af9e5350ca5b3e60e9a595ed5adf80781fe" dmcf-pid="XR3429B3g2" dmcf-ptype="general">머신 언러닝은 학습을 마친 AI에서 특정 데이터가 미친 영향만 선택적으로 제거하는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보나 개인정보, 유해 콘텐츠 등을 지우는 데 활용된다.</p> <p contents-hash="d41b8cc1710a441f543852899ef11914e10701b0bf21d62434fb5f47673f45c6" dmcf-pid="Ze08V2b0c9" dmcf-ptype="general"><strong><strong><strong>삭제 정보 되살리는 '재학습 공격' 차단</strong></strong></strong></p> <p contents-hash="cec91ec21f8e845d7b30fa2fe9e5e307e33ce0369eb5ff0dc4a0c51a585d8edc" dmcf-pid="5dp6fVKpkK" dmcf-ptype="general">기존 언러닝 기술은 삭제 대상과 비슷한 정상 정보까지 함께 인식하지 못하는 '과잉 삭제'가 발생하거나, 삭제 대상 사진 몇 장만 다시 입력해도 AI가 지운 정보를 다시 학습하는 한계가 있었다.</p> <p contents-hash="c7d85dfaac3ca429112070840cc5565bacfb2aa6f23cb8571bd55a8627bf8eca" dmcf-pid="1JUP4f9Ugb" dmcf-ptype="general">연구팀이 개발한 스포터는 삭제 대상과 유사한 정상 정보의 인식 성능은 유지하면서도 AI가 삭제 대상을 인식하는 핵심 기준만 선택적으로 제거하는 방식이다. 이를 통해 삭제한 정보를 다시 학습시키는 재학습 공격을 효과적으로 차단할 수 있다.</p> <p contents-hash="0a5e357ffa3c0a00c6e4cbf4cb0f74648839f462dadd06c2770c379c8d9f2b6a" dmcf-pid="tiuQ842uaB" dmcf-ptype="general">실제 자동차·고양이·비행기 등 10개 범주의 이미지를 담은 대표적인 AI 학습용 데이터셋인 'CIFAR-10'으로 실험한 결과, 스포터는 삭제 대상의 인식 정확도를 0%로 낮췄고, 삭제 대상 사진 5장을 이용한 재학습 공격 이후에도 인식 정확도를 0.24% 수준으로 억제했다. 반면 기존 언러닝 기술은 같은 조건에서 삭제 대상 인식 정확도가 최대 99.98%까지 회복됐다. 삭제하지 않은 다른 범주의 인식 정확도는 99.96%를 유지했다.</p> <div contents-hash="f060c4374a2444317646a1ed1f72b35808cc9aab322b90ede4e4453b629de6d7" dmcf-pid="Fn7x68V7jq" dmcf-ptype="general"> <p>연구팀은 대규모 이미지 데이터셋인 '타이니이미지넷(Tiny ImageNet)'과 얼굴 인식 데이터셋인 '카시아 웹페이스(CASIA-WebFace)'에서도 유사한 성능을 확인했다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="e9b818b89d2d6a59fd63ae535755e0f926807571c22d3f36ed7d660460970616" dmcf-pid="3LzMP6fzcz" dmcf-ptype="figure"> <p class="link_figure"><img alt="연구진 사진. (좌측부터)윤성환 교수, 박새롬 교수, 하승범 연구원. UNIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/21/akn/20260721080243576amlz.jpg" data-org-width="745" dmcf-mid="y7CtZXYCo6" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/21/akn/20260721080243576amlz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 연구진 사진. (좌측부터)윤성환 교수, 박새롬 교수, 하승범 연구원. UNIST 제공 </figcaption> </figure> <p contents-hash="70e8f8f5435de7be98892d803664da0eb87e4124e5f1f82a84dc94ca4febe88f" dmcf-pid="0oqRQP4qj7" dmcf-ptype="general">연구팀은 이 기술이 얼굴 인식 시스템의 개인정보 삭제와 유해 콘텐츠 제거 등 개인정보 보호가 중요한 AI 서비스에 폭넓게 활용될 것으로 기대했다.</p> <p contents-hash="ea9bd0738cf1f430c348061f8196617c15cc137e5e8297e588a3812504e27cf6" dmcf-pid="pgBexQ8BAu" dmcf-ptype="general">제1저자인 하승범 연구원은 "기존에는 삭제 대상과 닮은 정상 정보의 성능 저하나 삭제한 정보가 다시 살아나는 문제를 제대로 평가하지 못했다"며 "스포터는 언러닝 기술의 사각지대를 보완할 수 있는 기술"이라고 말했다.</p> <p contents-hash="04d8dd7be76969690a6bba635224871d17c40216d17e89d3aa98d75ac2fe641c" dmcf-pid="UabdMx6baU" dmcf-ptype="general">이번 연구는 AI 분야 최고 권위 국제학술대회인 국제머신러닝학회(ICML 2026) 에 채택됐다.</p> <p contents-hash="d493a79108291f628cdd642da5af1a98ffa7f03a56da1e30d6c1ea67fe377f09" dmcf-pid="uNKJRMPKkp" dmcf-ptype="general">김종화 기자 justin@asiae.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 아시아경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 '삭제한 민감정보 AI로 되살아나지 않는다'...머신 언러닝 기술 개발 07-21 다음 AI 기본법 개정안 오늘부터 시행…법제 준비 완료 07-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
