'삭제한 민감정보 AI로 되살아나지 않는다'...머신 언러닝 기술 개발 작성일 07-21 56 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="28GzUpFYc5"> <figure class="figure_frm origin_fig" contents-hash="6238786adbc2c72b829e677f9efd40f0ba6ec3955c5d6b598196e8e4d8efcb47" dmcf-pid="V6HquU3GNZ" dmcf-ptype="figure"> <p class="link_figure"><img alt="뉴시스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/21/fnnewsi/20260721080211925gvqf.jpg" data-org-width="700" dmcf-mid="9lnmDEAij1" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/21/fnnewsi/20260721080211925gvqf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 뉴시스 </figcaption> </figure> <p contents-hash="a81b60e28144b70c7004119db0f668732c1cff477c686fb5a622c38725774f27" dmcf-pid="fPXB7u0HNX" dmcf-ptype="general">[파이낸셜뉴스] 인공지능(AI)이 학습한 민감 개인정보나 저작권 위반 데이터를 지울 때 삭제 정보가 다시 살아나는 것을 막는 '기억 지우개' 기술이 새롭게 개발됐다. </p> <p contents-hash="3e5ed16dbc021d5c8c1d559e2b7d9469eb77b4dcf6637d776037dfd437573a64" dmcf-pid="4usXYWvmaH" dmcf-ptype="general">울산과학기술원(UNIST) 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀은 지워야 할 정보와 닮은 정상 정보는 보호하고, 삭제 대상 사진 몇 장만으로 인식 능력을 되살리는 공격까지 막는 '머신 언러닝 기술'인 '스포터(Spotter)'를 개발했다고 21일 밝혔다. </p> <p contents-hash="abb7414e4a3d4781af9b7f33d2354a47c3412f0e96459ea67444e96b7c0d4548" dmcf-pid="87OZGYTscG" dmcf-ptype="general">머신 언러닝(Machine Unlearning)은 학습을 마친 AI에서 특정 데이터나 범주가 미친 영향만 선택적으로 없애는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보를 지우거나, 학습 데이터에 포함된 개인정보와 유해 콘텐츠를 제거하는 데 쓸 수 있다. </p> <p contents-hash="fb7f40cbc7e3993acc54444f8be62079fad75a7703acfd7f2bb04136e9b0d56c" dmcf-pid="6zI5HGyOjY" dmcf-ptype="general">스포터는 삭제 대상과 비슷한 정상 정보를 구별하는 AI의 능력은 그대로 유지하면서, 삭제 대상 사진들에서 공통점을 찾아내는 능력은 없애는 기술이다. 덕분에 지우지 않아야 할 정보의 인식 성능을 보호하고, 공격자가 삭제 대상 사진 몇 장을 확보하더라도 지워진 인식 기준을 다시 만들기 어렵다. </p> <p contents-hash="64c1dab674430248ba8a909617d06e53c9b17235d69fd4bfee1480dd1a554fc5" dmcf-pid="PqC1XHWINW" dmcf-ptype="general">연구팀은 기존 언러닝 기술의 약점인 '과잉 삭제'와 '삭제한 정보가 다시 살아날 수 있는 재학습 취약성'을 자체 실험으로 진단해 이 같은 기술을 개발했다. 기존 언러닝 기술로 AI가 특정 범주를 더 이상 인식하지 못하도록 한 결과 전체 평균 정확도는 높게 유지됐지만 삭제 대상과 닮은 정상 정보의 인식 성능은 떨어지는 것으로 나타났다. 또 삭제 대상의 특징이 AI 안에 남아 있어, 관련 사진 몇 장만 다시 보여줘도 지웠던 인식 능력이 되살아날 수 있었다. </p> <p contents-hash="494560d24bab407eb87b9d9b89c86fc9cb57f13f63284f3908b22583cab7ca96" dmcf-pid="QBhtZXYCgy" dmcf-ptype="general">소형 이미지 데이터셋인 CIFAR-10으로 실험한 결과, 스포터는 삭제 대상의 인식 정확도를 0%로 낮췄으며 재학습 공격 뒤에도 인식 정확도를 0.24%로 억제할 수 있었다. 반면 기존 언러닝 기술은 사진 5장을 이용한 재학습 공격 뒤 삭제 대상에 대한 인식 정확도가 71.10%에서 최대 99.98%까지 되살아났다. 스포터는 삭제하지 않은 나머지 범주에 대해 인식 정확도 99.96%를 유지했다. </p> <p contents-hash="3388e096dd153e6a03f1133ed712f356ee490ed187776debd67cdaf1d2898e58" dmcf-pid="xblF5ZGhgT" dmcf-ptype="general">공동 연구팀은 "언러닝 기술의 사각지대를 보완하기 위해 개발된 스포터는 기존 언러닝 기법에 쉽게 결합할 수 있는 플러그인(plug-and-play) 형태로 설계돼 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호가 중요한 AI 서비스에 두루 활용될 수 있을 것"이라고 기대했다. </p> <p contents-hash="561c08048d663482f99ac907e94821e060fec6b417bdf030eb75037e85c09a75" dmcf-pid="yr8gnie4Av" dmcf-ptype="general">이번 연구는 인공지능 분야 세계 최고 권위의 국제학술대회인 국제머신러닝학회(International Conference on Machine Learning, ICML)에 채택됐다. 2026 ICML은 지난 7월 6일부터 11일까지 서울에서 열렸다.</p> <p contents-hash="6f6ae4cc721cbb12dfb8c9689a706368e760aa9c2b21d09bd13d95c21b61620f" dmcf-pid="Wm6aLnd8AS" dmcf-ptype="general">jiany@fnnews.com 연지안 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 LG와 유네스코가 손잡고 ‘AI 윤리 MOOC 프로젝트’ 가동 07-21 다음 "지웠는데 다시 살아나는 AI 기억 막는다"…UNIST, 'AI 기억 지우개' 기술 개발[과학을읽다] 07-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
