"지워도 되살아나는 AI 기억 막는다…'머신 언러닝' 기술 개발" 작성일 07-21 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">UNIST 개발 '스포터'…정상정보는 보호·삭제정보 복구는 방지</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="6alBtLJ6YN"> <figure class="figure_frm origin_fig" contents-hash="49e338c049d9f63d45ad06fe2cc4ab689fb36230ef3adcc50bfa18bb19f0c5c6" dmcf-pid="PNSbFoiPZa" dmcf-ptype="figure"> <p class="link_figure"><img alt="연구진 모습 왼쪽부터 UNIST 윤성환 교수, 박새롬 교수, 하승범 연구원. [울산과학기술원 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/21/yonhap/20260721110338930cfri.jpg" data-org-width="1200" dmcf-mid="8Ay2pNoM5j" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/21/yonhap/20260721110338930cfri.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 연구진 모습 왼쪽부터 UNIST 윤성환 교수, 박새롬 교수, 하승범 연구원. [울산과학기술원 제공. 재판매 및 DB 금지] </figcaption> </figure> <p contents-hash="1fb25b416937c7e36b3e7ff6f83986cd73a948a5ebefcfeffbb5001a314e6426" dmcf-pid="QRDFyQ8B1g" dmcf-ptype="general">(울산=연합뉴스) 김용태 기자 = 인공지능(AI)이 학습한 민감 개인정보나 저작권 위반 데이터를 지울 때 유사한 정상 정보는 보호하면서 삭제한 정보가 다시 복구되는 것을 막는 기술이 나왔다.</p> <p contents-hash="bb2f618f7a120557dbd0c89f104335364d53a59dc818549a6957a106260b2c93" dmcf-pid="xew3Wx6bto" dmcf-ptype="general">울산과학기술원(UNIST)은 인공지능대학원 윤성환 교수팀과 산업공학과 박새롬 교수팀이 '머신 언러닝'(Machine Unlearning) 기술인 '스포터'(Spotter)를 개발했다고 21일 밝혔다.</p> <p contents-hash="d541acce5130da2fa35e3e220af007f5a630925a71de58fd57a4a7697c3cf405" dmcf-pid="yGBaMySr1L" dmcf-ptype="general">머신 언러닝은 학습을 마친 AI에서 특정 데이터나 범주가 미친 영향만 선택적으로 없애는 기술이다. 얼굴 인식 AI에서 삭제를 요청한 사람의 얼굴 정보를 지우거나, 학습 데이터에 포함된 개인정보와 유해 콘텐츠를 제거하는 데 사용된다.</p> <p contents-hash="8220b833ef8323f384492357da74d38cf77703fb399e9cc759f0230274936c72" dmcf-pid="WHbNRWvmGn" dmcf-ptype="general">연구팀은 기존 언러닝 기술 약점인 과잉 삭제와 삭제한 정보가 다시 복구될 수 있는 재학습 취약성을 자체 실험으로 진단했다.</p> <p contents-hash="c04e4c717ca2ca6c94b3fe356abdca15440c953c2601093805add2c5bda6d086" dmcf-pid="YXKjeYTsYi" dmcf-ptype="general">기존 언러닝 기술로 AI가 특정 범주를 더 이상 인식하지 못하게 한 결과 전체 평균 정확도는 높게 유지됐지만, 삭제 대상과 닮은 정상 정보에 대한 인식 능력은 떨어지는 것으로 나타났다.</p> <p contents-hash="734cac01d0867d9f7c743385c0de84fe42eb68e0071ab31b9bf1a5be44d33b8d" dmcf-pid="GZ9AdGyOHJ" dmcf-ptype="general">또 삭제 대상 특징이 AI 안에 남아 있어 관련 사진 몇 장만 다시 보여줘도 지웠던 인식 능력이 되살아날 수 있었다.</p> <p contents-hash="6a2b4c987701de1bca8f3b3972fd526b368c04b3e450fb6a1c78d256b199e8bd" dmcf-pid="H52cJHWIXd" dmcf-ptype="general">예를 들어 '고양이'를 삭제했다면 이와 유사한 호랑이나 표범에 대한 인식 정확도가 떨어질 수 있고, 고양이를 인식하는 데 필요했던 개별 정보가 식별 가능한 군집 형태로 남아 있어 고양이 사진 몇 장만 다시 넣어주면 판별 능력을 되살릴 수 있다.</p> <p contents-hash="209625f7850880ce2b06c6e219259ced23d5fe73329f02391dcb2a89a9f1bff7" dmcf-pid="X1VkiXYCYe" dmcf-ptype="general">연구팀이 개발한 스포터는 삭제 대상과 비슷한 정상 정보를 구별하는 AI 능력은 그대로 유지하면서, 삭제 대상 정보들에서 공통점을 찾아내는 능력은 없앴다.</p> <p contents-hash="a572212d29a94179a99e76b0a256855e13b8c7ae8aa21616c4c086601610891e" dmcf-pid="Z1VkiXYCGR" dmcf-ptype="general">이를 통해 지우지 않아야 할 정보에 대한 인식 성능은 보호하고, 삭제 대상 정보의 일부만으로 인식 능력을 되살리는 공격을 막을 수 있다.</p> <p contents-hash="68aa6f427cb4a071b5a88d2f49d91cdea413d7705dae7b4ac691aeff50cf9fb4" dmcf-pid="5tfEnZGhtM" dmcf-ptype="general">소형 이미지 데이터 세트로 실험한 결과 스포터는 삭제 대상에 대한 인식 정확도를 0%로 낮췄으며, 재학습 공격 뒤에도 인식 정확도를 0.24%로 억제할 수 있었다.</p> <p contents-hash="c61171399910a06eeb2f81ce4e8fc11597bbb38fa45ac7a2ae591d94f91d04fb" dmcf-pid="1F4DL5HlHx" dmcf-ptype="general">반면 기존 언러닝 기술은 사진 5장을 이용한 재학습 공격 뒤 삭제 대상에 대한 인식 정확도가 71.10%에서 최대 99.98%까지 되살아났다.</p> <p contents-hash="044915981dc10f19bac1b45304b6815a401017222e9a8c98fdf4241ee28d1d71" dmcf-pid="t38wo1XStQ" dmcf-ptype="general">스포터는 삭제하지 않은 나머지 범주에 대한 인식 정확도를 99.96%로 유지했다.</p> <p contents-hash="4668a485a79d988b2ce9dffb5cd4317e83f1d05eb608370e15a0c12246272f60" dmcf-pid="F06rgtZvYP" dmcf-ptype="general">연구팀은 "스포터는 언러닝 기술 사각지대를 보완하기 위해 개발됐다"며 기존 언러닝 기법에 쉽게 결합할 수 있는 플러그인 형태로 설계돼 얼굴 인식과 유해 콘텐츠 삭제 등 개인정보 보호가 중요한 AI 서비스에 두루 활용할 수 있을 것"이라고 말했다.</p> <p contents-hash="7a6231068f963643a4a61bc34d89dec918370f71cbb81219a48f8bf7dcccbbcc" dmcf-pid="3pPmaF5TX6" dmcf-ptype="general">연구 결과는 지난 6∼11일 서울에서 열린 '국제머신러닝학회'(ICML·International Conference on Machine Learning)에 채택돼 발표됐다.</p> <p contents-hash="115b672c025f77629359e42729b2e011f024b698ca44156a0b3a18e46ab70072" dmcf-pid="0UQsN31yX8" dmcf-ptype="general">연구는 과학기술정보통신부 한국연구재단과 정보통신기획평가원 지원을 받았다.</p> <p contents-hash="93bb3030303e444b383eed2e71793e300527f65857827c9b8c8ddb397c9fceae" dmcf-pid="puxOj0tW14" dmcf-ptype="general">yongtae@yna.co.kr</p> <p contents-hash="d8adbd697d87a03d92eb8f61493e42e0cab6fd1b1e1ce3c82b8ca5b767489085" dmcf-pid="uzRCcU3G1V" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 한중 체육 꿈나무, 익산서 우정의 땀방울…바둑 종목 첫 도입 07-21 다음 생물올림피아드 7년 만에 전원 금메달…화학도 전원 메달 07-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
