AI가 ‘추론’한 개인정보가 더 위험…가트너 “2029년 개인정보 침해 대부분은 AI 추론서 발생” 작성일 08-03 31 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XWFnWwrNmx"> <p contents-hash="ac3221357f4d4f256016c1ff9b41443db9d59a960949d71f929a566f5b8f824c" dmcf-pid="ZmT8mLoMmQ" dmcf-ptype="general"> [이데일리 김현아 기자] 오는 2029년까지 발생하는 개인정보 침해 사고의 대부분은 주민등록번호나 연락처 같은 개인정보(PII)가 직접 유출되는 것이 아니라, 인공지능(AI)이 데이터를 분석해 개인의 민감한 정보를 ‘추론(Inference)’하는 과정에서 발생할 것이라는 전망이 나왔다.</p> <p contents-hash="d9a6a148ac0287c9f931acb7178f449cd8854000ac3eb92d5271c8bcb96a9c51" dmcf-pid="5sy6sogRwP" dmcf-ptype="general">글로벌 시장조사업체 가트너(Gartner)는 지난달 30일(현지시간) 발표한 ‘개인정보 보호 전망: AI·감시 기술 확산에 따른 혼란 대응과 개인 보호 전략(Predicts 2025: Privacy in an AI and Surveillance World)’ 보고서를 통해 이같이 전망하며, 최고정보보호책임자(CISO)들이 기존의 데이터 보호 중심 전략에서 벗어나 AI 추론 위험까지 관리하는 개인정보 보호 체계를 구축해야 한다고 권고했다.</p> <figure class="s_img figure_frm origin_fig" contents-hash="9398dbf717ed25fafb5b40fc567907bd6bd690d8ff98b3d54e717fbe8bd5d434" dmcf-pid="1OWPOgaem6" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 ‘추론’한 개인정보가 더 위험…가트너 “2029년 개인정보 침해 대부분은 AI 추론서 발생”" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/03/Edaily/20260803091138900whmy.jpg" data-org-width="179" dmcf-mid="HwNteK9UwM" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/03/Edaily/20260803091138900whmy.jpg" width="179"></p> <figcaption class="txt_caption default_figure"> AI가 ‘추론’한 개인정보가 더 위험…가트너 “2029년 개인정보 침해 대부분은 AI 추론서 발생” </figcaption> </figure> <div contents-hash="d6d28dfc3782a1ef7308a4202660c5f290ab334259a29fcae6268f5e57647b6d" dmcf-pid="tIYQIaNdD8" dmcf-ptype="general"> 바트 빌렘센(Bart Willemsen) 가트너 수석 애널리스트는 “개인정보 침해의 양상이 ‘데이터 노출’에서 ‘인사이트 노출’로 근본적으로 전환되고 있다”며 “과거에는 원시 데이터를 보호하는 데 집중했다면, 이제 AI는 전통적인 데이터 통제를 우회하지 않고도 개인에 대한 민감한 정보를 재구성할 수 있다”고 설명했다. </div> <p contents-hash="fff9199650eb06c3882666d8032c457193a842ca6a0a859f84d4f48ff74eec2f" dmcf-pid="FCGxCNjJw4" dmcf-ptype="general">그는 “앞으로 개인정보 보호의 핵심 위험은 어떤 데이터가 유출됐느냐보다 AI가 개인에 대해 무엇을 추론해냈느냐에 달려 있다”고 강조했다.</p> <p contents-hash="e5091e535163fd4dda777f2c697e101a36aa3cda0aa1bffac2d3e67022ada225" dmcf-pid="3hHMhjAimf" dmcf-ptype="general">가트너는 최근 기업들이 규제 강화와 비용 절감을 이유로 개인정보 보관량을 줄이고 있음에도 생성형 AI와 머신러닝(ML)의 발전으로 공격자들이 익명화되거나 집계된 데이터만으로도 건강 상태, 행동 패턴, 성향 등 민감한 정보를 추론할 수 있게 됐다고 분석했다.</p> <p contents-hash="2bc105a9cd18880040cd5b68d6a049be5a851aa63ff7142ee8102f39e3005295" dmcf-pid="0lXRlAcnDV" dmcf-ptype="general">특히 추론 공격은 기존 보안 시스템으로 탐지하기 어려운 점이 가장 큰 위험으로 꼽혔다. 실제 개인정보가 유출되지 않았더라도 AI가 도출한 결론만으로 개인이 식별되거나 민감한 속성이 드러날 수 있기 때문이다.</p> <p contents-hash="ed59696a16ecb45410ffa7a56e404cde443259c031511bea4f61ee85b1ab85b3" dmcf-pid="pSZeSckLD2" dmcf-ptype="general">이에 따라 기업들의 보안 투자 방향도 변화할 것으로 전망했다. 가트너는 2028년까지 기업들의 ‘데이터 무결성(Data Integrity)’ 보호 투자 규모가 ‘데이터 기밀성(Data Confidentiality)’ 보호 투자와 같은 수준에 이를 것으로 내다봤다. AI가 생성한 부정확하거나 편향된 프로필, 무단 추론 결과가 새로운 보안 위협으로 떠오르고 있어서다.</p> <p contents-hash="f7de1c9e574881f4ab089393ee6a3cea07a67d8d0faa7873b7503178f0030d39" dmcf-pid="UtqctlSrO9" dmcf-ptype="general">가트너는 AI 시대 개인정보 보호를 위해 CISO와 개인정보 보호 책임자에게 △AI 거버넌스에 프라이버시 중심 설계(Privacy-by-Design) 내재화 △차등 프라이버시·합성데이터 등 개인정보 보호 강화 기술(PET) 도입 △데이터 최소 수집 및 수명주기 관리 강화 △추론 공격 탐지를 위한 AI 기반 보안 역량 확대 △AI 추론에 대한 인간의 최종 검증(Human-in-the-loop) 의무화 등 다섯 가지 대응 방안을 제시했다.</p> <p contents-hash="48c2486943aff3e756c6901290c4bf5012585910cf10a73e917fd2ea7a35a010" dmcf-pid="uFBkFSvmrK" dmcf-ptype="general">가트너는 “AI 시대 개인정보 보호는 데이터를 숨기는 것만으로는 충분하지 않다”며 “AI가 데이터를 통해 무엇을 추론할 수 있는지까지 통제하는 것이 새로운 개인정보 보호의 핵심 과제가 될 것”이라고 밝혔다.</p> <p contents-hash="c0e1eb6d5ce40f3ca8db3e749a864e37613b6359eb555feff3c640539182d0d3" dmcf-pid="73bE3vTsDb" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 “국장 안 들어간 내가 승자”…‘놓칠까 불안’ 포모 대신 ‘안 사서 다행’ 조모 08-03 다음 고양시, 위치 정보 제공 '생활 밀착형 기초번호판' 957개 설치 08-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
