“AI가 ‘내부자 위협’ 됐다”…MS 신원·접근 관리 부사장 “관찰 못하면 신뢰 없어” 작성일 10-19 66 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WeatGh8BYE"> <figure class="figure_frm origin_fig" contents-hash="123d3f83ea58a52d369b2de9d03ba6afa44ce6002a37538d02655b66c4e747b0" dmcf-pid="YdNFHl6bHk" dmcf-ptype="figure"> <p class="link_figure"><img alt="마이크로소프트 로고/로이터 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/19/chosun/20261019220232192iyst.jpg" data-org-width="4138" dmcf-mid="xpo5WIfz1w" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/19/chosun/20261019220232192iyst.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 마이크로소프트 로고/로이터 연합뉴스 </figcaption> </figure> <p contents-hash="8e0cf60a8eead1fbdcbd8ed58a0a2173a1ea54aca3a0b5540a92aa62eaccbcb9" dmcf-pid="GJj3XSPKYc" dmcf-ptype="general">실리콘밸리에서 지금 가장 뜨거운 화두 중 하나는 인공지능(AI)을 활용한 해킹과 보안 문제다. 목표만 정해주면 AI가 스스로 판단하고 행동하는 ‘에이전틱 AI(Agentic AI)’ 시대가 본격화하면서, AI 에이전트가 외부 시스템에 무단으로 접근하거나 해킹을 시도하는 사고가 잇따른다. 안전성이 충분히 검증될 때까지 AI 개발 속도를 늦춰야 한다는 ‘속도 조절론’이 다시 불붙은 것도 이 때문이다.</p> <p contents-hash="8e082b37300943d26b3be4e726dd6c581c6ca2f8a86fabaf0ead1e052355982f" dmcf-pid="HiA0ZvQ95A" dmcf-ptype="general">여러 기업이 AI 시대의 보안 강화를 위한 다양한 대응책을 내놓고 있다. 기업용 소프트웨어와 클라우드 시장의 강자인 마이크로소프트(MS)도 그중 하나다. 기업들이 AI 에이전트를 본격적으로 도입하는 시대에 이러한 기술은 어떻게 회사의 정보와 시스템을 지켜줄 수 있을까. 또 AI로 인한 새로운 보안 위협에 대응하기 위해 기업들은 무엇을 준비해야 할까. MS의 신원 인증과 접근 권한 관리 기술을 총괄하는 나딤 압도 MS 신원·접근 관리 부문 기업 부사장(CVP)의 이야기를 지난 15일(현지 시각) 들어봤다.</p> <p contents-hash="87ee572923c1338148c5abb080d4ac3f8a9a96daad6bdf946292c2ab1e709cc9" dmcf-pid="Xncp5Tx2Hj" dmcf-ptype="general"><strong>◇AI 에이전트의 일탈은 ‘내부자 위협’</strong></p> <p contents-hash="4e15b44a5f2bd3be41e8f183e2f924c2cd5966a7f689c9ffcb587b1adb18c9d0" dmcf-pid="ZLkU1yMVZN" dmcf-ptype="general">AI 에이전트가 업무 전반에 도입되면서 기업의 보안 위협 자체가 달라지고 있다. 과거 기업들은 주로 외부 해커가 내부 시스템에 침투하는 것을 막는 데 집중했지만, 이제는 기업이 스스로 도입한 AI 에이전트가 새로운 보안 위험이 되고 있다는 것이다. MS는 이를 새로운 ‘내부자 위협(Insider Risk)’으로 규정했다.</p> <p contents-hash="6d62bdc5b93430daeb88ccf77445c11858976f84646321778d1a8b5729380e66" dmcf-pid="5oEutWRfZa" dmcf-ptype="general">압도 부사장은 “이런 ‘내부자’는 이미 회사 내부 데이터와 시스템에 접근할 권한을 가지고 있기 때문에 (해커 같은) 외부자보다 더 위험할 수 있다”고 했다. 그는 “외부와 내부 위협은 모두 치명적이지만, 내부 AI 에이전트는 기업들이 스스로 핵심 민감 정보에 접근할 수 있다”며 “처음부터 악의적인 행동을 하려는 것이 아니라 정상적인 업무를 수행하던 AI가 외부에서 유입된 악성 명령에 영향을 받거나, 필요 이상으로 많은 권한을 부여받으면서 문제가 발생할 수도 있다”고 했다.</p> <p contents-hash="884707304bb67dd31e9e0b1dd92ac65e9e1ecc33c887dafb56439753e16c8aae" dmcf-pid="1gD7FYe4Yg" dmcf-ptype="general">이와 함께 문제가 발생하고 확산하는 데까지 속도가 빨라졌다는 점도 특징적이다. “하루 업무를 마치고 퇴근하는 사람과 달리 24시간 머신 스피드로 작동하는 AI를 통제하려면, 보안 역시 AI의 작동 속도보다 같거나 더 빠르게 실시간으로 대응해야 한다”고 했다. 위험 확산 속도가 빨라질수록 그 대응 속도도 전보다 빨라져야 한다는 것이다.</p> <figure class="figure_frm origin_fig" contents-hash="2674164e15a95cbf5a32c73e1cde123f74d92bffcae002acec8cf3704e9d0c07" dmcf-pid="tNrq0HJ6Ho" dmcf-ptype="figure"> <p class="link_figure"><img alt="나딤 압도(Nadim Abdo) 마이크로소프트 보안 및 정체성 팀 총괄 부사장/마이크로소프트" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/19/chosun/20261019220233555mlwd.jpg" data-org-width="1254" dmcf-mid="yyZdPKsA1D" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/19/chosun/20261019220233555mlwd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 나딤 압도(Nadim Abdo) 마이크로소프트 보안 및 정체성 팀 총괄 부사장/마이크로소프트 </figcaption> </figure> <p contents-hash="d569217fb46b78e2a938402b0be0a8baa56022ff23427c26f0b90103c339604f" dmcf-pid="FjmBpXiPHL" dmcf-ptype="general"><strong>◇AI에 ‘사원증’ 발급, 위험하면 권한 차단</strong></p> <p contents-hash="42ead5fb93e119a24d7449c7f11b446e2b8950ab44721785634cd2d6a5e8be41" dmcf-pid="3AsbUZnQ1n" dmcf-ptype="general">MS는 지난 5월 여러 AI 모델·에이전트가 협력해 소프트웨어 취약점을 탐지하는 ‘MDASH’, 7월 AI 에이전트가 협력해 기업의 보안 위험을 분석하는 기술을 공개하는 등 계속 보안 기능을 강화하고 있다. 18일에도 강화된 보안 시스템을 내놨다.</p> <p contents-hash="7e702786663bdfc3f13fb0059bfc7e72eef0e4e9f6863c8e60b71834fefaff89" dmcf-pid="0cOKu5LxXi" dmcf-ptype="general">핵심 기술은 ‘동적 에이전트 위험 평가’와 ‘동적 권한 관리’다. 마치 사람에게 사원증을 나눠주듯, 일하는 AI 에이전트마다 별도의 디지털 신원을 부여한다. 이를 통해 어떤 데이터에 접근하고 어떤 행동을 하는지 실시간으로 분석해 위험 수준에 따라 권한을 자동으로 조절한다.</p> <p contents-hash="1c6336acd055c2e2cb67472719d35ae80d5a0dca2ed168e63ffafefcb5161f83" dmcf-pid="pkI971oMHJ" dmcf-ptype="general">예컨대 AI가 일탈해 승인 규칙을 우회하려 하면, 보안 시스템이 이를 감지해 승인·수정 권한을 차단한다. 위험이 더 커지면 AI를 격리하거나 작동 중단시킬 수도 있다. 압도 부사장은 “AI 에이전트는 특정 업무를 하는 데 필요한 최소한의 권한만 부여받아야 한다”며 “관찰할 수 없다면, 신뢰할 수 없다”고 했다.</p> <p contents-hash="789f5a8aed5464293baae3f7e2df1f63e1297bccc6f79f2bbad5cb8c860acd3a" dmcf-pid="UEC2ztgR5d" dmcf-ptype="general">기업 내에서 사용되는 AI 에이전트들을 자동으로 찾아내는 기능도 강화했다. 직원들이 제각각 다양한 AI 에이전트와 외부 도구를 사용하다 보면 기업이 이를 파악하고 통제하기 어렵다. 이에 곧바로 찾아내 통제할 수 있는 로컬 AI를 기존 25종에서 60종으로 늘렸다. 또 다른 AI의 이상 행동을 감시하고 위험에 대응하는 ‘가디언 에이전트’도 새로 내놨다.</p> <p contents-hash="908ddb1b54d6ee6e9bb79920af5fb67cfb4db6721a92132e4631fe2ce2e04666" dmcf-pid="uDhVqFaeHe" dmcf-ptype="general">압도 부사장은 최근의 AI 속도 조절론에 대해 “AI 모델이 작동하는 환경에 독립적인 보안 통제 시스템을 갖추는 것이 더 중요하다”고 강조했다. 이어 “지능의 공급과 통제 권한을 명확히 분리해야 한다”며 “AI의 행동을 실시간으로 감시하고 격리할 수 있다면, AI 개발을 늦추지 않고도 안전하게 가속화할 수 있다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [르포] 강릉서 대구 차량 움직였다…롯데이노베이트 '원격운전·자율주행' 체험 10-19 다음 “그걸 누가 사” 했는데 359만원→450만원...“비싸다” 혹평받던 아이폰 듀오 ‘반전’ 10-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
