업무 현장에 투입된 'AI 일개미들'…보안 담당자 골칫거리 된 이유 작성일 07-15 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[인게이지26] 에이전틱 위험 관리할 통합 플랫폼 필수</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zx7d78V7lk"> <figure class="figure_frm origin_fig" contents-hash="9c3e48c1cedd0f366d4cae79631a29b5c6d4675f85604a836c744599876fa45b" dmcf-pid="qKZfZzUZlc" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/15/552796-pzfp7fF/20260715060041755ksds.jpg" data-org-width="640" dmcf-mid="7uAYACsAhE" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/15/552796-pzfp7fF/20260715060041755ksds.jpg" width="658"></p> </figure> <p contents-hash="da879e8704ec8b452643eabc60dea5c580f8ea922dbe8ceda53f845dfa60c815" dmcf-pid="B9545qu5vA" dmcf-ptype="general">[싱가포르=디지털데일리 김보민기자] 기업 내부에서 인공지능(AI) 에이전트가 직원처럼 일하게 되면서, 보안 담당자들 사이 새로운 우려가 번지기 시작했다. 오로지 명령에 따라 임무를 수행하는 AI 에이전트들이 자칫 예기치 못한 위협을 가져올 가능성이 커진 탓이다. 물리적으로 근무지가 정해져 있는 인간 직원과 달리, 일명 'AI 일개미들'은 통제와 관리 범위를 벗어나는 경우도 다반사다.</p> <p contents-hash="3ea2439e555819a52233988d9e7c36d96e473f972e8bdbe55fb888f168848a8f" dmcf-pid="b2181B71Tj" dmcf-ptype="general">글로벌 보안 기업 체크포인트소프트웨어테크놀로지스는 기업이 '에이전틱 위험(Agentic Risk)' 시대를 맞이했다고 평가했다. 아담 엘리 체크포인트 AI보안 총괄은 14일(현지시간) 싱가포르 마리나베이샌즈 컨벤션센터에서 취재진을 만나 "이제 기업들은 인간이 수행하던 업무를 AI 에이전트가 대신하도록 이들을 속속 배치하고 있다"며 "정보보호최고책임자(CISO)들은 현재 위험 관리 방식을 재고해야 하는 시대를 직면했다"고 밝혔다.</p> <p contents-hash="f2f0fdc13b3d25ae90758d0c36150cb7cb749c614f99ffe237948ca0b473bb8f" dmcf-pid="KVt6tbztyN" dmcf-ptype="general">대다수 기업이 AI 에이전트를 도입해 업무를 고도화했지만, 동시에 보안 위험도 떠안았다는 취지다. 엘리 총괄은 "에이전트는 옳고 그름을 모르고 양심도 없다"며 "오직 달성해야 할 과제만 있을 뿐"이라고 말했다. 그러면서 "더욱 심각한 것은 기업에 배포된 일부 에이전트들이 막대한 권한을 부여받거나 마치 인간 중 한 명인 것처럼 행동한다는 점"이라며 "인간은 (특정 행동을 통해) 해를 끼치면 안 된다는 것을 알지만 로봇은 그런 제약을 스스로 인지하지 못한다"고 강조했다.</p> <p contents-hash="3880339ba90e488bb04c4f881a7eeb095b021645251335ee6f540b54d70dbca0" dmcf-pid="9fFPFKqFla" dmcf-ptype="general">자율성 측면에서도 인간과 AI 에이전트의 차이점을 알아야 한다고 제언했다. 엘리 총괄은 "오늘날 많은 기업은 직원들에게 자율성을 부여하지만, 에이전트에게는 한 번에 여러 개의 업무가 주어진다"며 "그 어느 때보다 초연결된 환경에서 에이전트는 인간보다 빠르게 작업을 완료하지만 우리는 그 속도에 맞춰 빠르게 대응할 수조차 없는 실정"이라고 전했다.</p> <p contents-hash="0b595e314fd0814824e2841f1dab2cd2bb60b4ccc58271c3b3ae061e38dc2e70" dmcf-pid="243Q39B3Sg" dmcf-ptype="general">그 예시로 전사 차원에서 AI 에이전트 약 5만개를 운영 중인 한 회사를 언급했다. 엘리 총괄은 "이 기업은 3명의 사람이 하던 업무를 에이전트가 엔드투엔드(end-to-end)로 처리하기를 원했다"며 "누군가 작업을 끝내고 다른 사람에게 넘기는 대신, 에이전트가 알아서 끝까지 업무를 완료하게 한 것"이라고 말했다. 그러면서 "결과적으로 해당 에이전트들은 엄청난 접근 권한을 갖게 됐고 많은 결정을 직접 내릴 수 있었다"며 "인간을 뛰어넘는 권한과 결정권을 가진 일종의 '슈퍼 에이전트'가 탄생할 수 있다는 의미"라고 지적했다.</p> <p contents-hash="2f137b9c9af0562444010c4c6ada558ce1e67832160766e2127fc56a37b4d606" dmcf-pid="V80x02b0vo" dmcf-ptype="general">엘리 총괄은 에이전트 활용에 필요한 모든 요소의 '위치'를 통합 관리할 플랫폼이 필요하다고 제언했다. 그는 "AI 에이전트는 직원 노트북, 자체 데이터센터, 클라우드 서비스, 심지어 서비스형소프트웨어(SaaS) 플랫폼에 호스팅돼 실행된다"며 "더 많은 기업들이 '대체 이를 어떻게 통제할지' 묻게 될 것"이라고 전망했다. 이어 "서로 다른 곳에 위치한 에이전트들끼리 대화하는 단계에 도달한다면 문제는 더욱 심각해질 것"이라며 "에이전트 실행 위치, 데이터 저장 위치, 작업 완료 위치를 통합하는 것이 중요하다"고 강조했다.</p> <p contents-hash="5c0ee2151ae249ee904c3ee43d70769a7c4be34d22a94993dc2c9aedc80f2366" dmcf-pid="f80x02b0WL" dmcf-ptype="general">체크포인트는 이러한 현장 고민을 해결하기 위해 지난 3월 'AI 디펜스 플레인(AI Defense Plane)'을 발표했다. AI 디펜스 플레인은 대규모 에이전트 기반 기업 보안을 강화하기 위한 플랫폼으로, 에이전트 활용에 대한 가시성을 확보하는 데 특화돼 있다. 아울러 기업 전반에 내장된 AI 애플리케이션과 에이전트를 보호하고, AI 레드팀 기반 복원력을 강화하도록 지원한다.</p> <p contents-hash="3a7ca79bc5b7fd1bb4ba7dd9908cc882f9fc73bbc09f1334350a8a4a89e91dd3" dmcf-pid="46pMpVKpyn" dmcf-ptype="general">그 일환으로 지난해 인수한 라케라의 '간달프(Gandalf)'도 고도화하고 있다. 간달프는 AI 보안에 특화된 교육용 게임이다. 엘리 총괄은 "수백만 명의 참가자가 간달프를 통해 AI 보안 통제를 무력화하려는 시도가 무엇인지 보여주고 있다"며 "창의적인 참가자들은 이제 AI를 활용해 AI 보안을 무너뜨릴 수 있는지 실험해보고 있다"고 말했다.</p> <p contents-hash="2dcc5ea5f968f7eff02c18d521b75449ca38f9fbea7d557df10c851021dbd127" dmcf-pid="8PURUf9Uli" dmcf-ptype="general">엘리 총괄은 에이전트 시대에 맞춰 런타임(Runtime) 보안이 더욱 중요해질 것이라며, 해당 영역에 대한 지원을 강화하겠다고 예고했다. 그는 "이제 기업들은 스스로 업무를 수행하고 웹사이트와 다른 애플리케이션에 연결할 수 있는 도구를 활용하고 있다"며 "고객이 자체적인 에이전트를 안전하게 구축하고 운영하도록 도울 것"이라고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 일상 훔쳐보고 빙글빙글 돌고…AI 해킹으로 뚫리는 홈캠 07-15 다음 SKT, AI-RAN 선도망 구축 사업 착수…피지컬 AI 서비스 실증 07-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
