"AI 에이전트 몇 개인지는 알아도 … 무엇을 하는지 모르는 CEO 많아" 작성일 10-12 27 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">보안 플랫폼 '스플렁크' … 코리 민턴 글로벌 필드 CTO 인터뷰<br>에이전트 통제 체계 아직 부족<br>자율적으로 행동할 권한 주되<br>'되돌릴수 있나, 파악할수 있나'<br>명확한 체크리스트 만들 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bqQD0bIkWH"> <figure class="figure_frm origin_fig" contents-hash="74fd431485d05d2399aa9b44a0d6137eec7555f4caed4d7c9bb9dcdc4a00db90" dmcf-pid="K9es7VSrSG" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/mk/20261012160917868liwf.jpg" data-org-width="500" dmcf-mid="BeLlKPYChX" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/mk/20261012160917868liwf.jpg" width="658"></p> </figure> <p contents-hash="eae727823a1cfb48cf538c3041addd000d9ecca8c6539c795dfc32ec45dc5f12" dmcf-pid="92dOzfvmCY" dmcf-ptype="general">"기업은 관찰할 수 없는 것을 통제할 수 없다. 오늘날 대부분의 기업은 자사 에이전트가 무엇을 하고 있는지 관찰하지 못하고 있다."</p> <p contents-hash="5563dc30865b46385a9275458dc5a9c610db346dfa2e046b42764ea42707ba53" dmcf-pid="2VJIq4TsCW" dmcf-ptype="general">코리 민턴 스플렁크 글로벌 필드 최고기술책임자(CTO)는 최근 매일경제 인터뷰에서 인공지능(AI) 에이전트 도입 경쟁의 맹점을 이렇게 짚었다. AI 에이전트가 실제 업무에 빠르게 투입되고 있지만 기업들은 어떤 에이전트가 어떤 권한으로 무엇을 하는지 제대로 파악하지 못하고 있다는 것이다.</p> <p contents-hash="ae091ce86ef762b616abe4e3aae7e92b8187ce8eb4a0b71b78ab70905597b6a6" dmcf-pid="VfiCB8yOTy" dmcf-ptype="general">스플렁크는 기업 전산망에서 쏟아지는 로그 등 '머신 데이터'를 분석해 해킹과 시스템 장애를 찾아내는 소프트웨어 기업으로 2024년 시스코에 인수됐다. </p> <p contents-hash="72a8b6508a945881a64b7ec7b46084d18e4c5619ebcc243a08f61f1b17628d07" dmcf-pid="f4nhb6WIhT" dmcf-ptype="general">지난달 14~17일(현지시간) 미국 콜로라도주 덴버에서 열린 연례 행사 '닷컨프26'에서는 AI 에이전트를 감시·통제하는 제품군을 공개했다.</p> <p contents-hash="6cbf37740ac99c5dafe36ac365d90c31158be1c163baae1ddecd1d7a0b9e67a7" dmcf-pid="48LlKPYCTv" dmcf-ptype="general">민턴 CTO는 "상당수 대기업이 이미 에이전트 시범 도입 단계를 넘어섰다"고 진단했다. 특히 보안과 정보기술(IT) 운영에서 에이전트가 실제 업무를 수행하고 있다. </p> <p contents-hash="e8f21f5e75871e2c4aebcbb95819be6e0b9d7ace8adab72738e76ddd6953de8c" dmcf-pid="86oS9QGhWS" dmcf-ptype="general">하지만 관리·통제 체계는 이를 따라가지 못하고 있다. 그는 고객 기업에 '현재 몇 개의 에이전트가 가동 중인가' '각 에이전트는 어떤 권한으로 인증받는가'라는 두 가지 질문을 던진다고 했다. 민턴 CTO는 "두 번째 질문에 답할 수 있는 리더는 극소수"라며 "이러한 격차는 성숙도의 문제가 아니라 운영 모델의 문제"라고 말했다.</p> <p contents-hash="e2e066f4865ab4e847e77b54e709b917150cf80d7e800578aa3bebdf47732aea" dmcf-pid="6Pgv2xHlyl" dmcf-ptype="general">기업들이 기존 시스템은 그대로 둔 채 에이전트를 계속 추가하는 것도 문제다. </p> <p contents-hash="2f30638b896bc3d46d0dde595a90daaadd26f1aa0d40790b782fd9f45bdbcdb1" dmcf-pid="PQaTVMXSvh" dmcf-ptype="general">시스템 간 연결 지점이 늘어나고 악의적인 명령으로 AI를 조종하는 '프롬프트 인젝션', 처음 주어진 목표에서 벗어나는 '목표 표류' 같은 새로운 위험도 생긴다.</p> <p contents-hash="ee1712ecfc67a28dab4ccba66e4a5e2fb221b620ea5b2b723eb82922fe43ab15" dmcf-pid="Qh54rSMVlC" dmcf-ptype="general">비용도 커지고 있다. 스플렁크가 옥스퍼드 이코노믹스와 글로벌 2000대 기업 임원을 조사해 발표한 보고서에 따르면 예기치 못한 시스템 중단으로 발생하는 비용은 연간 6000억달러(약 809조원)로 2년 새 50% 늘었다. 민턴 CTO는 "모든 기업 이사회에 'AI가 리스크를 가중시키는가'가 아니라 '새로운 에이전트가 도입될 때마다 기존의 무엇이 퇴출되는가'라는 질문을 되묻고 싶다"며 "대부분은 이를 대답하지 못한다"고 말했다.</p> <p contents-hash="b7f50e37fc6b79fec4b691397942110930fc436632a851ed74c6f15925c61881" dmcf-pid="xl18mvRfCI" dmcf-ptype="general">사고가 났을 때 해킹인지 AI의 오판인지 구분하기 위해서는 '기록'이 핵심이라고 강조했다. 에이전트의 신원과 받은 입력값, 호출이 허용된 도구, 실제 행동을 함께 남겨야 한다는 것이다. 그는 "사전에 기록해두지 않았다면 사후에 그 차이를 구분할 수 없다"고 말했다. 해킹이라면 잘못된 입력이나 명령이 들어온 흔적이, AI의 오판이라면 정상적인 입력을 잘못 처리한 과정이 기록에 남는다.</p> <p contents-hash="03fa5ef6753ab477c6efa9f663327f6822eaba7b46c2f9d8bcf918c1c94fa898" dmcf-pid="yF9gH0kLWO" dmcf-ptype="general">그렇다고 모든 행동을 사람이 승인할 수는 없다고 봤다. 민턴 CTO는 에이전트에 자율적으로 행동할 권한을 주는 기준으로 '되돌릴 수 있는가' '영향 범위가 제한적이고 파악돼 있는가' '사람이 같은 결정을 이미 문서화된 절차에 따라 내리고 있는가'를 제시했다. 세 조건을 모두 충족하면 에이전트가 스스로 조치할 수 있다는 것이다.</p> <p contents-hash="b92ae149e3943138b6e8aaeec0debe3241ba6b93486946366392f33505eead02" dmcf-pid="W32aXpEoWs" dmcf-ptype="general">반대로 데이터 파기나 법적·규제적 결과가 따르는 행동, 자신의 권한을 변경하는 행동은 AI가 혼자 결정해서는 안 된다고 지적했다. 민턴 CTO는 "스스로 자신의 권한을 확대할 수 있는 에이전트는 의미 있는 권한을 가졌다고 볼 수 없다"며 "자율성 자체가 성과가 아니라 그 자율성을 둘러싼 '책임'이 진정한 성과"라고 강조했다.</p> <p contents-hash="81f0aa65d5973196d968d8dff3bf54331a5f21235311e0bf65c508755f6668e3" dmcf-pid="Y0VNZUDgym" dmcf-ptype="general">[실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 "美의 전문직 '비자 장벽' … 글로벌 인재 진입 막아" 10-12 다음 "사후약방문 보안은 그만 … AX판 짤 때부터 해킹방패 심어야" 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
