에이전틱 AI 시대, 기업은 무엇을 잃을 것인가?… ‘통제의 공백’ 작성일 03-24 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">보이지 않는 자동화가 만드는 ‘통제의 공백’이라는 새로운 리스크</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zyHsLrXSyc"> <figure class="figure_frm origin_fig" contents-hash="b87828968b102c4b88ce847dcebbeb85b4b632fada855df443d632e4297010f9" dmcf-pid="qWXOomZvvA" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/24/552796-pzfp7fF/20260324090214291zfth.jpg" data-org-width="640" dmcf-mid="73uYwy71Wk" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/24/552796-pzfp7fF/20260324090214291zfth.jpg" width="658"></p> </figure> <p contents-hash="c5e5c34227ba23a292c8b06e824d263dcfd0e60c86c4622e068daf475d3f91ab" dmcf-pid="BkrnVJmjvj" dmcf-ptype="general">[디지털데일리 이상일기자] AI 가 사람의 지시를 따르는 도구를 넘어, 사용자가 원하는 바를 스스로 판단해 시스템을 운영하는 ‘에이전틱 AI(Agentic AI)’ 시대로 접어들고 있다. 기업들은 이러한 기술이 가져올 생산성 혁신에 주목하지만, 그 이면에서는 ‘통제의 공백(Control Gap)’이라는 새로운 리스크가 빠르게 커지고 있다는 경고가 나온다.</p> <p contents-hash="1092ffd458d142a613bab68ffcea7424c772df1e56d879d07316d5dbaaaaf092" dmcf-pid="bEmLfisASN" dmcf-ptype="general">에이전틱 AI 는 대규모 언어모델(LLM)을 기반으로 여러 소프트웨어 도구와 워크플로우를 결합해 자율적으로 작업을 수행한다. 문제는 이러한 자동화 구조가 기존 IT 운영 방식보다 훨씬 복잡하며, 인간이 전체 흐름을 직관적으로 이해하거나 추적하기 어려운 형태로 진화하고 있다는 점이다.</p> <p contents-hash="044f17fd59513531e2e53cae63f67643d820b1b2e1ab5888100429a00827f616" dmcf-pid="KDso4nOcSa" dmcf-ptype="general">AI 가 생성한 코드가 또 다른 AI 에 의해 호출되고, 그 결과가 다시 다른 시스템의 판단 근거로 사용되는 과정에서 오류의 발생 지점 자체가 흐려지는 상황이 발생할 수 있다.</p> <p contents-hash="12c621545290974c2decc29725dca924cc035a2dac32330645be8e6a381f0cbd" dmcf-pid="9wOg8LIkhg" dmcf-ptype="general">업계에서는 “AI 는 업무를 대신하지만, 책임까지 대신하지는 않는다”는 말이 반복해서 언급된다. 기업 입장에서 AI 의 판단 오류는 단순한 기술적 버그가 아니라, 비용 초과·보안 취약점·운영 중단으로 직결되는 비즈니스 리스크다. 특히 여러 AI 에이전트가 동시에 작동하는 환경에서는 호출 충돌, 무한 루프, 모델 간 간섭과 같은 문제가 빈번하게 발생하지만, 이를 실시간으로 인지하고 제어할 수 있는 운영 체계는 아직 충분히 갖춰지지 않았다는 지적이 많다.</p> <p contents-hash="2536e89bc199af34a33ab29f0b2871f35f34e6380e035ea58fa2870f984095a2" dmcf-pid="2rIa6oCECo" dmcf-ptype="general">이러한 문제의식 속에서 기업 IT 운영 전략의 중심에는 ‘관측성(Observability)’과 ‘복원력(Resilience)’이 자리 잡고 있다. 단순히 시스템이 정상적으로 동작하는지만 확인하는 수준을 넘어, AI 가 어떤 판단을 내렸고, 그 판단이 어떤 호출과 실행으로 이어졌는지를 실시간으로 추적할 수 있어야 하기 때문이다.</p> <p contents-hash="03c8e33bb6353441a54056da56e84a43b2dd4e63130937e25883ba8cfc460282" dmcf-pid="VmCNPghDvL" dmcf-ptype="general">이러한 가시성이 확보되지 않은 상태에서 자동화가 확대될수록, 기업은 AI 가 만들어낸 결과를 사실상 블랙박스로 수용하게 된다.</p> <p contents-hash="3a903ee48de65966128e77ae73e950c820869f204defe5652db2f22f10648508" dmcf-pid="fshjQalwhn" dmcf-ptype="general">이에 따라 최근 업계에서는 AI 운영 자체를 자동화하고 통제하는 전략이 주목받고 있다. 이는 AI 의 동작을 사람이 사후적으로 분석하는 방식이 아니라, AI 가 작동하는 전 과정을 상시 관측하고, 이상 징후에 즉각 반응하는 자동화 계층을 운영 모델에 포함시키는 전략이다. IBM 의 자동화 제품들은 이러한 관점에서 에이전틱 AI 환경의 통제 공백을 메우기 위한 하나의 대표적인 접근으로 평가된다.</p> <p contents-hash="61a8d8ee37219f5027d8f1869c34b32d5d2d82343e5e4444fe47be33e2bdfc58" dmcf-pid="4OlAxNSrTi" dmcf-ptype="general">IBM 오토메이션 전략의 한 축은 실시간 운영 가시성 확보다. 이를 위해 활용되는 것이 클라우드·컨테이너·GPU 환경까지 포함한 전 구간의 애플리케이션 상태를 실시간으로 모니터링하는관측성 플랫폼 인스타나(Instana)이다. 인스타나는 AI 에이전트가 호출한 코드, API, 인프라 자원 사용 흐름을 자동으로 매핑하여, 문제 발생 시 ‘어디서 어떤 판단이 시작됐는지’를 빠르게 식별할 수 있도록 돕는다. 이는 에이전틱 AI 환경에서 가장 취약한 지점으로 꼽히는, 원인 파악의 지연을 줄이기 위한 기반으로 작동한다.</p> <p contents-hash="b3403bb9f8461320fec0035362723c1705d75117fced37a89e549a2790655303" dmcf-pid="8IScMjvmhJ" dmcf-ptype="general">여기에 더해 IBM 오토메이션 제품은 문제 발생 이후의 대응 속도와 일관성을 높이는 데 초점을 맞춘다. 복잡한 시스템 환경에서는 장애를 인지하는 것만으로는 충분하지 않기 때문이다. 이를 보완하는 접근이 IBM 콘서트(IBM Concert) 제품과 같은 자동 복원력 체계다. 콘서트는 사전에 정의된 정책과 운영 맥락을 바탕으로, 이상 상황이 감지되면 사람의 개입 없이도 조치 시나리오를 실행하는 구조를 지향한다. 이는 AI 에이전트 간 간섭이나 예기치 않은 호출 확산으로 인한 영향을 빠르게 차단하는 역할을 한다.</p> <p contents-hash="1b1395b38e26c2781f4f67110b9aaa03e6635255de2d6011ec7c6d596441ec79" dmcf-pid="6CvkRATsSd" dmcf-ptype="general">이러한 접근의 핵심은 AI 가 만들어낸 복잡성을 다시 사람의 판단에만 의존하지 않고, 운영 자동화로 흡수하려는 시도라는 점이다. 다시 말해, 에이전틱 AI 시대의 통제력은 모든 것을 이해하려는 노력이 아니라, 시스템이 스스로 상태를 인지하고 안정성을 회복할 수 있는 구조를 갖추는 데서 나온다는 관점이다.</p> <p contents-hash="476eac4a59bc49bb5c08243f7fc4a525593afa0d7c547bfe656b372b1dd586cb" dmcf-pid="PhTEecyOve" dmcf-ptype="general">전문가들은 에이전틱 AI 의 확산이 기술 문제를 넘어 조직의 책임 구조와 운영 철학까지 재정의하고 있다고 본다. 개발·운영·보안의 경계가 AI 를 중심으로 흐려지는 상황에서, 기업이 통제력을 유지하기 위해서는 “누가 무엇을 했는가”보다 “시스템이 문제를 인지하고 복구할 수 있는가”가 더 중요한 기준이 되고 있다.</p> <p contents-hash="1a74d41d664038703598e7586935a9c1e181af3e44804be53f3dc97d24ca4430" dmcf-pid="QlyDdkWICR" dmcf-ptype="general">이런 맥락에서 인스타나와 콘서트 제품들을 포함한 IBM 오토메이션 전략이 AI 시대 운영 모델의 한 방향을 보여주는 사례로 해석된다.</p> <p contents-hash="93360550b4a0b08a520d2a3372e943d24550a2b83706ddc4ee2a09c7b876843c" dmcf-pid="xDso4nOchM" dmcf-ptype="general">에이전틱 AI 는 분명 기업의 생산성을 비약적으로 끌어올리는 도구다. 그러나 그 잠재력이 커질수록, 이를 통제하지 못했을 때의 리스크 역시 함께 커진다.</p> <p contents-hash="cda73e76ba86bc73fd8187a0b4c871552f8c8bdddc189b83da41ded9c7df8aa1" dmcf-pid="yq9th52uWx" dmcf-ptype="general">업계에서는 앞으로 기업의 경쟁력이 AI 를 얼마나 빠르게 도입했는가가 아니라, AI 가 만들어내는 복잡성을 얼마나 안정적으로 관리하고 자동으로 통제할 수 있는가에 달려 있다는 전망이 점점 관심을 얻고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 백현진, 프레인TPC와 전속계약… 류승룡→오정세와 한솥밥 [공식] 03-24 다음 “암 ‘도망길’ 막고, 기능 되살린다”… 한미, 이중저해·mRNA로 항암 승부수 03-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
