AI 도입 다음은? ‘운영’과 ‘경제성’에 달렸다 [특별기고] 작성일 07-24 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0wCO0mwaYR"> <figure class="s_img figure_frm origin_fig" contents-hash="8390eed161df691afb4c669c969a89fdcd52968818f4ea67ead9555f61d8a46e" dmcf-pid="prhIpsrNGM" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/ned/20260724112544365rrxy.jpg" data-org-width="228" dmcf-mid="36EcHjae5e" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/ned/20260724112544365rrxy.jpg" width="228"></p> </figure> <p contents-hash="feae390c25bec17cb60836074527852f207a3c1a9b700add21902668adb4515e" dmcf-pid="UmlCUOmjXx" dmcf-ptype="general">AI는 이제 실험 단계를 넘어 기업 운영의 핵심 단계에 진입하고 있다. AI의 경쟁력은 더 이상 모델 선택에서 갈리지 않는다. 이제 경쟁력은 AI를 어떤 운영 구조 위에서, 어떤 비용 구조로, 어떤 통제 체계 안에서 실행하느냐에 따라 좌우된다. AI를 단순한 검색·요약 도구로 활용하는 수준에 머무르는 기업과 실제 업무 흐름 안에 AI를 연결해 실행 단위까지 확장하는 기업 사이의 격차는 빠르게 벌어질 수 있다.</p> <p contents-hash="eedcf54264701ce29144817a8805d5f835e2259142237c94e12243ab71617337" dmcf-pid="usShuIsAGQ" dmcf-ptype="general">AI를 사용하는 기업 환경에서 최근 두드러진 패턴은 크게 세 가지다. 첫째는 토큰(token) 비용의 급등, 둘째는 불균등한 AI 생산성, 셋째는 AI 투자와 운영 모델의 상관 관계이다. AI의 성능 자체보다 경제성 측면을 살펴봐야 하는 시대가 도래하고 있다.</p> <p contents-hash="8f1bd7410bab80988e7892d0adca4d5cfd864d4acc1ded1ecabb0e0ebea5fe82" dmcf-pid="7Ovl7COc5P" dmcf-ptype="general">AI 모델의 단위 비용은 빠르게 낮아지고 있지만, 기업들의 토큰(Token) 사용량은 훨씬 더 빠른 속도로 증가하고 있다. 과거에는 설비나 인력 규모가 비용 구조를 결정했다면 앞으로는 AI가 수행하는 추론과 의사결정의 양, 즉 토큰 소비가 새로운 비용 구조를 형성하게 된다. AI는 더 이상 단순한 IT 투자 항목이 아니라 기업의 손익계산서에 직접 영향을 미치는 변수로 자리 잡고 있는 것이다.</p> <p contents-hash="9645239471026215d7411351b042e0edabf1e9468e032c52e05265d032d40fe2" dmcf-pid="zITSzhIkG6" dmcf-ptype="general">AI 생산성은 모든 직원에게 동일하게 나타나지 않는다. 실제 현장에서는 소수의 ‘슈퍼 유저(Super User)’가 대부분의 성과를 만들어낸다. 이들은 AI를 검색 도구가 아니라 함께 일하는 디지털 동료처럼 활용하며 업무 방식을 근본적으로 바꾸고 있다. 중요한 것은 소수 ‘슈퍼 유저’들의 역량을 조직의 표준으로 전환하는 일이다. 교육, 권한, 데이터 접근, 업무 재설계가 함께 뒤따르지 않으면 AI는 일부 인재의 도구에 머물 수밖에 없다.</p> <p contents-hash="4be9a3aef550a6495810225a61d34b235e7144b8332ad918a499316d26eebcb9" dmcf-pid="qCyvqlCE58" dmcf-ptype="general">결국 기업 스스로 AI-네이티브에 가까워지려는 노력이 필요하며, 이를 위해서는 운영 기반부터 재설계해야 한다. 첫째는 데이터다. 데이터가 흩어져 있으면 AI의 성능도 제한된다. 데이터를 AI로 옮기는 것이 아니라 AI를 데이터가 있는 곳으로 이동시키는 원칙이 중요하다.</p> <p contents-hash="00b8531778ac6431973add614d77440a5e714b6ed21d14dcdf022eaf36e6b6c3" dmcf-pid="BhWTBShDY4" dmcf-ptype="general">둘째는 인프라 혁신이다. 추론 중심의 AI 워크로드는 기존 데이터센터보다 훨씬 높은 연산 성능을 요구한다. 반면 모든 데이터를 퍼블릭 클라우드로 이전하는 방식은 비용과 보안 측면에서 한계가 있다. 따라서 온프레미스와 엣지, 퍼블릭 클라우드를 조합하는 하이브리드 전략이 점점 중요해지고 있다. 중요한 것은 AI가 어디에서 실행되느냐가 아니라 어떤 업무를 어디에서 수행하는 것이 가장 경제적인지 판단하는 것이다.</p> <p contents-hash="91ae59d3828299784b0cd85c5b7d5005db8c6ec4e07c56649bf5695282c7744e" dmcf-pid="b3zudp3G5f" dmcf-ptype="general">셋째는 거버넌스와 보안이다. AI 에이전트가 CRM과 ERP 같은 핵심 시스템에 접근하는 시대에는 모든 행동이 기록되고 추적되며 필요하면 되돌릴 수 있어야 한다. AI 역시 직원과 동일한 수준의 책임성과 감사 체계를 갖춰야 한다.</p> <p contents-hash="7774973a657429f30a3440bc1940a01ab57a7dc8386bca3d781ff9d507436675" dmcf-pid="K0q7JU0HHV" dmcf-ptype="general">앞으로 기업들은 AI의 성능만이 아니라, AI가 업무를 수행하는 과정에서 얼마나 많은 토큰을 소비하고 그 비용이 어떤 성과로 이어지는지까지 관리해야 한다. 이러한 비용 구조는 ‘토크노믹스(Tokenomics)’라고 불린다. AI 경쟁은 더 이상 누가 더 뛰어난 모델을 사용하는가의 경쟁이 아니다. 데이터를 어떻게 관리하고, AI를 어떤 인프라에서 운영하며, 토크노믹스를 어떻게 최적화할 것인지가 기업 경쟁력을 결정하게 된다.</p> <p contents-hash="c776517fb023a03d047f9c0f1eabe374523be77af23f5c1a849f39c6628af048" dmcf-pid="9pBziupXZ2" dmcf-ptype="general">AI 네이티브 기업으로의 전환은 선택이 아니라 경쟁력의 핵심이 되고 있다. 중요한 것은 가장 앞선 모델을 쓰는 일이 아니라, AI를 가장 경제적이고 책임 있게 운영하는 구조를 만드는 일이다.</p> <p contents-hash="0a3019fcc0be9a93af8da0227efb38db5c2ec9a5d4bf3068d2c09c9fe11c77ee" dmcf-pid="2Ubqn7UZG9" dmcf-ptype="general">유상모 <span>한국 델 테크놀로지스 사장</span></p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 [단독] 엔비디아, 미 해군 AI 장교 육성한다…젠슨 황, 슈퍼컴 기증 07-24 다음 사격 김재민, 세계선수권 주니어 10m 무빙타깃 동메달 07-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.