AT&T는 아끼고 KT는 판다…'AI 토큰' 전쟁 뛰어든 통신사 작성일 08-04 24 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Zf86EBb0l0"> <figure class="figure_frm origin_fig" contents-hash="87a08b621c711fdaae51021f8f6dca69376a484f59e3d8d3f694d9e440311284" dmcf-pid="56Qxr92uy3" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/04/552796-pzfp7fF/20260804060056822ryye.jpg" data-org-width="640" dmcf-mid="XAkEZLoMhp" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/04/552796-pzfp7fF/20260804060056822ryye.jpg" width="658"></p> </figure> <p contents-hash="30fb763d7b24e3ec02037535ac3a75501be51bc6b2f6e3cda7ab30c111d3b220" dmcf-pid="1PxMm2V7CF" dmcf-ptype="general">[디지털데일리 정혜승기자] 생성형 인공지능(AI)을 많이 쓸수록 비용도 기하급수적으로 늘어난다. AI 서비스 경쟁이 치열해지면서 이제 기업들은 'AI를 얼마나 잘 쓰느냐'보다 '얼마나 효율적으로 쓰느냐'를 새로운 경쟁력으로 보기 시작했다.</p> <p contents-hash="051a5994144809a004467013543e848cd4e8c2b55b78fc7af47caca6fa8b1a7b" dmcf-pid="tQMRsVfzCt" dmcf-ptype="general">글로벌 통신사들도 같은 고민에 직면했다. 미국 AT&T는 AI 운영비를 줄이는 데 집중한 반면, KT는 이를 기업 대상 신사업으로 키우겠다는 전략을 내세웠다.</p> <p contents-hash="2ded7b3eeee36805f50f4d318f6e8ff05ef2fda593116337273ed2935419d671" dmcf-pid="FxReOf4qT1" dmcf-ptype="general">4일 정보통신기술(ICT) 업계에 따르면 미국 통신사 AT&T는 최근 생성형 AI 운영 비용을 최대 90% 절감한 사례를 공개했다.</p> <p contents-hash="215a077ce0a6364aa31b3861d325ba81bf837305af408e86c99d07b13c7650ee" dmcf-pid="3MedI48Bh5" dmcf-ptype="general">AT&T는 하루 평균 450억개의 토큰(Token)을 처리하고 있으며, 100개 이상의 생성형 AI 모델을 운영하면서 한 달에 1조개 이상의 토큰을 사용한다. 토큰은 AI가 텍스트를 처리하는 기본 단위로, 사용량이 늘어날수록 비용도 함께 증가한다.</p> <p contents-hash="ef653ae32bf06ee1fb6890fe407a74be321e284517ea7c6732a6f918db1f50be" dmcf-pid="0RdJC86byZ" dmcf-ptype="general">AT&T가 선택한 해법은 작업 성격에 따라 AI 모델을 달리 사용하는 '모델 라우팅(Model Routing)'이다. 앤디 마커스 AT&T 최고데이터·AI책임자(CDAO)는 "최신 고성능 모델이 항상 필요한 것은 아니다"라며 "단순한 업무는 저렴한 모델로도 충분한 성능을 낼 수 있다"고 설명했다.</p> <p contents-hash="4030c7e22c3b786a5114818059de0499114f64726b2dabbe13ba7be8a473c7cb" dmcf-pid="peJih6PKWX" dmcf-ptype="general">이를 위해 AT&T는 자체 'AI 게이트웨이'를 구축했다. AI 게이트웨이는 작업의 난이도와 응답 속도, 예상 비용, 품질 등을 종합적으로 분석해 가장 적합한 AI 모델로 요청을 자동 분배한다. 대화가 이어지는 과정에서도 필요에 따라 모델을 전환한다.</p> <p contents-hash="e3619d1e426a48dad3f928ddbfcc2127e092792fd80d6fef9144228335024e84" dmcf-pid="UdinlPQ9yH" dmcf-ptype="general">AT&T는 이 같은 방식으로 AI 운영 비용을 최대 90% 절감했으며, 이미 수백만달러 규모의 비용을 아낀 것으로 알려졌다.</p> <p contents-hash="c9aafa8f8cdefe42160f45c9edd91e71d4994c04a03aeee9db76e80bd9c3448a" dmcf-pid="uJnLSQx2TG" dmcf-ptype="general">이 같은 모델 라우팅은 이제 AI 업계의 새로운 흐름으로 자리 잡고 있다. 단순한 질의는 저비용 모델이 처리하고, 복잡한 추론이나 분석만 고성능 모델이 맡는 방식이다.</p> <p contents-hash="f4ecd43b7721e07159e99be651dba769ec811423fd6bb491531bc3e49bbf765a" dmcf-pid="7Ihl7DwalY" dmcf-ptype="general">미국 스타트업인 오픈라우터를 비롯해 아마존웹서비스(AWS) '베드록', 마이크로소프트 '애저 AI 파운드리' 등 주요 AI 플랫폼도 관련 기능을 강화하고 있다.</p> <p contents-hash="da9070141ca5e281acbc7e39cfcaa94ff1e2b70eb11d9e33b371ff7f92098a14" dmcf-pid="zClSzwrNWW" dmcf-ptype="general">국내 통신사 가운데선 KT가 같은 기술을 비용 절감이 아닌 사업 기회로 보고 있다.</p> <p contents-hash="840b82715a18bc9150fcae17343c1edf501886c403fa74f4c3bf57a10b16afbc" dmcf-pid="qhSvqrmjvy" dmcf-ptype="general">KT가 신성장 사업으로 추진하는 '토큰팩토리'는 기업이 챗GPT와 클로드, 제미나이 등 여러 AI 모델을 사용하는 환경에서 업무 특성에 맞는 모델을 자동으로 연결하고, 토큰 사용량 측정과 과금·정산까지 지원하는 기업간거래(B2B) 중개 플랫폼이다.</p> <p contents-hash="1073a36c7dc851d60c5664f121567997d380a755595a8b34f899c78cc9b06f66" dmcf-pid="BlvTBmsAlT" dmcf-ptype="general">작업 난이도에 따라 가장 적합한 AI 모델을 선택한다는 점에서는 AT&T와 동일하지만 접근 방식은 다르다. AT&T가 내부 AI 운영 효율을 높이는 데 활용한다면, KT는 이를 기업 고객에게 제공하는 서비스로 사업화하겠다는 전략이다.</p> <p contents-hash="6fe85a0e6b78537ed7a86b5888331cc4adee1befdf5311a2630243b8af499308" dmcf-pid="bSTybsOcvv" dmcf-ptype="general">KT는 통신사의 강점인 과금·정산 역량을 차별화 요소로 내세운다. 이동통신 요금과 결합상품, 할인 체계 등을 수십 년간 운영하며 축적한 시스템을 AI 서비스 관리 영역으로 확장한다는 구상이다. AI 데이터센터(AIDC)와 연계해 기업의 AI 운영 효율을 높일 수 있다는 점도 강조하고 있다.</p> <p contents-hash="63136d23abdc23c739a4ee7adb36f14345f46579701196d629e338c31ee05443" dmcf-pid="KvyWKOIkWS" dmcf-ptype="general">다만 시장에서는 신중한 시각도 나온다. 통신업계 한 관계자는 "토큰 사용량을 측정하고 과금하는 기술 자체는 통신사가 오랫동안 해온 영역이어서 경쟁력이 있는 것은 맞다"면서도 "기업들이 별도의 비용을 지불하면서까지 토큰 관리 서비스를 이용할지는 검증이 필요하다"고 말했다.</p> <p contents-hash="b9ff3649297dafe8e54d1eb51d579cbabe37cef5c36f19ab11d24fecbab46aef" dmcf-pid="9TWY9ICEhl" dmcf-ptype="general">이어 "기존 통신 고객을 대상으로 한 부가 서비스로는 의미가 있을 수 있지만 독립적인 사업으로 성장할지는 조금 더 지켜봐야 한다"고 덧붙였다.</p> <p contents-hash="e9277fb6e1b28b279886cd307b975988ac49e09fbd9423b0ac90f6110c0520b3" dmcf-pid="2yYG2ChDlh" dmcf-ptype="general">업계에서는 AI 활용이 확대될수록 토큰 관리 수요도 함께 늘어날 것으로 보고 있다.</p> <p contents-hash="f56a64f843d04c35204093f14eec2353279f1ed6bfcea0b72e90e98cab60aece" dmcf-pid="VWGHVhlwhC" dmcf-ptype="general">결국 통신사의 경쟁력이 네트워크를 제공하는 데 그치지 않고, 기업의 AI 사용 비용을 얼마나 효율적으로 관리하고 최적화해 줄 수 있느냐로 확대되고 있다는 분석이다. AI 시대 통신사의 역할이 '망 운영자'에서 'AI 운영 파트너'로 진화할 수 있을지 주목된다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 [PLAY IT] 1030세대 ‘콘텐츠 폰’ 될까…갤럭시 Z폴드8 써보니 08-04 다음 두 개 IP로 2조 벌었다…크래프톤, 다음 카드 5장 꺼낸다 08-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
