통신요금 매기듯 AI 토큰 과금…KT, 500개 모델 연결한다 작성일 10-27 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">30일 기업용 토큰팩토리 서비스 출시<br>기술력으로 토큰 비용 최대 25% 절감<br>프롬프트 압축·모델 라우팅이 강점<br>내년 3월 개인 이용자로 서비스 확대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="K3UVPAB3TX"> <figure class="figure_frm origin_fig" contents-hash="e83fdd43e1109c2a2deac9c05bbf61050ad0e3528dfecfa8dc022c37e05ec382" dmcf-pid="90ufQcb0hH" dmcf-ptype="figure"> <p class="link_figure"><img alt="27일 박상원 KT AX사업부문장(전무)이 기자간담회에서 KT의 토큰팩토리 사업 전략을 소개하고 있다. KT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/mk/20261027172402878mvfe.jpg" data-org-width="700" dmcf-mid="7EtAwHoMlF" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/mk/20261027172402878mvfe.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 27일 박상원 KT AX사업부문장(전무)이 기자간담회에서 KT의 토큰팩토리 사업 전략을 소개하고 있다. KT </figcaption> </figure> <div contents-hash="9ff08703c91e8502e89374d70325b6fda9bc829ecb775abe0aef0014833f3e51" dmcf-pid="2p74xkKpTG" dmcf-ptype="general"> KT가 여러 인공지능(AI) 모델을 하나의 통로로 연결하고 사용량에 따라 요금을 매기는 ‘AI 토큰 유통’ 사업에 뛰어든다. 통신망에서 가입자와 서비스를 연결하고 사용량을 과금했던 사업 방식을 AI 시장으로 옮겨 기업이 필요한 모델을 골라 쓰고 비용과 보안까지 한곳에서 관리하도록 하겠다는 구상이다. </div> <p contents-hash="0fc38cbb356c41e8f0295ba79a4bb520d750f4e7c6631d4d406b2302c3c5be1f" dmcf-pid="VUz8ME9UvY" dmcf-ptype="general">27일 KT는 서울 종로구 KT광화문빌딩 웨스트에서 기자간담회를 열고 AI 플랫폼 ‘KT 토큰팩토리’를 공개했다. 오는 30일 기업고객을 대상으로 서비스를 시작한다.</p> <p contents-hash="5864bfb07927f5b684eda2b0fb9ccc60f43415d5b11b3b90803e108f2bf37e05" dmcf-pid="fuq6RD2uTW" dmcf-ptype="general">토큰은 AI가 질문을 이해하고 답변을 생성할 때 처리하는 데이터의 기본 단위다. 이용하는 토큰이 많을수록 AI 비용도 커진다. 최근에는 업무별로 강점을 가진 수많은 AI 모델이 쏟아지면서 기업 입장에서는 어떤 모델을 어디에 쓰고 비용을 어떻게 관리할지가 새로운 과제로 떠올랐다.</p> <p contents-hash="e5c77b0ff6461feb4ee103d74b62294a6e10a4c3732cca6ad1b951ddc0e2be4c" dmcf-pid="47BPewV7hy" dmcf-ptype="general">박상원 KT AX사업부문장(전무)은 이날 “AI를 잘 만들기 위한 경쟁에서 이제는 어떻게 하면 AI를 잘 쓰게 할 것인가의 경쟁으로 옮겨가고 있다”며 “기업에서는 수많은 데이터와 복잡한 비즈니스 로직·업무 흐름을 AI와 얼마나 잘 연결하느냐가 중요하다”고 말했다.</p> <p contents-hash="50814d937a70fb4002a18de655a6815b42970c7ba316a12553036d02631c8033" dmcf-pid="8zbQdrfzvT" dmcf-ptype="general">토큰팩토리는 이 과정을 하나의 플랫폼으로 묶는다. 기업이 AI 모델마다 별도로 계약하고 응용프로그램 인터페이스(API)를 연결할 필요 없이 하나의 API로 여러 모델을 사용할 수 있다. 모델별 사용량과 비용을 확인하고 결제까지 한 번에 처리한다.</p> <figure class="figure_frm origin_fig" contents-hash="8a2a6f58dcd2672d5a2095ce1d29c42251fa6340dd3ef3df728e022db89bf126" dmcf-pid="6gjOSpDglv" dmcf-ptype="figure"> <p class="link_figure"><img alt="KT 토큰팩토리의 최적 모델 라우팅 기술 소개 자료. KT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/mk/20261027172404198askr.jpg" data-org-width="700" dmcf-mid="zASRnO6bTt" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/mk/20261027172404198askr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> KT 토큰팩토리의 최적 모델 라우팅 기술 소개 자료. KT </figcaption> </figure> <div contents-hash="060dddbf5e40279e96d96f036c4b91cf625c561e9520f82b7f27f3bec2ff1e0e" dmcf-pid="PaAIvUwahS" dmcf-ptype="general"> 원만호 KT AX플랫폼본부장(상무)은 현장 시연에서 “하나의 API를 통해 여러 모델을 쓰면서 결제는 한 번에 할 수 있다”고 설명했다. 기업 관리자는 개발자별 API 키를 발급하고 일간·월간 사용 한도를 설정할 수 있다. 대시보드에서는 어떤 사용자가 어떤 모델을 얼마나 이용했고 토큰과 비용이 얼마나 발생했는지도 확인할 수 있다. </div> <p contents-hash="d2ab6fada9c670d7705fb34b79b04e60d87b64461ea563c57b2a55dc20ab8bf3" dmcf-pid="QNcCTurNyl" dmcf-ptype="general">KT는 다음달 중순까지 글로벌 AI 게이트웨이 업체 오픈라우터와 연동해 이용 가능한 모델을 500종 이상으로 확대할 예정이다. 오픈라우터가 확보한 글로벌 모델을 KT 플랫폼에 연결하는 방식이다.</p> <p contents-hash="281c1e5ad7121fd217c803005859bec782f8a1a3d90ebfc2e74070d7cc900022" dmcf-pid="xjkhy7mjvh" dmcf-ptype="general">KT가 여기에 자체 기술을 더한 것이 토큰팩토리의 핵심이다. ‘오토 모델 라우터’는 질문의 난이도와 요구 품질, 비용 등을 분석해 적합한 AI를 자동으로 고른다. 간단한 요약에는 상대적으로 저렴한 경량 모델을 연결하고 복잡한 분석에는 고성능 모델을 붙이는 식이다.</p> <p contents-hash="ec365eefb8f1703de0be86988a0784dcf433f1f521cfd0a0020d3f8d182deaa9" dmcf-pid="yp74xkKpCC" dmcf-ptype="general">프롬프트 압축 기술도 적용한다. KT에 따르면 프롬프트에서 불필요한 내용을 줄여 토큰 소비량을 약 20% 절감하고 모델 라우팅으로 약 5%를 추가로 줄여 전체 토큰 비용을 최대 25% 낮출 수 있다. 개인정보와 민감정보를 탐지하고 AI 답변을 점검하는 자체 가드레일도 적용한다.</p> <p contents-hash="29052a78ff4b0a338f17939f92e52abd7d41198eb426723bae417d74b6f9cb3a" dmcf-pid="WUz8ME9UvI" dmcf-ptype="general">기존 기업용 AI와 토큰팩토리의 차이는 사용 방식에 있다. 기업들이 도입하는 챗GPT 엔터프라이즈나 클로드 엔터프라이즈는 직원이 업무용 AI에 직접 질문하고 문서를 요약하거나 자료를 분석하는 기업용 업무환경에 가깝다. 기업이 직원 계정을 관리하고 보안정책을 적용해 특정 AI를 조직 전체에서 안전하게 사용하는 데 초점이 맞춰져 있다.</p> <p contents-hash="1d02b1fb35a6b8053b87ea099d9dc39ec0aac0481e3c1c803ad3d9ccd0c06f33" dmcf-pid="Yuq6RD2uWO" dmcf-ptype="general">토큰팩토리는 기업의 정보기술(IT) 조직이 여러 AI 모델을 자사 서비스에 연결하기 위한 기반에 가깝다. 가령 고객 상담에는 비용이 낮은 경량 모델을 사용하고 계약서 분석에는 고성능 모델을 붙인 뒤 다른 업무에는 한국어 특화 모델을 사용하는 식이다. 개발자는 모델별 API를 각각 관리하지 않고 토큰팩토리의 단일 API를 이용할 수 있다.</p> <p contents-hash="98c8578e2fb1aba1998bb2b577f4e8dc59ed2a27b7c5d2e233ff534c669d3e75" dmcf-pid="G7BPewV7ls" dmcf-ptype="general">따라서 기업이 챗GPT 엔터프라이즈나 클로드 엔터프라이즈를 도입하는 것과 토큰팩토리를 이용하는 것은 반드시 양자택일 관계는 아니다. 직원 생산성 향상을 위해 기업용 챗GPT를 사용하면서 외부 고객 상담 챗봇이나 사내 업무자동화 서비스에는 토큰팩토리를 통해 여러 AI를 연결하는 방식도 가능하다.</p> <figure class="figure_frm origin_fig" contents-hash="8bc79fbe85f720017273bbeace3d6439c246eb429da0891e41ac8902875bd5b4" dmcf-pid="HsCHtfTslm" dmcf-ptype="figure"> <p class="link_figure"><img alt="KT 토큰팩토리가 제공할 AI 모델 목록. KT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/mk/20261027172405464afuk.jpg" data-org-width="700" dmcf-mid="quUwItAiC1" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/mk/20261027172405464afuk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> KT 토큰팩토리가 제공할 AI 모델 목록. KT </figcaption> </figure> <div contents-hash="a03c1c50df91adcfcb099beebb0b64585d4214192fa6c8ab850eec5d02f03485" dmcf-pid="XOhXF4yOTr" dmcf-ptype="general"> KT가 우선 겨냥하는 곳도 이런 기업 간 거래(B2B)와 기업과 정부 간 거래(B2G) 시장이다. KT는 기존 AX 사업에서 기업에 AI 에이전트를 구축하고 클라우드를 전환하거나 AI가 활용할 수 있도록 데이터를 정제해 왔다. 이 과정에서 새로운 AI 모델이 나올 때마다 이를 빠르게 적용하기 어렵고 조직별로 제각각 AI를 사용하는 문제가 나타나면서 토큰팩토리를 개발하게 됐다는 설명이다. </div> <p contents-hash="a18b8f2f211b5fc6ea5b51b4015545d32ff3879b29c84b166a9e6ce870a3a6e2" dmcf-pid="ZIlZ38WIhw" dmcf-ptype="general">금융과 공공처럼 데이터 처리 위치와 보안 요구가 까다로운 시장도 주요 대상이다. KT는 일부 AI 모델을 국내 데이터센터의 GPU에서 직접 구동한다. 기업이 AI에 보내는 질문과 업무 데이터를 국내에서 처리할 수 있도록 해 해외 인프라를 거치는 것을 줄이겠다는 것이다.</p> <p contents-hash="7ada8b30b174bab64c6931737f5d19110f94a9919067f9ee2d68094d9e8a00c4" dmcf-pid="5CS506YCvD" dmcf-ptype="general">AI 모델을 API로 이용할 때는 데이터가 실제 어느 국가에서 처리되는지도 중요하다. 기업이 입력한 질문이나 문서는 AI 모델에 도달하는 과정에서 중간 서버를 거쳐 처리될 수 있다. 서버가 해외에 있다면 기업 내부 정보나 고객 관련 데이터 역시 해외 인프라를 거칠 수 있다.</p> <p contents-hash="01cd954a270836c23659c610822782927cac6f8e8d04e1ec0ffb5a5cbc813b85" dmcf-pid="1hv1pPGhWE" dmcf-ptype="general">KT와 협력하는 오픈라우터도 이런 문제 때문에 미국과 유럽에서 데이터 처리 지역을 지정하는 기능을 제공한다. 미국에서 처리하도록 설정한 요청은 미국에서 내용을 풀어 처리한 뒤 미국 내 AI 서버로만 전달한다. 유럽에서도 같은 방식으로 데이터가 유럽 안에서 처리되도록 한다. 해당 지역에서 요청을 처리할 수 없으면 다른 국가의 서버로 우회시키지 않는 셈이다.</p> <p contents-hash="02114d947aa5bf6cdc224e1ff0686ef9eb31c5b85fd8273206a9eb0b26c0a4bd" dmcf-pid="tlTtUQHlhk" dmcf-ptype="general">KT도 이와 유사하게 일부 AI 모델을 국내 인프라에서 직접 추론할 수 있도록 한다. 기업 입장에서는 AI에 입력한 정보가 어느 국가의 서버에서 처리되는지 통제할 수 있다는 점에서 보안과 데이터 관리 측면의 이점이 있다. 특히 금융·공공처럼 업무 데이터가 해외로 넘어가는 데 민감한 분야에서 활용도가 높을 것으로 예상된다.</p> <figure class="figure_frm origin_fig" contents-hash="f66cd170d243984296511bb862bc2d9e50dc19fa2101c520b378c575500aef7d" dmcf-pid="FSyFuxXSTc" dmcf-ptype="figure"> <p class="link_figure"><img alt="KT 토큰팩토리의 토큰 통합 청구 서비스 소개 자료. KT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/mk/20261027172406736jjaf.jpg" data-org-width="700" dmcf-mid="BRXubJFYC5" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/mk/20261027172406736jjaf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> KT 토큰팩토리의 토큰 통합 청구 서비스 소개 자료. KT </figcaption> </figure> <div contents-hash="0ae615702a946e73c086210c4a8bc7c6e5a80eafc9775536083f60e54a28154e" dmcf-pid="3vW37MZvhA" dmcf-ptype="general"> 다만 오픈라우터를 통해 연결되는 500개 이상 모델이 모두 국내에서 처리되는 것은 아니다. KT는 현장 질의응답에서 오픈라우터를 통해 들어오는 모델 대부분의 추론 지역은 한국이 아닐 가능성이 크다며 모델별 처리 지역 정보를 고객에게 제공하겠다고 설명했다. 국내 처리가 필요한 기업은 국내 데이터센터에서 추론을 지원하는 모델을 선택해야만 한다. </div> <p contents-hash="1430d10addd5e04d6e24c36c9e6dfe3317a7c708441b6e5d3e62512916b5f00e" dmcf-pid="0TY0zR5Tlj" dmcf-ptype="general">KT가 토큰팩토리를 통해 돈을 버는 방식도 단순한 AI 중개 수수료와는 차이가 있다. 글로벌 AI 모델 중개 사업자는 통상 5% 정도의 일정 비율을 수수료로 받는다. 그러나 KT는 자체 데이터센터 GPU에서 AI 모델을 직접 구동해 발생하는 추론 매출을 주요 수익원으로 삼겠다는 방침이다.</p> <p contents-hash="cad7948e3f1bcbb69e9fc2786dbcf384ca37fbb6dcd31d14b978f42770c866c5" dmcf-pid="piowItAiCN" dmcf-ptype="general">여기에 기업 전용회선과 프라이빗 클라우드 등 기존 B2B 상품을 결합한다. 기업의 AX 시스템을 구축할 때 데이터, 클라우드. 통신망과 토큰팩토리를 함께 공급하는 방식이다. KT가 AI 모델 유통 자체보다 기존 기업사업과의 결합에 무게를 두는 이유다.</p> <p contents-hash="b0c2902f5c144e88dcb9121e2850da1edbf00bd38ea346786ebb078156aea1cb" dmcf-pid="UngrCFcnla" dmcf-ptype="general">이진형 KT AX사업본부장(상무)은 “올해 KT는 토큰을 기반으로 과금하고 토큰 트래픽을 정산하고 라우팅하는 사업자가 되려고 한다”고 말했다. 과거 통신사가 음성통화는 분 단위로, 데이터는 바이트 단위로 사용량을 측정했던 것처럼 AI 시대에는 토큰 사용량을 측정하고 연결하는 역할을 하겠다는 설명이다.</p> <p contents-hash="2b26e346becf14fa77aed0f13e51c8161fdd9cb11d747e668df483734117640e" dmcf-pid="uLamh3kLlg" dmcf-ptype="general">요금제도 통신사업과 비슷한 구조를 일부 가져왔다. 스탠다드 요금제는 사용량에 따라 과금한다. 엔터프라이즈 요금제는 기업이 일정 사용량과 기간을 약정하면 할인하고 사용량을 월별로 정산하는 방식이다. KT는 토큰 사용내역을 세부적으로 기록해 기업이 조직과 API별 비용을 관리할 수 있도록 할 계획이다.</p> <figure class="figure_frm origin_fig" contents-hash="eda1c6b439e567dc2663d14c1a99c37d5d77c3f27c1fbe52da53c67e35fcfeca" dmcf-pid="7oNsl0Eovo" dmcf-ptype="figure"> <p class="link_figure"><img alt="27일 김준석(왼쪽부터) KT 에이전틱AI랩장(상무), 이진형 KT AX사업본부장(상무), 원만호 KT AX플랫폼본부장(상무)이 질문에 답하고 있다. KT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/mk/20261027172408018rjcr.jpg" data-org-width="700" dmcf-mid="bv098NzthZ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/mk/20261027172408018rjcr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 27일 김준석(왼쪽부터) KT 에이전틱AI랩장(상무), 이진형 KT AX사업본부장(상무), 원만호 KT AX플랫폼본부장(상무)이 질문에 답하고 있다. KT </figcaption> </figure> <div contents-hash="0f305d3b2d5b55b2d46ea1e9e5c66db3ecfa5b13a14a01d61b097138090e56e6" dmcf-pid="zgjOSpDgWL" dmcf-ptype="general"> 서비스는 단계적으로 고도화한다. 오는 12월까지 선불 크레딧 요금제를 추가하고 토큰 압축 기술과 기업용 부가관리 기능을 확대한다. 내년 3월 말부터는 개인 이용자에게 서비스를 개방하고 토큰 사용량 최적화 기능도 선보인다. 비슷한 의미의 질문이 반복될 경우 기존 처리 결과를 활용하는 ‘시멘틱 캐시’도 적용해 토큰 비용을 추가로 줄일 계획이다. </div> <p contents-hash="64de00ae1cd58e5c4918f6bd6820d8a6de9725e79a174724f84361ea72013f2c" dmcf-pid="qaAIvUwaSn" dmcf-ptype="general">성공 여부는 이미 형성된 글로벌 AI 플랫폼 시장에서 차별성을 입증하느냐에 달렸다. 토큰팩토리의 직접적인 경쟁 상대는 아마존웹서비스(AWS) 베드록과 구글 버텍스 AI·마이크로소프트(MS) 파운드리 등 멀티모델 AI 플랫폼에 가깝다. 이들 역시 여러 AI 모델을 제공하고 기업이 용도에 맞게 모델을 선택하거나 비용을 관리할 수 있도록 지원한다.</p> <p contents-hash="ca5142765f8aaf92e171a9fbdb0ef766ddde9c58af887ec7a58a6d10cfe06be6" dmcf-pid="BNcCTurNhi" dmcf-ptype="general">실제 AWS 베드록과 MS 파운드리에는 요청의 난이도와 비용 등을 고려해 AI 모델을 선택하는 모델 라우팅 기능도 이미 적용돼 있다. 결국 모델을 많이 확보했다는 사실만으로는 KT만의 경쟁력이 되기 어렵다는 의미다.</p> <p contents-hash="8c063ffa5f13524bc3e56111c097ab6a1e95bfce5a413368a431aedfc17f0106" dmcf-pid="bjkhy7mjWJ" dmcf-ptype="general">KT로서는 한국어에 최적화한 모델 라우팅과 프롬프트 압축 기술이 실제 기업의 AI 비용을 얼마나 줄일 수 있는지가 관건이다. 또한 국내 데이터센터와 전용회선, 프라이빗 클라우드 등 통신 인프라를 한꺼번에 공급할 수 있다는 점도 글로벌 클라우드 사업자와의 경쟁에서 입증해야 할 차별점이다.</p> <p contents-hash="d64358b586cc2bc804c5d219999df0b3d7f8a36b49aac9794e19f77d3e963a49" dmcf-pid="KAElWzsAyd" dmcf-ptype="general">박 전무는 “AI 시장은 이제 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 전환되고 있다”며 “토큰팩토리를 기반으로 고객의 AX를 지원할 것”이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 中 렌즈테크 "인텔과 유리기판 동맹… 韓·美 고객사에 샘플 공급" [C-터치 선전 2026] 10-27 다음 인스타그램, 90분 길이 가로형 영상 실험… 유튜브에 도전장 10-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
