KT, AI 500개 한곳에…비용 최대 25% 절감 작성일 10-27 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BZyOvurNRM"> <div contents-hash="5eefd5696feefdfedb7abf1068b3fd71096bfbeb43645ea73b9bb3eb65002661" dmcf-pid="b5WIT7mjMx" dmcf-ptype="general"> "AI도 이제 잘 만드는 경쟁에서 잘 쓰는 경쟁으로 이동하고 있습니다. 좋은 AI를 만드는 기술 경쟁은 계속되지만 AI 경쟁력의 기준이 성능에서 성과로 확장되고 있는 겁니다." </div> <figure class="figure_frm origin_fig" contents-hash="48feeb0840e5573cfc58319da354c72b0e03f55fc0132e12b021b6032793b7cf" data-idxno="455640" data-type="photo" dmcf-pid="K1YCyzsAJQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="이진형 KT AX사업본부장이 27일 서울 종로구 광화문 웨스트빌딩에서 인공지능(AI) 플랫폼 KT 토큰팩토리를 소개하고 있다. / 김광연 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/552810-SDi8XcZ/20261027133721958ujao.jpg" data-org-width="600" dmcf-mid="qwPK8jqFMR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/552810-SDi8XcZ/20261027133721958ujao.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이진형 KT AX사업본부장이 27일 서울 종로구 광화문 웨스트빌딩에서 인공지능(AI) 플랫폼 KT 토큰팩토리를 소개하고 있다. / 김광연 기자 </figcaption> </figure> <p contents-hash="3a5f2ef54a2834ea7cc7807227c46cda1f48b1b881bb74907de6da29625c1791" dmcf-pid="9tGhWqOcMP" dmcf-ptype="general">박상원 KT AX사업부문장 전무는 27일 인공지능(AI) 모델 선택부터 비용 관리, 신뢰·안전 기능까지 하나의 플랫폼에서 제공하는 'KT 토큰팩토리'를 출시한 배경을 이같이 설명했다.</p> <p contents-hash="4f4f0d0ec8d6bf3d6bea3172e5a12af8a872065cbd1373e2dbdb8e421c2c0e2e" dmcf-pid="2FHlYBIkR6" dmcf-ptype="general">KT 토큰팩토리는 국내외 AI 모델 500개 이상을 통합 제공하는 플랫폼이다. 이용자는 여러 AI 모델을 선택해 사용할 수 있으며 가입부터 사용량 확인, 비용 관리, 결제까지 한곳에서 처리할 수 있다. KT는 자체 개발한 추론 모델과 글로벌 AI 모델을 연계해 국내 최대 규모의 AI 플랫폼을 구축했다고 설명했다.</p> <p contents-hash="a7add1d79a2e1f493c7c7142181c5d346590d55247bb3e0979735eabe0ece109" dmcf-pid="V3XSGbCEn8" dmcf-ptype="general">KT가 토큰팩토리를 출시한 것은 AI 모델이 다양해지고 사용량에 따라 비용을 지불하는 방식이 확산하고 있기 때문이다. 기업들이 하나의 AI 모델만 사용하기보다 업무 목적과 비용에 맞춰 여러 모델을 활용할 필요성이 커졌다는 판단이다. KT는 우선 기업 간 거래(B2B) 시장을 대상으로 서비스를 시작하고 내년 3월부터 개인 개발자 등으로 이용 대상을 확대할 계획이다.</p> <p contents-hash="e25bc5d0c958d9e0d991d441e38b1cdf497409d0c4a74d981ec5c256f686496b" dmcf-pid="f0ZvHKhDe4" dmcf-ptype="general">토큰은 AI가 이용자의 질문이나 문서, 코드 등을 처리하고 답변을 생성할 때 사용하는 기본 단위다. 금융권에서 사용하는 디지털 자산과는 다른 개념이다. 통신 서비스가 통화 시간과 데이터 사용량을 기준으로 요금을 부과하듯 AI 서비스는 입력하고 출력한 토큰 수를 기준으로 이용 요금을 산정한다. AI 모델 활용이 늘면서 글로벌 AI 토큰 소비량도 최근 1년간 약 35배 증가한 것으로 조사됐다.</p> <p contents-hash="ebf3a1dd09336b2ca99b8be67f0d420709373fd87f327de391957ca65d87a044" dmcf-pid="4p5TX9lwLf" dmcf-ptype="general">KT는 토큰팩토리에 자체 개발한 '오토 모델 라우터(Auto Model Router)' 기술을 적용했다. 이용자의 질문이나 업무 유형, 난이도, 요구 품질, 비용 등을 분석해 적합한 AI 모델을 자동으로 선택하는 기술이다. 고객이 사전에 허용한 모델 범위도 고려한다. KT는 이 기술과 프롬프트 압축 기능을 통해 AI 이용에 필요한 토큰 사용량과 비용을 최대 25% 절감할 수 있다고 설명했다.</p> <p contents-hash="4fa4e3e2245fa6dbb80f254a53a811e02f20cdd15c1fcfb972a7293d91d67396" dmcf-pid="8U1yZ2SrJV" dmcf-ptype="general">이진형 KT AX사업본부장은 이날 서울 종로구 광화문 웨스트빌딩에서 열린 기자간담회에서 "비용 절감은 크게 두 가지 방식으로 이뤄진다"며 "프롬프트에서 불필요한 내용을 제거해 입력 토큰 수를 줄이는 방식으로 약 20%를 절감할 수 있다"고 설명했다.</p> <p contents-hash="f2cc6e2d3c56b7d9163363d8f2d0eb99397a3c5526a3649de270541d64dedad6" dmcf-pid="6utW5Vvme2" dmcf-ptype="general">이어 "나머지 5%는 모델 라우팅을 통해 절감한다"며 "주어진 문제를 처리할 수 있는 모델 가운데 가장 저렴한 모델을 선택해 이용 비용을 낮추는 방식이다"라고 말했다.</p> <p contents-hash="3bbd913c351998678306c592abeeb6d9e30a1323e1d4d9dd4de0126cbf8ba124" dmcf-pid="PskLAyJ6i9" dmcf-ptype="general">KT는 토큰팩토리를 통해 AI 모델 이용과 비용 관리 수요를 확보한다는 계획이다. 이 본부장은 향후 매출 전망에 관해 "내년 전체 토큰 시장 규모가 215조원에 이를 것으로 예상한다"며 "현재 단계에서 정확한 기대 매출을 제시하기는 어렵고 2028년 매출을 추정할 수 있을 것"이라고 말했다.</p> <p contents-hash="4d0a5d192095bf01bb3321fcc5f5e6b06bea9509422ef4b0935f2429a1de82b7" dmcf-pid="QOEocWiPLK" dmcf-ptype="general">공공과 금융 분야로 사업을 확대하겠다는 계획도 밝혔다. 이 본부장은 "디지털 혁신 금융을 통해 금융권에 서비스를 공급할 수 있다"며 "공공 부문은 각종 규제와 가이드라인에 맞춰 사업을 추진할 방침"이라고 말했다.</p> <p contents-hash="be5817e6ab37c522cff7cd3e4774385253c8cba01e2a5f2969937bcfce840c4d" dmcf-pid="xIDgkYnQdb" dmcf-ptype="general">김광연 기자<br>fun3503@chosunbiz.com</p> </section> </div> <p class="" data-translation="true">Copyright © IT조선. 무단전재 및 재배포 금지.</p> 관련자료 이전 KT “AI 중개 수수료가 주력 아니다… 직접 토큰 생산해 수익 낼 것” 10-27 다음 래블업, 내달 3일 코스닥 입성…AI 인프라 운영 SW 사업 확대 10-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
