AI 모델 선택·활용·보안까지…KT “토큰팩토리 하나로 끝~” 작성일 10-27 47 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘AX 시대 핵심 신사업’ 출시</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KTKzsxXST7"> <figure class="figure_frm origin_fig" contents-hash="6013642558955c1ec3f5dc2a8e798c5079a5d5abb4f4eda4c1b094b061123ddc" dmcf-pid="9y9qOMZvyu" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/khan/20261027205243188yzof.jpg" data-org-width="1200" dmcf-mid="bIHyJUwaWz" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/khan/20261027205243188yzof.jpg" width="658"></p> </figure> <blockquote class="talkquote_frm" contents-hash="87e3487cffb3b7a18be03a7f62aa00647251315bad81deaa7c34cec1d94fa110" dmcf-pid="2W2BIR5TSU" dmcf-ptype="blockquote2"> 전 세계 500여종 AI 모델 연결해 <br>토큰 사용량 25% 줄여 비용 절감 <br>개인정보 포함된 질문엔 답 안 해 <br>30일 기업, 내년 3월 개인용 확대 </blockquote> <p contents-hash="53fb3294a693530736368a7da7ca7b5d3d6c2f351b967c4229ad0a77402a6e38" dmcf-pid="VYVbCe1yWp" dmcf-ptype="general">KT가 인공지능(AI) 모델 선택부터 효율적인 활용, 민감정보 보호까지 통합적으로 관리하는 플랫폼 ‘토큰팩토리’를 오는 30일 출시한다. AI가 얼마나 많은 토큰(AI 연산의 기본 단위)을 사용했는지, 그 비용이 얼마인지를 따지는 ‘토큰경제’가 중요해지자 한곳에서 전 세계 500여종 AI 모델을 연결해 사용하고 토큰도 절감할 수 있는 시스템을 내놓은 것이다.</p> <p contents-hash="29d8f06f30c3f32259bfe255f834dae7d8b169a545cfaa6ada9c282874ca5b57" dmcf-pid="fGfKhdtWW0" dmcf-ptype="general">KT는 27일 서울 종로구 광화문 West빌딩에서 기자간담회를 열고 인공지능 전환(AX)을 지원하는 핵심 플랫폼이자 새롭게 육성할 성장사업으로 AI 플랫폼 토큰팩토리를 소개했다.</p> <p contents-hash="ab6763ded04ee155d07879ded5dc18e4a5e1756b13ccf0b202f39c49e08ad525" dmcf-pid="4H49lJFYy3" dmcf-ptype="general">토큰팩토리는 AI 모델 선택, 비용 관리, 신뢰·안전 기능을 하나의 플랫폼에서 제공하는 서비스다.</p> <p contents-hash="c3059114bda90ca16b4773687c2d8e71b1b911ef387a5d7bbcaf4acd0be58040" dmcf-pid="8vb7mQHlSF" dmcf-ptype="general">기업이 어떤 AI 모델을 선택하느냐는 비용 문제로 이어진다. 하지만 시중의 수많은 AI 모델 중에서 기업이 자사에 적절한 모델이 무엇인지 찾기는 힘든 실정이다.</p> <p contents-hash="33cc5f5c3650f1370ead91ea165d3fc36e860cd6bd8d58efb84d7fc4a4fc9c78" dmcf-pid="6TKzsxXSyt" dmcf-ptype="general">KT의 토큰팩토리에선 자체 개발한 ‘오토 모델 라우터’ 기능으로 업무 특성에 맞고 비용 절감까지 되는 AI 모델을 자동으로 찾을 수 있다.</p> <p contents-hash="4fb1a771d0805e46066373a36ce7fe41c2ab1dac5ad27fc57c06b95676ccb8ac" dmcf-pid="Py9qOMZvh1" dmcf-ptype="general">각 AI 모델의 가격, 성능, 입출력 단가 등 특성을 한 페이지에서 탐색할 수 있고, 프롬프트(지시문)에 관한 각 AI 모델의 답변, 토큰 소모량, 답변 소요시간 등을 비교할 수 있다. </p> <p contents-hash="6e2ef40a5022b30dce47dc3858d57bd16063579ad348d41ff58abf87c7bd1e71" dmcf-pid="QW2BIR5TW5" dmcf-ptype="general">품질과 비용 중 어느 것을 더 중요하게 여기는지 가중치를 선택하면 적절한 모델을 안내해준다. </p> <p contents-hash="b8e1033e265c76bc3905628d0e9456c82b527c0f1e9fe72ef0d7575f69c3eb47" dmcf-pid="xYVbCe1yTZ" dmcf-ptype="general">토큰팩토리에선 업스테이지의 솔라 프로4, KT의 믿음 K3.0, 모티프의 모티프-3 등 국산 AI 모델 3종과 챗GPT 6 아스트라, 클로드 페이블5 등 해외 오픈소스 모델 4종을 포함해 73종의 AI 모델을 먼저 제공한다.</p> <p contents-hash="ef0561c12fb560c34c4bf8bd0a5ca2217a7945e48c641d5554d1d40a17402ae8" dmcf-pid="yRIrfGLxhX" dmcf-ptype="general">이진형 KT AX사업본부장은 “기업들이 부서별로 AI 비용을 따로 관리하려는 욕구가 있고, 최신 AI 모델이 계속 나오는데 모델마다 따로 가입해야 하는 등 복잡한 방식 때문에 겪는 불편함도 있었다”며 “토큰팩토리에선 적합한 모델을 알아서 골라주고, 항상 비싼 모델이 아니라 비용 최적화를 위한 모델을 찾아줄 수 있다”고 했다.</p> <p contents-hash="302b186521fe5c5baf8904f99d9e6e15291b85236b9381c7443fc93bc11c46fa" dmcf-pid="WeCm4HoMvH" dmcf-ptype="general">KT 토큰팩토리에는 프롬프트 압축기술이 적용돼 프롬프트의 의미는 유지하되 불필요한 내용을 줄여 전체적인 토큰 사용량을 25% 절감할 수 있다. 토큰 사용료는 사용한 만큼만 투명하게 책정한다. 총사용량과 절감된 양을 확인해 결제까지 한번에 할 수 있다.</p> <p contents-hash="00ee5615bfd5d9207d2c860b86a5a3b33c4c6af5667d90043ea0739eac8a6f4d" dmcf-pid="Ydhs8XgRlG" dmcf-ptype="general">KT는 신뢰·안전과 관련해선 토큰팩토리 내에서 검증된 모델만 제공하도록 하고, 고객 데이터를 저장·학습하지 않는 것을 원칙으로 했다. </p> <p contents-hash="f511d3fd9f0691f1f19e5ac256b31658192b12fdecd0359b7133168c8562ec11" dmcf-pid="GJlO6ZaeSY" dmcf-ptype="general">또 개인정보가 포함된 프롬프트 입력을 방지하는 장치를 뒀다. 예를 들어 질문에 주민등록번호가 들어가면 AI가 ‘정책 위반 요소가 포함돼 있어 요청을 수행할 수 없다’며 답변을 거부해 개인정보 입력을 막는 방식이다.</p> <p contents-hash="efead10fb5eead52ebd503d00668c4de9406b9d6902c538c7dba9ae943f0e548" dmcf-pid="HnvCQ1jJWW" dmcf-ptype="general">KT는 오는 30일 토큰팩토리를 기업고객 대상으로 우선 출시하고, 내년 3월 개발자와 개인고객까지 서비스 범위를 확대할 예정이다.</p> <p contents-hash="8d39d968785fb8dc1d1d673034b951af05be569d0f5526161f745da6c10873c3" dmcf-pid="XLThxtAivy" dmcf-ptype="general">박상원 KT AX사업부문장은 “AI 시장은 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”며 “KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스로 확장한 토큰팩토리를 기반으로 고객의 AX 전환을 지원하고 대한민국 AI 생태계 성장을 이끄는 핵심 플랫폼으로 발전시켜 나가겠다”고 밝혔다.</p> <p contents-hash="bbfc28614c57c3799a0a7a9fa57591b4bf207dae0a91229206228fc86cecfe35" dmcf-pid="ZoylMFcnhT" dmcf-ptype="general">이혜리 기자 lhr@kyunghyang.com</p> </section> </div> <p class="" data-translation="true">Copyright © 경향신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘듀오’ 결함 인정…흠집 난 애플 10-27 다음 “40만원 뚝, 웃돈은 커녕 원금도 못 건져”…애플 ‘접는폰’ 되팔이족, 하루 만에 난리난 이유 10-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
