KT, 국산 NPU·LLM 한 서버에 담았다...'모두의AI'에도 활용 작성일 08-19 27 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘소버린 AI’로 AX 도입 제약 산업 혁신 가속화 기대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="pWOD8mztaH"> <p contents-hash="dd77eabe273d11ab3fffa0b3d4a360aa50e5af91c70285efc7ef1eca198483a5" dmcf-pid="UYIw6sqFjG" dmcf-ptype="general">(지디넷코리아=박수형 기자)KT가 국산 AI 반도체와 국산 언어모델(LLM)을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스를 출시했다고 19일 밝혔다.</p> <p contents-hash="ee468975160e22a0cc9b7e810a4a16663b95ef7db87d1a4eff944dd829014436" dmcf-pid="uGCrPOB3aY" dmcf-ptype="general">KT가 선보인 'KT NPU LLM 스테이션'은 국내 AI 반도체 기업 리벨리온의 NPU 'ATOM-MAX'에 KT의 독자 개발 LLM '믿음 K 2.5 Pro', 운영 API 플랫폼까지 탑재한 일체형 제품이다.</p> <p contents-hash="9afb69a216abffd75da86326ad5e3fcce0cace46e51bb61cc6f2bdb1baaec8c9" dmcf-pid="7HhmQIb0oW" dmcf-ptype="general">ATOM-MAX는 추론에 특화된 국산 NPU로, 공인 시험을 통해 동급 GPU 대비 높은 처리 성능과 전력 효율을 검증받았다. '믿음 K 2.5 Pro'는 고난도 추론과 에이전트 활용에 강점을 가진 KT 독자 모델이다.</p> <p contents-hash="796b3e5bb6e0265d5b78423b1a3eeaa82bd08813fd3be84cd7e227e30082a502" dmcf-pid="zXlsxCKpoy" dmcf-ptype="general">AI 반도체부터 모델, 운영 플랫폼에 이르는 핵심 기술을 국내 기술로 구성해, 정부가 추진하는 소버린 AI 정책 방향을 기업 현장에서 바로 구현할 수 있다.</p> <figure class="figure_frm origin_fig" contents-hash="481a1bd7091bf7f1647f7f9f7edad55b27823991e89c3cab5749964293ae0798" dmcf-pid="qZSOMh9UNT" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/19/ZDNetKorea/20260819090650542vklm.jpg" data-org-width="640" dmcf-mid="03Dj9k0HAX" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/19/ZDNetKorea/20260819090650542vklm.jpg" width="658"></p> </figure> <p contents-hash="07967a53ddc6b4cf2fe147d5ad8e2fe551ba37dc640df599b7bd5f36329951b1" dmcf-pid="BRVBS9Dgov" dmcf-ptype="general">강력한 보안이 특징이다. 제품은 고객사 내부에 설치되며 모든 데이터와 AI 연산이 사내에서만 처리된다. 망분리 등 관련 규제와 강력한 보안 필요성으로 해외 생성형 AI를 도입하지 못했던 공공, 국방, 제약, 제조, 금융 등 규제 산업의 AX 전환에 촉매제가 될 것으로 보인다.</p> <p contents-hash="baa4253e4977ee6eb03e92ce6c6e471d76ae4ebde91b915bb5eaa942106b2a81" dmcf-pid="befbv2wajS" dmcf-ptype="general">서버, AI 모델, 플랫폼이 통합된 완제품형 장치여서 별도 구축 과정 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등 AI 기능을 바로 사용할 수 있어 도입 부담도 낮췄다.</p> <p contents-hash="752a2500fb87eb14695467a7dedc604a50d8fb12672f42975ce959989a83ed65" dmcf-pid="Kd4KTVrNkl" dmcf-ptype="general">추론 특화 NPU를 채택해 동급 GPU 서버 대비 전력 효율이 높고, 업계 표준 API를 제공해 기업이 기존에 쓰던 AI 서비스의 접속 정보만 바꾸면 코드 수정 없이 호환해 사용할 수 있다.</p> <p contents-hash="f205c0e745402093666aa7d95f003b044745be66bd6f426355b8d2b2f21e070a" dmcf-pid="9J89yfmjch" dmcf-ptype="general">KT는 향후 회의록 작성, 코딩 지원, 업무 자동화 에이전트 'K-Claw(가칭)' 등 KT가 개발한 AI 에이전트를 순차 탑재하고, 에이전트 전문 개발사와 협력해 고객 맞춤형 구축 사업으로 확장할 계획이다.</p> <p contents-hash="5301c9d01d4359478e53cf929dc3aa88751cdd167d85a714c78ae9bd117e8d46" dmcf-pid="2i62W4sAaC" dmcf-ptype="general">나눙어 'KT NPU LLM 스테이션' 활용 영역을 피지컬 AI를 위한 엣지 데이터센터(Edge DC)로 확대해 저전력 저지연 AI 인프라 구현에도 나설 예정이다.</p> <p contents-hash="0674975ff8c902239fe6ed87a6025a316aa95472dfa4eb0f51a200f5e30b4736" dmcf-pid="VnPVY8OckI" dmcf-ptype="general">이진형 KT AX사업본부장은 “KT NPU LLM 스테이션은 KT의 AX 풀스택 역량과 국산 반도체를 결합해 소버린 AI를 실제 산업 현장에서 즉시 사용할 수 있도록 만든 것”이라며 “데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것”이라고 말했다.</p> <p contents-hash="4381e2a8b016a0e9a2e1b5b0c75a3f3cb3289bc29aa314a533f35f05cb57b213" dmcf-pid="fLQfG6IkAO" dmcf-ptype="general">한편, KT는 과학기술정보통신부의 ‘모두의 AI’ 프로젝트에서도 국산 NPU를 활용해 소버린 AI 구현과 국내 AI 생태계 경쟁력 강화에 기여할 계획이다.</p> <p contents-hash="2ec6e84be0a7771e12e04f3e90450f26741b676b89ee5c955d1f148f8ca69288" dmcf-pid="4ox4HPCEcs" dmcf-ptype="general">박수형 기자(psooh@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 "GPU 랙 하나에 75kW…AIDC 생존 공식, 공간 아닌 전력·용수" 08-19 다음 SKT, ‘모두의 AI’ 출사표...풀스택 역량 총동원 08-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.