"AI 인프라 비용 90% 절감" K스타트업에 VC들 군침 작성일 03-19 107 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">텐, GPU 1% 단위로 쪼개 효율↑<br>래블업, 학습 등 전과정 OS 통합<br>가성비 이끄는 기술로 AI시장 주목</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tGv6xmA8WK"> <figure class="figure_frm origin_fig" contents-hash="aa7a5131646756cb3a16d7d89e69588d22af105b55eca838757386721e64ec6f" dmcf-pid="FHTPMsc6Wb" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/19/seouleconomy/20250319181918861jama.png" data-org-width="540" dmcf-mid="Z3t13Mf5lV" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/19/seouleconomy/20250319181918861jama.png" width="658"></p> </figure> <div contents-hash="1be8ff929740540bfbdd7ce3f4f2ee88173f7d45414be9b41b9bdcba9bca2fee" dmcf-pid="3XyQROkPTB" dmcf-ptype="general"> [서울경제] <p>“그래픽처리장치(GPU)를 확보한다고 끝이 아니라 이것을 아껴서 최대한의 ‘가성비’를 내야 기업들이 지속적으로 인공지능(AI)에 투자를 할 수 있습니다.” (IT솔루션 업계 관계자)</p> </div> <p contents-hash="f85d5766f3b83f59f705b987388ada782dd33845bfc690e17a5c77cf18244dcb" dmcf-pid="0ZWxeIEQvq" dmcf-ptype="general">AI 모델의 학습과 추론에 쓰이는 GPU 확보전이 장기화되면서 GPU를 대량 확보하는 것 이상으로 GPU를 쪼개서 쓰려는 수요가 커지고 있다. 이에 GPU 비용을 최적화·극대화하는 스타트업이 덩달아 주목받고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="f43fd2a524544671fd3c1338ea00d2e16ef3fe8c9b75f9ea642cfd4824f971cf" dmcf-pid="p5YMdCDxSz" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/19/seouleconomy/20250319181920183duwy.jpg" data-org-width="637" dmcf-mid="5aZX1P9Hl2" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/19/seouleconomy/20250319181920183duwy.jpg" width="658"></p> </figure> <p contents-hash="c76db1c53a14a7f2755fd4eeb2e6d424e1ec038ccaa5074612bd02ff6b802d2f" dmcf-pid="UrcUznxpl7" dmcf-ptype="general">19일 정보기술(IT) 업계에 따르면 LG유플러스는 최근 2024년 사업보고서 공시를 통해 지난해 말 AI 인프라 스타트업 텐에 30억원 규모의 자금을 투자해 9.8%의 지분을 취득했다고 밝혔다. 불과 2년 전인 2022년 말 30억원 규모의 프리시리즈A 투자를 유치한 데 이어 LG유플러스 투자 유치까지 이끌어낸 것이다. 텐은 2020년 설립돼 비교적 신생 스타트업이라 할 수 있지만 최근 급격한 성장세를 보이고 있다. AI 학습을 위한 GPU 자원 가동률을 극대화하는 동시에 AI 추론을 GPU 자원으로도 처리할 수 있게 한 핵심 기술력 덕분이다. 기존에는 GPU를 자연수 단위로 쓸 수 있었다면 대표 제품인 ‘AI Pub’를 통해 GPU 1개의 코어와 메모리를 1% 단위까지 분할해 최대 100개의 유닛으로 나눠 동시에 여러 개의 서비스를 지원할 수 있게 했다. 인프라 비용을 최대 90%까지 줄일 수 있다는 설명이다. 특히 중국 생성형 AI 딥시크가 R1모델 개발에 최소한의 AI인프라를 활용했다고 밝힌 이후 텐의 기술에 대한 세간의 관심이 더욱 커졌다.</p> <figure class="figure_frm origin_fig" contents-hash="8df99f153021ec75f84ffaf27fd2b9efdd5e6fe700cc30c89675419f703b689d" dmcf-pid="umkuqLMUvu" dmcf-ptype="figure"> <p class="link_figure"><img alt="신정규 래블업 대표 /사진 제공=SK텔레콤" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/19/seouleconomy/20250319181921487zyrv.png" data-org-width="640" dmcf-mid="1neYX4BWT9" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/19/seouleconomy/20250319181921487zyrv.png" width="658"></p> <figcaption class="txt_caption default_figure"> 신정규 래블업 대표 /사진 제공=SK텔레콤 </figcaption> </figure> <div contents-hash="c38f4d9ce4bf4b8f230f612f7d250ece270715cfb9e2e7b97bb92a9fb1fb5631" dmcf-pid="7sE7BoRuhU" dmcf-ptype="general"> <p>AI 인프라 매니지먼트 스타트업 ‘래블업’ 역시 같은 맥락에서 업계의 주목을 받고 있다. 대표 제품인 백엔드.AI(Backend.AI)는 AI의 학습, 추론 서비스의 전 과정을 운영체제와 통합 처리하는 AI 인프라 운영 플랫폼으로 최적의 자원 할당을 통해 비용 효율화를 추구한다. 래블업 측은 2023년 매출이 70억원 가까이를 기록했고 흑자 상태를 유지하고 있다고 설명했다.</p> </div> <div contents-hash="9eb85b195fc01ed9490ad8f5a409c668ff38145197bbcf557346d9858a2031ab" dmcf-pid="zODzbge7Cp" dmcf-ptype="general"> <p>AI인프라를 자체적으로 효율화하는 방식 외에도 기존 인프라에서 AI 모델을 최대한 효율성 있게 활용하는 방식도 관심사다. 기업공개(IPO)를 앞두고 있는 노타AI의 경우 최적화 관련 제품의 매출 비중이 절반을 넘어섰다. 한 업계 관계자는 “GPU를 확보하는 데 곤란을 겪는 기업들이 AI 모델을 최적화하거나 AI 인프라 자체를 건드려 효율화를 달성하는 쪽으로 관심을 전환하는 추세”라며 “다만 이 분야의 경쟁력 있는 기업이 소수이다 보니 관심이 쏠리는 상황”이라고 전했다.</p> 정혜진 기자 madein@sedaily.com </div> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 황광희 "암사동 경락 고수, 내 턱 다 날려줘" 03-19 다음 'AX 날개' 단 KT…15년 만에 주가 5만원 벽 돌파 03-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
