AI 서버 구축 전 성능 검증...기업들 투자 판단 쉬워져 작성일 05-29 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">수십 억원 드는 AI 서버 구축<br>시뮬레이션으로 성능 미리 검증</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZuLKIoPKCi"> <figure class="figure_frm origin_fig" contents-hash="043ddc2e3c4688b543ee30d5d789742223798ab9842f0a2ec970bb217fe553db" dmcf-pid="5MCnFhcnlJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="대형 인공지능(AI) 서버나 데이터센터를 구축하기 전에 성능을 미리 검증할 수 있는 시뮬레이션 기술이 개발됐다. [사진=픽사베이]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/29/mk/20260529151803735bocm.png" data-org-width="700" dmcf-mid="XmLKIoPKTn" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/29/mk/20260529151803735bocm.png" width="658"></p> <figcaption class="txt_caption default_figure"> 대형 인공지능(AI) 서버나 데이터센터를 구축하기 전에 성능을 미리 검증할 수 있는 시뮬레이션 기술이 개발됐다. [사진=픽사베이] </figcaption> </figure> <div contents-hash="694ea2de4b3a0a27568cfadeb1d744b79b046ebfb168df8b8d687b3e21332bcc" dmcf-pid="1RhL3lkLTd" dmcf-ptype="general"> 고가의 인공지능(AI) 반도체로 서버를 구축하기 전에 미리 성능을 검증할 수 있는 시뮬레이션 기술이 개발됐다. 앞으로는 대형 데이터센터나 서버를 구축하기 전에 미리 성능을 파악하고 효과적인 사업 계획을 세울 수 있게 됐다. </div> <p contents-hash="19d19d34dd3e24469381e40987b56462668f3cbd6e8148c03a2e788e9fe5fce9" dmcf-pid="telo0SEoye" dmcf-ptype="general">박종세 KAIST 전산학부 교수는 실제 대규모 AI 서버를 구축하기 전에 컴퓨터 안에서 성능과 효율을 검증할 수 있는 ‘가상 AI 실험장’을 개발했다고 29일 밝혔다.</p> <p contents-hash="ae9164e032f426e8c6544d6a777b147fb1eca7da393e0b96ba2440c50f5b1a96" dmcf-pid="FdSgpvDgyR" dmcf-ptype="general">연구진이 개발한 ‘LLMServingSim 2.0’은 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석할 수 있는 시뮬레이션 플랫폼이다. AI 서버 하나를 구축하려면 수많은 하드웨어와 소프트웨어가 필요하다.</p> <p contents-hash="207c22ad8833ddbf2a4e0aefa19c042d8fe39ae59d3b78e3fc0565faf16ed7f5" dmcf-pid="3JvaUTwayM" dmcf-ptype="general">스타트업의 경우, 고가의 그래픽처리장치(GPU)가 4장 이상 필요하고, 필요한 소프트웨어도 5가지 이상이다. 만약 챗GPT처럼 대형 서비스를 제공하기 위해서는 필요한 비용이 기하급수적으로 늘어난다.</p> <p contents-hash="2181381d895c51c4e2f11ab7223ca3141e09ac7946856d7a02ca639e5958e48b" dmcf-pid="0iTNuyrNhx" dmcf-ptype="general">문제는 지금까지 구축할 AI 서버의 성능을 미리 검증할 방법이 사실상 없었다는 점이다. 투자 대비 성능을 파악할 방법이 없어, 기업들은 일종의 ‘깜깜이 상태’에서 투자를 결심해야 했다.</p> <p contents-hash="845494687e8e0d00b9a6c2d13879c0ff8900124891b6ad498b7fd1428157d859" dmcf-pid="pnyj7WmjvQ" dmcf-ptype="general">이번에 개발된 ‘가상 AI 실험장’은 구축할 AI 서버의 성능을 시뮬레이션을 통해 알려준다. 개발자들은 해당 플랫폼에서 자유롭게 서버 인프라를 설계하고 실험할 수 있다.</p> <p contents-hash="1efea2e85ff5e8b5fdd0101cb3ec0502277ae003692816097e2c78cd34e1f686" dmcf-pid="ULWAzYsAvP" dmcf-ptype="general">기존에 유사한 시뮬레이터들은 단순한 메모리 모델만 검증하는 수준이었다. 반면 이번 시스템은 GPU는 물론, 차세대 AI 반도체인 신경망처리장치(NPU), 프로세싱 인 메모리(PIM) 등 다양한 하드웨어를 한 번에 검증할 수 있다.</p> <p contents-hash="e18ea527ed36a529d70013d620ac16b0d374f55a307172b0fd227bccc767857c" dmcf-pid="uoYcqGOcW6" dmcf-ptype="general">실험 결과, 시뮬레이션 결과는 실제 성능과 약 1% 정도의 오차를 보일 정도로 정확한 것으로 나타났다. 실제 AI 서버 성능을 거의 그대로 재현해, 기업들은 확실한 견적을 바탕으로 투자를 단행할 수 있게 됐다.</p> <p contents-hash="c94d2c12a655b55e7f87d41421bc17b82d4199fc6d6ff701608f831cf5fde008" dmcf-pid="7gGkBHIkS8" dmcf-ptype="general">시스템은 특정 반도체를 적용하면 서비스 속도가 얼마나 향상되는지, 전력 소모가 얼마나 줄어드는지, 대형 서버가 안정적으로 동작하는지 등을 분석해 알려준다. 차세대 AI 서버나 데이터센터를 설계할 때 유용하게 활용될 수 있다.</p> <p contents-hash="cb8bb621e6a9d96b11646a2acb40b9ec41c8bf7ddceac640888b05423e5bae76" dmcf-pid="z9c6ykJ6W4" dmcf-ptype="general">이에 대형언어모델(LLM) 서비스 기업과 AI 반도체 스타트업 등이 차세대 인프라를 설계하고 최적화하는 데 폭넓게 활용될 것으로 기대된다. 개발 비용과 시간도 크게 줄어들 전망이다.</p> <p contents-hash="a4cc1a49486bccf7b2d6f01905d29d2a290c188730c43a99673f021affee058e" dmcf-pid="q2kPWEiPSf" dmcf-ptype="general">박 교수는 “AI 서비스 경쟁력은 모델 자체뿐 아니라 이를 안정적이고 효율적으로 운영하는 인프라 기술에서 결정된다”며 “이번 시뮬레이터가 연구자와 산업계가 AI 인프라를 더욱 빠르고 효율적으로 개발하는 데 중요한 기반이 되길 기대한다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 공영방송 이사 추천단체 확정…방미통위 내년 예산도 의결 05-29 다음 오픈AI 몸값 넘은 앤트로픽…삼전·하이닉스 전략적 파트너로 참여 [팩플] 05-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.