슈퍼마이크로 'NVIDIA B200시스템' 성능 우위 입증...디에스앤지, 기술검증 착수 작성일 04-09 123 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GxVPJ9kPrd"> <figure class="figure_frm origin_fig" contents-hash="b2da913d859d8d025c36cf35c19a3ae175c20e646e65b42210f333cc8dbe33ff" dmcf-pid="HMfQi2EQOe" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/09/etimesi/20250409135205150wmai.jpg" data-org-width="700" dmcf-mid="YTWZpTVZsJ" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/09/etimesi/20250409135205150wmai.jpg" width="658"></p> </figure> <p contents-hash="9ee7b4ab45837b8c196ea6e474166a26e67d48598fc8f80a7e5cbff3274b0049" dmcf-pid="XR4xnVDxDR" dmcf-ptype="general">글로벌 AI 솔루션 기업 슈퍼마이크로가 글로벌 시장에서 NVIDIA B200시스템 성능의 우위를 입증했다.</p> <p contents-hash="0796af6b53c14d6ea39fdcb564b87b39256fdb9cf48b394132b524bce07ad092" dmcf-pid="Ze8MLfwMsM" dmcf-ptype="general">슈퍼마이크로 국내 최대 총판 디에스앤지(대표 서정열)는 슈퍼마이크로가 NVIDIA HGX™ B200 8-GPU를 사용해 여러 ML퍼프 추론 5.0 벤치마크(MLPerf Inference v5.0 benchmark)에서 업계 최고 성능을 달성했다고 밝혔다.</p> <p contents-hash="a183c54d4b11c954a0fb8d549d429646d5683e250edfcfde6c85a3ffdf22af24" dmcf-pid="5d6Ro4rROx" dmcf-ptype="general">디에스앤지에 따르면, 슈퍼마이크로는 최근 공랭식과 수냉식 NVIDIA HGX™ B200 8-GPU 시스템 모두에서 기록적인 MLPerf 추론 성능(일부 벤치마크 기준) 기록을 발표했다. 이 기록을 발표한 시스템 벤더는 슈퍼마이크로가 유일하다. 이는 다양한 냉각 방식에서도 최고 수준의 AI 성능을 안정적으로 구현할 수 있는 기술력을 입증한 사례다.</p> <p contents-hash="4c3444a5d678839f0c9844a191a9e5d721a10e5fece7b09ce55a22f15d016c9d" dmcf-pid="1JPeg8meOQ" dmcf-ptype="general">디에스앤지 관계자는 “슈퍼마이크로의 뛰어난 성능 비결은 시스템과 소프트웨어의 최적화”라며 “모든 결과가 재현 가능해야 하고 제품이 실제로 사용 가능하며, 다른 회원들이 결과를 감사할 수 있어야 한다는 ML커먼스(MLCommons)의 규정도 충족했다”고 설명했다.</p> <p contents-hash="708bf864ab5a1288f499fdeecc279d95037050fa8d302a4757104f19889bcc9a" dmcf-pid="tiQda6sdOP" dmcf-ptype="general">슈퍼마이크로의 NVIDIA HGX B200 8-GPU 시스템은 차세대 공랭식과 수랭식 기술, 그리고 새로 개발된 냉각판과 새로운 250kW 냉각수 분배 장치를 통해 동일한 4U 폼 팩터에서 이전 세대보다 냉각 용량을 두 배 이상 높인 것이 특징이다.</p> <p contents-hash="88d30870fb4e45a8fff601f8bb5d69d764d80a31187d226398c9159d668db70d" dmcf-pid="FnxJNPOJr6" dmcf-ptype="general">SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) 및 SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB)는 Mixtral 8x7B Inference 및 Mixture of Experts 벤치마크에서 초당 129,000 토큰(Token/s)을 기록했다.</p> <p contents-hash="aafbbc83b6e533d0fd0e5b10f3f7305f43e130b72a9d10d53e6172a4739a894a" dmcf-pid="3LMijQIiO8" dmcf-ptype="general">10U 공랭식 및 4U 수랭식 시스템은 일부 벤치마크에서 최고의 성능을 달성했다. H200 8-GPU 시스템 대비 Llama2-70B 및 Llama3.1-405B 벤치마크에서 초당 토큰(Token/s) 생성량이 최대3배 증가한 것으로 나타났다.</p> <p contents-hash="12189a1900f860047d3281930c180c253ad48ad9beb3422f1695860d3267f0c3" dmcf-pid="0oRnAxCnw4" dmcf-ptype="general">또한, 공랭식 및 수랭식 NVIDIA B200 기반 시스템은 대형 Llama3.1-405b 모델 추론에서 초당 1000개 이상의 토큰을 생성했다. 소규모 추론 작업의 경우, LLAMA2-70b 벤치마크를 사용할 때 NVIDIA B200 SXM-180GB를 탑재한 슈퍼마이크로 시스템이 티어 1 시스템 공급업체 중 가장 높은 성능을 나타냈다.</p> <p contents-hash="ec67c28f2d688233e9338590bd3d854ed0b03a2dfd20704b7842ee46883061fa" dmcf-pid="pxVPJ9kPIf" dmcf-ptype="general">디에스앤지는 B200 시스템의 국내 도입을 고려하는 고객들이 기술적 타당성과 운영 효율성을 사전에 확인할 수 있도록 온프레미스 환경에서의 기술 검증을 진행 중이다. 이번 검증은 실제 운영 환경에서의 적용 가능성을 비롯해 비용 대비 성능, 시스템 안정성 등 실사용 관점에서 다양한 요소를 종합적으로 분석하는 데 초점을 맞추고 있다. 이를 통해 도입 검토 기업이 보다 신중하고 효율적인 결정을 내릴 수 있도록 지원할 예정이다.</p> <p contents-hash="804025a40f7f789312bcaf6501b289aedb5a26c374a65626ce2770d170afa53f" dmcf-pid="UMfQi2EQIV" dmcf-ptype="general">디에스앤지 서영민 전무는 “디에스앤지는 슈퍼마이크로 총판으로서 성능이 고무적으로 향상된 최신 시스템을 고객들이 문제없이 적용하고 최고의 퍼포먼스를 창출할 수 있도록 다각적인 지원을 아끼지 않을 것”이라고 밝혔다.</p> <p contents-hash="45cb7349f7b96fb1c14e3204cd050cfc02a90051cdf2e85ad62526ca9d7ec409" dmcf-pid="uR4xnVDxO2" dmcf-ptype="general">임민지 기자 minzi56@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 넷플릭스, 한국문학번역원과 인재 양성 협력 04-09 다음 강원도민체전, 6월 12∼16일 개최…조기 대선으로 일정 변경 04-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
