엔비디아 이더넷 네트워킹, 세계 최대 슈퍼컴퓨터 ‘콜로서스’ 가속화 작성일 10-30 210 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZJUtGXMUUg"> <figure class="figure_frm origin_fig" dmcf-pid="5Dbut3nb7o" dmcf-ptype="figure"> <p class="link_figure"><img alt="엔비디아 이더넷 네트워킹, 세계 최대 슈퍼컴퓨터 ‘콜" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202410/30/fnnewsi/20241030101345095jhbp.jpg" data-org-width="696" dmcf-mid="HRDjnoXDUN" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202410/30/fnnewsi/20241030101345095jhbp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 엔비디아 이더넷 네트워킹, 세계 최대 슈퍼컴퓨터 ‘콜 </figcaption> </figure> <div dmcf-pid="1cz0Z1dzuL" dmcf-ptype="general"> <br>엔비디아가 엔비디아 이더넷 네트워킹 기술을 통해 엑스AI(xAI)가 구축한 세계 최대 AI 슈퍼컴퓨터 ‘콜로서스(Colossus)’를 가속화하고 있다고 30일 밝혔다. </div> <p dmcf-pid="tyR69VrRzn" dmcf-ptype="general">미국 테네시주 멤피스에 위치한 엑스AI의 콜로서스 슈퍼컴퓨터 클러스터는 엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼을 사용해 10만개의 엔비디아 호퍼 그래픽처리장치(GPU)로 구성된 대규모 시스템을 구현했다. 스펙트럼-X 플랫폼은 표준 기반 이더넷을 사용해 멀티 테넌트, 하이퍼스케일 인공지능(AI) 팩토리에 뛰어난 성능을 제공하도록 설계됐으며 원격 직접 메모리 액세스(RDMA) 네트워크를 지원한다. </p> <p dmcf-pid="Fr9z3po9Ui" dmcf-ptype="general">콜로서스는 세계에서 가장 큰 AI 슈퍼컴퓨터로, 엑스AI 그록 거대 언어 모델(LLM) 제품군을 훈련하는 데 사용된다. 이 모델은 엑스 프리미엄 구독자를 위한 챗봇 기능을 제공하는 데도 활용된다. 현재 엑스AI는 콜로서스 규모를 두 배로 늘려 총 20만개의 엔비디아 호퍼 GPU로 구성하는 작업을 진행 중이다. </p> <p dmcf-pid="3XnR8PCn3J" dmcf-ptype="general">엔비디아와 엑스AI는 지원 시설과 최첨단 슈퍼컴퓨터를 단 122일 만에 구축했다. 일반적으로 이 정도 규모의 시스템을 구축하는 데 수개월에서 수년이 걸리는 기간을 생각하면 매우 빠른 속도라는 것이 회사 측 설명이다. 첫 번째 랙이 바닥에 설치한 시점부터 훈련이 시작되기까지 단 19일이 걸렸다. </p> <p dmcf-pid="01gJQMSgpd" dmcf-ptype="general">초대형 그록 모델을 훈련하는 동안 콜로서스는 전례 없는 네트워크 성능을 달성했다. 네트워크 패브릭의 세 계층 모두에서 이 시스템은 플로우 충돌로 인한 애플리케이션 지연 시간 저하나 패킷 손실이 전혀 발생하지 않았다. 또한 스펙트럼-X 혼잡 제어를 통해 95%의 데이터 처리량을 유지했다. </p> <p dmcf-pid="pSQfBKEQpe" dmcf-ptype="general">엔비디아 네트워킹 담당 수석 부사장인 길라드 샤이너는 “AI는 이제 필수적인 존재가 됐으며 향상된 성능, 보안, 확장성, 비용 효율성을 필요로 한다"며 "엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼은 엑스AI와 같은 혁신가들에게 AI 워크로드의 빠른 처리, 분석, 실행을 제공하고 결과적으로 AI 솔루션의 개발과 배포, 출시 시간을 단축할 수 있도록 설계됐다”고 말했다. </p> <p dmcf-pid="UtaixRvazR" dmcf-ptype="general">일론 머스크는 자신의 X 계정에서 “콜로서스는 세계에서 가장 강력한 훈련 시스템"이라며 "엑스AI 팀과 엔비디아, 그리고 많은 파트너, 공급업체들이 훌륭한 작업을 했다”고 밝혔다. </p> <p dmcf-pid="uXnR8PCnuM" dmcf-ptype="general">엑스AI 대변인은 “엑스AI는 세계에서 가장 크고 가장 강력한 슈퍼컴퓨터를 구축했다"며 "우리는 엔비디아의 호퍼 GPU와 스펙트럼-X를 통해 대규모 AI 모델 훈련의 한계를 뛰어넘었으며, 이더넷 표준을 기반으로 초고속화되고 최적화된 AI 팩토리를 구축할 수 있게 됐다”고 전했다. </p> <p dmcf-pid="7Pyhrsqy0x" dmcf-ptype="general">스펙트럼-X 플랫폼의 핵심은 최대 800Gb/s의 포트 속도를 지원하는 스펙트럼 SN5600 이더넷 스위치로, 스펙트럼-4 스위치 ASIC을 기반으로 한다. 엑스AI는 전례 없는 성능을 위해 스펙트럼-X SN5600 스위치와 엔비디아 블루필드-3 슈퍼NIC를 함께 사용하기로 선택했다.</p> <p dmcf-pid="zHiM46IipQ" dmcf-ptype="general">solidkjy@fnnews.com 구자윤 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 AI추천 쇼핑 서비스 '네이버플러스 스토어' 오픈 10-30 다음 'AI로 혜택 추천까지' 네이버플러스 스토어 베타 오픈 10-30 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
