[AAI 2026] AMD "데이터 이동이 AI 확장 가른다…네트워크는 GPU 만큼 필수" 작성일 07-23 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[인더스트리 AI] 소니 지안다니 수석부사장, 헬리오스 전용 3대 네트워크 라인업 공개…800G '불카노' AI NIC 첫선</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="V43tWU0HWZ"> <p contents-hash="9b6481b06c657380a4de837dd08bc9b153e82d77ef2da186e045a3f910ab9758" dmcf-pid="f80FYupXlX" dmcf-ptype="general"><strong>프론트엔드 '살리나 DPU'·스케일업 'UALoE'·스케일아웃 '불카노 AI NIC' 통합 구축</strong></p> <p contents-hash="41da0ee04a3de7feb4e2f60261539603a3f91683706bba1aef5f960b6292e65f" dmcf-pid="46p3G7UZvH" dmcf-ptype="general"><strong>800G AI NIC '불카노' 탑재…LLM 학습 속도 13% 향상·네트워크 비용 33% 절감</strong></p> <p contents-hash="f3564d00e176e10c206fb518870093e4d4a11ddc623206a2e703d36ccf603d8d" dmcf-pid="8bXGh1ZvSG" dmcf-ptype="general"><strong>KV 캐시 및 NVMe 오프로드로 서버당 CPU 코어 22개 회수</strong></p> <div contents-hash="4bcfd74b9ab3be9cf2706d44074ea9f3ac666d6d212883cc66d5d1896815b5e9" dmcf-pid="6KZHlt5TyY" dmcf-ptype="general"> <strong>72개 GPU를 단일 메모리 공간으로 묶는 UALoE 기반 260TB/s 초고속 패브릭 구현</strong> </div> <figure class="figure_frm origin_fig" contents-hash="1da4a969367410fefbbee84b919cdc71a7896b14e22b338d34a9548b15d1a924" dmcf-pid="P95XSF1yyW" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/23/552796-pzfp7fF/20260723134649255ysjd.jpg" data-org-width="640" dmcf-mid="pfEcnrDgCz" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/23/552796-pzfp7fF/20260723134649255ysjd.jpg" width="658"></p> </figure> <p contents-hash="6aa60c55d05c0c2f519eb7386e926119fd56e499577969ac2ee65dfef4f709b7" dmcf-pid="Q21Zv3tWTy" dmcf-ptype="general">[샌프란시스코(미국)=디지털데일리 김문기기자] 거대언어모델(LLM)의 크기가 수조 단위 파라미터로 커지고 실시간 추론과 에이전틱 AI 워크플로우가 데이터센터를 지배하면서, 컴퓨팅 성능 못지않게 초고속 데이터를 병목 없이 전달하는 네트워크 아키텍처의 중요성이 커지고 있다. 수천 개의 가속기가 단일 유기체처럼 연산을 주고받아야 하는 환경에서 데이터 이동 속도가 곧 AI 시스템 전체의 성능과 토큰당 생성 비용을 결정짓기 때문이다.</p> <div contents-hash="ba74ad358b03ff67e48921ca0058371608a6f13c25a011e486a41aec0fb3c493" dmcf-pid="xVt5T0FYlT" dmcf-ptype="general"> AMD는 22일(현지 시각) 미국 샌프란시스코 모스콘 웨스트에서 열린 '어드벤싱 AI(Advancing AI) 2026' 세션 발표를 통해, 차세대 랙 스케일 인프라 'AMD 헬리오스(Helios)'의 핵심 축을 담당하는 통합 네트워크 솔루션 스택을 전면 공개했다. </div> <figure class="figure_frm origin_fig" contents-hash="d9bf009624cc3668f8f90a54e5ebff3cd0d3ed6ec5cb985d9cbe03c7cb34ee5e" dmcf-pid="yIonQNgRSv" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/23/552796-pzfp7fF/20260723134650546ptrg.jpg" data-org-width="640" dmcf-mid="9Fp3G7UZl1" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/23/552796-pzfp7fF/20260723134650546ptrg.jpg" width="658"></p> </figure> <p contents-hash="7615a1b004311b81fae4c9d3e39af2fa74017c6aa9b9fc610402dd898f7ca07c" dmcf-pid="WCgLxjaeWS" dmcf-ptype="general"><strong>◆ "네트워크는 GPU만큼 중요…3대 영역 맞춤형 혁신"</strong></p> <p contents-hash="0d067d8946dbb26eda913649aa40f17721a8b6f532d4c4c746d8b2a09cccc3d7" dmcf-pid="YhaoMANdWl" dmcf-ptype="general">소니 지안다니(Soni Jiandani) AMD 네트워크 기술 솔루션 그룹 총괄 수석 부사장은 AI 시대 네트워크의 역할 변화를 강조했다.</p> <p contents-hash="1157adcb44417b0397f1d400ca32ce935a13333e0b1af8f1df84abaa80ecdad3" dmcf-pid="GlNgRcjJCh" dmcf-ptype="general">지안다니 수석 부사장은 "AI 인프라가 대형화되고 분산 추론과 에이전틱 AI로 진화함에 따라 네트워킹은 이제 GPU, CPU, 메모리, 스토리지와 동등한 수준으로 엔드투엔드 시스템 성능을 결정짓는 핵심 요소가 됐다"며 "이더넷 대역폭이 18~24개월마다 2배씩 증가하는 상황에서 단순 속도 향상을 넘어 프론트엔드, 스케일업, 스케일아웃 네트워크가 하나의 유기적 시스템으로 작동해야 한다"고 목소리를 높였다.</p> <p contents-hash="af272b2d8dc2afea363b2cb340e79c193ae3f7cc32df9c57b3430526c67211f4" dmcf-pid="HpvlwWTshC" dmcf-ptype="general">AMD는 이를 위해 P4 프로그래머블 아키텍처를 기반으로 한 3가지 핵심 네트워크 솔루션을 헬리오스 랙에 통합 적용했다.</p> <p contents-hash="e28b06c1a613e81db3ccf7ab02fbedc0b7810432d64f1d59e2c03256c28b652b" dmcf-pid="XUTSrYyOvI" dmcf-ptype="general">AMD가 헬리오스 랙에 통합 적용한 네트워크 솔루션 스택은 프론트엔드, 스케일업, 스케일아웃 등 3대 영역별로 역할이 명확히 세분화되어 구동된다.</p> <p contents-hash="a05d7fb80136094b4330544333ec9175a57f40ec2d6012fa16b4c128ccc5cdf2" dmcf-pid="ZuyvmGWIlO" dmcf-ptype="general">우선 프론트엔드 영역은 3세대 '펜산도 살리나(Pensando Salina) DPU'가 전면에 나선다. 400G 대역폭을 지원하는 살리나 DPU는 보안, 네트워크, 스토리지 가속을 와이어 레이트(Wire-rate) 수준으로 처리하며 엔비디아 블루필드-3 대비 1.4배 높은 성능을 발휘한다.</p> <p contents-hash="706df9394a039f73cfa7162547c85151e2c9684fb81c39625f622950250dce37" dmcf-pid="57WTsHYCys" dmcf-ptype="general">특히 KV 캐시 오프로드와 NVMe over Fabric 기능을 통해 대규모 컨텍스트 저장을 효율화하고, 서버당 최대 22개의 CPU 코어를 회수해 에이전틱 AI 연산 자원으로 재활용할 수 있도록 해준다.</p> <p contents-hash="ffe727a28a0830d66eb917497943e9bad37e0d7f2c97a20a8060ae7940a7062c" dmcf-pid="1zYyOXGhWm" dmcf-ptype="general">스케일업 영역에는 개방형 이더넷 기반 아키텍처인 '1세대 UALoE(Ultra Accelerator Link over Ethernet)'가 적용됐다. 헬리오스 랙 내에 장착된 72개의 GPU와 31TB 용량의 HBM4 메모리를 단일 유기적 메모리 단지로 묶어내며, 랙당 260TB/s에 달하는 초고속 스케일업 대역폭을 실현한다.</p> <p contents-hash="79b38c1d914e2217181d3893f2a254c500006ff6e678ccd64d2ff1d38311e8cc" dmcf-pid="tqGWIZHlSr" dmcf-ptype="general">마지막으로 스케일아웃 및 스케일어크로스 영역은 업계 최초 800G 풀 프로그래머블 네트워크 카드인 '2세대 펜산도 불카노(Pensando Vulcano) AI NIC'가 담당한다. GPU당 최대 3개까지 배치되는 불카노 AI NIC는 GPU당 2.4Tbps의 대역폭을 확보해 기존 대비 50% 이상 높은 스케일아웃 대역폭을 보여준다.</p> <div contents-hash="1179797f4274d02a489df325aabada9048efeb00357bc1c773fccf0f44ee0ef7" dmcf-pid="FBHYC5XSSw" dmcf-ptype="general"> 아울러 멀티 플레인 및 지능형 패킷 분배 기술을 통해 거대언어모델(LLM) 학습 완료 시간을 13% 단축시키는 동시에, 전체 네트워크 구축 비용을 33%까지 절감한다. </div> <figure class="figure_frm origin_fig" contents-hash="7f383d30ed9c3dd938ba91e632e80092d1e49ac4c0cbd89e924d7adc2d74cc72" dmcf-pid="3bXGh1ZvCD" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/23/552796-pzfp7fF/20260723134651855sbyx.jpg" data-org-width="640" dmcf-mid="2xTSrYyOl5" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/23/552796-pzfp7fF/20260723134651855sbyx.jpg" width="658"></p> </figure> <p contents-hash="635dab836f5f894222e25d068f2a80029079ee682ffee4e80625cbc2e5402ecf" dmcf-pid="0KZHlt5TSE" dmcf-ptype="general"><strong>◆ 오라클·벌처, MRC 기술로 네트워크 효율 극대화</strong></p> <p contents-hash="2a8c00ce1226343c427f7997cfe2f0065b915b8594fcec7c2ad2830e4d07c865" dmcf-pid="p95XSF1yTk" dmcf-ptype="general">이날 세션에는 AMD 네트워크 기술을 수년간 실전 데이터센터에 도입해 온 주요 파트너사 경영진이 직접 무대에 올라 협력 성과를 증언했다.</p> <p contents-hash="4eeb8beb453fa4124e18ff5f778cd13ecb19f068004d75d5de5d0ebd7287a69e" dmcf-pid="ULV9U8fzhc" dmcf-ptype="general">라즈 수브라마니얀(Raj Subramaniyan) 오라클 클라우드 인프라스트럭처(OCI) 네트워킹 부문 수석 부사장은 "오라클과 AMD 펜산도의 네트워킹 파트너십은 지난 10년간 이어져 왔다"며 "AI 인프라에서 네트워크가 흔들리면 전체 GPU 활용률이 상쇄되기 때문에 DPU를 활용한 CPU 오프로드와 전용 네트워킹 구축이 무엇보다 중요하다"고 설명했다.</p> <p contents-hash="5b5ea60c79f23e186cc0ceee2866934d396e403b0e5926a0b3621d6e58010da7" dmcf-pid="uof2u64qWA" dmcf-ptype="general">특히 수브라마니얀 수석 부사장은 AMD와 공동 개발한 MRC(Multipath Reliable Connection) 프로토콜을 언급하며 "MRC는 패킷을 네트워크 전체에 효율적으로 분산 시킨 뒤 수신부에서 순서대로 재정렬하는 독보적 기능을 제공한다"며 "이를 통해 멀티 플레인 네트워크를 구현함에 있어 대규모 케이블과 스위치 장비 투자를 줄이면서도 최상의 인프라 효율성을 확보할 수 있었다"고 평가했다.</p> <p contents-hash="db9258b6aeaff006abe4de28c41d5ddd30496258d2b14e86ad7d4e3815ce6b86" dmcf-pid="7g4V7P8BCj" dmcf-ptype="general">데이비드 거커(David Gucker) 벌처(Vultr) 최고운영책임자(COO)는 AMD 인스팅트 GPU와 펜산도 네트워킹의 통합 시너지에 대해 신뢰를 표했다.</p> <p contents-hash="6af8d638575f4364f62f98b83e0c67d14ca63c40599454e9d369381abe8c73b5" dmcf-pid="za8fzQ6byN" dmcf-ptype="general">거커 COO는 "벌처는 2014년 클라우드 개시 이후 현재 4세대 연속으로 AMD 인스팅트 GPU 인프라를 배포하고 있다"며 "프론티어 AI 모델을 만드는 고객사들이 요구하는 것은 뛰어난 분산 추론 성능과 완벽한 RDMA 접속 능력"이라고 언급했다.</p> <p contents-hash="b41cbfa6d9d12fe470ac016059f03dd0fbc16e5c0f540625e1b50d72c1884c99" dmcf-pid="qN64qxPKya" dmcf-ptype="general">이어 "AMD의 불카노 AI NIC와 펜산도 DPU 라인업은 AMD가 공언한 성능 수치와 완벽히 일치하는 고성능과 안정성을 현장에 제공한다"며 "헬리오스 랙에 통합된 차세대 네트워킹 스택을 통해 하이퍼스케일러 및 스타트업 고객들에게 가장 경제적인 토큰 생성 환경을 계속 제공할 것"이라고 덧붙였다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 [AAI 2026] AMD "6세대 에픽 '베니스', 엔비디아 '베라' 대비 연산 처리량 2.2배↑" 07-23 다음 아레나코리아, ‘2026 아레나 마스터즈’ 개최… 전국 수영인 춘천 집결 07-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
