AMD가 제안한 3대 맞춤형 네트워킹…"AI, 데이터 이동 속도만큼 확장" [AAI 2026] 작성일 07-24 58 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[인더스트리 AI] GPU당 2.4Tbps 스케일아웃 대역폭 구현…AI 작업 완료 시간 13% 단축</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2WeGwXGhTd"> <figure class="figure_frm origin_fig" contents-hash="babc71d9fb6a26be4aedf31c37eb7753cf1d17efe63677e66f7e84ec2fcbb8d6" dmcf-pid="VYdHrZHlWe" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/552796-pzfp7fF/20260724040510949tdth.jpg" data-org-width="640" dmcf-mid="9R3a8jaeCJ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/552796-pzfp7fF/20260724040510949tdth.jpg" width="658"></p> </figure> <p contents-hash="03d4176fb805495bbef21c76fbeab5ed954aba839f7243c28dd8e5276bf1071a" dmcf-pid="fGJXm5XSTR" dmcf-ptype="general">[샌프란시스코(미국)=디지털데일리 김문기기자] 거대언어모델(LLM)과 에이전틱 AI의 급부상으로 10만 개 이상의 GPU가 연동되는 대규모 AI 데이터센터에서, 데이터 이동 병목을 해결하는 네트워킹 아키텍처가 시스템 전체의 가동 효율을 결정짓는 핵심 열쇠로 부상했다.</p> <p contents-hash="e0c86185f35ae2a6be52156dacd043bd684d02efb94cdd990f2c489b520404b3" dmcf-pid="4HiZs1ZvhM" dmcf-ptype="general">AMD가 72개 GPU 수직통합 랙스케일 인프라 'AMD 헬리오스(Helios)'의 연산 효율을 극대화하기 위한 프론트엔드, 스케일업, 스케일아웃 3대 맞춤형 네트워킹 솔루션과 차세대 펜산도 DPU 및 AI-NIC의 기술 세부 명세를 전격 공개했다.</p> <p contents-hash="c34316f9b0d58d6e2f4b63efd1350127c48f88075af948323a2084e66c7634ab" dmcf-pid="8Xn5Ot5TWx" dmcf-ptype="general">AMD는 22일(현지 시각) 미국 샌프란시스코 모스콘 웨스트에서 열린 연례 플래그십 컨퍼런스 '어드벤싱 AI(Advancing AI) 2026' 딥다이브 세션을 통해 차세대 네트워킹 플랫폼 로드맵을 발표했다.</p> <p contents-hash="9e922fcd71a25ce83c50e2392fe7f20a3d7e2b94050bdcab73ef182e2e680f51" dmcf-pid="6ZL1IF1yWQ" dmcf-ptype="general"><strong>◆ AI는 데이터 이동 속도만큼 확장…단 하나의 느린 링크도 용납 못해</strong></p> <p contents-hash="4415dd9b318417ec95b1b42089c98df285101a7687a73a3602c64342c02735e4" dmcf-pid="P5otC3tWlP" dmcf-ptype="general">크리슈나 도다파네니(Krishna Doddapaneni) AMD 네트워킹 기술 솔루션 그룹 부사장은 AI 인프라 확장에 있어 네트워킹이 가지는 절대적 위상을 강조하며 포문을 열었다.</p> <p contents-hash="61673c51c8703a314fb8ce5db7aadc52ec023b8bf0283317fae58ae213fdf705" dmcf-pid="QWeGwXGhW6" dmcf-ptype="general">도다파네니 부사장은 "컴퓨팅 성능과 플롭(Flops) 수치도 중요하지만, AI 클러스터의 최상위 성능과 효율을 얻기 위해서는 시스템 내부와 외부 간 데이터를 극도로 빠르게 이동시켜야 한다"며 "10만 개의 GPU가 참여하는 대규모 학습에서 단 하나의 느린 링크가 전체 성능을 저하시킬 수 있고, 분산 추론 환경에서는 KV 캐시 접근 지연을 줄여야 하므로 결국 AI는 데이터 이동 속도만큼 확장한다"고 강조했다.</p> <p contents-hash="980d2776cf0b91c60b0d758ccad49180414d07fbf0211af10d9228fde64522ae" dmcf-pid="xYdHrZHlS8" dmcf-ptype="general">이어 "단 하나의 네트워킹 구조로 모든 요구사항을 충족할 수는 없다"며 "AMD는 데이터센터 스토리지와 사용자 요청을 처리하는 '프론트엔드', 랙 내부 72개 GPU를 단일 메모리 공간으로 묶는 '스케일업', 랙 간 초거대 클러스터를 연동하는 '스케일아웃' 등 3가지 레이어별 맞춤형 네트워크로 이 과제를 해결했다"고 설명했다.</p> <p contents-hash="d8d23964d5b605ea31531915db9fae9f9f704cf37aa89e6207e69a0f7e529223" dmcf-pid="yRHdbid8W4" dmcf-ptype="general"><strong>◆ 3세대 펜산도 '살리나' DPU…KV 캐시 오프로드로 에이전틱 AI 가속</strong></p> <p contents-hash="50e20ede058036651f439dbbbdb00971329e9648a0476ce8153b8befe873ae35" dmcf-pid="WeXJKnJ6lf" dmcf-ptype="general">프론트엔드 네트워크를 담당하는 핵심 솔루션은 3세대 펜산도 DPU인 '살리나(Salina, 400G)'다. 글로벌 하이퍼스케일러 환경에 6년 이상 대규모로 공급되어 검증을 마친 펜산도 아키텍처 기반으로, 전작 대비 2배의 성능 향상을 이뤄냈다.</p> <p contents-hash="0f05310bb5bd02b34dfaa28a98006bf77c4ccf2bf17bcd4acf02161e9daf0585" dmcf-pid="YdZi9LiPWV" dmcf-ptype="general">도다파네니 부사장은 살리나 DPU의 최대 강점으로 P4 언어 기반의 하드웨어 프로그래밍 가능성을 꼽았다.</p> <p contents-hash="14e9740c7eda2e4bdd02df59cb518b4f69a3447e083cfbe505de707d30e509d5" dmcf-pid="GJ5n2onQS2" dmcf-ptype="general">그는 "AI 기술이 분기마다 급변하는 상황에서 매번 새로운 ASIC을 개발할 수는 없다"며 "펜산도 DPU는 P4 프로그램 수정만으로 데이터 패스 기능을 신속히 업데이트할 수 있으며, 서버 가동을 중단하지 않고도 라이브 소프트웨어 업데이트를 수행할 수 있다"고 설명했다.</p> <p contents-hash="e8d0ddc33ad030eeaa33b46626bb7b0ff88d1c19f258efdf8f73b02b19771e6d" dmcf-pid="Hi1LVgLxS9" dmcf-ptype="general">특히 최근 급부상한 에이전틱 AI 워크로드에서 DPU의 역할은 더 결정적이라고 강조했다. 사용자와 AI 간 긴 문맥을 주고받는 과정에서 GPU 메모리가 부족해지면 CPU나 SSD로 데이터를 넘겨야 하는데, 살리나 DPU가 'NVMe KV 캐시 인터페이스'를 라인 레이트(Line-rate) 속도로 오프로드 처리한다.</p> <p contents-hash="3b41ffe15551b26183fff8e664be2eae8c4aa3ca21fad0fa688f80ba3827dfcf" dmcf-pid="XntofaoMWK" dmcf-ptype="general">도다파네니 부사장은 "DPU가 KV 캐시 데이터 이동을 오프로드함으로써 GPU 메모리 재연산에 드는 비용과 시간을 절약하고, 더 높은 밀도로 AI 에이전트를 구동할 수 있다"고 덧붙였다.</p> <p contents-hash="867c14e992bae5f0b8947ac5705da43a830b8fe3e192d210d325744f27c58e72" dmcf-pid="ZLFg4NgRhb" dmcf-ptype="general">이 외에도 가상화 네트워크, 암호화, 스테이트풀 방화벽 등 보안 기능을 CPU 간섭 없이 내재화했다.</p> <p contents-hash="683e93e2a6a0dcc19a6eec6623a52a3e5513e9c341599e8b7e9642081c9640c9" dmcf-pid="5g0N6ANdlB" dmcf-ptype="general"><strong>◆ 초당 260TB 'UALoE' 스케일업 패브릭…오픈소스 'SONiC' 및 'AFM'으로 제로터치 관리</strong></p> <p contents-hash="806582cef5772ee0ac13981fe7756954342357a939de2b39ecbb623e8075212d" dmcf-pid="1apjPcjJCq" dmcf-ptype="general">단일 랙 내 72개 MI455X GPU를 31TB의 단일 메모리 공유 공간으로 묶어주는 스케일업 패브릭에는 초당 260TB 대역폭의 'UALoE(Ultra Accelerator Link over Ethernet)' 기술이 적용됐다. 복잡한 다층 구조 대신 단일 홉 L2 스위치 네트워크를 구현해 데이터 이동 지연시간을 최저 수준으로 동결했다.</p> <p contents-hash="d86805720022a48ce568c4fe21b9882ec12651146fdc61ba8916a2f3a8ec4790" dmcf-pid="tNUAQkAiWz" dmcf-ptype="general">이 스케일업 패브릭의 제어는 오픈소스 네트워킹 OS인 'SONiC'과 AMD가 자체 개발한 'AFM(AMD Fabric Manager)' 소프트웨어가 담당한다.</p> <p contents-hash="30a8490474edbf228893fc52241cee84dec28c84596b4fad1ffa0c6c3add06e4" dmcf-pid="FjucxEcny7" dmcf-ptype="general">도다파네니 부사장은 "AFM 소프트웨어는 6개의 스위치 트레이상에 분산 배치되어 실행되므로, 단일 스위치에 장애가 발생하거나 RMA 교체를 위해 제거되더라도 고가용성(HA)을 상시 유지한다"며 "운영자는 랙을 전원에 연결하기만 하면 제로 터치(Zero-touch)로 72개 GPU 패브릭이 자동 구성되고, 단일 통합 화면에서 랙 전체의 자원 현황과 상태를 실시간 모니터링할 수 있다"고 소개했다.</p> <p contents-hash="03cf81f83adfa5c675deff2039b12b0aaedec7efde2999de602d53671d532540" dmcf-pid="3A7kMDkLWu" dmcf-ptype="general">더불어 랙 내부를 가상 파티션으로 쪼개는 'vPod' 기술을 통합 제어해, 멀티테넌트 보안 격리와 물리적 고장 격리를 소프트웨어 차원에서 구현한다.</p> <p contents-hash="768cfddb214acff4608697d7f6fd1b562d17873bea2c59f7cc06e19176a14155" dmcf-pid="0czERwEoTU" dmcf-ptype="general"><strong>◆ 2세대 펜산도 '볼케이노' 800G AI-NIC…오픈AI·바이트댄스 협력 프로토콜 탑재</strong></p> <p contents-hash="8c0e1a158a07e9ac280c3296a6750c034d9d98c837fee1741bd2da80ae8899f4" dmcf-pid="pkqDerDgCp" dmcf-ptype="general">랙과 랙 사이를 연결해 초거대 AI 클러스터를 형성하는 스케일아웃 영역에는 3nm 공정 기반의 2세대 펜산도 AI-NIC '볼케이노(Vulcano, 800G)'가 출격한다. 헬리오스 랙 내부에는 GPU당 최대 3개의 볼케이노 AI-NIC가 탑재되어 GPU당 2.4Tbps의 압도적 스케일아웃 대역폭을 제공한다.</p> <p contents-hash="5961ee57051306a9265e6a4c825ccff62e26e23b6ad7a030eee661fe932370b2" dmcf-pid="UEBwdmwaC0" dmcf-ptype="general">도다파네니 부사장은 "볼케이노 AI-NIC를 적용하면 경쟁사 네트워크 아키텍처 대비 AI 작업 완료 시간을 13% 단축할 수 있을 뿐만 아니라, 필요 스위치 수량과 케이블을 대폭 줄여 네트워크 구축 비용을 최대 33% 절감할 수 있다"고 단언했다.</p> <p contents-hash="8d241fdb696cc847f7af56baa6afdc6569e43e4e29d74a6653f7b07afd82a878" dmcf-pid="uDbrJsrNl3" dmcf-ptype="general">특히 볼케이노는 글로벌 빅테크들과 손잡고 개발한 차세대 지능형 전송 프로토콜을 탑재했다. 오픈AI와 공동 개발한 'MRC(Multi-path RDMA Controller)' 프로토콜, 바이트댄스와 협력한 'VE RoCE' 프로토콜 등을 P4 프로그래밍으로 전면 지원한다.</p> <p contents-hash="1ce5991414862d20d031c8bee2099b5888551dcad2ef5dc614355d0c0c08fdf9" dmcf-pid="7LFg4NgRSF" dmcf-ptype="general">이를 통해 데이터 전송 시 단일 경로 대신 128~256개의 미세 경로로 데이터를 잘게 쪼개어 분산 송출하는 '지능형 패킷 스프레이' 및 경로 인지형 혼잡 제어를 수행한다. 특정 링크에 병목이 발생하더라도 수 마이크로초(µs) 내에 정상 경로를 찾아 우회하므로 대규모 AI 학습 시 지연시간 왜곡 현상을 방지한다.</p> <p contents-hash="5f3fa3789b8f3a702068ea82da4a488311706cc83fd4b33c16fa72bc591f17db" dmcf-pid="zo3a8jaeCt" dmcf-ptype="general">도다파네니 부사장은 "하드웨어부터 스위치 OS, 최상위 랙 관리 소프트웨어까지 UEC(Ultra Ethernet Consortium) 및 UA링크 등 개방형 표준에 기반해 오픈 생태계를 구축했다"며 "AMD의 3단 통합 네트워킹 플랫폼은 하이퍼스케일러들이 어떠한 인프라 환경에서도 최상위 가성비와 회복탄력성으로 AI 공장을 구축할 수 있도록 만드는 핵심 토대가 될 것"이라고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 AMD, 엔비디아 '젯슨 토르'에 맞불…'크리아 AI 로보틱스' 풀스택 출격 [AAI 2026] 07-24 다음 [AAI 2026] 가트너 "기업용 AI 서버 CPU 시장, AMD가 '넘어서야 할 1위 선두주자'" 07-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
