“엔비디아 대비 30% 비용 절감”… AMD, ‘토큰 비용’ 중심으로 AI 인프라 재설계 작성일 07-24 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘AI 어드밴싱 2026′서 헬리오스 공개<br>엔비디아 대비 속도↑, 비용 30% 절감<br>美 주요 빅테크에 대규모 공급 예정</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7rOw5V9Ugo"> <figure class="figure_frm origin_fig" contents-hash="2cb52fa8af86a7d0a0a51312d35702c28d8c3fc77c65b0227e5fe24ac81335af" dmcf-pid="zmIr1f2ujL" dmcf-ptype="figure"> <p class="link_figure"><img alt="22일(현지시각) 미국 샌프란시스코에서 열린 'AMD AI 어드밴싱 2026' 행사장 내 데모존./샌프란시스코=황민규 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/chosunbiz/20260724033144559rmyg.jpg" data-org-width="2000" dmcf-mid="Uj70xEcnAa" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/chosunbiz/20260724033144559rmyg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 22일(현지시각) 미국 샌프란시스코에서 열린 'AMD AI 어드밴싱 2026' 행사장 내 데모존./샌프란시스코=황민규 기자 </figcaption> </figure> <p contents-hash="dae0892d9716f496eb09fec3a85a39afd3d0d50be521bd51a86f861b464acbf8" dmcf-pid="qsCmt4V7an" dmcf-ptype="general">챗봇에 질문 하나만 던지고 끝나던 시절은 지났다. 이제 인공지능(AI)은 스스로 계획을 세우고, 여러 도구를 불러 쓰고, 중간 결과를 다시 검토하는 식으로 하나의 요청에도 수십, 수백 번씩 답을 주고받는 ‘에이전틱(agentic) AI’로 진화하고 있다. 질문 하나에 토큰 하나면 끝나던 과거와 달리 지금은 작업 하나를 처리하는 데도 훨씬 더 많은 토큰이 소모된다는 얘기다.</p> <p contents-hash="719684913ef3364d5a838fc18f4cb7a620848c137339967742ac30efc90e4752" dmcf-pid="BOhsF8fzci" dmcf-ptype="general">이 가운데 AMD는 반도체 칩 하나의 성능을 자랑하는 대신, 다른 접근법을 택했다. 칩과 서버, 이들을 잇는 네트워크 장비까지 통째로 묶은 AI 인프라 전체를 ‘토큰 1개를 얼마나 싸게 만들어내느냐’를 기준점으로 시스템 전체를 재설계했다. 아무리 칩 하나의 연산 속도가 빨라도, 그 칩을 감싸는 서버와 네트워크가 병목이 되면 전체 비용은 줄지 않는다는 문제의식에서 출발한 접근이다.</p> <p contents-hash="afabb7c5d2fb15dbf9c287c7abda2d313302366e34350152882e43f53b185ebe" dmcf-pid="bIlO364qAJ" dmcf-ptype="general"><strong>◇ “AI 서비스, ‘속도’보다 ‘토큰 1개 값’이 관건”</strong></p> <p contents-hash="73f05f303dc902950e9bc63b2671c278463fde4e07606cb960ef002df9d5e06b" dmcf-pid="KCSI0P8Bod" dmcf-ptype="general">AMD는 22일(현지시각) 미국 샌프란시스코 모스콘 웨스트에서 열린 연례 행사 ‘AMD 어드밴싱 AI 2026’에서 신형 AI 가속기 ‘인스팅트(Instinct) MI455X’와 이를 랙 단위로 묶은 시스템 ‘헬리오스(Helios)’를 공개했다. 이날 AMD는 헬리오스의 최대 강점으로 칩·서버·네트워크를 처음부터 하나의 세트로 함께 설계했다는 점, 이를 통해 랙 하나를 통째로 돌렸을 때의 실제 운영 비용이 얼마나 줄었는지를 핵심 메시지로 내세웠다.</p> <p contents-hash="85986c8ee75509533f833c48fec02c6e3eca4cab66c1320143747db54c11aede" dmcf-pid="9hvCpQ6bke" dmcf-ptype="general">토큰은 AI 모델이 문장을 만들어낼 때 사용하는 최소 단위다. 챗GPT나 클로드 같은 AI 서비스에 질문을 하면 AI는 답변을 토큰 단위로 하나씩 만들어내는데, 이 토큰을 만드는 데 드는 전기세와 하드웨어 비용 등이 곧 AI 기업의 운영 원가다. 특히 에이전틱 AI처럼 AI가 스스로 여러 단계를 거쳐 작업을 처리하는 방식이 늘어날수록, 하나의 요청을 처리하는 데 소비되는 토큰 수 자체가 기하급수적으로 늘어난다.</p> <p contents-hash="0ecfca0785c95efd49e3cf6341e04c2f2e756b49650be04ca4243488900bfb5b" dmcf-pid="2lThUxPKgR" dmcf-ptype="general">AMD는 이날 AI 산업에서 벌어지고 있는 구조적 변화도 함께 짚었다. 앤드류 디크만 AMD 데이터센터 GPU 사업부 담당 부사장은 “AI 반도체 수요는 2024년만 해도 모델을 학습시키는 ‘훈련’ 작업이 전체의 60%를 차지했지만, 2026년에는 실제 서비스에 답을 내놓는 ‘추론’ 작업이 60%로 역전됐다”며 “모델을 한 번 잘 만들어두면 그 이후에는 매일 수많은 사용자에게, 그것도 점점 더 복잡해지는 방식으로 답변을 내놓는 게 AI 반도체의 주된 업무가 됐다”고 설명했다.</p> <p contents-hash="efb060e6e6066fec7b990035630adb2ecab124a5ed6e92025e98174d6252b783" dmcf-pid="VCSI0P8BAM" dmcf-ptype="general">이런 흐름에서는 칩 하나가 얼마나 빨리 계산하느냐보다, 칩과 서버, 네트워크를 하나로 묶은 인프라 전체가 토큰 하나하나를 만드는 데 돈을 얼마나 쓰느냐가 더 중요해진다. AMD가 이번 발표에서 개별 부품 성능보다 ‘랙 전체의 경제성’을 앞세운 것도 이 때문이다.</p> <p contents-hash="b3d234e00be4fb3339ded043e9059f2fbecdceb15d9ae3501688c99ca6593ffd" dmcf-pid="fhvCpQ6bAx" dmcf-ptype="general"><strong>◇ 칩 넘어 랙 전체를 하나의 시스템으로 재설계</strong></p> <figure class="figure_frm origin_fig" contents-hash="4bcec459d0aa0dd56a26a85a13627463cbb705a07bb3c2d40923cb478f1f2a61" dmcf-pid="4lThUxPKkQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="22일(현지시각) 미국 샌프란시스코에서 열린 'AMD 어드밴싱 AI 2026' 행사에서 공개된 차세대 AI 시스템 '헬리오스'./샌프란시스코=황민규 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/24/chosunbiz/20260724033145838pfxa.jpg" data-org-width="2000" dmcf-mid="ulFZfaoMag" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/24/chosunbiz/20260724033145838pfxa.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 22일(현지시각) 미국 샌프란시스코에서 열린 'AMD 어드밴싱 AI 2026' 행사에서 공개된 차세대 AI 시스템 '헬리오스'./샌프란시스코=황민규 기자 </figcaption> </figure> <p contents-hash="4d7ddcd338e6043b4672d6392a3a175480f8548a002038452986edea5bc4ec46" dmcf-pid="8SyluMQ9oP" dmcf-ptype="general">이 같은 방식의 접근을 구체화한 결과물이 AMD의 차세대 AI 솔루션 헬리오스다. AMD는 개별 반도체를 개선하는 데 그치지 않고 서버용 CPU(중앙처리장치)와 GPU, 이들을 잇는 네트워크 장비까지 처음부터 하나의 세트로 함께 설계했다. 부품 하나하나의 성능을 극대화하는 대신 전체 시스템이 톱니바퀴처럼 맞물려 돌아가도록 만들어 낭비되는 비용을 줄이겠다는 접근이다.</p> <p contents-hash="633bab4b54d31445742a8f391a406d223f59a8d30624d0ce5e91ae308c5c0451" dmcf-pid="6vWS7Rx2c6" dmcf-ptype="general">AMD는 비용뿐만 아니라 성능 측면에서도 경쟁사인 엔비디아의 차세대 랙 시스템 ‘베라 루빈 NVL72’ 대비 비교 우위를 내세웠다. AMD에 따르면 실제 AI 모델(Kimi K2 Thinking)을 돌려본 자체 테스트에서 헬리오스는 응답 속도 조건에 따라 엔비디아 제품보다 처리 속도가 10~15% 더 빨랐다. 이를 비용으로 환산하면 같은 돈을 들여도 최대 30% 더 많은 토큰을 뽑아낼 수 있다는 게 AMD의 계산이다.</p> <p contents-hash="68b090d8fdde226b0f62d452c991b3ee1796bb2c7c80bf455b4c6da81e03cdb7" dmcf-pid="PTYvzeMVA8" dmcf-ptype="general">AMD 측은 헬리오스를 설계하면서 같은 비용으로 더 많은 연산을 처리하는 데 초점을 맞췄다고 설명했다. 개별 부품 성능을 높이는 방식이 아니라 랙 전체의 비용 대비 산출량을 끌어올리는 쪽으로 설계 방향을 잡았다. AI 기업 입장에서 같은 예산으로도 AI 서비스를 통해 더 많은 결과물을 뽑아낼 수 있도록 지원해 AI 생태계에서의 영향력을 확대하겠다는 전략이다.</p> <p contents-hash="2e60eaece5138d377bd7fe0c2bbca6b373fb9bf18ce672436682da95c2f40aca" dmcf-pid="QyGTqdRfj4" dmcf-ptype="general">AMD 관계자는 “개별 칩이 아닌 인프라 전체를 경제성 중심으로 재설계한 것은 결국 AI 기업들이 반도체를 고를 때 최종적으로 따지는 게 ‘연산 능력’ 자체가 아니라 ‘얼마나 싸게 서비스를 운영할 수 있는가’라는 판단이 작용했다”라며 “오픈AI, 메타, 마이크로소프트, 오라클, 앤트로픽 등 대형 AI 기업들이 이미 헬리오스 도입을 확정한 것도 이런 생산성 논리가 작용한 것”이라고 설명했다.</p> <p contents-hash="52c735ac5e694d5351066f6e8bd94c0bf1f1fdd1595520f9e3a3d8f78d698c36" dmcf-pid="xWHyBJe4cf" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 AMD, 2나노 서버용 CPU 에픽 ‘베니스’ 양산… “엔비디아 베라보다 처리량 2.2배↑” 07-24 다음 리사 수 "현존 세계 최고" 들고나온 엔비디아 대항마는? [AMD 어드밴싱 AI] 07-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
