AMD 라이젠 AI 헤일로, 엔비디아 제치고 온디바이스 에이전트 성능 34% ↑ 작성일 08-05 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[인더스트리 AI] 단순 토큰 속도 끝났다… AI 에이전트 시대, 왜 '전체 워크플로우 시간'</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fGPlryWIyB"> <figure class="figure_frm origin_fig" contents-hash="842cb2cf3fe5050054079bb4eb796c5a17d0c95d1e99339bd276dc2834a900e8" dmcf-pid="4HQSmWYCCq" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/552796-pzfp7fF/20260805101709145epxo.jpg" data-org-width="640" dmcf-mid="2jg1W0pXWK" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/552796-pzfp7fF/20260805101709145epxo.jpg" width="658"></p> </figure> <p contents-hash="b43b77c96f01b530afbbf86da6be58621c96bc4ff48dc3100e4e85a8fd78018e" dmcf-pid="8XxvsYGhSz" dmcf-ptype="general">[디지털데일리 김문기 기자] AI 에이전트 시대가 본격화되면서 기존 GPU 중심의 단순 '토큰 생성 속도'가 아닌, CPU와 GPU의 균형 잡힌 시스템 전반의 '워크플로우 완료 시간'이 온디바이스 AI의 새로운 핵심 성능 지표로 떠오르고 있다.</p> <div contents-hash="44531b8d8d48d929dabe089fe3d2ee8a2d3047bc1bde03ad6d3a971693513bd0" dmcf-pid="6ZMTOGHlS7" dmcf-ptype="general"> 4일(현지시간) 마이클 아벨(Michael Abel) AMD 관계자는 블로그를 통해 에이전틱 AI(Agentic AI) 시대를 위해 설계된 'AMD 라이젠 AI 헤일로(Halo)'가 로컬 추론 환경에서 경쟁사 대비 최대 34% 향상된 에이전트 오케스트레이션 성능을 발휘한다고 밝혔다. </div> <figure class="figure_frm origin_fig" contents-hash="c8afd816cc10e185a10da8c23f970b2adc397d80cdac96c588a9d258f266690a" dmcf-pid="Py4IESvmWu" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/552796-pzfp7fF/20260805101711020fukz.jpg" data-org-width="640" dmcf-mid="VrHR4inQlb" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/552796-pzfp7fF/20260805101711020fukz.jpg" width="658"></p> </figure> <p contents-hash="b476dbacd124b6b3395e1dc60fd8672ab4c89b75d5469d723903fde4196815af" dmcf-pid="QW8CDvTshU" dmcf-ptype="general">단순 질문에 답을 제시하는 챗봇과 달리, AI 에이전트 워크플로우는 계획 수립, 파싱(Parse), OCR, 청크 분할, 임베딩, 검색, 생성, 검증에 이르는 복합 파이프라인으로 구성된다. 이 중 상당수 단계는 GPU가 아닌 CPU 기반의 오케스트레이션 과정을 거치게 된다.</p> <p contents-hash="c4a05a60208d9a9882e7fbae437aeec60e899a8d175cc798c1e6c584fed7a40d" dmcf-pid="xY6hwTyOCp" dmcf-ptype="general">AMD는 실제 기업 지식 근로자의 업무 환경을 반영해 개발한 로컬 벤치마크 'HEPA(Hermes Executive Presentation Agent)'를 통해 로컬 AI 에이전트의 성능을 전 과정에 걸쳐 측정했다. HEPA는 로컬 데이터셋을 기반으로 프레젠테이션, 메모, 차트, 출처 부록까지 완성하고 품질 검증을 통과하는지 평가한다.</p> <p contents-hash="063452136d2ee69bc8e4281351dfe07d7f6d251077b802935f1572edac3b9ab5" dmcf-pid="yRS4BQx2S0" dmcf-ptype="general">해당 측정 환경은 8개 파이프라인 단계 중 7개 단계가 CPU에서 실행되고, GPU는 모델 생성만 담당하는 구조다.</p> <p contents-hash="8c080afc4487d759df6e6559791f671dbc4521aa6cbc5908976db25a5e576633" dmcf-pid="Wev8bxMVy3" dmcf-ptype="general">측정 결과, 'AMD 라이젠 AI 맥스+ 395' 프로세서를 탑재한 AMD 라이젠 AI 헤일로는 리눅스 환경에서 엔비디아 'DGX 스파크 그레이스 블랙웰(GB10)' 대비 탁월한 효율을 입증했다.</p> <p contents-hash="66392e0f8b278a335cf60d286fa692aa749b24a77b1da71efbe88b8e1f456fd4" dmcf-pid="YdT6KMRfCF" dmcf-ptype="general">AMD 라이젠 AI 헤일로는 CPU 오케스트레이션 성능에서 엔비디아 DGX 스파크보다 34% 빠른 속도를 기록했다. AMD는 CPU 측 준비 작업을 152.1초 만에 마쳤으나, DGX 스파크는 229.9초가 소요됐다. 특히 임베딩 및 라우팅 작업에서 AMD는 71.5초를 기록해 DGX 스파크(139.6초) 대비 약 2배 빠른 처리 속도를 보였다.</p> <p contents-hash="02a5b8f50858f2258629432fbd14fa16a1c5868ec7d53d74ad1f646e05f681ea" dmcf-pid="GJyP9Re4lt" dmcf-ptype="general">전 과정에 걸친 워크플로우 완료 시간 측면에서도 AMD는 품질 검증을 통과한 최종 결과물을 311.6초 만에 완료, DGX 스파크(367.1초)보다 15%(55.5초) 빠르게 작업을 끝냈다. 3년 하드웨어 감가상각 기준 완료된 워크플로우당 비용 역시 AMD가 약 27% 더 낮았다.</p> <p contents-hash="3aaba7807349f991a02cde5e6e9766bc8b9e84e40a1fab11f4330d6036496860" dmcf-pid="HiWQ2ed8v1" dmcf-ptype="general">이 같은 성능 차이는 CPU의 멀티스레딩 및 벡터 연산 능력에서 비롯된다. 라이젠 AI 맥스+ 395 프로세서는 SMT를 통해 16개의 '젠 5(Zen 5)' 코어와 32개 스레드, AVX-512/VNNI 벡터 가속을 지원해 데이터 병렬 처리에서 우위를 점했다. 반면 20개의 Arm 코어를 탑재한 그레이스 블랙웰은 SMT를 지원하지 않는다.</p> <p contents-hash="0d33c57bfa564c9fc136b7c858b81210926c3db4c52a0265b41a9ffd4f64e0b3" dmcf-pid="XnYxVdJ6l5" dmcf-ptype="general">마이클 아벨은 "채팅은 하나의 응답을 제공하지만, AI 에이전트는 검증까지 마친 결과물을 제공한다. 즉, 단일 GPU 추론이 아닌 시스템 전체의 결과물이다"라며 "AI 에이전트 워크플로우에서는 전 과정에 걸친 완료 시간이 가장 의미 있는 성능 지표가 된다"고 설명했다.</p> <p contents-hash="04b5e5046d59076730d49239932081ce9a369f036cda02ca96beca5420bfa8ce" dmcf-pid="ZLGMfJiPSZ" dmcf-ptype="general">이어 "챗봇 시대는 GPU의 시대였다면, AI 에이전트 시대는 시스템 전체의 성능이 경쟁력을 좌우하는 시대"라며, "온디바이스 환경에서는 CPU, GPU, 통합 메모리가 균형 있게 구성돼 워크플로우 완료 시간과 비용을 최적화한 시스템이 해답"이라고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 "야구는 나약한 운동?…축구는 폭염에도 하는데" 08-05 다음 7월 열대야 역대 최다…중부엔 호우, 남부는 가뭄 08-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
