MS, '탈(脫)엔비디아' 시동… 추론은 자체 칩, 학습은 GPU '이원화' 작성일 10-13 58 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">MS 3세대 AI 칩 '마이아 300' 공개… HBM4 8스택·TSMC 2나노</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="We4uqL0HCq"> <figure class="figure_frm origin_fig" contents-hash="16a272e4f34d123e17c93366f8ddcc6ba3ca439c824f5f17a252471ac1225bca" dmcf-pid="Yd87BopXvz" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/552796-pzfp7fF/20261013081622159ubwm.png" data-org-width="640" dmcf-mid="yJq5FxHlvB" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/552796-pzfp7fF/20261013081622159ubwm.png" width="658"></p> </figure> <p contents-hash="83c38cbd1b0c35a39e5e5b23d26b48c8a7291330a5b6d7fc8b828402f6444eae" dmcf-pid="GJ6zbgUZv7" dmcf-ptype="general">[디지털데일리 이상일기자] 마이크로소프트(MS)가 자사 AI 서비스의 추론 연산을 자체 개발 칩으로 옮긴다. 엔비디아 GPU 의존도를 낮추고 급증하는 AI 운영 비용과 전력 부담을 직접 통제하겠다는 구상이다.</p> <p contents-hash="cfc8bf3a61cb8b05eac55bcea8c768ad53d6cbd481f5cb502616eb3da3d9ea37" dmcf-pid="HiPqKau5Su" dmcf-ptype="general">MS는 12일(현지시간) 3세대 AI 가속기 '애저 마이아(Azure Maia) 300'을 공개하고, 2027년부터 마이아 제품군을 멀티 기가와트 규모로 확장해 자사 제품·서비스의 주력 추론 시스템으로 삼겠다고 밝혔다. 스콧 거스리 MS 클라우드·AI 총괄 부사장은 공식 블로그를 통해 "초지능 시대에 접어들며 MS는 인프라의 새로운 단계에 진입하고 있다"고 말했다.</p> <p contents-hash="d67b31cc4097d82b49e8713d97092a87f66fe26bc11bf481aec3cd51bb47ca66" dmcf-pid="XnQB9N71WU" dmcf-ptype="general">전환 대상은 학습이 아닌 추론이다. 추론은 학습을 마친 AI 모델을 실행해 답변 생성, 코드 작성 등 실제 작업을 처리하는 단계로, 이용자가 늘수록 비용이 계속 누적된다. 대규모 모델 학습에는 기존대로 엔비디아와 AMD 프로세서를 쓴다.</p> <p contents-hash="9ca124be83cefbeaa7af12f13d026bb99c49dc6577ae7efc9fa56b34badd5c2c" dmcf-pid="ZLxb2jztSp" dmcf-ptype="general"><strong>◆"메가와트당 토큰 40% 더"… 데이터 이동 최소화에 초점</strong></p> <p contents-hash="450e41cee50a659a50ed3c4164f6145569360ed536c519ecc0e66d95d322ebe8" dmcf-pid="5oMKVAqFW0" dmcf-ptype="general">마이아 300은 긴 컨텍스트, 메모리 집약적 연산, 디코딩 부하가 큰 워크로드에 맞춘 '추론 우선' 구조로 설계됐다. MS는 장문 맥락 추론, 지연 시간에 민감한 대화형 서비스, 다단계 에이전트 작업을 주요 대상으로 꼽았다.</p> <p contents-hash="4d7d9e3e4a62e655b32a184c3bd99f70da53d072b101079fbee31b27a7bc63a0" dmcf-pid="1ae24kb0v3" dmcf-ptype="general">MS에 따르면 마이아 300은 선도적인 GPU 기반 시스템 대비 메가와트당 40% 더 많은 토큰을 처리한다. 가속기 96개를 탑재한 랙 기준으로는 마이아 200 대비 토큰 처리량이 최대 7배 늘어난다.</p> <p contents-hash="2e3a19f4dd4d02f8fc4fc9a9dc9c0160872132b9e01205bf42724df82727a523" dmcf-pid="tNdV8EKpWF" dmcf-ptype="general">칩당 HBM4 8스택을 탑재해 950와트(W) 열설계전력(TDP) 안에서 초당 18.0테라바이트(TB)의 메모리 대역폭을 낸다. 연산·메모리 컨트롤러·입출력(I/O)을 분리한 멀티 칩렛 구조를 처음 적용했고, 연산 칩렛은 TSMC N2P 공정으로 생산한다. 온다이 S램을 소프트웨어 관리형 스크래치패드로 활용해 HBM 부하를 줄이고, 개선된 MXFP4 등 저정밀도 데이터 형식을 지원해 KV 캐시 저장 부담도 낮췄다.</p> <p contents-hash="9a4ea17eff09c481dc74c7edaee196731dfe939e724badd81c1a3d007839a186" dmcf-pid="FjJf6D9UTt" dmcf-ptype="general">MS는 대규모 추론에서 병목은 연산 성능보다 데이터 이동에 있다고 보고, 소프트웨어 정의 데이터플로 아키텍처로 데이터 이동을 최소화했다고 설명했다. 가속기 간 연결에는 이더넷 기반 인프라 위에 자체 AI 전송 프로토콜을 얹었다.</p> <p contents-hash="9e97aaac1dc6089b80b3aa78b8b39bfdf122a87a9abc76d13dd43a94c0af68f7" dmcf-pid="3Ai4Pw2uv1" dmcf-ptype="general">랙 단위로는 167킬로와트(kW) 전력 범위에 가속기 96개를 넣어 HBM 용량 27.6TB, 총 대역폭 초당 1.7페타바이트(PB)를 확보했다. 마이아 200 대비 랙당 가속기 수가 두 배로 늘어난 만큼, '최대 7배' 가운데 상당 부분은 집적도 상승에서 나온 것으로 볼 수 있다.</p> <p contents-hash="d58844975e9d20144dad85469dd65eeb3f96ae32450de40841ff4809c93ae213" dmcf-pid="0cn8QrV7S5" dmcf-ptype="general"><strong>◆마이아 200은 이미 실전 투입… 코파일럿·오픈AI 모델 처리</strong></p> <p contents-hash="4c69b564bee5a797b4755a31a98a78d6e1a2c54f4d35862e16f575cd1f840934" dmcf-pid="pkL6xmfzlZ" dmcf-ptype="general">2026년 1월 출시된 2세대 마이아 200은 미국·유럽·호주 데이터센터에 배치돼 MS 코파일럿 등 실제 서비스 워크로드를 처리하고 있다. 오픈AI 모델과 MS 자체 MAI 모델, 주요 오픈소스 모델을 구동하며, 깃허브 코파일럿과 MS 파운드리도 연내 적용될 예정이다.</p> <p contents-hash="3a3439bcce70e5b83863091ba1f107d3f2915565b7f84762c56f0ec9a05f405e" dmcf-pid="UEoPMs4qlX" dmcf-ptype="general">MS는 팀즈·코파일럿·코워크의 내장 AI 기능에서 마이아 200이 선도 GPU 인프라 대비 와트당 최대 1.7배 많은 토큰을 처리한다고 밝혔다.</p> <p contents-hash="13d50e15f4215a0b1fdd6e58d1bfa5e0fb5365504086af49d237c83df2599d93" dmcf-pid="uDgQRO8BTH" dmcf-ptype="general">MS는 마이아 200 운영 경험을 마이아 300 설계에 직접 반영했다. 향후 두 세대가 함께 깃허브 에이전트 코딩, 파운드리 모델 서빙, MAI 팀 추론·데이터 생성, 의료용 '드래곤 코파일럿' 등을 지원한다.</p> <p contents-hash="6142068276bd0e7e58666e2f3fff7b7d3c0ed6ae7f2e032ef998244e83adc7a3" dmcf-pid="7Lxb2jztWG" dmcf-ptype="general">이로써 MS도 구글 TPU, 아마존 트레이니움에 이어 하이퍼스케일러의 자체 AI 칩 경쟁에 본격 가세했다. 다만 한계도 뚜렷하다. 성능 수치는 모두 MS 자체 발표로, 비교 대상 GPU 모델도 특정하지 않았다. 구글·아마존과 달리 마이아 칩은 현재 외부 고객이 애저에서 별도로 임대할 수 없다.</p> <p contents-hash="2d1b0d484415f6d37750a845f8ae768c8d3ccf06e5d27602c6c41376d28d6b7c" dmcf-pid="zoMKVAqFlY" dmcf-ptype="general">업계에서는 이번 발표가 엔비디아의 즉각적인 고객 이탈로 이어지지는 않겠지만, AI 인프라에 막대한 자금을 쏟는 빅테크들이 핵심 기술 소유권을 확보하려는 흐름을 보여준다고 평가한다. MS는 다음 달 미국 샌프란시스코에서 열리는 'MS 이그나이트 2026'에서 관련 전략을 추가 공개할 예정이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 엠게임 신작 ‘귀혼 키우기’, 원작과는 또 다른 재미 담았다 10-13 다음 일 잘하는 메모리 부장은 14억?…삼성 성과급 잔치 뒤 받을 청구서 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
