마이크로소프트, 새 AI 모델 사전학습 완료…"딥시크보다 효율 12배↑" 작성일 10-16 20 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'MAI-베이스-2' 매개변수 2조 8000억 개…"다음 모델 개발도 착수"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9vHfiwb0gQ"> <p contents-hash="0c7675ebe641288de976acb961fef94c73ed6d136b1577a3f02b4fda3988f19f" dmcf-pid="2TX4nrKpoP" dmcf-ptype="general">(지디넷코리아=김미정 기자)<span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>마이크로소프트가 자체 인공지능(AI) 모델 개발 역량을 강화해 기업용 AI 시장 경쟁력 확보에 나섰다. </span></p> <p contents-hash="db6b36a8a64b6b23a36f21bbcb3af63778f662068a0caf09ba922af0407fbe25" dmcf-pid="VyZ8Lm9UA6" dmcf-ptype="general">마이크로소프트는 최근 2조 8000억 매개변수를 가진 차세대 파운데이션 모델 'MAI-베이스-2' 사전학습을 완료했다고 공식 블로그를 통해 16일 밝혔다. 이는 지난 6월 공개한 'MAI-베이스-1' 후속 <span>모델로 엔비디아 GB200 그래픽처리장치(GPU) 1만 6000개를 활용해 38일간 학습해 개발됐다.</span></p> <p contents-hash="30d1d3243e2fe957002604c2dfb3048c3d88e5107dde63f2b0b2667e72b4736f" dmcf-pid="fW56os2uk8" dmcf-ptype="general"><span arial="Arial," blinkmacsystemfont="BlinkMacsystemFont," neuequot='Neue",' next="Next" nova="Nova" quotavenir='"Avenir' quothelvetica='"Helvetica' quotproxima='"Proxima' quotsegoe='"Segoe' roboto="Roboto," rubik="Rubik," sans-serif="sans-serif;" system-ui="system-ui," uiquot='UI",' w01quot='W01",'>마이크로소프트는 자체 평가에서 MAI-베이스-2가 비교 대상인 주요 오픈웨이트 모델보다 우수한 성능을 기록했다고 밝혔다. 특히 중국 AI 기업 딥시크의 '딥시크-V4-프로-베이스'와 비교해 동일한 성능을 달성하는 데 필요한 연산량을 4.2~12.3배 줄인 것으로 나타났다.</span></p> <figure class="figure_frm origin_fig" contents-hash="1ae3e66b9e1f62e134b6886cd58b8d82086838e91703f77b99fc143f4eb55e06" dmcf-pid="4Y1PgOV7g4" dmcf-ptype="figure"> <p class="link_figure"><img alt="마이크로소프트는 최근 2조 8000억 매개변수를 가진 차세대 파운데이션 모델 'MAI-베이스-2' 사전학습을 완료했다 (사진=마이크로소프트 블로그)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/16/ZDNetKorea/20261016102723519kyuy.png" data-org-width="640" dmcf-mid="P4RFdEqFgI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/16/ZDNetKorea/20261016102723519kyuy.png" width="658"></p> <figcaption class="txt_caption default_figure"> 마이크로소프트는 최근 2조 8000억 매개변수를 가진 차세대 파운데이션 모델 'MAI-베이스-2' 사전학습을 완료했다 (사진=마이크로소프트 블로그) </figcaption> </figure> <p contents-hash="44199ceb285f9802e2b0693c2d5c8a495d1289ac060443b0462942deb62b1fcd" dmcf-pid="8GtQaIfzgf" dmcf-ptype="general">이번 모델은 전체 매개변수 2조 8000억 개 가운데 실제 추론 과정에서 약 800억 개만 활성화하는 전문가 혼합(MoE) 구조로 이뤄졌다. 입력 데이터에 필요한 일부 전문가 네트워크만 작동시켜 모델 규모를 키우면서도 연산 부담을 줄이는 식이다.</p> <p contents-hash="75e73bebf45a1fdf02fadf1ab72db397eb9f9c857cbe86c54e22dc249e485828" dmcf-pid="6HFxNC4qoV" dmcf-ptype="general">마이크로소프트는 모델 구조와 학습 알고리즘을 함께 개선해 GPU 활용 효율을 높였다고 밝혔다. 특히 전문가 혼합 구조의 메모리 관리 방식을 최적화해 해당 연산 구간의 모델 연산 활용률을 기존 24%에서 35%로 끌어올린 것으로 전해졌다.</p> <p contents-hash="b557d5f6f7369f8280d308b29efc246ffd61c1abbd6a616cf9a2c3fa01d1a27e" dmcf-pid="Pb4kSFaeg2" dmcf-ptype="general">해당 모델은 학습 안정성을 높이기 위한 기술도 갖췄다. '뮤온(Muon)' 최적화 알고리즘과 그래디언트 조정 기술을 활용해 대규모 학습 과정에서 발생하는 연산 부담과 불안정성을 줄였다.</p> <p contents-hash="5473f873882185aa9e9e9e8cb085657e7396ad46b4e83b1d89107342da83c519" dmcf-pid="QK8Ev3Ndc9" dmcf-ptype="general">마이크로소프트는 모델 학습 데이터 규모도 기존보다 확대했다. MAI-베이스-2에 사용한 고유 학습 데이터는 이전 모델보다 약 36% 늘었다. 다른 AI 모델의 답변을 학습하는 증류 방식 대신 자체 확보한 원천 데이터를 적용했다. </p> <p contents-hash="5bed80a3e8acbd08d7f97d1b19645379ad67d6ba562052a43c7c339f1dfaf2ca" dmcf-pid="x96DT0jJjK" dmcf-ptype="general">해당 모델은 텍스트와 이미지를 함께 학습하는 비전언어모델(VLM)로 문서와 차트 분석부터 공간 추론과 컴퓨터 사용 등 다양한 시각적 작업을 처리할 수도 있다. </p> <p contents-hash="0ddfd107d181841c6780400bf09ad5f2f37c220c76a2ce3ed51d72c40fc63aea" dmcf-pid="ysSqQNpXAb" dmcf-ptype="general">마이크로소프는 현재 MAI-베이스-2 후속 학습을 진행하고 있다. 향후 추가 성능 평가 결과를 공개하고 자체 AI 플랫폼 '마이크로소프트 파운드리'를 통해 기업 고객에게 모델 가중치를 제공하는 방안도 추진할 계획이다.</p> <p contents-hash="fa8393e171da19fb3ab579ac978d3fbeb9461b0b11a2aa1d5d6a737c7109b842" dmcf-pid="WOvBxjUZoB" dmcf-ptype="general">회사는 차기 모델 'MAI-베이스-3' 개발 준비에도 착수했다고 밝혔다. 자체 모델과 인프라를 함께 최적화해 AI 성능과 비용 경쟁력을 지속적으로 높인다는 구상이다.</p> <p contents-hash="2203f706b883c02594861846b1c3ecaf14913b9a26649dfb47a9bdce5083f071" dmcf-pid="YITbMAu5Nq" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 2024년 R&D 예산 삭감에 연구과제 10개 중 7개 연구비 줄어 10-16 다음 [영상] "드론이 전차 끝냈다는 건 착시, 오히려 중요성 커져" 10-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
