엔비디아 'AI 추론' 모델·인프라 폭탄투하…'에이전틱 AI' 경쟁 격화 작성일 03-20 135 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">젠슨황 "추론모델 고성능 컴퓨팅 요구, 딱 맞춤 블랙웰 울트라"<br>中알리바바·바이두 등도 추론모델 발표…LG '엑사원 딥' 참전</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="uTmj4OkPGQ"> <figure class="figure_frm origin_fig" contents-hash="0810880a870b2024be0b7cca3903d800b8def2146644fe2103109cdbec56c3e9" dmcf-pid="7ysA8IEQ5P" dmcf-ptype="figure"> <p class="link_figure"><img alt="US-TECHNOLOGY-INTERNET-SOFTWARE-NVIDIA ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060028801lfot.jpg" data-org-width="1400" dmcf-mid="FiD7v4BWGX" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060028801lfot.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> US-TECHNOLOGY-INTERNET-SOFTWARE-NVIDIA ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="cf9b8c7454b7a73238c20e32ed069b8c7f641dcd955199d558e9b54e9eccb978" dmcf-pid="zWOc6CDx16" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 엔비디아가 개방형 추론 인공지능(AI) 모델과 추론형 AI 모델 구동에 필요한 플랫폼 및 슈퍼컴퓨터 등을 대거 쏟아내며 빅테크 기업 간 추론 모델 경쟁에 새 국면을 열었다.</p> <p contents-hash="82d5af4be114370e3f68ff054d3d12555722c084b44f7c883a01bcc87da4db9c" dmcf-pid="qYIkPhwMY8" dmcf-ptype="general">알리바바·바이두 등 중국 빅테크 기업에 이어 LG(003550)도 세계 최정상급 자체 AI 모델을 발표하며 AI 시장 주도권 경쟁이 치열해지는 양상이다. </p> <p contents-hash="fe58816e0b31f04b850330a6e98987d47e22ad02f22779620a3c8ddeacca2b48" dmcf-pid="BGCEQlrR14" dmcf-ptype="general">20일 엔비디아에 따르면 최근 'GTC'에서 공개한 '엔비디아 라마 네모트론' 모델은 메타의 라마 모델을 기반으로 자사 인프라로 사후 훈련(Post-Training)을 거쳐 성능을 대폭 향상시켰다. 라마 네모트론이 다른 주요 개방형 추론 모델보다 처리 속도가 5배 빠르다고 회사 측은 설명했다.</p> <figure class="figure_frm origin_fig" contents-hash="035ca67ce040d144f294b8f38abcae2a9bd273e8b14c7b7b6364ec65215c34f1" dmcf-pid="bHhDxSmeGf" dmcf-ptype="figure"> <p class="link_figure"><img alt="US-TECHNOLOGY-INTERNET-SOFTWARE-NVIDIA ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060030859ijhk.jpg" data-org-width="1400" dmcf-mid="8r2XDu1mtw" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060030859ijhk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> US-TECHNOLOGY-INTERNET-SOFTWARE-NVIDIA ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="daedd6f603900dcb2616ed31799e053bec90f88d87528d1c210c908277bc6d7d" dmcf-pid="KXlwMvsdtV" dmcf-ptype="general">엔비디아는 AI 추론 능력을 강화한 '블랙웰 울트라'와 블랙웰 울트라 탑재 제품군도 발표했다. 블랙웰 울트라는 테스트 타임 스케일링(TTS) 추론과 훈련을 강화해 △AI 추론 △에이전틱 AI(AI 에이전트) △물리 AI 애플리케이션(앱) 가속화를 지원한다.</p> <p contents-hash="4ae765507fc0eaa2da68c147cc5dad6f815848d84274746fc6a523d852cc2f9c" dmcf-pid="9z1yjFGkX2" dmcf-ptype="general">블랙웰 울트라 기반 슈퍼컴퓨터 'DGX SuperPOD'도 공개했다. DGX SuperPOD는 최첨단 기업용 AI 인프라로 산업 전반에 에이전틱 AI(AI 에이전트) 추론을 위한 슈퍼컴퓨팅을 제공한다.</p> <p contents-hash="09d76c684f18eb5fe8cae6735406c2684afc72bdcf568012f1d819722a7d7a3c" dmcf-pid="2qtWA3HEZ9" dmcf-ptype="general">젠슨 황 CEO는 "추론 AI와 에이전틱 AI는 훨씬 더 많은 컴퓨팅 성능을 요구하고 있다"며 "바로 이 순간을 위해 블랙웰 울트라를 설계했다"고 했다.</p> <figure class="figure_frm origin_fig" contents-hash="46ad37cfa2c574589fea11c51721ad3da82630074a7b8f53595a812f3788de21" dmcf-pid="VBFYc0XDZK" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060032237irzf.jpg" data-org-width="340" dmcf-mid="pOhLKDaVHM" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060032237irzf.jpg" width="658"></p> </figure> <p contents-hash="e0f793bb1fed9d68cede5e683e02502e0668b8a05f74c9ed4d398ef30d6a0648" dmcf-pid="fb3GkpZwXb" dmcf-ptype="general">하드웨어 인프라에 소프트웨어 통합을 택한 엔비디아와는 달리 오픈AI는 소프트웨어와 API 중심 전략을 취하고 있다. 오픈AI는 최근 AI 에이전트용 소프트웨어 개발 플랫폼 '리스폰스 API'를 출시했다.</p> <p contents-hash="c1d0bf437435ae84884a205755452b9af2858b81d9c42a42e785f330a27523f9" dmcf-pid="4K0HEU5rZB" dmcf-ptype="general">알리바바·바이두 등 중국 빅테크 기업들도 추론 AI 모델 경쟁에 적극 뛰어들고 있다.</p> <p contents-hash="6a95bc7cdd24b021229dccbeeda518a4b3529def0362437fe7d3b11e18217057" dmcf-pid="89pXDu1mtq" dmcf-ptype="general">알리바바는 공장 수준으로 AI 모델을 찍어내고 있다는 평가다. 올해 1월 전문가혼합(MoE) 방식을 적용한 '큐원2.5-맥스'를 공개하며 'GPT-4o'를 넘어섰다고 주장했다. 최근 전 세계 인구의 90%가 사용하는 25개 언어를 포함한 오픈소스 대형언어모델(LLM) '바벨'도 공개했다.</p> <p contents-hash="ba3fb662a4e92d8c0f041ae4a8781b05260a38f5343b059332abbed268b87dfb" dmcf-pid="62UZw7tsXz" dmcf-ptype="general">바이두는 추론 특화 AI 모델 '어니 X1'과 '어니 4.5'를 최근 발표했다. 모니카는 범용 AI 에이전트 초기 모델 '마누스 AI'를 선봬 관심을 모았다.</p> <figure class="figure_frm origin_fig" contents-hash="28639636f166b9771b03dbbbfda9cb3c98db8d8c1f0b6460c6791cec0fc9a998" dmcf-pid="PVu5rzFO17" dmcf-ptype="figure"> <p class="link_figure"><img alt="엑사원 딥-32B의 수학 영역(왼쪽) 과학과 코딩 영역 성능 비교(LG 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060033694lgkl.jpg" data-org-width="860" dmcf-mid="UN2uSfqyXx" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/NEWS1/20250320060033694lgkl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 엑사원 딥-32B의 수학 영역(왼쪽) 과학과 코딩 영역 성능 비교(LG 제공) </figcaption> </figure> <p contents-hash="0f0528953bdbf10177d495a50a58f07e6880dd81f085ace5bd544e9044999d4f" dmcf-pid="Qf71mq3I5u" dmcf-ptype="general">국내 기업들도 추론 AI 가속 흐름에 동참하고 있다. LG는 이달 18일 세계 최정상급 추론형 AI '엑사원 딥'을 오픈소스로 공개하며 동급 모델 기준 오픈AI 모델 및 중국 딥시크 등보다 성능이 우월하다고 설명했다.</p> <p contents-hash="a35e1c0c4e084c82f51458a50cbff3db00888e32feb7c807299b59a27af1bcbc" dmcf-pid="x4ztsB0CHU" dmcf-ptype="general">업계 관계자는 "하드웨어 강자 엔비디아가 글로벌 주요 테크·클라우드 기업들과 연합군을 꾸리면서 소프트웨어 경쟁력 강화에 나섰다"며 "비용 효율성을 내세운 중국 기업들도 정부 지원을 바탕으로 거세게 도전하고 있어 추론 AI 경쟁은 한층 더 치열해질 것"이라고 말했다.</p> <p contents-hash="0314e65d03ec008646047c5b40ec137b27c1bb594495e7290a8fbe97a5dd2cdd" dmcf-pid="yhEo9wNfXp" dmcf-ptype="general">추론형 모델은 학습한 데이터에 Chain-of-Thought(CoT·사고의 연쇄) 프롬프트 기법을 적용해 상황별 최적의 답변을 생성하며 어떤 과정을 거쳐 결론을 도출했는지 단계별로 보여준다. 인간이 단계적으로 사고하는 방식과 유사하다. 반면 비추론 모델(일반모델)은 질문·지시에 사고의 단계 없이 빠르게 답변한다.</p> <p contents-hash="e900a951df8f656a114bee09d6fd96c23bdd34dfedfe7420dc5641d8674982a0" dmcf-pid="WsjJqcLKt0" dmcf-ptype="general">최근엔 복잡한 전략 수립 및 분석에는 추론 모델을, 일상적인 업무 실행과 단순 작업에는 비추론 모델을 활용하는 등 혼합 모델 연구가 이뤄지고 있다.</p> <p contents-hash="5fe410e88e1cdfe815a6a818fa78287952518d970e8aa7856ae302d7590cf9b2" dmcf-pid="YOAiBko9X3" dmcf-ptype="general">ideaed@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 문소리 목숨 걸고 키운 母 이향란 “5년차 배우” 일흔에 찾은 이름(유퀴즈)[어제TV] 03-20 다음 이재용, 이재명 대표와 만남…과거 회동도 재조명 03-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
