연산 줄인 ‘키미 K3’, 메모리 부담은 커…삼성·SK하이닉스 수혜 기대 작성일 07-21 47 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Qp4dykjJam"> <figure class="figure_frm origin_fig" contents-hash="b15c79dee8a75d0b6b00df2422545bbb8e2dd7aefade17346aa59130d41c9e10" dmcf-pid="xU8JWEAijr" dmcf-ptype="figure"> <p class="link_figure"><img alt="문샷AI의 인공지능(AI) 모델 키미의 로고. /연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/21/chosunbiz/20260721162655538cqee.jpg" data-org-width="4438" dmcf-mid="PRcIbXYCAs" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/21/chosunbiz/20260721162655538cqee.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 문샷AI의 인공지능(AI) 모델 키미의 로고. /연합뉴스 </figcaption> </figure> <p contents-hash="08c151bfbd3155086c7d0f476d825b22b28c349b42186876e2159a181d72020d" dmcf-pid="yAlXMzUZcw" dmcf-ptype="general">중국의 인공지능(AI) 스타트업 ‘문샷 AI’가 내놓은 오픈웨이트(가중치 공개형) 모델 ‘키미(Kimi) K3’가 구동 과정에서 막대한 메모리 용량을 요구하는 것으로 나타났다.</p> <p contents-hash="fd201b4480969ce13cdba77818ea877db39a825c9a7667ab2faf19dc72accbed" dmcf-pid="WcSZRqu5gD" dmcf-ptype="general">블룸버그통신은 키미 K3 공개 이후 반도체 관련 기업들의 주가가 하락하고 있지만, 시장이 이 모델의 높은 메모리 의존도를 간과하고 있을 수 있다고 20일(현지 시각) 보도했다.</p> <p contents-hash="684f8ec2a10368e291c6920fd3202f0cc29641eea9eb8741366a1003b9399d3d" dmcf-pid="Ykv5eB71gE" dmcf-ptype="general">시장에서는 키미 K3의 등장을 지난해 초 공개된 딥시크의 AI 모델 ‘R1’과 비교하고 있다. 딥시크는 AI 모델의 훈련 및 운영 비용을 절감하는 데 획기적 성과를 거뒀다는 평가를 받았다. 이에 AI에 필요한 반도체가 당초 예상보다 적을 것이라는 우려가 번지면서 당시 엔비디아 시가총액은 하루 만에 6000억달러 가까이 사라지기도 했다.</p> <p contents-hash="1618aa0b45a247c11fddaf8efcafe01f2193ccf678c4eb917ae2cb0c338f7dde" dmcf-pid="GET1dbztjk" dmcf-ptype="general">지난 17일 공개된 키미 K3는 매개변수(파라미터) 2조8000억개를 갖춘 세계 최대급 오픈웨이트 AI 모델이다. 또한 컴퓨팅(연산 처리) 효율성을 나타내는 지표인 ‘희소 비율’(Sparsity Ratio)도 사상 최고 수준으로 높다. 이 비율이 높을수록 모델의 전체 규모에 비해 각 작업에 활성화되는 매개변수의 수가 적다.</p> <p contents-hash="36b9e1fa7aad02aa8fbcc10a98d7ca4aa08e222a279d51afd59249f9e16ee191" dmcf-pid="HDytJKqFac" dmcf-ptype="general">그러나 모델을 구동하려면 전체 매개변수가 메모리에 저장돼야 한다. 저정밀도 데이터 형식으로 모델을 압축하더라도 1.4테라바이트의 메모리가 필요하다는 뜻이다.</p> <p contents-hash="5260b009a91471284764e40a3b366a8b56eb44917cca8e9aae2669d68f6911a0" dmcf-pid="XRcIbXYCNA" dmcf-ptype="general">이용자가 모델을 직접 구동하려면 엔비디아의 ‘블랙웰 GB300’ 기반 시스템에 준하는 대규모 AI 서버 장비가 필요하다는 설명이다.</p> <p contents-hash="f581ca581aa6e6cba1069fd0d06d6828d2f3dccdf4ca3ff11f6a42233baeb94c" dmcf-pid="ZyDl21XSAj" dmcf-ptype="general">키미 K3가 지원하는 100만 토큰 규모의 컨텍스트 창도 메모리 사용량을 늘리는 요인이다. 컨텍스트 창은 AI 모델이 한 번에 기억하거나 처리할 수 있는 정보의 양을 의미한다.</p> <p contents-hash="d36a8745e8b5a8fea6fbcd18a2cd1ae30cbb9d4806c2b48cc577b438ef13ee75" dmcf-pid="5WwSVtZvcN" dmcf-ptype="general">블룸버그는 “2조8000억개의 매개변수와 100만 토큰의 ‘컨텍스트 창’을 갖춘 K3는 이전 세대보다 훨씬 더 많은 메모리 용량을 요구한다”며 “이는 SK하이닉스와 삼성전자 등 소수가 시장을 지배하는 분야에서 지속적인 수요를 시사한다”고 했다.</p> <p contents-hash="dde175625e92168a03b8f1d13f4d23293e91012d812e54de61bac6c9c28adb99" dmcf-pid="1YrvfF5Tga" dmcf-ptype="general">스탠리 탕 스미토모 미쓰이 DS 자산운용 수석 포트폴리오 매니저는 메모리 공급 업체의 수가 제한적임을 고려할 때 이들이 향후 반도체 업계에서 여전히 가장 유리한 위치에 있을 것이라고 평가했다. 또한 키미와 같은 모델이 인기를 얻게 되면 AI 에이전트의 보급을 가속할 수 있는 만큼 전반적인 수요는 줄어들지 않을 것으로 예상했다.</p> <p contents-hash="0e2f36b37e6ff5f57f284440b69f7cd212fc1d1acabe6f62b1a9264e762aeb06" dmcf-pid="tGmT431yAg" dmcf-ptype="general">한편, 문샷은 오는 27일 키미 K3의 모델 가중치를 공개할 계획이다.</p> <p contents-hash="7b353773dfded0b4ff3b6aa5f84818216992849724e23e825e93c89d497fd25e" dmcf-pid="FHsy80tWgo" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 하이퍼센트, 금융위 ‘혁신 프리미어 1000’ 선정… ‘백룸클리너스’ 테스트 신청 1.2만 명 돌파 07-21 다음 BTS 만난 순간 폭주...5800만 유튜버 아이쇼스피드 '찐 리액션' [자막뉴스] 07-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
