[키미 K3 쇼크①] 2.8조 매개변수로 미국 추격… 중국 AI, 오픈웨이트로 세계 공략 작성일 07-22 67 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">896개 전문가 중 16개만 골라 작동… 초대형 모델 연산 부담 낮춰</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="X2xSJQ6bvB"> <div contents-hash="3669fb75180e33b4a307f3c59a50315e5c26c246c9a6367f8b89b6ddd6d30b59" dmcf-pid="ZVMvixPKTq" dmcf-ptype="general"> <strong> 중국 인공지능(AI) 기업이 성능과 가격 경쟁력을 앞세워 미국 중심의 AI 시장을 흔들고 있다. 문샷AI의 ‘키미 K3’는 2조8000억개 매개변수와 오픈웨이트 전략으로 글로벌 개발자 생태계 공략에 나섰다.<디지털데일리>는 키미 K3의 기술 구조와 실제 성능, 중국의 글로벌 AI 확장 전략을 3회에 걸쳐 살펴본다. 아울러 중국 AI의 부상이 국내 기업과 정부의 AI 전략에 던지는 과제도 짚어본다.<편집자></strong> </div> <figure class="figure_frm origin_fig" contents-hash="17514e517857abea026aa96d34594ab2573f72327fdc6daa219654162d640d07" dmcf-pid="5fRTnMQ9lz" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/22/552796-pzfp7fF/20260722144632214qumb.jpg" data-org-width="640" dmcf-mid="Hy1Jp5XSCb" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/22/552796-pzfp7fF/20260722144632214qumb.jpg" width="658"></p> </figure> <p contents-hash="6373f13450997c72965d73854043ae393ac5d8babcdfbaf285ab3b77aa0ebf47" dmcf-pid="14eyLRx2S7" dmcf-ptype="general">[디지털데일리 구아현기자] 인공지능(AI) 사용량이 늘면서 토큰당 비용에 부담을 느끼는 기업과 개발자들이 중국 모델로 눈을 돌리고 있다. 중국 AI 스타트업 문샷AI는 전체 매개변수 2조8000억개를 갖춘 거대언어모델(LLM) ‘키미 K3’를 내놓으며 미국 프런티어 모델에 정면 도전했다.</p> <p contents-hash="ae1ff3cf35700a898d7ec9ac607313294dd8986dab8a544f661f7d334937ca7f" dmcf-pid="t8dWoeMVvu" dmcf-ptype="general">문샷AI는 미국 최상위 모델에 근접한 성능과 상대적으로 낮은 이용 비용을 앞세웠다. 여기에 모델 가중치를 공개하는 오픈웨이트 전략을 더해 세계 개발자와 기업을 자국 AI 생태계로 끌어들이려 하고 있다.</p> <p contents-hash="4b08434c36fd617ab831de449cc5c5e4c45cf5a5dfab440eb12c71e3f17086ba" dmcf-pid="F6JYgdRfyU" dmcf-ptype="general">시장 반응도 뜨거웠다. K3 출시 직후 이용 요청이 몰리면서 과부하가 돼 문샷AI는 신규 유료 가입을 일시 중단했다. 초대형 모델을 실제 서비스로 운영하려면 막대한 컴퓨팅 자원이 필요하다는 한계를 드러낸 동시에 미국 모델의 대안을 찾는 개발자 수요도 확인시켰다.</p> <p contents-hash="9bd0322dd80d77f94a3da7eca4d132681676dee729042adcafefaaab47a435eb" dmcf-pid="3Fqc2zu5Cp" dmcf-ptype="general">중국 AI 기업은 그동안 적은 비용으로 높은 성능을 내는 모델을 앞세워 미국을 추격해왔다. K3는 여기서 한발 더 나아갔다. 모델 규모를 3조개 가까이 키우면서도 실제 답변에는 일부만 작동시키는 구조를 적용해 성능과 효율을 동시에 겨냥했다.</p> <p contents-hash="40fd005cae85e75113f960aa32787a42fbc325d2330a78274fc2b7437b53d552" dmcf-pid="03BkVq71v0" dmcf-ptype="general">미국이 경계하는 지점은 오픈웨이트의 확산력이다. 첨단 그래픽처리장치(GPU)는 수출 단계에서 통제할 수 있지만, 인터넷에 공개된 모델 파일의 확산까지 막기는 어렵다. K3가 성능과 가격, 개방성을 앞세워 개발 현장에 퍼지면 미국 기업이 주도해온 폐쇄형 AI 생태계에도 부담이 될 수 있다는 관측이 나온다.</p> <p contents-hash="bdafd84184b21d37229160b13a5170a44331199b5e2b37c24fc4f975b13df411" dmcf-pid="p0bEfBztT3" dmcf-ptype="general"><strong>◆ 2.8조 매개변수인데…896개 ‘전문가’ 중 16개만 작동</strong></p> <p contents-hash="deea1f9e11b2d39cd14a7c66d854268b391662142d2e460560a9be097edb14ee" dmcf-pid="UpKD4bqFSF" dmcf-ptype="general">K3의 핵심은 작동 방식에 있다. 매개변수는 AI가 학습하면서 만들어낸 수많은 조정값이다. 숫자가 클수록 더 많은 정보와 복잡한 패턴을 담을 여지가 생긴다. 다만 매개변수가 많다고 반드시 성능이 높아지는 것은 아니다. 실제 답변을 만들 때 얼마나 많은 매개변수를 사용하고, 이를 얼마나 효율적으로 계산하는지도 중요하다.</p> <p contents-hash="c3485c4db649e207ca226975ea88c20d55c66cd79a76d3fb82650318d4e5d353" dmcf-pid="uU9w8KB3Ct" dmcf-ptype="general">K3는 답변을 만들 때 2조8000억개 매개변수를 모두 사용하지 않는다. 모델 안에 896개의 ‘전문가’를 두고 질문마다 필요한 전문가 16개만 골라 작동시킨다. 회사에 비유하면 모든 직원이 하나의 업무에 매달리는 대신 질문의 성격에 맞는 부서만 호출하는 방식이다. 코딩 질문에는 코딩과 수학에 강한 전문가를, 경제 질문에는 경제·사회 분야 전문가를 불러 답을 만든다. 이 같은 구조를 전문가혼합(MoE)이라고 부른다. 모델이 담을 수 있는 전체 지식은 늘리면서 매번 계산에 투입되는 연산량은 낮추기 위한 설계다.</p> <p contents-hash="0e0517e673b4ce57fb6e66c5b9bf5b0ca52d44a4c86bc38f8505289d675e7892" dmcf-pid="7u2r69b0y1" dmcf-ptype="general">문샷AI는 긴 문서와 복잡한 작업을 처리하기 위한 기술도 추가했다. ‘키미 델타 어텐션(KDA)’은 앞에서 나온 내용을 계속 다시 계산하는 부담을 줄이고, ‘어텐션 레지듀얼(AttnRes)’은 여러 계산 단계를 거치면서 중요한 정보가 흐려지는 문제를 완화한다. 쉽게 말하면 KDA는 긴 내용을 기억하는 비용을 줄이고, AttnRes는 필요한 정보를 다음 단계까지 유지하도록 돕는 기술이다. 다만 두 기술이 2조8000억개 규모의 모델 자체를 메모리에 올려야 하는 부담까지 없애는 것은 아니다.</p> <p contents-hash="c04a6f4d1c5f670413e8eb3108a222102b83ee06b5c53d36f7e36dcc76adfaf7" dmcf-pid="z7VmP2KpW5" dmcf-ptype="general">이지화 액션파워 최고기술책임자(CTO)는 “2조8000억개 매개변수를 추론할 때마다 모두 활성화하면 처리 시간이 길어지고 전력도 많이 든다”며 “질문에 필요한 부분만 켜서 효율적으로 답하도록 만든 구조가 MoE”라고 설명했다.</p> <p contents-hash="ea54e88aeb1306e875ed83f8463e920e7896b0d4fde249f508d987defd29cbe2" dmcf-pid="qzfsQV9UlZ" dmcf-ptype="general">이어 “K3처럼 모델이 매우 크면 전체를 한꺼번에 작동시키기보다 질문에 필요한 부분만 선택적으로 활성화한다”며 “전체 매개변수 규모뿐 아니라 실제 활성 매개변수와 토큰당 연산량을 함께 봐야 한다”고 말했다.</p> <p contents-hash="7d553c722e51cf6276640b97573880d0700de06d0bab4e9c90bf5c397d7b11b6" dmcf-pid="Bq4Oxf2uTX" dmcf-ptype="general">이 CTO는 또 “896개 전문가는 다양한 분야를 넓게 다루겠다는 의미로 볼 수 있다”며 “전문가를 안정적으로 학습하고 질문에 맞게 잘 골라내는지가 실제 성능을 좌우할 것”이라고 평가했다. 이어 “장기 레이스라는 관점에서 보면 중국이 상당히 빠르게 따라가고 있다”고 말했다.</p> <p contents-hash="56213e0fa9b3ba18dde452712156d368e693905f1500c60afa5d5e83ef3d24f6" dmcf-pid="bB8IM4V7TH" dmcf-ptype="general"><strong>◆ 미국을 긴장시킨 것은 ‘확산 속도’</strong></p> <p contents-hash="544caa466e731aa3175816f0a3c832b3845c86e341acb46c936d5d839461aaf3" dmcf-pid="Kb6CR8fzlG" dmcf-ptype="general">K3는 미국 최상위 모델과의 격차도 좁혔다. 일부 코딩 평가에서는 미국 프런티어 모델과 대등하거나 앞선 결과를 냈다. 특히 웹 화면과 응용프로그램을 만드는 프런트엔드 코딩 분야에서 강점을 보였다는 평가가 나온다.</p> <p contents-hash="75cc0f0bc29835ef7fdfcda6eac85aac4cc70814e18b01b434ec325c3c02e541" dmcf-pid="9mv4GShDSY" dmcf-ptype="general">다만 미국 모델을 전면적으로 넘어섰다고 단정하기는 이르다. 종합적인 추론 능력과 복잡한 작업의 안정성, 실제 사용자 경험에서는 오픈AI와 앤트로픽의 최상위 모델이 여전히 앞선다는 평가도 있다.</p> <p contents-hash="dda813627495c880d5711e1a82a63c92eb06be7e9a80fe2963a3279839c2507b" dmcf-pid="2sT8HvlwlW" dmcf-ptype="general">평가 방식도 따져봐야 한다. 코딩 모델은 모델 자체의 능력뿐 아니라 코드를 읽고 실행하는 개발도구, 반복 수정 과정, 컴퓨팅 환경에 따라 결과가 달라진다. 서로 다른 도구를 사용한 벤치마크 점수만으로 모델의 절대적인 우열을 판단하기 어려운 이유다.</p> <p contents-hash="6cc0e157ca5fd9b3ae7ed04e3e6a72144ed0b2e1874d597c27a2eb2c5ff64ba0" dmcf-pid="VOy6XTSryy" dmcf-ptype="general">K3의 가중치와 상세 기술자료가 아직 완전히 공개되지 않았다는 점도 한계다. 현재 평가는 문샷AI가 제공한 자료와 API 시험이 중심이다. 외부 연구진이 모델을 직접 내려받아 작동 방식과 연산량을 검증해야 실제 효율을 확인할 수 있다.</p> <p contents-hash="d090fda15a4a5f7ea56d519aad61bcd3e8e67320aebfb004f2b7e9f7c3299db6" dmcf-pid="fIWPZyvmST" dmcf-ptype="general">미국이 더 민감하게 보는 부분은 성능보다 확산 속도다. 오픈AI와 앤트로픽의 최상위 모델은 내부 가중치를 공개하지 않는다. 기업과 개발자는 API나 유료 서비스를 통해 모델을 사용해야 하며 내부 구조를 직접 바꾸기 어렵다.</p> <p contents-hash="8009a1d974293b0f5ba2d86e8a008ab4a840ea4d7adc04d37180f221ce1597ac" dmcf-pid="4CYQ5WTsWv" dmcf-ptype="general">오픈웨이트는 다르다. 개발자가 가중치를 내려받아 특정 언어나 산업에 맞게 추가 학습하고, 모델 크기를 줄이거나 새로운 개발도구에 연결할 수 있다. 원본 모델을 직접 운영할 수 있는 기업이 적더라도 공개 이후에는 크기를 줄인 경량 모델과 특정 산업에 맞춘 변형 모델이 잇따라 등장할 수 있다. 세계 개발자들이 K3를 활용한 도구와 서비스를 만들기 시작하면 문샷AI를 중심으로 생태계가 빠르게 형성될 수 있다.</p> <p contents-hash="38343194475f4746679d07a270897fdb6cb0a57ce3ab794dce83c71c4d61131e" dmcf-pid="8hGx1YyOTS" dmcf-ptype="general">미국이 중국에 대한 첨단 GPU 수출을 제한하더라도 완성된 중국 모델이 세계 개발자 생태계로 퍼지면 경쟁의 양상은 달라진다. 개발자와 스타트업은 모델의 국적보다 성능과 비용, 사용 편의성을 먼저 따질 가능성이 크다.</p> <p contents-hash="89ff17a937dbbe27f22df73e156f21bb557cd394cbb5d709df5b96cdbd3e02d0" dmcf-pid="6lHMtGWIWl" dmcf-ptype="general">미국에 부담이 되는 지점도 단일 벤치마크 점수보다 개발자 생태계로 확산하는 속도에 있다는 분석이다. 중국이 미국 모델을 뒤쫓는 데 그치지 않고, 자국 모델을 세계 개발자의 공통 기반으로 만들려는 단계에 들어섰다는 의미다.</p> <p contents-hash="da1fbd6cb2c940486c22baf15d6351ce325bcdb92427e56e67cae604fa486a18" dmcf-pid="PSXRFHYChh" dmcf-ptype="general"><strong>◆ 공개 모델이지만 운영 문턱은 높아</strong></p> <p contents-hash="1bc4d0606e989d14665a4c1710b17f63df6aec826928b2ca13c7e12560d42004" dmcf-pid="QvZe3XGhWC" dmcf-ptype="general">운영 문턱은 높다. K3는 질문마다 전문가 16개만 계산하지만 상용 서비스에서는 전문가 896개의 가중치를 모두 메모리에 준비해둬야 한다. 개인 이용자가 한 번에 질문 하나를 보내는 경우에는 필요한 가중치만 저장장치에서 불러오는 실험이 가능하다. 그러나 수많은 이용자가 동시에 서로 다른 질문을 보내면 여러 전문가가 계속 호출된다. 실제 서비스에서는 모든 전문가가 언제든 작동할 수 있어야 한다.</p> <p contents-hash="506be1acc0887285c0fffee317eef8e1279db31626a407993c6bdd1565281080" dmcf-pid="xT5d0ZHlTI" dmcf-ptype="general">신정규 래블업 대표는 공개된 사양을 토대로 “2조8000억개 규모라면 엔비디아 B200 기준으로 가중치 적재에 약 32장이 필요할 것으로 보인다”며 “대화 내용을 임시로 기억하는 공간까지 고려하면 64장 정도가 필요할 수 있다”고 추산했다.</p> <p contents-hash="6432a3b902f47620ba54c686599a52969b93b2f1c06ca30647fcf05891ccaaeb" dmcf-pid="yQnHNid8lO" dmcf-ptype="general">B200은 엔비디아의 데이터센터용 고성능 AI 가속기다. K3 원본을 서비스하려면 이 장비 수십장을 설치하는 데 그치지 않고, 가속기들이 빠르게 데이터를 주고받도록 고속 네트워크로 연결해야 한다.</p> <p contents-hash="60b7d53f2daecf5f1d57b89c407a0bf9f9d42f62c14c80763b3ed27c43736847" dmcf-pid="WEC9TIsATs" dmcf-ptype="general">신 대표는 “상용 환경에서는 이용자 요청이 대규모로 쌓이면서 사실상 모든 전문가가 작동하기 때문에 전체 가중치를 적재해야 한다”며 “전문가 수가 많아지면 GPU와 서버 사이의 통신이 주요 부담이 된다”고 설명했다.</p> <p contents-hash="b76a49712f5f75d38c8a79d3100483d59e983987105e6063d0a86f7eaee0cc34" dmcf-pid="YDh2yCOcWm" dmcf-ptype="general">일반 기업이 K3 원본을 그대로 자체 운영할 가능성도 높지 않다. 모델 크기를 줄이거나 외부 추론 사업자가 제공하는 API를 사용하는 편이 경제적일 수 있다. 신 대표는 “현재는 추론 사업자들이 시장 확보를 위해 가격 경쟁을 벌이고 있어 직접 인프라를 구축하는 것보다 API를 이용하는 방식이 경제적”이라며 “공개 이후에는 개발자들이 모델을 여러 방식으로 변형해 다양한 환경에서 돌아가도록 만들 것”이라고 말했다.</p> <p contents-hash="fb4271efa6d411f4d3c51914c452dbb08d2740996e595f0718052916929707cb" dmcf-pid="GwlVWhIklr" dmcf-ptype="general">오픈웨이트의 가장 큰 수혜자는 모델을 공개한 문샷AI가 될 수 있다. 세계 개발자들이 K3를 기반으로 소형 모델과 개발도구, 응용 서비스를 만들면 문샷AI를 중심으로 하나의 생태계가 형성되기 때문이다.</p> <p contents-hash="3d0559e9409a192b96c0cbfba8f337f22569d38d5cb5588465855213ef9f3093" dmcf-pid="HrSfYlCECw" dmcf-ptype="general">국가와 공공기관도 주요 수요자가 될 수 있다. 국방과 행정, 안보 분야에는 해외 기업의 API로 보내기 어려운 민감한 데이터가 많다. 자체 데이터센터에서 모델을 운영하면 데이터를 외부로 내보내지 않고 고성능 AI를 활용할 수 있다.</p> <p contents-hash="dbbc85be31ec7d883085d03b7e44bb49d537f383a3ba7ef29cc6a2728c77c904" dmcf-pid="Xmv4GShDWD" dmcf-ptype="general">신 대표는 “공개 웨이트 프런티어 모델의 진정한 장점은 국가들이 누릴 수 있다”며 “활용할 대상과 외부에 공개할 수 없는 데이터가 많은 주체이기 때문”이라고 말했다. 이어 “실제로 이를 운영할 충분한 예산이 있는지는 또 다른 문제”라고 덧붙였다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 스마트폰 이어 AI 글래스…통신3사 새 폼팩터 경쟁 돌입 07-22 다음 '안세영 걱정 마!' 韓 여자단식 웃었다! 김가은·심유진 중국오픈 1회전 2-1 승리 합창→16강 나란히 안착 07-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
