[DX브리핑] GPU 부담 줄이고 관리 통합까지…AI 효율화 경쟁 작성일 08-08 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">노타·씨이랩·뉴타닉스, 모델·냉각·운영관리 등 제시</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Z9IEf86biQ"> <p contents-hash="879bc719a11f30779845eeaf9736c7636c2a7e1ddea49e76a8215b038548b717" dmcf-pid="52CD46PKiP" dmcf-ptype="general">[시사저널e=송주영 기자] 국내 AI 인프라 기업들이 대규모 AI 모델 운영에 따르는 비용과 관리 부담을 줄이며 기술 경쟁에 나섰다. 모델의 연산량을 줄이는 경량화 기술부터 데이터센터의 냉각 설계, GPU 자원의 통합 관리 체계까지 AI 인프라를 이루는 각 층위에서 효율화 시도가 동시에 진행되는 모습이다.</p> <div contents-hash="7cc22ba97777f66fbdd706b6b11a6191baa452163c48fbebe79ffd63c82baa45" dmcf-pid="1Vhw8PQ9d6" dmcf-ptype="general"> 노타는 초거대 AI 모델의 GPU 사용량을 낮추는 경량화 기술을 선보였다고 지난 6일 밝혔다. 노타는 문샷AI의 프론티어급 모델 '키미 K3'를 경량화해 구동에 필요한 엔비디아 B300 GPU 수를 기존 8장에서 최대 4장까지 줄였다. </div> <figure class="figure_frm origin_fig" contents-hash="3327cd3a51ce41787314c1019c359a2eda45de9f1b845e869ed4aff344074078" data-idxno="238174" data-type="photo" dmcf-pid="tDbpmOIkd8" dmcf-ptype="figure"> <p class="link_figure"><img alt="이미지 = 노타" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/08/552777-a6ToU27/20260808090007775ewvq.jpg" data-org-width="960" dmcf-mid="HRLgqbKpdM" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/08/552777-a6ToU27/20260808090007775ewvq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이미지 = 노타 </figcaption> </figure> <p contents-hash="d701209842558a859d89a2fc793d8276fe74e5f497d51ccd57879c15ca4c969b" dmcf-pid="FwKUsICEn4" dmcf-ptype="general">키미 K3는 2조8000억개의 매개변수를 갖춘 전문가 혼합(MoE) 구조 모델로 학습 단계부터 가중치와 활성값의 정밀도를 낮춰 설계돼 일반적인 양자화 방식으로는 추가 압축 여지가 크지 않았다. 노타는 '비균일 전문가 프루닝' 기술로 이 문제를 풀었다. 모델 층별로 중요도가 낮은 모듈만 선별 제거하는 방식으로 모든 층을 동일 비율로 줄이던 기존 방식보다 성능 저하를 줄였단 설명이다.</p> <p contents-hash="cba0a0683ae950791fa973b19e1d7f53c3da5ff988ac84ac604855394f2e1609" dmcf-pid="3r9uOChDif" dmcf-ptype="general">김태호 노타 최고기술책임자(CTO)는 "비균일 전문가 프루닝 기술을 바탕으로 솔라 오픈2에 이어 프론티어급 모델인 키미 K3까지 성공적으로 경량화해 주요 성능을 유지하면서 필요한 GPU를 최대 절반으로 줄이는 등 초거대 AI 모델의 연산 효율성을 높였다"며 "다양한 프론티어급 AI 모델을 한정된 연산 자원에서도 효율적으로 활용할 수 있도록 기술 적용 범위를 확대하겠다"고 말했다.</p> <div contents-hash="ca2270cb3d25c141e7e31a5abdf578f6406737a35943820661e00cdb195b4676" dmcf-pid="0m27IhlwdV" dmcf-ptype="general"> AI 인프라 소프트웨어 기업 씨이랩은 유체 관리 솔루션 기업 왓슨말로우와 AI 데이터센터 냉각 인프라 협력 논의에 착수했다. </div> <figure class="figure_frm origin_fig" contents-hash="73e684021f92ab5b282d5697137916351485f0114c3c2a0d77aae807836798a8" data-idxno="238175" data-type="photo" dmcf-pid="psVzClSrJ2" dmcf-ptype="figure"> <p class="link_figure"><img alt="왓슨말로우 아시아퍼시픽 주요 경영진이 서울 씨이랩 본사를 방문해 기념촬영을 하고 있다. / 사진 = 씨이랩" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/08/552777-a6ToU27/20260808090009413wkda.png" data-org-width="960" dmcf-mid="XSiQ5tFYix" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/08/552777-a6ToU27/20260808090009413wkda.png" width="658"></p> <figcaption class="txt_caption default_figure"> 왓슨말로우 아시아퍼시픽 주요 경영진이 서울 씨이랩 본사를 방문해 기념촬영을 하고 있다. / 사진 = 씨이랩 </figcaption> </figure> <p contents-hash="543f2bdc50c11ee3c7a2e9088ad12406bf2661108b9fe8e7efd821ce08daf485" dmcf-pid="UOfqhSvmi9" dmcf-ptype="general">랙당 전력 밀도가 높아지면서 냉각이 서버·전력과 함께 하나의 시스템으로 통합 설계되는 구조로 진화하는 가운데 씨이랩은 GPU 시스템 구축부터 운영 소프트웨어 'AstraGo' 공급까지 AI 데이터센터 구축 역량에 왓슨말로우의 유체 제어 기술을 결합하는 방안을 논의 중이다.</p> <p contents-hash="ab1f06748aec7354d9ffedbf81feb3dfc27a06bd6381c62be6719816fe8763e7" dmcf-pid="uI4BlvTsnK" dmcf-ptype="general">채정환 씨이랩 대표이사는 "AI 데이터센터는 컴퓨팅과 전력, 냉각이 하나의 시스템으로 통합되는 산업"이라며 "글로벌 유체 기술 기업과의 협력 논의를 시작으로 AI 데이터센터 역량을 글로벌 수준으로 강화하고 미래의 AI 데이터센터 산업을 선도하겠다"고 말했다.</p> <p contents-hash="8f0c85004a59ee91ebb4971e6b4e9805d932cb45835a195ee771ffaf474e1910" dmcf-pid="7C8bSTyOnb" dmcf-ptype="general">뉴타닉스는 GPU 자원 통합 관리 플랫폼 보안 인증을 확보했다. 뉴타닉스는 통합 인프라 관리 플랫폼 '뉴타닉스 프리즘 센트럴 7'이 공공기관 도입에 필요한 보안기능확인서를 획득했다고 지난 6일 밝혔다.</p> <p contents-hash="9cbeedccf73c50c73ca4f8816285114038d9c62619291ef1256078625f0a3ae3" dmcf-pid="zh6KvyWIMB" dmcf-ptype="general">프리즘 센트럴 7은 뉴타닉스 클러스터를 단일 콘솔에서 관리하는 플랫폼으로 GPU 자원 모니터링 기능을 통해 AI 연산에 쓰이는 GPU의 사용 현황과 성능, 할당 상태를 통합 관리할 수 있다. 뉴타닉스 쿠버네티스 플랫폼과 연계해 쿠버네티스 기반 AI 애플리케이션과 컨테이너 워크로드 운영도 지원한다.</p> <p contents-hash="2b7ea178936d397e07ce771c810fd78883005272ee5f52a68eb6f01c62d0b450" dmcf-pid="qlP9TWYCnq" dmcf-ptype="general">변재근 뉴타닉스코리아 사장은 "보안기능확인서 취득은 프리즘 센트럴 7의 보안성과 안정성을 공식 검증받은 중요한 이정표"라며 "이를 토대로 공공기관이 요구하는 수준의 보안과 운영 효율성을 갖춘 AI 인프라 솔루션을 적극 제공하고 국내 공공 시장에서의 사업 확대에 더욱 박차를 가할 것"이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 시사저널e 무단전재 및 재배포 금지</p> 관련자료 이전 '하늘 열린날' 달리는 춘천연합마라톤…러너·안전·상생 담는다 08-08 다음 엇갈린 LCK 선두 자리···연승 T1 vs 3연패 한화생명 격돌 08-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
