구글판 '딥시크 모멘트'…터보퀀트가 바꾼 AI 판 작성일 03-29 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'쩐의 전쟁'서 효율 경쟁으로…비용 구조 전환<br>빅테크 격차 여전…상용화 여부는 변수</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qMAwIzhDYa"> <figure class="figure_frm origin_fig" contents-hash="1d8f04ff581360462f054a86b995c918cc0b34b4d6fab3ad9765a6d64d7e4f3e" dmcf-pid="BRcrCqlwYg" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 [촬영 안 철 수] 2024.2.9, 서울 시내 한 구글 제품 팝업스토어 매장" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/29/yonhap/20260329073427652qcol.jpg" data-org-width="1200" dmcf-mid="z1K4xIRfGN" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/29/yonhap/20260329073427652qcol.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 [촬영 안 철 수] 2024.2.9, 서울 시내 한 구글 제품 팝업스토어 매장 </figcaption> </figure> <p contents-hash="1acf426486950b54a9ffaa32c5f0261b4c3bf4e0f4d64463071518cfe5fd5475" dmcf-pid="bekmhBSrXo" dmcf-ptype="general">(서울=연합뉴스) 권하영 기자 = 더 빠르고, 더 저렴하게 인공지능(AI)을 구현하려는 경쟁이 본격화되고 있다.</p> <p contents-hash="bfa76a54b82f2742f7466011723b13776a5fc1a9cbcaee0391ca766596efc96e" dmcf-pid="KViaktDg5L" dmcf-ptype="general">최근 구글이 공개한 메모리 압축 기술 '터보퀀트'는 AI 운영 비용 구조를 근본적으로 바꿀 수 있는 전환점으로 평가된다.</p> <p contents-hash="fdee8a5f6863a0448905d8002e0a8a289e358658d9b10f42e8b59984af9979ee" dmcf-pid="9fnNEFwaZn" dmcf-ptype="general"><strong> "GPU 덜 쓰고 더 빠르게"…터보퀀트가 바꾼 AI 비용 공식</strong></p> <p contents-hash="8a75cc00d03efb0049992e4a3666fbbb58ca290c80307d77086b8c44cdda1470" dmcf-pid="24LjD3rNHi" dmcf-ptype="general">29일 업계에 따르면 구글 리서치는 대규모언어모델(LLM)의 메모리 사용량을 기존 대비 6분의 1 수준으로 줄일 수 있는 '터보퀀트' 기술을 공개했다.</p> <p contents-hash="f8bf9a47098df8afd27d40269275f45296ae554c04f568849e31ecc083dfc39b" dmcf-pid="V8oAw0mjZJ" dmcf-ptype="general">이 기술은 모델이 이전 대화 내용을 기억해 다음 답변에 활용하는 임시 메모리인 'KV 캐시'를 정확도 손실 없이 약 3비트 수준으로 압축해 효율을 극대화한 것이 특징이다.</p> <p contents-hash="b7d1e6ea72b24710d67b4987fb377dd693892b6188dfef187d8dd7219b124631" dmcf-pid="f6gcrpsA5d" dmcf-ptype="general">이를 통해 AI는 동일한 GPU 환경에서 더 많은 사용자 요청을 더 빠르게 처리할 수 있을 뿐 아니라, 훨씬 더 긴 문맥을 소화하는 것도 가능해진다.</p> <p contents-hash="81935efc75a0ff1f4639550f65b13fecb58db83a5c38fde31dc104b9d677166f" dmcf-pid="4PakmUOcXe" dmcf-ptype="general">실제 구글 리서치에 따르면 엔비디아 그래픽처리장치(GPU) H100 기준 연산 속도는 최대 8배까지 향상될 수 있다.</p> <p contents-hash="4a5adff65d746960c5dacf78581676c0691d57df1a4c0fcdb1a1b9ff5a8dcb96" dmcf-pid="8QNEsuIkYR" dmcf-ptype="general">AI 업계에서는 이를 두고 저비용 고성능 추론 모델로서 시장 판도를 흔들었던 '딥시크 모멘트'에 비견되는, 이른바 '구글판 딥시크 모멘트'라는 해석이 나온다.</p> <p contents-hash="ffc162f09e3b4d8db6f5faf1fee26a94fe3edcb63caebc41d0b64b02b65d2f5a" dmcf-pid="6xjDO7CEYM" dmcf-ptype="general">특히 막대한 서버 유지 비용이 요구되던 AI 개발 구조가 완화되면서, 기술 경쟁의 축이 '인프라 투자'에서 '최적화 역량'으로 이동할 수 있다는 관측이다.</p> <p contents-hash="59213d88284b31a2edbbf70c1eaae2366d716edff90c24d51019cd7ec59fbce4" dmcf-pid="PMAwIzhDGx" dmcf-ptype="general">신동훈 NC AI AX테크센터장은 "앞으로 AI 인프라 생태계는 단순한 장비 스케일업 경쟁뿐만 아니라, 주어진 자원의 잠재력을 한계까지 끌어내는 소프트웨어 기반의 최적화 기술이 핵심 경쟁력 중 하나로 자리잡을 것"이라고 분석했다.</p> <p contents-hash="06cc6a271f4d08c18409cd81b704ba41a6d420a749e369aa7629f15517be9a3d" dmcf-pid="QRcrCqlw1Q" dmcf-ptype="general">다만 "파운데이션 모델의 체급과 자본력 격차는 여전히 유효하다"며 "오히려 빅테크가 이러한 압축 기술을 활용해 초거대 모델을 더 빠르고 저렴하게 API 형태로 제공할 가능성도 있다"고 지적했다.</p> <p contents-hash="ba98780c8015c27ac58c51fd2929b9fe5d561e2088417780a09d39db9626184a" dmcf-pid="xekmhBSrGP" dmcf-ptype="general"><strong> "효율이 수요 키운다"…제번스 역설 vs 상용화 신중론</strong></p> <p contents-hash="09756b6604c54483e040c4d31cf08bbf120e20da8fac33ab03ffda2836b8665d" dmcf-pid="yG7K4w6bX6" dmcf-ptype="general">기술 효율성이 높아지고 자원 비용이 하락하면 오히려 전체 사용량이 늘어나는 '제번스의 역설'이 AI 시장에서 현실화될 수 있다는 기대감도 나온다.</p> <p contents-hash="2776fb17da5a2604e64bfe7be77f27e4fa3f81e6c35f12d3752dff10e90e6365" dmcf-pid="WHz98rPKH8" dmcf-ptype="general">국내 AI 기업 관계자는 "1970~80년대 PC 가격이 낮아지면서 오히려 IT 산업 전체 규모가 커졌던 것처럼, 이 기술이 확산되면 AI 스타트업들의 진입 장벽이 크게 낮아질 것"이라고 내다봤다.</p> <p contents-hash="fe91844a0d4c3a39b1302f6dff6acf46870e0e404843472fc9b5436deb2a408a" dmcf-pid="YXq26mQ9G4" dmcf-ptype="general">그러나 상용화 가능성과 파급력을 두고 신중론도 제기된다.</p> <p contents-hash="62346c7bcc9e7b70195361b2f6ab1a7f944d21b6ad00101313d5071e89f400ba" dmcf-pid="GZBVPsx2tf" dmcf-ptype="general">국내 LLM 스타트업 모티프테크놀로지 임정환 대표는 "터보퀀트는 데이터 압축 기술이기 때문에 고성능 AI 연산 수요와는 별개 문제"라며 "첨단 GPU 수요는 계속 팽창할 수밖에 없어 당장 저비용 구조를 확립하기 어려울 것"이라고 내다봤다.</p> <p contents-hash="34bdbd832477d10f191871a69d70f384832cb97ef13b16c05dfa7b56599b047a" dmcf-pid="HZBVPsx2HV" dmcf-ptype="general">이어 "기술이 실제 서비스에 적용되기까지 시간이 필요하고, 상용화 가능성 역시 아직은 불확실하다"고 덧붙였다.</p> <p contents-hash="7c8011bf349ea328ce912f5dbf8dfa2b0fd4804ed91df654669b67648650e4d5" dmcf-pid="X5bfQOMVH2" dmcf-ptype="general">또 다른 업계 관계자도 "이 기술은 AI 학습이 아니라 서비스 단계에서의 효율을 높이는 기술"이라며 "현재는 더 큰 모델을 학습하려는 수요가 여전히 강하기 때문에 단기적인 산업 구조 변화로 이어지기는 어렵다"고 말했다.</p> <p contents-hash="cadc41cacc735aa081d29f4bd85aa1d98dbadfd10bd5a01176ffe8382c78a211" dmcf-pid="Z1K4xIRf19" dmcf-ptype="general">kwonhy@yna.co.kr</p> <p contents-hash="7e7048d575db26eefa9ab29a6665741e792bd119f82bdc54841cf9067b209dd3" dmcf-pid="1F26Rhd8Gb" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 [TVis] 이휘재, 4년만 복귀에 눈물…“아이들이 ‘일했으면 좋겠다’고” 03-29 다음 피겨 임해나-권예, 세계선수권 아이스댄스 최종 15위 03-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
