메모리 압축에 쫄았어?···구글에는 'HBM 대체' 신무기 더 있다 작성일 03-31 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">터보퀀트는 전초전 본게임은 따로 <br>TPU·CPU·광네트워크 통합 설계 <br>연결·압축·순환으로 병목 해결해 <br>부품 아닌 설계 경쟁으로 축 이동</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZQ2b7UOccx"> <figure class="figure_frm origin_fig" contents-hash="a6ec34a021b23a162bd2a4a3399d8cbbe849bde8623a9d27058351dbe5a8ae9c" data-idxno="456746" data-type="photo" dmcf-pid="5xVKzuIkcQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 임원 아민 바흐닷이 '아이언우드 TPU'를 공개하며 차세대 AI 인프라 전략을 설명하고 있다./ 구글" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/31/552814-8XPEppr/20260331143007551kgdf.jpg" data-org-width="1280" dmcf-mid="GGOrkA2uke" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/31/552814-8XPEppr/20260331143007551kgdf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 임원 아민 바흐닷이 '아이언우드 TPU'를 공개하며 차세대 AI 인프라 전략을 설명하고 있다./ 구글 </figcaption> </figure> <p contents-hash="8f5867419be0fd82b8d698d89519709b6f2a73607656b61a44a5c1c88249cdda" dmcf-pid="1fqu3tDgcP" dmcf-ptype="general">구글이 공개한 '터보퀀트(TurboQuant)'는 메모리를 압축하는 기술이다. 그러나 이보다 더 근본적인 변화는 따로 있다. 메모리를 줄여서 한켠으로 치우는 수준이 아니라, 애초에 메모리에 의존하지 않는 방향으로 연산 구조를 다시 짜기 시작했다는 점이다.</p> <p contents-hash="e45c45a8618476cba9cec2824d56164e3841d4380ec9347bdab654b1b0da655c" dmcf-pid="t4B70FwaA6" dmcf-ptype="general">터보퀀트 방식의 압축은 기존 구조를 유지한 채 부담을 덜어내는 접근이라면, 구글이 동시에 추진하는 '링 어텐션 및 광네트워크' 기반 설계는 메모리를 중심에 두었던 전제를 해체하는 접근으로 해석된다. 메모리를 효율화하는 단계에서, 메모리를 필요 조건에서 밀어내는 단계로 이동한 것이다.</p> <p contents-hash="d071bc976c5b399a06d011d6512f25129fab47d6363ffa340a54f61853a2cc78" dmcf-pid="F8bzp3rNN8" dmcf-ptype="general">기존 AI 인프라는 HBM을 중심으로 대역폭을 확장하며 병목을 해결해왔다. 반면 구글은 데이터 이동 자체를 줄이고, 네트워크와 연산 구조를 결합해 병목이 발생하지 않는 경로를 설계한다. 메모리를 줄이는 기술이 '전초전'이라면, 메모리를 중심에서 밀어내는 '본게임'이 따로 진행 중인 셈이다.</p> <p contents-hash="04c4f38b67e1dd82fe3de110322f79bbe95ee2ad7dca732b022ce577fc78e9e9" dmcf-pid="36KqU0mjj4" dmcf-ptype="general">30일 테크업계에 따르면 구글이 공개한 7세대 AI 가속기 '아이언우드(Ironwood)'는 시스템 전체 연결 구조에 초점을 맞췄다. 3D 토러스 토폴로지를 적용한 슈퍼포드(Superpod)는 9216개의 TPU를 하나의 노드로 묶어 1.77페타바이트(PB) 규모의 공유 메모리 풀을 형성한다. 개별 HBM 용량 한계를 확장하는 대신, 클러스터 전체를 하나의 메모리 공간처럼 활용하는 방식이다.</p> <p contents-hash="c041ace269d264bd9743d71abd3597ce38277c5623f841e5bc91a303fe45f8d8" dmcf-pid="0P9BupsAjf" dmcf-ptype="general">여기에 광회로 스위칭(OCS)이 결합됐다. 기존 전기식 네트워크 대신 광신호를 사용해 데이터 경로를 재구성하면서 전력 소비를 대폭 낮추고 지연시간을 줄였다. 물리적 메모리 대역폭 확장이 아니라 네트워크 구조를 통해 병목을 해소하는 접근이다.</p> <p contents-hash="d186c9585e783ac35633529a31fbe041b67226e776aac7e1005ce185aec77988" dmcf-pid="pQ2b7UOcgV" dmcf-ptype="general">구글 전략의 핵심은 데이터를 메모리에 쌓아두지 않고 순환시키는 '링 어텐션(Ring Attention)' 구조다. 각 칩이 데이터를 공유 메모리에 저장하는 대신, 연산 과정에서 필요한 데이터를 옆 칩으로 전달하며 처리하는 방식이다.</p> <p contents-hash="2304c88bd7ab9434a9b566b49ce487946a8a95c9287193f9cef8be8ad2f3cbca" dmcf-pid="UxVKzuIkj2" dmcf-ptype="general">이 구조에서는 데이터 이동 효율이 성능을 좌우한다. 구글은 터보퀀트를 통해 KV 캐시 데이터를 3비트 수준으로 압축해 전송량을 줄였다. 동일한 네트워크 대역폭에서 더 많은 데이터를 처리할 수 있어, 물리적 메모리 증설 효과를 일부 대체하는 결과를 만든다.</p> <p contents-hash="581439849070cd3a87c2a63a2d25b9e75b503113cebb7e95e2882721ff8bdb6a" dmcf-pid="uMf9q7CEo9" dmcf-ptype="general"><strong>데이터 '저장' 대신 '순환'</strong><br><strong>CPU까지 묶은 수직 통합</strong></p> <p contents-hash="3e03610eaa7dda4bffd7ae27d66a87fc000c41b628f178104425ceaecc655b63" dmcf-pid="7R42BzhDAK" dmcf-ptype="general">연산 구조 내부에서도 변화가 나타났다. 아이언우드에는 희소 데이터 처리 전용 가속기 'SparseCore'가 탑재돼 데이터 재배치를 실시간으로 수행한다. 이를 통해 연산 유닛이 데이터 도착을 기다리지 않고 연속적으로 작동할 수 있도록 설계됐다. 동시에 FP8 연산을 기본 지원해 데이터 크기를 줄이고 처리량을 높였다.</p> <p contents-hash="ee2f30e4ad626f90373869372e0fd226b901975878d52c0a626f111954002435" dmcf-pid="ze8Vbqlwgb" dmcf-ptype="general">여기에 더해 구글은 자체 CPU '악시온(Axion)'을 통해 데이터 이동의 마지막 병목까지 줄이고 있다. TPU와 직접 결합된 구조로 PCIe 인터페이스에서 발생하는 지연을 최소화해 '압축-전송-순환-연산'이 하나의 구조로 묶인 형태를 구현한다. 데이터는 저장 대상이 아니라 흐름 속에서 유지되고 처리되는 요소로 재정의된다.</p> <div contents-hash="32d8c9ac2546deb8432756e1dfcc316b428fc5904e28c27846993d1581a12806" dmcf-pid="qd6fKBSrNB" dmcf-ptype="general"> 구글의 메시지는 단순하다. 메모리를 줄이는 것이 아니라 덜 쓰는 연산 방식을 채택했다는 것이다. 인공지능 구조분석 전문가는 "데이터를 쌓아두고 꺼내는 구조에서는 메모리가 병목이 되지만, 데이터를 흐르게 만들면 병목의 위치 자체가 사라진다. 삼성전자와 SK하이닉스가 만든 HBM 수십개를 붙여야 나오던 성능을 알고리즘 하나로 대신하는 구조가 된 셈"이라고 설명했다. </div> <figure class="figure_frm origin_fig" contents-hash="ed4fa84471e7999a44e0c276280616ab771e0f24e49026519e07ef54c7a51f68" data-idxno="456747" data-type="photo" dmcf-pid="Bd6fKBSrgq" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글의 아이언우드 칩이 인공지능 인프라를 다시 쓰고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/31/552814-8XPEppr/20260331143008786qqhn.jpg" data-org-width="616" dmcf-mid="XX5HyvnQAM" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/31/552814-8XPEppr/20260331143008786qqhn.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글의 아이언우드 칩이 인공지능 인프라를 다시 쓰고 있다. </figcaption> </figure> <p contents-hash="dc9f398836f7ca0820dc1c308a76b60b18bc89115bd936c8d3b0f73ed9ce5a16" dmcf-pid="bJP49bvmoz" dmcf-ptype="general"><strong>☞ 터보퀀트(TurboQuant) </strong>= 기존 트랜스포머 구조에서 이미 사용되던 양자화(quantization)와 KV 캐시 최적화 기법을 한 단계 더 밀어붙인 압축 기술이다. 핵심은 모델 내부 데이터를 더 적은 비트로 표현해 메모리 사용량과 전송량을 줄이는 데 있는데 이미 다양한 형태로 적용되고 있다.</p> <p contents-hash="4b9eaa25992bf8ba155afba710c26887070f29a334c15990ed53d740d3b4f565" dmcf-pid="KiQ82KTsA7" dmcf-ptype="general">예를 들어 FP16에서 FP8로의 전환, INT4·INT8 양자화, KV 캐시 선택적 저장 등은 모두 같은 계열의 기술이다. 더 쉽게 말해 "간섭 패턴은 유지하면서 해상도만 낮춘 기술"이다. 데이터의 정밀도와 양은 줄어들지만 연산을 구성하는 의미 구조 자체는 그대로 유지된다.</p> <p contents-hash="ff98a4e23857d014aec04b28e15d44c4cac474d413c61fe4ef17008cadddf588" dmcf-pid="9nx6V9yOou" dmcf-ptype="general">여성경제신문 이상헌 기자<br>liberty@seoulmedia.co.kr</p> <p contents-hash="f2683aab9d1afd20c488b2cce4d9065f01c9d64a9612dfee53ba430351d80236" dmcf-pid="2LMPf2WIAU" dmcf-ptype="general">*여성경제신문 기사는 기자 혹은 외부 필자가 작성 후 AI를 이용해 교정교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.</p> </section> </div> 관련자료 이전 클로드·알파폴드 넘었다…K-의료 AI, 글로벌 시장 '정조준' 03-31 다음 위세아이텍, 흑자전환…아이다큐로 반등 본궤도 오르나 03-31 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
