SK하이닉스, AI 추론 병목 줄이는 '커스텀 HBM' 정조준 작성일 01-14 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[CES 2026] 스트림DQ 기술로 GPU 기능 HBM 베이스다이로 이전</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VVLCQ1GhAr"> <p contents-hash="b21761da744602d2767817d0ca6d1e7cef868952488d3b99512f73688c671520" dmcf-pid="ffohxtHlgw" dmcf-ptype="general">(지디넷코리아=장경윤 기자)SK하이닉스가 향후 다가올 커스텀 HBM(고대역폭메모리) 시대를 위한 무기로 '스트림DQ(StreamDQ)'를 꺼내 들었다. 기존 GPU가 담당해 추론 과정에서 병목 현상을 일으키던 작업을, HBM이 자체적으로 수행해 데이터 처리 성능을 끌어올리는 것이 골자다.</p> <p contents-hash="165b0b1b15a134ab7cf024ab208cabd8d073a981c4112b281a7b96a71888a124" dmcf-pid="44glMFXSaD" dmcf-ptype="general"><span>GPU 업체 입장에서도 HBM으로 일부 기능을 </span><span>이전할 </span><span>수 </span><span>있기 </span><span>때문에 칩 설계를 보다 유연하게 할 수 있다는 이점이 있다. SK하이닉스는 해당 기술을 통해 엔비디아 등 주요 고객사와 협의를 진행할 것으로 </span><span>관측된다.</span></p> <p contents-hash="6b7c6b6f8011039d9c337e74b547d42cf9fede6905cea4d82d43bbd6f41aaedc" dmcf-pid="88aSR3ZvoE" dmcf-ptype="general"><span>SK하이닉스는 지난 6일(현지시간) 미국 라스베이거스 베니션 호텔에서 'CES 2026' 프라이빗 전시관을 마련하고 커스텀 HBM 기술을 공개했다.</span></p> <figure class="figure_frm origin_fig" contents-hash="e8e9fee025e1f35f584cc973b92c6ca5042d0718746863df31f36284a5c2ae82" dmcf-pid="66Nve05Tkk" dmcf-ptype="figure"> <p class="link_figure"><img alt="SK하이닉스가 설명한 '스트림DQ'의 개념도. 기존 GPU가 수행해 LLM 추론에서 병목 현상을 일으키던 역양자화 기술을 HBM 베이스다이 내부에서 직접 수행해, 추론 속도를 높인다. (사진=지디넷코리아 장경윤 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/14/ZDNetKorea/20260114135027266ghpm.jpg" data-org-width="640" dmcf-mid="YB3oFwAijR" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/14/ZDNetKorea/20260114135027266ghpm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> SK하이닉스가 설명한 '스트림DQ'의 개념도. 기존 GPU가 수행해 LLM 추론에서 병목 현상을 일으키던 역양자화 기술을 HBM 베이스다이 내부에서 직접 수행해, 추론 속도를 높인다. (사진=지디넷코리아 장경윤 기자) </figcaption> </figure> <p contents-hash="e52571f0745e3c9d969da2398ca4eb437addf25e1c6f6112a3660a3896d4f59c" dmcf-pid="PPjTdp1ycc" dmcf-ptype="general"><strong>커스텀 HBM 시장 정조준…고객사에 '스트림DQ' 기술 제안</strong></p> <p contents-hash="f2fefbcfa7eb1ff30760b8e053b01df6ba1d3d4296d4195acce74df02736725e" dmcf-pid="QQAyJUtWcA" dmcf-ptype="general"><span>커스텀 HBM은 차세대 버전인 HBM4E(7세대 HBM)부터 본격적으로 적용될 것으로 전망되는 제품이다. 기존 HBM이 표준에 따라 제작됐다면, 커스텀 HBM은 고객사가 원하는 기능을 베이스 다이에 추가하는 것이 가장 큰 차별점이다.</span></p> <p contents-hash="72ec640aeb17c7ae8b0780402c3417bc6967d60f9262b8905bea00614edb1b3a" dmcf-pid="xxcWiuFYaj" dmcf-ptype="general"><span>베이스 다이는 HBM을 적층한 코어 다이의 메모리 컨트롤러 기능을 담당하는 칩으로, HBM과 GPU 등의 시스템반도체를 PHY(물리계층)로 연결한다. 기존에는 메모리 회사가 이를 제조했으나, 다양한 로직 기능이 추가되면서 HBM4부터는 주로 파운드리 공정을 통해 양산된다.</span></p> <p contents-hash="4b0ad92e18964fd4c23675ffa14b9e13e0594ccd3fdcd77ad719100dad341bb2" dmcf-pid="yyuMZcgRkN" dmcf-ptype="general"><span>SK하이닉스는 커스텀 HBM 상용화를 위해 고객사에 스트림DQ라는 기술을 제안하고 있다. 얼마전 막을 내린 CES 2026 전시관이 고객사 대상으로 운영된 만큼, 엔비디아 등 글로벌 빅테크에 적극적인 프로모션을 진행했을 것으로 예상된다.</span></p> <p contents-hash="e7858c17d7add67b87c68c56bf41f65fd59838c65c4d3ab95b45baaccb35114d" dmcf-pid="WW7R5kaega" dmcf-ptype="general"><span>SK하이닉스 관계자는 "스트림DQ는 커스텀 HBM의 한 사례로서, SK하이닉스는 해당 기술을 논문으로도 냈다"며 "고객사가 커스텀 HBM 관련 기술을 우리에게 제안하기도 하지만, 반대로 SK하이닉스가 제시하기도 한다"고 설명했다.</span></p> <p contents-hash="4e09d59b5af8fda3649988186389c5db1bf50264935cbb0ed1bd6f6d84fad016" dmcf-pid="YYze1ENdcg" dmcf-ptype="general"><strong>GPU 일부 기능 HBM으로 이전…빅테크 부담 덜어준다</strong></p> <p contents-hash="517630b2e0de3b7dfa5c2ad1fccd3ddc81c83fe52ee2785fa66f0613bad84b2a" dmcf-pid="GUPcbvIkAo" dmcf-ptype="general"><span>스트림DQ 기술은 기존 GPU 내부의 컨트롤러 기능 일부를 HBM의 베이스 다이로 이전하는 것이 주 골자다. 이렇게 되면 GPU 제조사는 칩 내부 공간을 더 넓게 쓸 수 있어, 시스템반도체의 성능 및 효율성 향상을 도모할 수 있다.</span></p> <p contents-hash="322c1dbcaeae8be89be362dfc558d86c54b1631d7f7353b824237b6354ec8c50" dmcf-pid="HuQkKTCEgL" dmcf-ptype="general"><span>SK하이닉스 입장에서는 베이스 다이에 GPU 컨트롤러 등을 추가하더라도 큰 부담이 없다. 대만 주요 파운드리인 TSMC의 선단 공정을 적용하기 때문이다.</span></p> <p contents-hash="877c6d385ee021fb8ab8d80f9da3b071e6895f5e665efdd9ed6e177b667a6a7e" dmcf-pid="X7xE9yhDAn" dmcf-ptype="general"><span>또한 SK하이닉스는 해당 베이스 다이에 UCIe 인터페이스를 적용해 칩의 집적도를 더 높였다. </span><span>UCIe는 칩을 기능별 단위로 분할해 제조한 후, 서로 연결하는 최첨단 기술이다.</span></p> <figure class="figure_frm origin_fig" contents-hash="d21c1c259c815fb134d5085c0b459202081054e4d8d10ecc79d75fd5c5a923d6" dmcf-pid="ZzMD2WlwAi" dmcf-ptype="figure"> <p class="link_figure"><img alt="GPU와 스트림DQ 기반의 HBM 간의 데이터 처리 과정(사진=지디넷코리아 장경윤 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/14/ZDNetKorea/20260114135028582uore.jpg" data-org-width="640" dmcf-mid="HdKwbvIkkx" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/14/ZDNetKorea/20260114135028582uore.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> GPU와 스트림DQ 기반의 HBM 간의 데이터 처리 과정(사진=지디넷코리아 장경윤 기자) </figcaption> </figure> <p contents-hash="32b50a7bf2a8e68594f7434102449246a450078a7c71e9597d10291fa2eef272" dmcf-pid="5qRwVYSrNJ" dmcf-ptype="general"><strong>HBM이 '역양자화' 대신 처리…LLM 처리 속도 7배 향상 가능 </strong></p> <p contents-hash="a6442c10e0165338a1aee1dc15b726fb6b2b382ad919e35529be0d8a587ce1f1" dmcf-pid="1BerfGvmod" dmcf-ptype="general"><span>AI 가속기의 데이터 처리 성능 역시 획기적으로 높아진다. </span><span>대규모언어모델(LLM)은 메모리 사용량을 효율적으로 감축하기 위해 낮은 비트 정수로 데이터를 압축하는 '양자화(Quantization)' 과정을 거친다. 이후 실제 연산 과정에서는 데이터를 다시 압축 해제하는 '역양자화(Dequantization)'를 진행한다.</span></p> <p contents-hash="0b79cad161946793221a913d971b069817d1868657c6cddcc27fd8e12f730afe" dmcf-pid="tbdm4HTsae" dmcf-ptype="general"><span>기존 역양자화 작업은 GPU가 담당했다. 그런데 GPU가 역양자화를 진행하면 전체 LLM 추론 시간의 최대 80%를 잡아먹는 메모리 병목 현상을 일으키는 문제가 발생해 왔다.</span></p> <p contents-hash="d9332812f08d35fd6dfc9762c05a4575ed9b20ad76d7d4fdfbb3094aeb11a0af" dmcf-pid="FKJs8XyOoR" dmcf-ptype="general"><span>반면 스트림DQ는 양자화된 정보를 그대로 GPU에 보내는 것이 아니라, HBM 내부에서 데이터가 흘러가는 과정에서 역양자화를 곧바로(on-the-fly) 진행한다. </span><span>덕분에 GPU는 별도의 작업 없이 곧바로 연산 작업을 진행할 수 있게 된다. 이처럼 </span><span>흘러가는(스트림) </span><span>데이터를 </span><span>곧바로 역양자화(DQ)한다는 관점에서</span><span> 스트림DQ라는 이름이 붙었다.</span></p> <p contents-hash="caf9a7359dd630a6464770a4ac986b566099f43fe923b013a9242f2747f397ea" dmcf-pid="39iO6ZWIkM" dmcf-ptype="general"><span>이를 통해 병목 현상이 발생했던 LLM 추론 처리 속도가 약 7배 이상으로 개선될 수 있다는 게 SK하이닉스의 설명이다. 전체 AI 가속기의 추론 속도 역시 크게 향상될 것으로 기대된다.</span></p> <p contents-hash="377e01d1d2513ea4860d6c1e6fe3e80ed3a35986ccef95bda1ca93989ea97a1b" dmcf-pid="02nIP5YCjx" dmcf-ptype="general"><span>SK하이닉스 관계자는 "방대한 양의 데이터를 처리하는 시스템반도체를 메모리 근처에 가져다 놓고 데이터 결과값만 받게 하면 시스템적으로 굉장히 효율적"이라며 "프로세싱 니어 메모리(PNM)의 개념으로 볼 수 있다"고 말했다.</span></p> <p contents-hash="4596ecdf2d57ed98321cc38040c7afc9ca19ac238e6198e4e028b24594d1cdcb" dmcf-pid="pVLCQ1GhNQ" dmcf-ptype="general">장경윤 기자(jkyoon@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘어벤져스:둠스데이’ 와칸다 블랙 팬서 돌아온다 01-14 다음 "OO 엄마세요?”...학부모 필독 '보이스피싱' 피하는 법 01-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
