구글 ‘터보퀀트’ 연구 참여 한인수 카이스트 교수 “AI 효율화 위해 하드웨어와 소프트웨어 공동 최적화가 중요해질 것” 작성일 03-30 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">한인수 카이스트 교수 온라인 설명회</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="6byhUGNdSO"> <figure class="figure_frm origin_fig" contents-hash="4ca7ddbe8c0968ca455e3fa75a7b14d83df112713d3c65a3fedfd7f9b9196f95" dmcf-pid="PKWluHjJys" dmcf-ptype="figure"> <p class="link_figure"><img alt="한인수 카이스트 전기및전자공학부 교수./카이스트" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/30/chosunbiz/20260330165804310epbi.jpg" data-org-width="1182" dmcf-mid="8bXr1SiPTI" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/30/chosunbiz/20260330165804310epbi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 한인수 카이스트 전기및전자공학부 교수./카이스트 </figcaption> </figure> <p contents-hash="69ca8c7122a4eb28ace860b416bba493bf56eaeaad903e30efb5b5c4942d31ed" dmcf-pid="Q9YS7XAiym" dmcf-ptype="general">“터보퀀트 알고리즘 하나가 하드웨어나 메모리 시장까지 영향을 미치는 걸 보고 많이 놀랐습니다”</p> <p contents-hash="7400c6350a9aa6fad61f0855f8713ac1715b3f862dda273bc1b0588227276027" dmcf-pid="x2GvzZcnyr" dmcf-ptype="general">한인수 카이스트 전기및전자공학부 교수는 30일 온라인에서 열린 연구 성과 설명회에서 구글이 공개한 인공지능(AI) 메모리 압축 알고리즘 ‘터보퀀트(TurboQuant)’를 소개하며 이렇게 말했다. 그는 이번 사례가 AI 경쟁력을 좌우하는 변수가 반도체·하드웨어에만 있지 않음을 보여준다며, 앞으로는 하드웨어와 소프트웨어의 공동 최적화가 중요해질 것이라고 말했다.</p> <p contents-hash="5606c53e8c394d0e2fa4f23967905e280218b4c91052a5baa2c0352ae609e201" dmcf-pid="yOePEiu5Cw" dmcf-ptype="general">터보퀀트는 AI가 답변을 만들기 위해 임시로 저장해 두는 정보를 더 작게 압축해 메모리 부담을 줄이는 기술이다. 예를 들어 대규모언어모델(LLM)은 대화가 길어질수록 이전 맥락과 중간 계산 결과를 계속 쌓아두기 때문에, 메모리 사용량이 빠르게 늘고 비용과 처리 시간도 함께 증가한다. 터보퀀트는 이런 병목을 줄이기 위해 고안됐다.</p> <p contents-hash="e2ab6dbdfd72e3777bdb77c3a99dd771385bdc502c4177155d1ad102f146ecfe" dmcf-pid="WM054uIklD" dmcf-ptype="general">한 교수는 2024년 카이스트에 부임한 뒤, 지난해부터 구글 리서치 방문 연구원으로 공동 연구를 이어오고 있다. 미국 예일대 박사후연구원 시절부터 이어진 공동 연구자들의 연결이 협업의 배경이 됐다. 이 과정에서 터보퀀트의 기반이 된 폴라퀀트(PolarQuant)와 QJL(Quantized Johnson-Lindenstrauss) 연구에 참여했다. 터보퀀트의 1단계 양자화(정보를 더 적은 값으로 표현하는 과정)에는 폴라퀀트의 무작위 회전 아이디어가, 2단계 오차 보정에는 QJL 연구가 반영됐다.</p> <p contents-hash="c0af0eddb8ac3dd135af038155cfcbeedc13e883d467053812d31b95a7eb57d0" dmcf-pid="YRp187CEhE" dmcf-ptype="general">한 교수는 “연구진의 첫 번째 목표는 메모리를 줄이면서도 성능을 최대한 유지하는 것이었다”며 “그런데 연구 내용이 알려진 뒤 시장에서는 이 기술이 메모리 반도체 수요와 하드웨어 구조에까지 영향을 줄 수 있다는 해석이 나왔다”고 말했다. 이어 “이번 터보퀀트 사례는 AI 경쟁력이 더 이상 반도체나 하드웨어만의 문제가 아니라, 이를 얼마나 효율적으로 구동하게 만드는 소프트웨어를 설계하느냐에 따라서도 크게 달라질 수 있다는 점을 보여준다”고 덧붙였다.</p> <p contents-hash="9596f7fc7e00076c8379407a198ba71bbaaf418d2b6a09f4d479c728b4796515" dmcf-pid="GeUt6zhDCk" dmcf-ptype="general">그는 터보퀀트의 장점으로 실용성과 이론적 검증을 함께 갖췄다는 점을 꼽았다. AI 압축 기술은 보통 성능 수치 중심으로 소개되기 쉽지만, 터보퀀트는 알고리즘이 왜 작동하는지, 어느 정도까지 성능을 낼 수 있는지를 이론적으로 설명할 수 있다는 것이다.</p> <p contents-hash="49e586ea735052e7b24caf6812965792eb062864851c1475a69e784e5770f12f" dmcf-pid="HduFPqlwSc" dmcf-ptype="general">그러면서 실용화 가능성에 대해 비교적 낙관적인 평가를 내놨다. 한 교수는 “이미 관련 구현 코드가 온라인에 공개돼 있고, 기술을 정확히 이해한다면 코드를 AI 모델에 적용하는 데 큰 어려움은 없을 것”이라며 “별도의 재학습이나 복잡한 튜닝 없이 사전 학습된 언어 모델에 곧바로 적용할 수 있어 빠른 시일 안에 실제 성능이 검증될 수 있다”고 말했다.</p> <p contents-hash="79a58aca8d516b8140b936987b6cce7f3b7a5f5a6cdd89232146853150583405" dmcf-pid="XJ73QBSryA" dmcf-ptype="general">터보퀀트는 온디바이스 AI 환경에서도 활용 가능성이 높다는 평가를 받는다. 메모리 사용량이 줄어드는 만큼 기기 내부 메모리와 네트워크 제약이 큰 환경에서도 AI를 더 효율적으로 구동할 수 있어서다. 개인이 자신의 데이터로 개인화된 AI 모델을 기기 안에서 직접 실행하기 쉬워지고, 데이터가 외부로 나가지 않는 만큼 정보 보안 측면의 이점도 커질 수 있다. 한 교수는 보안이 중요한 군사 분야 역시 이런 변화의 영향을 받을 수 있는 영역으로 언급했다.</p> <p contents-hash="1461bd3f291f40aae14d050b882a17f42aea7f3e231a4d2f497be1b0cf9fc4f5" dmcf-pid="Ziz0xbvmSj" dmcf-ptype="general">다만 한 교수는 장기적으로 효율을 더 끌어올리려면 소프트웨어만으로는 한계가 있다고 봤다. 지금은 메모리를 아끼기 위해 값을 압축해 저장하더라도, 실제 계산 단계에서는 이를 다시 풀어 쓰는 과정이 필요해 추가 비용이 발생할 수 있기 때문이다. 만약 압축한 값을 별도 복구 없이 바로 연산할 수 있는 하드웨어가 나온다면, 메모리 절감뿐 아니라 연산 속도와 전력 효율까지 함께 개선될 가능성이 있다는 것이다.</p> <p contents-hash="0bbf92596027784140846e9519539cc8adb220ff53bd871a62e2e67105bb4862" dmcf-pid="5nqpMKTsWN" dmcf-ptype="general">한 교수는 “이런 점에서 AI 효율화를 위해서는 하드웨어와 소프트웨어의 공동 최적화가 중요해질 것”이라며 “앞으로도 구글 리서치와 후속 연구를 이어가며 AI 추론 연산을 더 효율화하는 방향의 연구를 계속할 계획”이라고 밝혔다.</p> <p contents-hash="7b353773dfded0b4ff3b6aa5f84818216992849724e23e825e93c89d497fd25e" dmcf-pid="1LBUR9yOha" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 "'넌 안 될 거야' 내 꿈 조롱해"…'보플' 출신 장한음, 다시 꿈꾸는 이유 03-30 다음 네이버, 구글식 광고 플랫폼 도입…검색·디스플레이 통합 03-30 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
