김정호 "GPU 위에 HBM 쌓는 역발상 설계…K반도체가 AI주도권 쥘 것" 작성일 03-17 120 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'HBM의 아버지' 김정호 KAIST 전기·전자공학부 교수<br>GPU와 메모리의 경계 무너져<br>SK가 올해 양산 예정인 'HBM4'<br>저장 기능 뿐 아니라 계산도 가능<br>데이터 이동 속도 더욱 빨라져<br>HBM, 칩 설계 패러다임 바꿀 것<br>'HBM7'부터는 GPU 위에 쌓아<br>고속연산 최적…크기도 줄어들어<br>인텔·Arm 주도 시장서 반격 가능 <br>中 '딥시크 쇼크'는 수학의 힘<br>최신 GPU 없이 최적화로 돌파<br>韓공대생 수학 능력에 집중해야</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="flbrtq3IvN"> <figure class="figure_frm origin_fig" contents-hash="84c9e4584d607aa7d8bd5fe47a84fbbf4bf7a27dd63d1f3d6e58ebafe2ea0e49" dmcf-pid="4SKmFB0Cla" dmcf-ptype="figure"> <p class="link_figure"><img alt="< HBM 설계 기법 강의 중인 김정호 교수 > 김정호 KAIST 전기 및 전자공학부 교수가 고대역폭메모리(HBM) 구조 분석 및 설계 기법 강의를 하고 있다. 그는 여전히 손으로 쓴 두꺼운 연구 노트와 판서(칠판에 분필로 쓰는 것) 강의를 선호한다. /대전=이솔 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/17/ked/20250317173803035wckk.jpg" data-org-width="1037" dmcf-mid="V7Pvq8bYyj" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/17/ked/20250317173803035wckk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> < HBM 설계 기법 강의 중인 김정호 교수 > 김정호 KAIST 전기 및 전자공학부 교수가 고대역폭메모리(HBM) 구조 분석 및 설계 기법 강의를 하고 있다. 그는 여전히 손으로 쓴 두꺼운 연구 노트와 판서(칠판에 분필로 쓰는 것) 강의를 선호한다. /대전=이솔 기자 </figcaption> </figure> <p contents-hash="d43fb2282587114464526cbac21eee76d98380992e28d88b9a3ad077babf9572" dmcf-pid="8v9s3bphvg" dmcf-ptype="general"><br>김정호 KAIST 전기 및 전자공학부 교수는 ‘고대역폭메모리(HBM)의 아버지’로 불린다. 그의 연구실에서 탄생한 인터포저 등 HBM 요소 기술이 없었다면 인공지능(AI) 시대에 한국 반도체산업의 위상이 크게 흔들렸을 것이다. SK하이닉스와 삼성전자가 제조하는 HBM은 엔비디아 등 글로벌 빅테크가 제조하는 AI 칩에 필수로 들어가는 반도체다. 최근 대전 KAIST에서 만난 김 교수는 “앞으로 10~20년을 바꿀 미래 HBM 아키텍처(반도체 설계도)를 그리고 있다”고 말했다. AI 반도체산업의 패러다임을 메모리칩 분야 강자인 한국 주도로 새롭게 짜겠다는 도전적인 과제다.</p> <p contents-hash="d2a85f0846d74df4f3d3da1148d0adc2f9637d5a145625fdc3d850e053845455" dmcf-pid="6T2O0KUllo" dmcf-ptype="general"><strong>▷미국과 중국의 기술패권 전쟁이 치열합니다.</strong></p> <p contents-hash="94f94037a58748695b7a98480aaa55efccb7bb736dd10e3e6c8fc96c20132dc8" dmcf-pid="PyVIp9uSyL" dmcf-ptype="general">“예전엔 자원과 식민지를 두고 싸웠다면 지금은 기술로 싸우는 제국주의 시대입니다. 한국에 반도체라는 전략 기술이 없다면 아마 우크라이나 같은 비참한 운명을 맞을지도 모르죠.”</p> <p contents-hash="a27c28793321e9c0620a42a886e2d58226d52189b1526a4b82663ce9e75f3829" dmcf-pid="QWfCU27vhn" dmcf-ptype="general"><strong>▷기술이 안보까지 좌우하는 시대군요.</strong></p> <p contents-hash="aa96b65a63ca0386c3988860906a6942790a655ecb45796a35ed8172ef865124" dmcf-pid="xY4huVzTSi" dmcf-ptype="general">“한국전쟁의 도화선이 된 ‘애치슨 라인’이라고 생각하면 됩니다. 지금은 AI 반도체가 안보의 경계선이에요. 평화와 자유민주주의를 지키려면 AI 반도체가 있어야 해요. 한국 반도체산업엔 그나마 HBM만 남았다는 게 제 생각입니다.”</p> <p contents-hash="134be7ce1db1c0842a15140637ed4f582a4f5c6c5a42eab1af0687f8f0c9ad32" dmcf-pid="yRh4cIEQyJ" dmcf-ptype="general"><strong>▷중국의 실력은 어느 정도입니까.</strong></p> <p contents-hash="f6733155c6d7f6423542d7ed4f02d3f88d4f4e59f2ad15782b18da22683d0bcd" dmcf-pid="WdS6EhwMyd" dmcf-ptype="general">“딥시크 쇼크 직후 학생들과 딥시크 기술을 분석해 유튜브 영상 세 개로 나눠 올렸어요. 결론은 ‘기존에 있는 기술을 많이 조합해 수학적으로 최적화했다’입니다. 최신 그래픽처리장치(GPU)란 이빨이 없으니, 잇몸으로 열심히 했다는 뜻입니다. 엔비디아의 쿠다 같은 전용 소프트웨어(SW)를 만들지 못하니 어셈블리 랭귀지(기호 언어) 레벨로 더 내려가 일일이 작업을 한 것으로 보입니다. 대단한 열정과 실력입니다.”</p> <p contents-hash="23b9c77184e3071da7ed9b88aff46440632ebf0fde11876a11e13d813fef0ab0" dmcf-pid="YJvPDlrRTe" dmcf-ptype="general"><strong>▷한계도 있을 거 같습니다.</strong></p> <p contents-hash="e84521cfceb0991823facad6d12177ee653cef8efe747dc88fa4376abd98264d" dmcf-pid="GiTQwSmeSR" dmcf-ptype="general">“비유하자면 미국은 페라리로 200㎞를 달리고 있어요. 딥시크를 포함해 중국은 소나타로 200㎞를 밟고 있는 것과 비슷합니다. 소나타로 페라리를 따라잡으려면 그만큼 힘이 드는 거죠. 어쩌면 엔진이 멎을 수도 있을 겁니다. 반면 한국은 아예 차(자체 AI 반도체)가 없는 상황입니다.”</p> <p contents-hash="ee776fd34e9810930a3c5e799f3761a2a7023859c516a5d1b3e7ebca01a1e66f" dmcf-pid="HnyxrvsdCM" dmcf-ptype="general"><strong>▷HBM 아키텍처가 한국의 대안인가요.</strong></p> <p contents-hash="6f6b393119434b3612aad17cfc81c7b38f26ba26035769482941ee3e3a0e1de8" dmcf-pid="XLWMmTOJlx" dmcf-ptype="general">“AI 칩에서 연산과 추론을 맡는 GPU 같은 시스템 반도체와 저장 기능이 있는 메모리 반도체의 경계가 서서히 무너지고 있습니다. SK하이닉스가 올해 양산 예정인 6세대 HBM(HBM4)은 베이스다이에 이미 일부 계산 기능이 들어가 있어요.”</p> <p contents-hash="dff37aab8a8da339b87766f52175591e53e757444985ac43a3843589d6440273" dmcf-pid="ZoYRsyIiTQ" dmcf-ptype="general"><strong>▷통합 설계가 필요하다는 뜻이네요.</strong></p> <p contents-hash="c2e41d40df308e36d49ac47ecb868611d4d2101a847ddb914c38fa3bc1c2263d" dmcf-pid="5gGeOWCnyP" dmcf-ptype="general">“맞습니다. 앞으로는 AI 슈퍼컴퓨터를 구현하는 수단으로서 HBM을 발전시키려 합니다. 한국이 10년, 20년 넘게 주도권을 가질 수 있게 그림을 그리고 있는 것이죠. HBM7 단계에 가면 GPU 위에 HBM이 올라갈 겁니다.”</p> <p contents-hash="dca99639d64459ba3ee6cb755f2ab70046c646df10e710f760af4f3dd1b8027f" dmcf-pid="1aHdIYhLW6" dmcf-ptype="general">현재 엔비디아, AMD 등이 설계하는 AI 칩은 GPU 아래에 HBM이 배치돼 있다. HBM7 등 미래 AI 칩은 GPU 위에 HBM을 3차원(3D) 구조로 쌓는 설계가 적용될 가능성이 높다. 이렇게 하면 GPU와 HBM 간 데이터 이동 속도가 빨라지고, 반도체 크기도 줄일 수 있을 것으로 예상된다.</p> <p contents-hash="4dac7c2be4d51166e3e7da43071b96bd3f24bb6ca60cc2c668f546bba1b68b33" dmcf-pid="tNXJCGloC8" dmcf-ptype="general"><strong>▷GPU 설계는 어렵습니까.</strong></p> <p contents-hash="07e8e7fb7881dceb6fce7dc0faa3934cd3f1be44244c233f61989c0d3861a02f" dmcf-pid="FjZihHSgl4" dmcf-ptype="general">“GPU 같은 시스템 반도체 설계는 이미 따라갈 수 없어요. HBM을 시스템 반도체로 정의하는 게 필요합니다. 인텔의 x86, Arm이 주도하는 칩 설계의 헤게모니를 대체할 새로운 패러다임입니다.”</p> <p contents-hash="9c004f69fc1466b508aca14f72f0027faf5b5aca773bd40ffd08f9a488ce62cc" dmcf-pid="3A5nlXvaTf" dmcf-ptype="general"><strong>▷좀 더 설명해 주세요.</strong></p> <p contents-hash="3a269a277a4f148f890f174977bfbe6749c8483dee7fa53d6ed58a392fc9b889" dmcf-pid="0c1LSZTNyV" dmcf-ptype="general">“HBM과 GPU를 잇는 수많은 신호선을 어떻게 연결할 것인지, 다시 말해 전력 소모와 발열량을 최소화하는 것이 AI 칩 성능 향상의 관건입니다. 미래엔 중앙처리장치(CPU) 한 개에 GPU 4~8개, HBM 100개 정도가 슈퍼컴퓨터의 기본이 될 겁니다.”</p> <p contents-hash="4b2b860c8c1bccc99c0a77d897bec989e48e5b3ea2f8583eb5868c9d4d22a321" dmcf-pid="pktov5yjT2" dmcf-ptype="general"><strong>▷연결이 더 중요하다는 말이군요.</strong></p> <p contents-hash="8f3a25b0845bd10fa47891d9ebfdb516b4aa792863749d9a8714d0ce333bcb48" dmcf-pid="UEFgT1WAT9" dmcf-ptype="general">“메모리와 시스템 반도체 각자의 장점을 조립하는 게 맞는 방향이에요. 패키징 기술이 그래서 중요한 겁니다. 운동장을 행진하면서 큰 북을 치면 발에 미세한 진동이 생기는데 메모리칩을 적층(스태킹)하고 패키징할 때도 이런 진동을 없애는 초미세 이퀄라이저 기술이 필요합니다.”</p> <p contents-hash="b4410edc858b0987951d23ef0667ecc6aadec58c74591fe34c6b1a8b6ce0de3a" dmcf-pid="uD3aytYcWK" dmcf-ptype="general"><strong>▷늘 수학의 중요성을 강조하셨습니다.</strong></p> <p contents-hash="82e64e09554e6567e300e7acde30dce5dc34322a1699308d4478df2a8d4e974a" dmcf-pid="7w0NWFGkTb" dmcf-ptype="general">“AI 알고리즘은 깊이 들어가면 전부 수학으로 바뀝니다. 요즘엔 공대 학부 전공은 수학만 깊게 가르쳐도 되지 않을까 하는 생각이 들어요. 딥시크가 나온 것도 결국 수학의 힘이에요.”</p> <p contents-hash="59803251ddc01e7e898839fbe60dc0ccae69328df360e80aa0d9011ba952c7cc" dmcf-pid="zoYRsyIiCB" dmcf-ptype="general"><strong>▷우리 학생들의 실력은 어떤가요.</strong></p> <p contents-hash="1a796da5d17a7ef0f6a14b7e85403b2ec88ce8b705a65c582d326ca1bcb65356" dmcf-pid="qgGeOWCnCq" dmcf-ptype="general">“학부에서 수학을 전공한 대학원 제자가 (AI 4대 천왕으로 불리는) 요슈아 벤지오 캐나다 몬트리올대 교수에게 배우러 갔어요. 박사후연구원인데 벤지오 교수가 그러더군요. 이제껏 만나 본 학생 중 가장 뛰어나다고요.”</p> <p contents-hash="37a6c24e67e67d43f001056dec028d13a4744bd6bd66891b40663e94dd09f653" dmcf-pid="BaHdIYhLhz" dmcf-ptype="general"><strong>▷양자컴퓨터 열기가 뜨겁습니다.</strong></p> <p contents-hash="ed668095284161035087cbd7e7702b1e08ef1aaf52099bcbeb3b67f284aca4d4" dmcf-pid="bNXJCGloC7" dmcf-ptype="general">“과학적으로는 아주 재밌죠. 하지만 상용화엔 족히 20~30년은 걸릴 겁니다.”</p> <p contents-hash="259ace9abbebfb13e265ea5b45c620b968ec9181e307d18caacfc4feb66e243e" dmcf-pid="KjZihHSgWu" dmcf-ptype="general"><strong>▷빅테크들은 5~10년 내 상용화를 주장합니다.</strong></p> <p contents-hash="88f17d98a48a7e7e55e2f4b2a1dee898e2a6f3f11ae22b4a7262a2458a9a8fd7" dmcf-pid="9A5nlXvavU" dmcf-ptype="general">“한때 자성을 이용해 데이터를 저장하는 M램(자성 램)이 큰 기대를 모았습니다. 하지만 아카데미 차원에서만 흥미로운 대상일 뿐이었어요. AI 전쟁에선 검증된 기술을 조합해 최적 성능을 내는 것이 훨씬 중요하고, 이것이 혁신으로 이어질 겁니다. 조합의 도구는 수학과 소프트웨어 그리고 패키징입니다.”</p> <p contents-hash="f0d6f7c375de747bd434ea552dd62f67c23512ba25d3389909bf1049cacbf161" dmcf-pid="2c1LSZTNhp" dmcf-ptype="general"><strong>▷국방 AI도 절실한데요.</strong></p> <p contents-hash="4b27ca32af45fafbf0b94b9aa48ced94629df90c05ddfc77494a79d7ea722adc" dmcf-pid="Vktov5yjy0" dmcf-ptype="general">“최근 경기 포천시 전투기 오폭 사고는 인간의 실수지만 전자 회로상의 문제였을 수도 있습니다. 자동차도 마찬가지로 신호가 잘못 가면 급발진 사고가 날 수 있는 것처럼요. 앞으로 HBM의 요소 기술이 국방 무기 개발에도 응용될 겁니다.”</p> <p contents-hash="db437be9986e48154654ec9f535e9f25223185bcb86dea797f8cceed66729c3e" dmcf-pid="fEFgT1WAh3" dmcf-ptype="general"><strong>▷이번 학기 어떤 강의를 하십니까.</strong></p> <p contents-hash="e7bed140527bd48e9337a1f0c1d1f25a5b0f9eb5ca3c99ca129cc5fbe68baa10" dmcf-pid="4D3aytYcCF" dmcf-ptype="general">“강의명은 EMI(전자파 간섭)/EMC(전자기 적합성)인데 내용은 HBM 아키텍처 설계 기법입니다. ‘이쪽에선 GPU가 중요하고 저기선 HBM이 중요한데 이를 결정하는 것은 알고리즘이다’ 그런 내용을 강의합니다. 마지막엔 인터포저와 수직관통전극(TSV)을 논하는데 학생들의 몰입도가 아주 높아요.”</p> <p contents-hash="930dda71dee868967c8086939747a1d43010a1f944dfb7083cb74ba2b5f494a9" dmcf-pid="8w0NWFGkTt" dmcf-ptype="general"><strong>▷열정이 대단한 것 같습니다.</strong></p> <p contents-hash="44db5a8105476c6d7c048cad8ec01114e6ac9374ecfeab9170ec84cfeea6c735" dmcf-pid="6rpjY3HEh1" dmcf-ptype="general">“최신 기술들을 강의하려니 학기마다 수업 교재를 절반은 새로 씁니다. 그러려면 공부를 굉장히 많이 해야 합니다. 지난 학기는 생성형 AI 수업을 하면서 GPT-4o 등 최신 모델의 수학적 원리를 강의했어요. 출퇴근 길에도 기술에 대한 생각이 폭발하는데 언제나 즐거운 지적 경험입니다.”</p> <p contents-hash="5f3c0fc27f79b02a09ada2057a8742f7b67a871cf955d94ab3e6a484da18af55" dmcf-pid="PmUAG0XDl5" dmcf-ptype="general"><strong>▷삼성과의 협업도 오래 하셨죠.</strong></p> <p contents-hash="b45b44594d70a6b607b769bc3fc21f096f1ef674dbf3efef353d781ef5bd161f" dmcf-pid="QsucHpZwWZ" dmcf-ptype="general">“2018년부터 KAIST-삼성전자 산학협력센터장을 맡고 있습니다. 삼성전자가 100여 명 교수들에게 마음껏 연구하라고 인당 수억원씩 연구비를 지원하고 있지요. 삼성이 그동안 대학에 지원한 자금 중 가장 많을 겁니다.”</p> <p contents-hash="6145015407e728d72b894939217d17e6cbe8bf3551dafba812119024b54f9805" dmcf-pid="xO7kXU5rvX" dmcf-ptype="general"><strong>▷차기 KAIST 총장직에 도전했는데요.</strong></p> <p contents-hash="15794b1c559abe9fe8d2545b4e36228864af76a729c54aa3271b87109c572a90" dmcf-pid="yH6Sz4BWSH" dmcf-ptype="general">“HBM 연구에 매진하는 것이 국익에 더 도움이 될 거라고 말씀하는 분들도 있습니다. 지금은 한 명의 교수로서 매년 수십 명의 학생을 이끌고 있지만, 총장이 되면 HBM을 발전시키면서 기업들과 나눈 도전과 혁신의 경험을 수백 배로 키워 KAIST에 퍼뜨릴 수 있지 않을까요.”</p> <p contents-hash="bf80d138b8ef8e41515ff635d7a58cbfb2d1567d8b73e06cf98e45d5b26de083" dmcf-pid="WXPvq8bYSG" dmcf-ptype="general">제18대 KAIST 총장은 이달 후보가 세 배수(3명)로 좁혀져 5명으로 구성된 총장선임위원회를 통해 이르면 다음달 선임될 예정이다. 과학기술정보통신부의 검토를 거쳐 총장선임위가 최종 후보를 추천하면 대통령이 지명한다. 현재로선 최상목 대통령 권한대행이 지명권자다.</p> <p contents-hash="d8e5acd3298168bfe316df58384a48c93908aab3db6b1b2e8c2047038e66d250" dmcf-pid="YZQTB6KGvY" dmcf-ptype="general">대전=이해성 기자 ihs@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 '언더커버' 서강준, TV-드라마 출연자 화제성 4주 연속 1위 수성 03-17 다음 동물 배설물로 멸종 위기종 구한다 03-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
