“AI 반도체 경쟁, 칩 검증 속도가 핵심” 작성일 07-16 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">반도체공학회 학술대회서<br>김태완 서울대 교수 강연</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WJ8jpjgRSS"> <figure class="figure_frm origin_fig" contents-hash="b81eb664109a1b04747b74bca23dab4c2abe00fd08ababbe6c528a44fd83d03d" dmcf-pid="Yi6AUAaell" dmcf-ptype="figure"> <p class="link_figure"><img alt="김태완 서울대학교 조선해양공학과 교수" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/16/mk/20260716173903108uovc.jpg" data-org-width="700" dmcf-mid="xr8jpjgRlT" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/16/mk/20260716173903108uovc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김태완 서울대학교 조선해양공학과 교수 </figcaption> </figure> <div contents-hash="9974dee059ce62d2fe4d977ed8a01b9c8dabf56998bed8079b156f280d89b2dd" dmcf-pid="GnPcucNdWh" dmcf-ptype="general"> <span>전세계 빅테크가 참전 중인 인공지능(AI) 반도체 경쟁에서 한국이 승리하려면 칩 검증 속도를 높여야 한다는 주장이 제기됐다.</span> </div> <p contents-hash="30653c13725e546384467e68555967d9abafe54dd0e9965cd4fbdcf487e802de" dmcf-pid="HLQk7kjJCC" dmcf-ptype="general">16일 부산 아난티 앳 부산 코드에서 열린 반도체공학회 2026년 학술대회에서 김태완 서울대 조선해양공학과 교수는 ‘AI 메모리 장벽을 넘어서: TurboQuant, 3-bit KV Cache 압축, 그리고 소버린 AI 반도체로 가는 길’이라는 주제의 기조강연을 통해 “AI 반도체 경쟁력은 논문 수가 아니라 얼마나 빠르게 실리콘에서 검증하느냐에 달려 있다”며 이 같이 밝혔다.</p> <p contents-hash="5127c25aee5e73e08c02840b043ae587ac036b454ec764f69253851be61762d4" dmcf-pid="XoxEzEAiyI" dmcf-ptype="general">김 교수는 “챗GPT 같은 생성형 AI의 등장으로 AI는 짧은 질문에 답하는 수준을 넘어 긴 보고서와 논문, 대화 기록까지 한꺼번에 읽고 이해하는 방향으로 발전하고 있다”며 “이에 따라 AI 반도체도 단순히 계산을 빠르게 수행하는 것뿐 아니라, 많은 데이터를 적은 전력과 비용으로 처리하는 능력이 중요해졌다”고 설명했다.</p> <p contents-hash="faa4748b2d8d52f41a35b5f1e37355d1d148050cdfdf9128c813801ab4b00518" dmcf-pid="ZgMDqDcnyO" dmcf-ptype="general">이어 김 교수는 “최근에는 AI가 한 번에 참고할 수 있는 문맥의 길이가 128K 토큰 이상으로 늘어나고 있다”며 “128K 토큰은 약 13만개의 언어 단위로, 여러 편의 긴 문서와 이전 대화 내용을 한꺼번에 참고할 수 있는 규모”라고 덧붙였다.</p> <p contents-hash="a98ee8e39a255e1ab99d81c67f816c5b04794a04ce8582697d0d353685c12c3b" dmcf-pid="5aRwBwkLls" dmcf-ptype="general">문제는 이렇게 급격히 확장된 긴 문맥(Long context) 탓에 기존 반도체 구조가 한계에 직면했다는 것이다.</p> <p contents-hash="dbf569132439a1e1b56163740789ebc814e323f06c491e93cbb3c6650b3e618b" dmcf-pid="1NerbrEoym" dmcf-ptype="general">김 교수는 “KV캐시(cache)는 AI가 문장을 한 토큰씩 생성할 때, 과거 토큰에 대해 이미 계산한 키(key)와 밸류(Value) 값을 메모리에 저장해 두는 기술로, 이를 통해 매번 같은 계산을 반복하지 않아도 된다”며 “다만 문맥이 길어질수록 저장해야 할 값이 계속 증가하기 때문에 그래픽처리장치(GPU) 메모리 사용량과 전력 부담이 커진다”고 분석했다.</p> <p contents-hash="ef5daf2159e49d07a7eed707cbff15a3bf76d6c2f4edcafa66d578ebfca2b26f" dmcf-pid="tjdmKmDgvr" dmcf-ptype="general">이어 “이는 메모리 병목을 일으키고 고대역폭메모리(HBM) 사용량과 비용 증가로 이어질 수 있다”며 “이는 AI 서비스의 비용 구조와 전력 효율에 직접적인 영향을 미치는 문제”라고 지적했다.</p> <p contents-hash="1491edcdcbf3f91b6262000de3efa743e0b41be7bed6cc188bd6b94abe518423" dmcf-pid="FaRwBwkLCw" dmcf-ptype="general">그 해법으로 제시되는 것이 저비트 양자화다. 김 교수는 “저비트 양자화는 AI가 사용하는 숫자를 16비트에서 3비트처럼 더 작은 단위로 압축해 저장하는 기술로 GPU 메모리 사용량과 전력 소모, 데이터 이동 부담을 줄일 수 있다”며 “다만 비트를 지나치게 줄이면 AI의 정확도가 떨어질 수 있으므로, 실제 모델과 칩에서 정확도와 처리 속도, 전력 효율을 함께 검증해야 한다”고 강조했다.</p> <p contents-hash="0d4f837b6bb4eab58783b205fdbb2d40203a45f6d87e30ca4722ab5883b15541" dmcf-pid="3NerbrEohD" dmcf-ptype="general">여기서 중요한 것이 실리콘 검증이라는게 김 교수의 설명이다. 그는 “실리콘 검증은 논문이나 컴퓨터 시뮬레이션에서 효과가 있다고 확인한 기술을 실제 반도체 칩으로 만들어, 정말 원하는 대로 작동하는지를 시험하는 과정”이라며 “칩을 제작한 뒤 처리 속도와 전력 소모, 정확도, 발열 등을 직접 측정해야 실제 산업에서 사용할 수 있는 기술인지 판단할 수 있다”고 설명했다.</p> <p contents-hash="85afc8c6d19fca73c8c2e55c7139cfc7d8522eeeaa6fbc67445d7cc8bc8a50c2" dmcf-pid="0jdmKmDgyE" dmcf-ptype="general">김 교수는 “이를 위해서는 여러 대학과 기업이 설계한 칩을 한 장의 웨이퍼에 함께 배치해 제작하는 ‘반도체 공동제작’ 방식인 다중 프로젝트 웨이퍼(MPW) 프로그램이 확산될 필요가 있다”고 주장했다. 이 방식은 비싼 제작 비용을 여러 참여자가 나눠 부담하기 때문에 대학과 스타트업도 실제 칩을 만들어 시험할 수 있다는 것이다.</p> <p contents-hash="186f69dc39b87197404c17bf9828f37fc44f89e4e6fc001f1f6fd3dc4520497a" dmcf-pid="pAJs9swaWk" dmcf-ptype="general">김 교수는 “AI 반도체 경쟁에서는 새로운 아이디어를 얼마나 빠르게 칩으로 구현하고 검증하느냐가 중요하다”며 “MPW 제작 주기를 단축하고 반복적으로 실리콘을 검증할 수 있도록 정부 차원의 통합적인 지원이 필요하다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 한화 김승연 회장, 시즌 두 번째 대전한화생명볼파크 찾아 키움전 응원… 35번째 전석 매진 07-16 다음 네이버 새 풀필먼트 가동…새벽·주말 N배송 늘린다 07-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
