데이터 이동 없이 연산…KAIST, 차세대 AI 반도체 구조 제시 작성일 10-17 59 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">전력 절반으로 추론 속도 4배 향상</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KYNJJ95roC"> <figure class="figure_frm origin_fig" contents-hash="6f3a00da3d92819b979ed2a2c24f2ba3fab612fee3116a29556695a9379d32fc" dmcf-pid="9Gjii21mNI" dmcf-ptype="figure"> <p class="link_figure"><img alt="박종세 한국과학기술원(KAIST) 전산학부 교수 연구진은 미국 조지아공과대와 스웨덴 웁살라대 연구진이 진행한 연구의 요약도./KAIST" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/17/chosunbiz/20251017103540300wecj.jpg" data-org-width="643" dmcf-mid="BSlvvcxpal" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/17/chosunbiz/20251017103540300wecj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 박종세 한국과학기술원(KAIST) 전산학부 교수 연구진은 미국 조지아공과대와 스웨덴 웁살라대 연구진이 진행한 연구의 요약도./KAIST </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="dbb6bb7ccc294ec98da5744398c8041267973957223dc8121024276315459bbb" dmcf-pid="2HAnnVtsgO" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/17/chosunbiz/20251017103540566nzbi.png" data-org-width="1800" dmcf-mid="bSd66UTNch" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/17/chosunbiz/20251017103540566nzbi.png" width="658"></p> </figure> <p contents-hash="60e0182a5e851aff202dd04b3a491254b0a9ef275c36e91bc54bc49ecd7e11dd" dmcf-pid="VXcLLfFONs" dmcf-ptype="general">인공지능(AI) 모델이 점점 커지고 복잡해지면서, 더 빠르게 계산하고 전기를 적게 쓰는 반도체 기술의 필요성이 커지고 있다. 이런 가운데 한국과학기술원(KAIST)과 해외 연구진이 AI의 ‘두뇌’ 역할을 하는 핵심 반도체의 구조를 새롭게 바꾼 기술을 개발했다.</p> <p contents-hash="7a979f4b23318451eabf238e912fd7d2d3cfec145b743c4d130a10fabfd40650" dmcf-pid="fZkoo43Igm" dmcf-ptype="general">박종세 KAIST 전산학부 교수 연구진은 미국 조지아공과대와 스웨덴 웁살라대 연구진과 함께, 기존 AI 모델보다 추론(답을 찾아내는 과정) 속도는 4배 빠르고 전력 소모는 절반 이하로 줄인 반도체 구조 ‘핌바 (Processing-In-Memory Based Architecture, PIMBA)’를 개발했다고 17일 밝혔다.</p> <p contents-hash="ea6909c4001f91f46fc422a8bfe4d61726130fb7335a43b05d191f93cc0aa26d" dmcf-pid="45Egg80Car" dmcf-ptype="general">핌바는 AI가 문장을 이해하고 판단하는 방식을 담당하는 두 가지 뇌 구조인 ‘트랜스포머(Transformer)’와 ‘맘바(Mamba)’를 합쳐 놓은 새로운 형태의 구조다.</p> <p contents-hash="b411f015fd8e78bc12743a028cb798e054bd04f4b21bf443c1377ca957aab0bb" dmcf-pid="81Daa6phjw" dmcf-ptype="general">현재 ChatGPT나 Claude, Gemini 같은 대형언어모델(LLM)은 대부분 트랜스포머 구조를 사용한다. 이 방식은 모든 단어를 한꺼번에 살펴 문맥을 파악하는 데 강점이 있지만, 모델이 커질수록 계산량이 폭증해 속도가 느려지고 전력 소모가 커지는 한계가 있다.</p> <p contents-hash="cb88dfc03721f17817c082a730f7a1c17fa6af7e52a70667fee30b2b38aef939" dmcf-pid="6twNNPUljD" dmcf-ptype="general">이 문제를 해결하기 위해 최근에는 단어를 순서대로 처리하는 맘바 구조가 등장했다. 시간 순서에 따라 정보를 저장하고 꺼내 쓰는 방식으로 효율을 높였지만, 여전히 계산을 하려면 데이터를 메모리 밖으로 꺼내야 해 ‘병목 현상(memory bottleneck)’이 남아 있었다.</p> <p contents-hash="7b67019498bb5b75b9c3a577ce78e3dc129faa205c5a24af076018563007994f" dmcf-pid="PFrjjQuSoE" dmcf-ptype="general">연구진은 두 구조의 장점을 살리면서 병목 문제를 없애기 위해, ‘연산을 메모리 안에서 직접 수행하는 반도체 구조’를 고안했다. 기존 GPU(그래픽처리장치)는 데이터를 메모리에서 꺼내 연산을 수행하지만, 핌바는 데이터를 이동시키지 않고 저장장치 내부에서 바로 계산을 처리한다. 이 방식은 데이터 이동 시간을 없애 속도를 높이고, 전력 소모를 크게 줄인다.</p> <p contents-hash="a751b4aaba33405e58e04515bf658cb605303faa6b1dfdfd3f56ff32797f79d2" dmcf-pid="Q3mAAx7vkk" dmcf-ptype="general">실험 결과, 핌바 구조는 기존 GPU 기반 시스템보다 최대 4.1배 빠른 처리 속도를 보였고, 평균 전력 소비는 2.2배 절감됐다.</p> <p contents-hash="2ef11c82d49c45b0f230ece140134d41db8a3cf7a3b6e0f7cc0f74e84375e788" dmcf-pid="x0sccMzTAc" dmcf-ptype="general">이번 연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 ‘제58회 국제 마이크로아키텍처 심포지엄(MICRO 2025)’에서 발표될 예정이다. 앞서 ‘제31회 삼성휴먼테크 논문대상’ 금상을 수상하며 기술적 우수성도 인정받았다.</p> <p contents-hash="bcdc73af52199a0bcdaf4052142152a5f1fecf9bd40518f264da6821eb8acd35" dmcf-pid="yE8bbZsdgA" dmcf-ptype="general">이번 연구는 정보통신기획평가원(IITP)과 인공지능반도체대학원 지원사업, 과학기술정보통신부-정보통신기획평가원 ICT R&D 프로그램의 지원으로 수행됐다. 한국전자통신연구원(ETRI)이 연구를 공동 지원했으며, 반도체설계교육센터(IDEC)가 설계 도구(EDA 툴)를 제공했다.</p> <p contents-hash="06aed753b8191bd97263962173164859d39e47d76f7725f3b74cf0a91ec3bbe6" dmcf-pid="WD6KK5OJNj" dmcf-ptype="general">참고 자료</p> <p contents-hash="2eff99049ba0b2610e8207df33ff230f656b61bfee2285acb93e073f6a0e18c9" dmcf-pid="YwP991IikN" dmcf-ptype="general">arXiv(2025), DOI: <span>https://doi.org/10.48550/arXiv.2507.10178 </span></p> <p contents-hash="2bd40b294badf9e2da4e3b3c9784204797b3e535f7d2cb059edfea68c9105cd2" dmcf-pid="GrQ22tCnNa" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 인류 고대 친척 손 화석 최초 분석…도구 사용 가능했을 것 10-17 다음 쇼트트랙 최민정, 2차 월드투어 첫날 전 종목 예선 1위 10-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
