AI 모델 실행 속도 2배 이상 높였다…UNIST, 새 오토튜닝 기술 개발

작성일 08-12

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">코드 최적화 시간 절반으로 단축<br>세계 권위 학회 OSDI 채택</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="Y25VXIMUEo">
          <p contents-hash="4c336bdf39cc81809eb6edc883b58fdee054b8d04f704f3e3711dd6e2665bf7c" dmcf-pid="GV1fZCRusL" dmcf-ptype="general"> [이데일리 김현아 기자] 딥러닝 AI 모델을 실행 가능한 프로그램 형태로 변환하는 데 걸리는 시간을 절반 이하로 줄이는 혁신 기술이 국내 연구진에 의해 개발됐다. </p>
          <p contents-hash="daa77891e093c73c2231118919765d8e306a84e90ced581c7fc920bb955526e0" dmcf-pid="HN8jfpmemn" dmcf-ptype="general">울산과학기술원(UNIST) 컴퓨터공학과 이슬기 교수 연구팀은 오토튜닝(자동 최적화) 속도를 CPU 기준 평균 2.5배, GPU 기준 평균 2배 단축하는 ‘베이지안 코드 확산(Bayesian Code Diffusion)’ 기법을 개발했다고 12일 밝혔다.</p>
          <p contents-hash="44d581d7ee455317b056f311436bc7c19c3ba439d44f6024a3fd296792af6434" dmcf-pid="Xj6A4Usdmi" dmcf-ptype="general">이번 연구는 컴퓨터 시스템 분야 세계 최고 권위 학회 중 하나인 OSDI(Operating Systems Design and Implementation)에 채택됐다. </p>
          <p contents-hash="f94af3665c6128a582d78a363a2c79d469e9bfd487af88cc060538f2d34b65fc" dmcf-pid="ZAPc8uOJmJ" dmcf-ptype="general">OSDI에 한국인 주저자 논문이 오른 것은 20여 년간 단 12건뿐이며, 올해는 UNIST와 서울대 두 건만 국내에서 채택됐다.</p>
          <figure class="s_img figure_frm origin_fig" contents-hash="42283c0ad0215aedb377591636583ba63fdb0b299ec60a11bc9d03f3fd8101de" dmcf-pid="5cQk67Iimd" dmcf-ptype="figure">
           <p class="link_figure"><img alt="UNIST 이슬기 교수" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/12/Edaily/20250812080141405xxvb.jpg" data-org-width="126" dmcf-mid="yRSKYmP3sa" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/12/Edaily/20250812080141405xxvb.jpg" width="126"></p>
           <figcaption class="txt_caption default_figure">
            UNIST 이슬기 교수
           </figcaption>
          </figure>
          <div contents-hash="d270dc577a9fb6a4bed86270a9e167f4571f78fb81be86055c190dee81c0d21c" dmcf-pid="1kxEPzCnre" dmcf-ptype="general">
           <strong>반복 구조 활용해 ‘검색 범위’ 확 줄여</strong>
          </div>
          <p contents-hash="4796ef49332357549b378772340f0ba0a7157271dab1ea3057ba8ec78f7d8058" dmcf-pid="tEMDQqhLwR" dmcf-ptype="general">AI 모델이 실제로 작동하려면, 사람이 작성한 고수준의 프로그램을 GPU나 CPU가 이해할 수 있는 저수준 코드로 변환하는 ‘컴파일’ 과정이 필요하다. </p>
          <p contents-hash="631175e8c0e82dfe250cc0787675242b1612abf82bd4ffb7732b3b1baca722b0" dmcf-pid="FDRwxBloIM" dmcf-ptype="general">이 과정에서 오토튜닝은 수십만 가지 코드 조합 중 가장 효율적인 구성을 자동으로 찾지만, 기존 방식은 시간이 오래 걸리고 전력 소모가 큰 한계가 있었다.</p>
          <p contents-hash="0873244336cdc8955f8c90b049cfa5c66dea5f8317c22147d32b04e702c86352" dmcf-pid="3Cohn4Gkmx" dmcf-ptype="general">연구팀은 딥러닝 모델 내부에 반복되거나 구조가 유사한 계산 단위(서브그래프)가 많다는 점에 착안했다. 기존 기법처럼 모든 구조를 각각 최적화하는 대신, 대표 서브그래프 하나만 최적화해 그 결과를 유사 구조에 ‘확산’시키는 방식으로 검색 범위를 대폭 줄였다. </p>
          <p contents-hash="7c18a413ca0f1ca435a6ceaa55f7661af21d5898ce8b1582e5651e1bdd428d14" dmcf-pid="0hglL8HEwQ" dmcf-ptype="general">여기에 베이지안 탐색 기법을 적용해 가능성이 높은 영역만 집중적으로 탐색, 최적의 코드를 빠르게 찾았다.</p>
          <figure class="figure_frm origin_fig" contents-hash="dd2e21f8376438747e856b2b2ebc3e87b4a196ebb3c5e68784b98986715d74c5" dmcf-pid="plaSo6XDIP" dmcf-ptype="figure">
           <p class="link_figure"><img alt="효율적인 코드 탐색 경로를 보여주는 ‘베이지안 코드 확산’ 개념도." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/12/Edaily/20250812080142700dtlf.jpg" data-org-width="599" dmcf-mid="WQ4NV0rRIg" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/12/Edaily/20250812080142700dtlf.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            효율적인 코드 탐색 경로를 보여주는 ‘베이지안 코드 확산’ 개념도.
           </figcaption>
          </figure>
          <div contents-hash="e4ed9367aeba9957ae4c41c9151bbdfbdf2f531c28bd6d6243ba319464db6a20" dmcf-pid="USNvgPZwE6" dmcf-ptype="general">
           <strong>개발·배포 속도·에너지 효율 ‘동시 향상’</strong>
          </div>
          <p contents-hash="84b7bada73b76f79c9a356a0888f05b7bb0d5ba739011a830a3bc4d44deb40d3" dmcf-pid="uvjTaQ5rD8" dmcf-ptype="general">실험 결과, 기존 오토튜닝 프레임워크(Ansor)에 이 기법을 적용하면 동일 성능의 실행 코드를 만드는 데 걸리는 시간이 CPU 평균 2.5배, GPU 평균 2배 빨라졌다. GPU·CPU 사용 횟수 자체도 줄어 제한된 연산 자원을 효율적으로 쓰고, 전력 소모를 줄이는 효과도 확인됐다.</p>
          <p contents-hash="6e5a6d07fd14e198851751ddac649685ead36f10d71f26dd71615badac75d223" dmcf-pid="7TAyNx1mm4" dmcf-ptype="general">이슬기 교수는 “대규모 AI 모델 개발·배포 속도를 높이고, 하드웨어 자원과 에너지 절감에도 기여할 수 있다”며 “AI 시스템의 탄소 발자국 감소에도 도움이 될 것”이라고 말했다.</p>
          <p contents-hash="2838d486d4595f50a0b915ddb4b774cc4dafc3acafde3df79377d8ab76731a8c" dmcf-pid="zycWjMtsrf" dmcf-ptype="general"><strong>OSDI 채택의 의미</strong></p>
          <p contents-hash="26cc1a839520e4af0db7bd81b2f37fe09e06479ef7299cbf645b0f789862606b" dmcf-pid="qWkYARFOIV" dmcf-ptype="general">OSDI는 SOSP와 함께 컴퓨터 시스템 분야 양대 학회로, 구글의 ‘텐서플로(TensorFlow)’ 등 굵직한 AI 기술이 발표된 무대다. 올해 OSDI에는 338편의 논문이 접수됐고, 48편만이 채택됐다. 학회는 지난 7월 7~9일 미국 보스턴에서 개최됐다.</p>
          <p contents-hash="bde8be77cb3f05ab266b383d4f5e5afdb3b436eb5d0631e16dd4bffcb00c1889" dmcf-pid="BYEGce3Im2" dmcf-ptype="general">논문명은 ‘Bayesian Code Diffusion for Efficient Automatic Deep Learning Program Optimization’이다. 제1저자는 UNIST 정이수 연구원이다. 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원으로 진행됐다.</p>
          <p contents-hash="34bd8fb59429b94d5c92f3f712d0068fb3c0924a571d7d91143f0ee7c7dac722" dmcf-pid="bEMDQqhLI9" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p>

이전

해킹 반사이익에 국가 AI 사업까지…유플은 조용히 웃습니다

08-12
다음

'나랏돈' 부담없는 스포츠 복지 확장, 체육재정 확대가 답이다 [김기한 칼럼]

08-12

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

AI 모델 실행 속도 2배 이상 높였다…UNIST, 새 오토튜닝 기술 개발

멤버랭킹

관련자료

멤버랭킹