KAIST, 복잡한 AI 의사결정 내부 구조 첫 시각화 성공 작성일 11-26 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xOwHpWaeDR"> <figure class="figure_frm origin_fig" contents-hash="3ec504cf41f1941b0460c7910301746f408bb147d8bd5d55fe251b59ba48bb4c" dmcf-pid="y2BdjM3GrM" dmcf-ptype="figure"> <p class="link_figure"><img alt="KAIST 연구팀이 제안한 개념회로 개요." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/26/etimesi/20251126081449816bpsk.png" data-org-width="700" dmcf-mid="Q2zRaQtWwe" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/26/etimesi/20251126081449816bpsk.png" width="658"></p> <figcaption class="txt_caption default_figure"> KAIST 연구팀이 제안한 개념회로 개요. </figcaption> </figure> <p contents-hash="86b3c411f424673054dd03b72df59717ed3faf9c8bf2c779eb91fbda8d8b4bc0" dmcf-pid="WVbJAR0HDx" dmcf-ptype="general">인공지능(AI)이 내부에서 개념을 어떻게 조합하고 형성하는지를 회로 단위로 분석할 수 있는 새로운 기술이 개발됐다.</p> <p contents-hash="d86e842ae7455fb765810f1afa967529cb8a17cfc4ee096f1c684a5d266ba6cf" dmcf-pid="YfKicepXsQ" dmcf-ptype="general">한국과학기술원(KAIST)은 최재식 김재철AI대학원 교수 연구팀이 설명가능성(XAI) 분야에서 모델 내부 개념 형성 과정을 회로 단위로 시각화하는 새로운 XAI 기술을 개발했다고 26일 밝혔다.</p> <p contents-hash="92e7c21b26a6ed1900a3bb6c035a4024ebd24b8ab251f39e4a1143222bc2e30c" dmcf-pid="G49nkdUZOP" dmcf-ptype="general">딥러닝 모델 내부에는 인간의 뇌처럼 '뉴런'이라는 기본 계산 단위가 존재한다. 뉴런은 이미지 속 작은 특징을 감지하는 기능을 하며, 값(신호)을 계산해 다음 단계로 전달한다.</p> <p contents-hash="6039b8d2407bdd58839c02dce3cb43d01ba859451e73aebbb81c902b3ba26472" dmcf-pid="H82LEJu5E6" dmcf-ptype="general">반면 회로는 이러한 뉴런 여러 개가 서로 연결돼 하나의 의미(개념)를 함께 인식하는 구조를 뜻한다. 여러 뉴런이 순차적으로 작동하는 기능들이 단위(회로)를 이룬다. AI 개념을 설명하는 기존 기술은 특정 뉴런이 특정 개념을 보는 단일 뉴런 중심 접근이 주를 이뤘다.</p> <p contents-hash="3de77c6b1bdf1e973f33e0c31c977c1997a5ae25dec38b10aea5671d9339fe08" dmcf-pid="X6VoDi71D8" dmcf-ptype="general">연구팀은 실제 딥러닝 모델은 여러 뉴런이 협력하는 회로 구조로 개념을 형성한다는 점에 착안해 AI 개념 표현 단위를 뉴런에서 회로로 확장했다.</p> <p contents-hash="1cc128bdca386e933d79e40f1d067b32c3be2e381da62b7e30652d66c438ec2a" dmcf-pid="ZPfgwnztw4" dmcf-ptype="general">이를 기술화한 세분화된 개념회로(GCC) 기술은 이미지 분류 모델이 내부에서 개념을 형성하는 과정을 회로 단위로 분석하고 시각화하는 새로운 방식이다.</p> <p contents-hash="ddbdba4dc0feb4bfee396e3c4da45da23306947069b1842e3869cf35ee0457f1" dmcf-pid="5Q4arLqFmf" dmcf-ptype="general">GCC는 뉴런 민감도, 의미 흐름 점수를 계산해 회로를 자동으로 추적한다. 뉴런 민감도는 특정 뉴런이 어떤 특징에 얼마나 민감하게 반응하는지, 의미 흐름 점수는 그 특징이 다음 개념으로 얼마나 강하게 전달되는지를 보여주는 지표로, 이를 통해 색·질감 같은 기본 특징이 어떻게 상위 개념으로 조립되는지 단계적으로 시각화할 수 있다.</p> <p contents-hash="ff086fc2a751f27cd69aa7f51ff2946bc0a3aa0070e9345749e9d08433377fc9" dmcf-pid="1x8NmoB3rV" dmcf-ptype="general">연구팀은 특정 회로를 잠시 비활성화하는 실험을 수행했다. 그 결과 회로가 담당하던 개념이 사라지면서 AI 예측이 실제로 달라지는 현상이 나타났다. 즉 해당 회로가 실제로 그 개념을 인식하는 기능을 수행하고 있음을 직접적으로 입증한 것이다.</p> <p contents-hash="385a0812c151eeeee7eee644c04814834fc1200bfb4aa2fe2e92a7ef68efd5d7" dmcf-pid="tM6jsgb0I2" dmcf-ptype="general">이번 연구는 복잡한 딥러닝 모델 내부에서 개념이 형성되는 실제 구조를 세밀한 회로 단위로 드러낸 최초 연구로 평가된다.</p> <p contents-hash="45be981c92aebd474694f4e5a09b5befb902be5bd3fdc4a1572d6e767cd2516a" dmcf-pid="FRPAOaKpw9" dmcf-ptype="general">이를 통해 AI 판단 근거 투명성 강화, 오분류 원인 분석, 편향 검출, 모델 디버깅 및 구조 개선, 안전성·책임성 향상 등 XAI 전반에서 실질적인 응용 가능성을 제시했다.</p> <p contents-hash="3eaf4febd25a59d040f306a7bc1f3d6fd53c177c78ce7fd912ba28ed3c7a64db" dmcf-pid="3u38JVGhDK" dmcf-ptype="general">최재식 교수는 “복잡한 모델을 단순화해 설명하던 기존 방식과 달리 모델 내부를 세부 회로 단위로 정밀하게 해석한 최초의 접근”이라며 “AI가 학습한 개념을 자동으로 추적·시각화할 수 있음을 입증했다”고 말했다.</p> <p contents-hash="ce3ca4163f3c33b2ac48e80529fe111f0f14592fac9f4a1931d7ec8e4ff5e758" dmcf-pid="0706ifHlOb" dmcf-ptype="general">김영준 기자 kyj85@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 [사이언스샷] 물범 젖은 모유보다 한 수 위…당분 33% 더 많아 11-26 다음 김기수, 의성천하장사씨름대회 금강장사…통산 10번째 11-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
