AI는 어떻게 생객하나?…뉴런→회로 개념으로 첫 시각화 [지금은 과학] 작성일 11-26 34 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">KAIST 연구팀, AI 생각 과정 시각화</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0wcpvE8Bhs"> <p contents-hash="a299c7ad861b92b477e3c86410bc7ede992c52dc7ef16c746630041da78be8d3" dmcf-pid="prkUTD6bym" dmcf-ptype="general">[아이뉴스24 정종오 기자] 인공지능(AI)이 어떻게 생각하는지 시각화한 연구 결과가 나왔다.</p> <p contents-hash="709d64ffca280ad4e5aa2843cae98a8fee47ebc2c1158dda93aa93db508eb9bf" dmcf-pid="UXWQuGjJlr" dmcf-ptype="general">딥러닝 기반 이미지 인식 기술이 빠르게 고도화되고 있다. AI가 내부에서 어떤 기준으로 이미지를 보고 판단하는지는 명확히 설명하기 어려운 영역으로 남아 있다. 대규모 모델이 어떤 개념(예: 고양이 귀, 자동차 바퀴 등)을 어떻게 조합해 결론을 내리는지 분석하는 기술은 오랫동안 해결해야 할 과제로 제기돼 왔다.</p> <p contents-hash="f9eda83d543e2bbe896f3fb634a0ae098ddff8c39558522a1c43c4bb9a5bac79" dmcf-pid="uZYx7HAivw" dmcf-ptype="general">한국과학기술원(KAIST, 총장 이광형)은 김재철AI대학원 최재식 교수 연구팀이 AI가 어떤 근거로 판단하는지를 인간이 이해할 수 있도록 보여주는‘설명가능성(XAI, Explainable AI)’분야에서 모델 내부의 개념 형성 과정을 회로(circuit) 단위로 시각화하는 새로운 XAI 기술을 개발했다고 26일 발표했다.</p> <figure class="figure_frm origin_fig" contents-hash="9cf22e266796211f96c64c887084f51dbff2c15ee18d5fb2c76a1e6a664dcaa7" dmcf-pid="75GMzXcnvD" dmcf-ptype="figure"> <p class="link_figure"><img alt="KAIST 연구팀에서 제안한 개념회로에 대한 개요. [사진=KAIST]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/26/inews24/20251126093115659uhye.jpg" data-org-width="580" dmcf-mid="35WQuGjJhO" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/26/inews24/20251126093115659uhye.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> KAIST 연구팀에서 제안한 개념회로에 대한 개요. [사진=KAIST] </figcaption> </figure> <p contents-hash="f173f884f12f12f04b8a0124676f9cdbfb8e89d4e6027d90a31b0fc13a10cc17" dmcf-pid="z1HRqZkLCE" dmcf-ptype="general">이번 연구는 ‘AI가 어떻게 생각하는지’를 구조적으로 들여다볼 수 있도록 한 중요한 진전으로 평가된다.</p> <p contents-hash="455d8c4b73b0ce3eca5a6545544744a6169cfd9d6709c74609591f2adaa8688a" dmcf-pid="qtXeB5EoTk" dmcf-ptype="general">딥러닝 모델 내부에는 인간의 뇌처럼 ‘뉴런(Neuron)’이라는 기본 계산 단위가 존재한다. 뉴런은 이미지 속 작은 특징—예를 들어 귀 모양, 특정 색, 윤곽선 등—을 감지하는 기능을 갖고 있다. 값(신호)을 계산해 다음 단계로 전달한다.</p> <p contents-hash="ec2ef0d692fe6af7fc1ce8006ed66ae7f1d58936eb78a72c58db009561837dc1" dmcf-pid="BFZdb1Dglc" dmcf-ptype="general">반면 ‘회로(circuit)’는 이러한 뉴런 여러 개가 서로 연결돼 하나의 의미(개념)를 함께 인식하는 구조를 말한다. ‘고양이 귀’라는 개념을 인식하기 위해서는 귀의 윤곽을 감지하는 뉴런, 삼각형 형태를 감지하는 뉴런, 털 색 패턴을 감지하는 뉴런 등 여러 뉴런이 순차적으로 작동해야 한다. 이들이 하나의 기능 단위(회로)를 이룬다.</p> <p contents-hash="448939253efaf06633c12892b15da5d7c4eea1fc78727272761ec2e30e3c227e" dmcf-pid="b35JKtwaCA" dmcf-ptype="general">지금까지의 설명 기술은 ‘특정 뉴런이 특정 개념을 본다’는 단일 뉴런 중심의 접근이 많았다. 실제 딥러닝 모델은 여러 뉴런이 협력하는 회로 구조로 개념을 형성한다. KAIST 연구팀은 이 점에 착안해 AI의 개념 표현 단위를‘뉴런→회로’로 확장해 해석하는 기술을 제시했다.</p> <p contents-hash="5dc1d18e324f773bbd7ed8f13e66dbce77e18dfc8a43b3f70e6cf180e6470b4a" dmcf-pid="K01i9FrNTj" dmcf-ptype="general">연구팀이 개발한 ‘세분화된 개념회로(Granular Concept Circuits, GCC)’ 기술은 이미지 분류 모델이 내부에서 개념을 형성하는 과정을 회로 단위로 분석하고 시각화하는 새로운 방식이다.</p> <p contents-hash="21c2252537bcd08f713ade023ac4b9f0894cde114861df542a533a3c3c0acd0b" dmcf-pid="9ptn23mjvN" dmcf-ptype="general">GCC는 뉴런 민감도(Neuron Sensitivity), 의미 흐름 점수(Semantic Flow)를 계산해 회로를 자동적으로 추적한다. 뉴런 민감도는 특정 뉴런이 어떤 특징에 얼마나 민감하게 반응하는지, 의미 흐름 점수는 그 특징이 다음 개념으로 얼마나 강하게 전달되는지를 보여주는 지표이다. 이를 통해 색·질감 같은 기본 특징이 어떻게 상위 개념으로 조립되는지 단계적으로 시각화할 수 있다.</p> <p contents-hash="04cb35855e36d12e743bfcbc546bf0a1764d13d0310b383ad69bc9b2479ed9d9" dmcf-pid="2Yv80ygRCa" dmcf-ptype="general">연구팀은 특정 회로를 잠시 비활성화(ablation)하는 실험을 수행했다. 그 결과, 회로가 담당하던 개념이 사라지면서 AI의 예측이 실제로 달라지는 현상이 나타났다. 해당 회로가 실제로 그 개념을 인식하는 기능을 수행하고 있음을 직접적으로 입증한 것이다.</p> <p contents-hash="ad6102df32c3ee918da4fae6771d8a974aafdee4c5d1a3eeed4eac01208ee056" dmcf-pid="VGT6pWaelg" dmcf-ptype="general">이번 연구는 복잡한 딥러닝 모델 내부에서 개념이 형성되는 실제 구조를 세밀한 회로 단위로 드러낸 최초의 연구로 평가된다. 이를 통해 AI 판단 근거의 투명성 강화, 오분류 원인 분석, 편향(Bias) 검출, 모델 디버깅과 구조 개선, 안전성·책임성 향상 등 설명가능성(XAI) 전반에서 실질적 응용 가능성을 제시한 것이다.</p> <p contents-hash="ee27fbb19587d5503da7982915b6f0a4fb1de45017caecbab689db62995be5da" dmcf-pid="fHyPUYNdSo" dmcf-ptype="general">연구팀은 “AI가 내부에서 만드는 개념 구조를 사람이 이해할 수 있는 방식으로 보여주는 기술”이라며 “이번 연구는 AI가 ‘어떻게 생각하는지’를 과학적으로 연구할 수 있는 출발점”이라고 밝혔다.</p> <p contents-hash="9824f778fb0073576cd76efe6b2fd450bc71d7081bfe58a3aaba1a21ce9ce14e" dmcf-pid="4XWQuGjJWL" dmcf-ptype="general">최재식 교수는 “복잡한 모델을 단순화해 설명하던 기존 방식과 달리, 모델 내부를 세부 회로 단위로 정밀하게 해석한 최초의 접근”이라며 “AI가 학습한 개념을 자동으로 추적, 시각화할 수 있음을 입증했다”고 말했다.</p> <p contents-hash="2c45af2a841175f7b38e728d574fc63f6e4544e3161aad0c5b65da649b3c53d9" dmcf-pid="8ZYx7HAivn" dmcf-ptype="general">KAIST 김재철AI대학원 권다희 박사과정과 이세현 박사과정이 공동 제1 저자로 참여한 이번 연구(논문명 : Granular Concept Circuits: Toward a Fine-Grained Circuit Discovery for Concept Representations)는 국제 학술대회 `국제 컴퓨터 비전 학술대회 (International Conference on Computer Vision, ICCV)’에서 10월 21일 발표됐다.</p> <address contents-hash="7a0e67da8ef25f3cc0924a36f89f056a6459231cb45daca6326525f975d55bdf" dmcf-pid="65GMzXcnyi" dmcf-ptype="general">/정종오 기자<span>(ikokid@inews24.com)</span> </address> </section> </div> <p class="" data-translation="true">Copyright © 아이뉴스24. 무단전재 및 재배포 금지.</p> 관련자료 이전 앤팀, 美 빌보드 입성하자마자 1위… 밀리언셀러의 격이 달랐다 11-26 다음 카카오, 유엔 포럼서 인권 기반 AI와 기술 공공 기여 사례 발표 11-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
