KAIST, AI ‘감각 혼선·환각’ 낮추는 기술 개발… 자율주행·로봇·의료 AI 신뢰성↑ 작성일 07-31 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">- 전기및전자공학부 노용만 교수팀<br>- 시각·청각 정보 혼동 스스로 억제</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yhjhibqFGr"> <figure class="figure_frm origin_fig" contents-hash="7bb2dd6f576da2fea455334ed0454e282723d9fb8be7d1ddcdbc5cddc8187d6c" dmcf-pid="WlAlnKB3Gw" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 보고 듣는 정보를 혼동하지 않도록 하는 기술 모식도.(AI 생성 이미지).[KAIST 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/31/ned/20260731083110309yyre.jpg" data-org-width="1280" dmcf-mid="QN8obGWI1s" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/31/ned/20260731083110309yyre.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 보고 듣는 정보를 혼동하지 않도록 하는 기술 모식도.(AI 생성 이미지).[KAIST 제공] </figcaption> </figure> <p contents-hash="aacba3591501a7c1a6cd2dc68285b2afbc7b089004eba96c28c9a45177b9052c" dmcf-pid="YScSL9b0ZD" dmcf-ptype="general">[헤럴드경제=구본혁 기자] 국내 연구진이 AI의 감각 혼선과 환각을 줄일 수 있는 핵심 기술을 개발했다. 이를 활용하면 자율주행차, 로봇, 의료 AI 등의 분야에서 정확도를 크게 높일 수 있게될 전망이다.</p> <p contents-hash="bd7e524bd7cb1b0c2329614bf4a76fb3b5e3b2882aefb2acef7146b72a21f28d" dmcf-pid="Gvkvo2Kp1E" dmcf-ptype="general">KAIST는 전기및전자공학부 노용만 교수 연구팀이 멀티모달 대형 언어모델(MLLM, 텍스트와 이미지·소리 등 여러 정보를 함께 이해하는 AI)의 감각 혼선을 줄이는 두 가지 핵심 기술을 개발했다고 31일 밝혔다. 이 기술은 카메라와 다양한 센서의 특성을 정확히 이해하도록 하는 기술과 시각·청각 정보가 뒤섞이면서 발생하는 환각을 줄이는 기술로, 별도의 대규모 재학습 없이도 AI의 신뢰성을 크게 높였다.</p> <p contents-hash="0ef84f8ee7e6231265be11391a6338a2fb3c11f86add9def568df965d017fa5c" dmcf-pid="HTETgV9UZk" dmcf-ptype="general">연구팀이 개발한 첫 번째 기술은 AI가 열화상, 깊이 영상, 엑스레이 등 다양한 센서가 담고 있는 물리적 의미를 정확하게 이해하도록 돕는 ‘센서 이해 AI’기술(DNA, Diverse Negative Attributes) 최적화 기법이다.</p> <p contents-hash="d0ef9ac1fa0d8413830185d36c83fb037f604314ef925722a7e5434a66050b1c" dmcf-pid="XyDyaf2uHc" dmcf-ptype="general">사람은 열화상 화면에서 밝게 보이는 부분이 ‘뜨거운 곳’이라는 것을 알지만, 기존 AI는 이를 일반 사진처럼 해석해 단순한 빛으로 착각하기도 했다. 연구팀은 AI가 열과 거리 등 센서가 측정하는 물리 정보를 이해하도록 새로운 학습 기술을 개발했다. AI가 자주 틀리는 사례를 반복적으로 학습하게 한 결과, 어둠이나 연기 속에서도 사물을 더욱 정확하게 인식할 수 있게 됐다.</p> <p contents-hash="2426edb08df4a469b01cc87f710c484aef5c92baffc2d5c600e33de96d8a797e" dmcf-pid="ZWwWN4V75A" dmcf-ptype="general">두 번째 기술은 시각과 청각 정보가 서로 영향을 주면서 발생하는 환각을 줄이는 ‘감각 혼선 방지’ 기술(MAD, Modality-Adaptive Decoding) 기술이다.</p> <p contents-hash="05e8314adce85b0822c8552ca66fd6038bf2057c89061ed3a9563fa87eac7a41" dmcf-pid="5ScSL9b05j" dmcf-ptype="general">예를 들어 CCTV 영상에 자동차가 지나가는 장면이 담겨 있지만 실제로는 소리가 녹음되지 않았을 때, 기존 멀티모달 AI는 자동차가 보인다는 이유만으로‘엔진 소리가 들린다’고 답하는 경우가 있었다. 연구팀은 AI가 먼저 ‘이번 질문은 영상을 보고 판단해야 하는지, 소리를 듣고 판단해야 하는지’를 스스로 구분한 뒤, 더 중요한 감각 정보에 집중하도록 만들었다. 이를 통해 AI를 처음부터 다시 학습시키지 않고도 이러한 감각 혼선과 환각을 효과적으로 줄였다.</p> <figure class="figure_frm origin_fig" contents-hash="23f208d3342baf40fe8088145557f1357a6b674fc891738019e9572d1807b27d" dmcf-pid="1vkvo2KpHN" dmcf-ptype="figure"> <p class="link_figure"><img alt="이번 연구를 수행한 KAIST 연구진. 정상윤(왼쪽부터) 박사과정, 노용만 교수, 유영준 박사.[KAIST 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/31/ned/20260731083110529sppb.jpg" data-org-width="643" dmcf-mid="xnrYj8fz1m" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/31/ned/20260731083110529sppb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이번 연구를 수행한 KAIST 연구진. 정상윤(왼쪽부터) 박사과정, 노용만 교수, 유영준 박사.[KAIST 제공] </figcaption> </figure> <p contents-hash="263ee2d2194fac489500071fb145ebafde160832109b5c18bcdb6db895c3afb8" dmcf-pid="tTETgV9UXa" dmcf-ptype="general">특히 이 기술은 기존 방대한 데이터가 아닌 소규모 데이터만으로도 AI의 약점을 정밀 타격해 고칠 수 있어 비용 부담을 획기적으로 줄였다.</p> <p contents-hash="87428980ada8c994bec5e47eb6f68aa4716b4d79d60051d76843f027b85c6ce1" dmcf-pid="FyDyaf2u1g" dmcf-ptype="general">밤이나 안개 속에서도 보행자와 차량을 정확히 인식해야 하는 자율주행차, 연기로 앞이 보이지 않는 화재 현장에서 생존자를 찾는 구조 로봇, 열화상 카메라를 이용하는 드론 등에 활용될 수 있다. 또한 공항 보안검색에서 엑스레이 영상을 분석하거나, 병원에서 CT·MRI·엑스레이 등 여러 의료영상을 함께 분석하는 AI의 정확성과 신뢰성을 높이는 데도 기여할 것으로 기대된다.</p> <p contents-hash="489a87fcde6879bce5dfac42457a83bf27f16e148d41616e21ca5ec41345d2f4" dmcf-pid="3WwWN4V7Ho" dmcf-ptype="general">노용만 교수는 “인간이 오답 노트를 통해 실력을 키우듯, AI도 오답과 그 이유를 비교해 학습할 때 감각을 더 정확히 구분하고 추론 능력이 크게 향상됐다”며 ”이번 연구는 대규모 재학습 없이도 AI의 감각 편향과 환각을 줄여 실제 생활과 산업 현장에서 믿고 사용할 수 있는 멀티모달 AI의 기반을 마련했다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 세계 여자 청소년핸드볼, 한국 체코에 짜릿한 역전승…메인 라운드 진출 희망 살려 07-31 다음 과기정통부, 알뜰폰 5G 도매대가 낮추고 자체설비 사업자 키운다 07-31 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
