인공 환각 줄인다…의심하고 검증하는 AI 제안 작성일 02-27 136 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">KAIST</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xxp3CIlo4n"> <figure class="figure_frm origin_fig" contents-hash="532aec7dcfc3d1a7043d0c2a8fcb69c03d4e53bf8f7ab3f8ee568bd702479479" dmcf-pid="y3IsJdnbQi" dmcf-ptype="figure"> <p class="link_figure"><img alt="이상완 KAIST 뇌인지과학과 교수(왼쪽)와 양민수 박사과정생. KAIST 제공." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/27/dongascience/20250227105819780owdt.jpg" data-org-width="680" dmcf-mid="Qa5XwDme8L" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/27/dongascience/20250227105819780owdt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이상완 KAIST 뇌인지과학과 교수(왼쪽)와 양민수 박사과정생. KAIST 제공. </figcaption> </figure> <p contents-hash="cdceec11cab1f645e1405d60bcc47663c1270e031c965435fbaebae67250b0cc" dmcf-pid="W0COiJLKxJ" dmcf-ptype="general">‘인공 환각’으로 불리는 할루시네이션은 인공지능(AI)이 사실이 아닌 정보를 실제 정보처럼 생성하는 현상을 말한다. AI 스스로 가설을 세우고 검증을 진행해 할루시네이션을 완화할 수 있는 신개념 AI 모델이 제안됐다. </p> <p contents-hash="bde7a4b62d7ce938ee12d2a3b0ad3a614ba0846fdde44b281bc440a892f48290" dmcf-pid="YphInio9xd" dmcf-ptype="general">KAIST는 이상완 뇌인지과학과 교수(신경과학-인공지능 융합연구센터장)와 정민환 생명과학과 교수(기초과학연구원(IBS) 시냅스뇌질환연구단 부연구단장) 연구팀이 스스로 의심하고 검증하는 뇌의 정보처리 과정을 규명하고 뇌처럼 생각하는 AI 개발 가능성을 제시했다고 27일 밝혔다. </p> <p contents-hash="bf2340a5b5abd1ae8ec6aaebe692bdf537488849bad5fa83b8f9fd37ff4dbd54" dmcf-pid="GUlCLng24e" dmcf-ptype="general"> 연구팀은 스스로 세운 가설을 바탕으로 다음 상황을 예측하고 확인하는 행동 패턴을 동역학적으로 프로파일링할 수 있는 새로운 방식을 고안했다. 이를 바탕으로 전통적인 강화학습 이론과 최신 AI 알고리즘이 가설을 세우고 예측하는 동물의 행동 패턴을 제대로 설명하지 못한다는 점을 알아냈다. </p> <p contents-hash="bf8d361ccbb326858720e5943db0fb62b14489e239243f2ac610a1cb562eb810" dmcf-pid="HuShoLaVQR" dmcf-ptype="general">최신 AI 모델은 효율적인 문제 해결에 집중하기 때문에 인간이나 동물의 행동을 잘 설명하지 못한다. 연구팀이 제안한 ‘가설 기반 적응형 강화학습’ 이론 및 모델은 동물의 행동을 최신 AI 모델 대비 최대 31%, 평균 15% 더 잘 예측했다. </p> <p contents-hash="bb1f28efeaba9b12ac1d8192ba3a80adbdb5561a676d341d3e94c9d1f6ff9622" dmcf-pid="X7vlgoNfQM" dmcf-ptype="general">연구팀은 중뇌 기저핵 선조체라는 뇌 부위 안의 중간크기 가시뉴런이 가설 기반 적응형 강화학습 과정에 관여한다는 점을 밝혔다. 가시뉴런은 선조체의 90%를 차지하는 대표적인 신경세포다. 직접경로 가시뉴런은 예상한 사건을, 간접경로 가시뉴런은 예상치 못한 사건을 마주한 경험을 부호화해 행동 전략을 조절했다. 직접경로와 간접경로는 기저핵의 두 가지 주요 회로를 의미한다. </p> <p contents-hash="6755ee5853928ed22d10342cbd32eff0d9a27c86f3be131c12eb6c14066be035" dmcf-pid="ZzTSagj48x" dmcf-ptype="general">연구팀은 이번 연구를 통해 뇌의 맥락 추론 방식은 대규모 AI 모델과 근본적으로 다르다는 점을 확인했다. 챗GPT나 딥시크 등 AI 모델은 사용자가 입력한 내용에서 맥락 정보를 추정하고 전문가 시스템에 매칭해 답변을 낸다. </p> <p contents-hash="cf201e1c64ca1c23e12a8960c97b3a067f6271ecce1671c5e52e4f865e86d2be" dmcf-pid="5qyvNaA88Q" dmcf-ptype="general">반면 뇌는 추정한 맥락(가설)을 의심하고 의심이 확인되는 즉시 새로운 맥락을 받아들인다. 이는 할루시네이션을 완화하거나 인간과 유사한 추론 엔진을 가진 AI 개발을 위한 방향성을 제시한다. </p> <p contents-hash="ed26a85ae55201c1f6143a2392bc3eaa495118fcca71fb5a856d08f55b4decc3" dmcf-pid="1BWTjNc6PP" dmcf-ptype="general">이상완 교수는 "이번 연구는 AI의 강화학습 이론만으로 설명할 수 없는 뇌의 가설 기반 적응학습 원리를 밝혀낸 흥미로운 사례ˮ라며 "스스로 의심하고 검증하는 뇌과학 이론을 대규모 AI 시스템 설계와 학습 과정에 반영하면 신뢰성을 높일 수 있을 것ˮ이라고 말했다. 연구 결과는 국제학술지 ‘네이처 커뮤니케이션즈’에 지난 20일 게재됐다. </p> <p contents-hash="76e36d780e69a0d4c323a962f578b116df73da7d7f5b4205e5d260417a02e9cd" dmcf-pid="txp3CIlox6" dmcf-ptype="general"><참고 자료> <br> doi.org/10.1038/s41467-025-57049-5</p> <p contents-hash="59e59d1836cc08d44964658341c9b346502e4f3f35196cdd2feb0631b269b254" dmcf-pid="FMU0hCSgx8" dmcf-ptype="general">[문세영 기자 moon09@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 '보물섬' 박형식, 허준호 습격에 피투성이…긴장감 폭발 02-27 다음 “얼굴 없이 모든 뼈와 관절 휘적거린다”…소름 돋는 영상 02-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
