최재식 KAIST 교수 "AI도 사람처럼 실수…왜 틀렸는지 설명할 수 있어야죠" 작성일 12-01 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">설명가능AI(XAI) 분야 국내 대표 석학 최재식 KAIST 교수<br>'환각' 부작용 줄이려면<br>AI가 판단 배경 설명해야<br>사고 때 책임소재 규명하고<br>정확·안전성 높이는 핵심 열쇠</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QX1GOnMVli"> <p contents-hash="dbaa9f3890900ebf7cd1b2eb4c3cb235efceed542da5d98d886b01283cda69c3" dmcf-pid="xZtHILRfhJ" dmcf-ptype="general">“업데이트 이후 환각(AI가 잘못된 정보를 사실처럼 꾸며내는 현상)이 심해졌어요.”</p> <p contents-hash="77d6a0df7cc4ab698f21d751cd4a9412ce76ec232efc51b348f2807aab01295e" dmcf-pid="yiodV1YCld" dmcf-ptype="general">최근 생성형 인공지능(AI)을 쓰는 사용자 사이에서 종종 들리는 불만이다. 생성 AI가 일상 깊숙이 들어온 뒤 사람들이 갖는 불안은 단순하다. AI가 하는 말을 믿을 수 있을까.</p> <figure class="figure_frm origin_fig" contents-hash="94aa5930232ef995f800e9d167734343ce9389df2174f439bed2663b25e07db7" dmcf-pid="WngJftGhWe" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202512/01/ked/20251201180748297dtyw.jpg" data-org-width="300" dmcf-mid="Po620lmjyn" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202512/01/ked/20251201180748297dtyw.jpg" width="658"></p> </figure> <p contents-hash="f8ace53d4cb7600415bd434911c7ee08826cda0482fdcf19e1040b1939d1f790" dmcf-pid="YLai4FHlhR" dmcf-ptype="general">최재식 KAIST 김재철AI대학원 교수(사진)는 1일 “틀리는 것 자체보다 왜 그렇게 판단했는지 설명할 수 있어야 한다”고 말했다. AI가 진화를 거듭할수록 더 똑똑한 AI가 아니라 ‘설명 가능한 AI’가 더 중요해질 것이란 해석이다.</p> <p contents-hash="63ff89fa4c7a99fd3dd5870d2a7bbeba2db2f2df2192e988e761f8761e65c35c" dmcf-pid="GTYSEM4qyM" dmcf-ptype="general">최 교수는 설명 가능 인공지능(XAI) 분야에서 한국을 대표하는 석학이다. 국내에 XAI 개념이 거의 알려지지 않은 시기부터 이 분야를 본격적으로 연구·도입하며 한국 AI 연구 생태계에 설명 가능성 개념이 확산되는 데 결정적 영향을 미친 인물이다. 2017년부터 KAIST 설명가능AI(XAI) 연구센터를 이끌며 국내 AI 신뢰성·투명성 연구의 중심 역할을 하고 있다. 또 구글코리아의 ‘책임감 있는 AI포럼’ 의장을 맡아 지난 2년간 산업·법률·기술 전문가들과 정기적으로 정책과 기술 간 간극을 좁히는 데 힘써왔다.</p> <p contents-hash="eca779665d63ad5aea41b23cc60ba9d76d4800e81895885b775b0eb327d1daa5" dmcf-pid="HyGvDR8BTx" dmcf-ptype="general">최 교수는 “XAI가 산업 현장에서 ‘돈 되는 AI’의 필수 조건으로 떠오르고 있다”고 강조했다. 그는 “우려와 달리 일부 에이전트를 활용하는 방식으로 환각 현상을 많이 줄일 수 있다”고 했다. 일정 범위 안에서만 답을 찾도록 하는 식으로 AI가 없는 내용을 지어내는 오류는 얼마든지 줄일 수 있다고 설명했다. 예컨대 구글의 ‘책임감 있는 생성형AI 툴키트’는 AI가 통제된 환경에서만 답변을 생성하도록 유도해 환각 현상을 예방한다.</p> <p contents-hash="24653bf5b2da2746a896a3e9ee8be7e4e52d4ac5283f1d844b49ae0233b3cc77" dmcf-pid="XWHTwe6bTQ" dmcf-ptype="general">최 교수는 “설명 가능하다는 것은 곧 통제할 수 있다는 의미”라며 “AI도 사람처럼 실수할 수 있는데 어떤 실수가 왜 발생했는지 확인할 수 있어야 문제를 해결할 수 있다”고 말했다. 의료·국방·원전 등 고위험 산업군에서 설명 가능성은 더욱 중요하다. 미국 국방부는 설명 가능하다는 전제하에서만 군이 AI를 활용할 수 있다는 원칙을 지키고 있다.</p> <p contents-hash="2ec820cdc662df680a5cc0db9379f110acbaa816b04d1e651ed691979c9a1854" dmcf-pid="ZYXyrdPKlP" dmcf-ptype="general">제조·금융 분야에서도 설명 가능성은 실수를 줄이는 데 큰 역할을 한다. 가령 콜센터 AI가 특정 사투리나 용어를 반복해서 잘못 알아듣는 경우 어떤 단어를 제대로 이해하지 못했는지 추적할 수 있다면 이후 재학습 과정을 거쳐 더 강건한 모델을 만들 수 있다. 최 교수는 “설명 가능성은 실수가 적은 모델을 만들고 혹시 사고가 났을 때 책임 소재를 따질 수 있도록 하는 도구”라고 설명했다.</p> <p contents-hash="70ef937ffa904783db056af74e1abf3ee229388afe135ea9d9ac51115340490f" dmcf-pid="5GZWmJQ9T6" dmcf-ptype="general">한국은 유럽연합(EU)에 이어 세계 두 번째로 AI 기본법을 제정하고 선제적으로 AI 신뢰성 확보에 나섰다. 올해 제정된 설명 가능한 AI 국제표준(ISO)도 한국이 먼저 제안해 표준화 작업이 이뤄졌다. 오픈AI, 앤스로픽이 최근 한국 지사를 설립하거나 진출을 예고하는 등 AI 기업이 아시아 허브로 한국을 선택한 것도 이런 요소가 작용했다고 그는 분석했다.</p> <p contents-hash="1ea93ca06b0fd58e03ab9b681e2b62e6ae6bd1cedfa569c9c48c1975e93a8732" dmcf-pid="1H5Ysix2l8" dmcf-ptype="general">최 교수는 제대로 된 AI 인재 확보가 가장 시급하다고 지적했다. 그는 “AI 엔진을 직접 만드는 코어 개발자가 절대적으로 부족하다”며 “공공 영역에서 소버린 AI 필요성이 커지는 만큼 그래픽처리장치(GPU) 이상의 인프라를 갖출 필요가 있다”고 말했다.</p> <p contents-hash="cbf3f129ab017c81621d6434709c87c532c70384bb4f87b7d4c149829b829511" dmcf-pid="tX1GOnMVS4" dmcf-ptype="general">이영애 기자 0ae@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘불꽃야구’ 파이터즈 선수 이탈..김성근 감독, 수비 위치 바꿨다 12-01 다음 [투자를IT다] 2025년 11월 4주차 IT기업 주요 소식과 시장 전망 12-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
