“AI 실수 잡아내는 ‘설명가능한 AI’ 필요한 때”…이수인 워싱턴대 교수 주장

작성일 07-09

<div id="layerTranslateNotice" style="display:none;"></div> 세계한인과학기술인대회 기조강연서 XAI 중요성 강조 바이오 접목 시 진단정확도 향상...행사 10일까지 개최 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8AaaGHmeXP">
 <figure class="figure_frm origin_fig" contents-hash="26123a819a513ac18b384eae6f93373f3836b3324bb69bcf486a12bf13c2dcf7" dmcf-pid="6cNNHXsdG6" dmcf-ptype="figure">
 <img alt="이수인 교수는 9일 서울 한국과학기술회관에서 열린 ‘2025 세계한인과학기술인대회’에서 기조강연을 통해 설명가능한 AI의 중요성을 강조했다. 연합뉴스 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/09/dt/20250709172150324zlxb.jpg" data-org-width="640" dmcf-mid="fliivTkPZx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/09/dt/20250709172150324zlxb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 이수인 교수는 9일 서울 한국과학기술회관에서 열린 ‘2025 세계한인과학기술인대회’에서 기조강연을 통해 설명가능한 AI의 중요성을 강조했다. 연합뉴스 제공
 </figcaption>
 </figure>
 “인공지능(AI)도 실수를 할 수 있다. AI의 실수를 검증하고 보완할 수 있는 ‘설명가능한 AI(XAI)’가 필요한 때다.” 이수인 미국 워싱턴대 컴퓨터공학과 교수는 9일 서울 한국과학기술회관에서 열린 ‘2025 세계한인과학기술인대회’ 기조강연에서 이같이 말했다. ‘설명가능한 AI 분야 개척자’로 불리는 이 교수는 이런 XAI 연구에 기여한 공로로 지난해 여성 공학자 최초 삼성호암상 공학상을 수상하기도 했다. XAI는 복잡한 AI 알고리즘의 추론 과정과 논리적 근거를 사람이 이해할 수 있게 설명하는 AI 기술이다. AI가 왜 그런 결과를 내놨는지를 설명해 주는 기술로, AI의 고질적 문제인 할루시네이션(환각현상)을 보완해 주기도 한다. 이 때문에 의료, 법률, 생명과학 등 생명과 직결된 분야에서 XAI의 중요성은 더욱 커지고 있다. AI 분야에 바이오를 접목한 연구를 진행하는 그는 자신이 연구했던 저산소혈증을 사전 예측한 시스템을 XAI 사례로 들어 설명했다. 이 교수는 “AI로 환자의 체중, BMI, 심박수 등 다양한 생체 정보를 토대로 5분 뒤 저산소혈증 발생 확률을 예측했다”며 “여기에 XAI가 더해지면 어떤 요인이 얼마나 저산소혈증에 영향을 미쳤는지 정량적으로 알 수 있다”고 말했다. 그러면서 “다수 의료진이 의료 데이터를 보고 저산소혈증 발생을 판단하는 것보다 XAI 시스템을 활용하면 약 240만건의 저산소혈증 데이터를 통해 발생 여부를 더 정확하게 예측할 수 있었다”고 덧붙였다. 이는 이 교수가 개발한 XAI 방법론 중 하나인 ‘샤플리 가산 설명(SHAP)’을 통해 XAI를 현실화하고 있다. SHAP는 AI의 판단과 예측과정을 이해하고 결과를 설명하는 방법론으로, 가령, ‘치매 가능성이 높다’고 AI가 판단하면 왜 그런지를 유전자, 혈압, 나이 등 여러 원인 중 어떤 항목이 얼마나 영향을 미쳤는지를 수치로 보여준다. XAI는 AI가 잘못 판단했을 때 어떤 요소들이 영향을 미쳐 판단을 내렸는지를 알려주는 유용한 기술이라고 그는 강조했다. 이 교수는 “코로나19 팬데믹 때 진단 AI 모델의 코로나19 감염 정확도가 낮았고, 감염되지 않았음에도 감염됐다고 하거나, 감염됐지만 발견하지 못했다”면서 “피부암 진단 AI 모델도 단순 점을 종양으로 판단하거나 반대로 종양을 점으로 인식하는 등 오류가 발생했다”고 말했다. 그는 생성형 AI를 접목해 피부암을 진단하는 XAI방법론을 개발하기도 했다. 이 교수는 “AI는 훌륭한 도구다. 무조건 AI를 써야 한다고 생각한다”며 “다만 내가 쓰는 AI가 얼마나 정확할까라는 질문을 끊임없이 해야 한다”며 “궁극적으로 AI를 활용해 알츠하이머에 대응할 수 있는 약을 개발하는 연구를 할 계획”이라고 밝혔다. 한편, ‘광복 80주년, 새로운 미래를 여는 융복합 과학기술’을 주제로 열린 이번 행사는 오는 10일까지 서울 한국과학기술회관에서 이어진다. 이날 열린 개회식에서는 독립운동가 후손인 과학기술인 대표 지청룡 미국 노스캐롤라이나주립대 교수, 손석호 박사 등이 개회 인사를 진행했다. 이어 올해 대한민국 최고과학기술인상 수상자로 선정된 황철성 서울대 교수에 대한 시상식도 진행됐다. 유상임 과기정통부 장관은 “이번 대회를 계기로 전 세계 한인 과학기술인이 지식과 경험을 나누고, 함께 성장하며 새로운 협력의 길을 열어가길 바란다”고 말했다. 
 <figure class="figure_frm origin_fig" contents-hash="00136e98db24bc8b53aceaf052b868ab04be986bc71831fbb6d81d2c6b67424d" dmcf-pid="QEAAZ5Iit4" dmcf-ptype="figure">
 <img alt="과기정통부는 9일 서울 한국과학기술회관에서 ‘2025 세계한인과학기술인대회’ 개회식을 가졌다. 과기정통부 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/09/dt/20250709172151699dtnm.jpg" data-org-width="640" dmcf-mid="4hzzog8ttQ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/09/dt/20250709172151699dtnm.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 과기정통부는 9일 서울 한국과학기술회관에서 ‘2025 세계한인과학기술인대회’ 개회식을 가졌다. 과기정통부 제공
 </figcaption>
 </figure>
 이준기 기자 bongchu@dt.co.kr
 </section> 
 </div> 
 Copyright © 디지털타임스. 무단전재 및 재배포 금지.

이전

파이오링크, '14회 정보보호 날'서 '티프론트ZT' 출품 시선

07-09
다음

KCC, 2025년 소비자웰빙환경만족지수 창호·친환경페인트·천장재 부문 1위 석권

07-09

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

“AI 실수 잡아내는 ‘설명가능한 AI’ 필요한 때”…이수인 워싱턴대 교수 주장

멤버랭킹

관련자료

멤버랭킹