이수인 교수 “A I 모델 질병 100% 예측해도…이유 못 밝히면 의료용으로 부적합”[서울포럼 2026] 작성일 05-28 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">■이수인 워싱턴대 교수 특별강연<br>AI 기존 학습 데이터로 결과 도출<br>편향된 자료로 오류 발생땐 치명상<br>생명과학·의료분야선 신뢰 최우선<br>복잡한 생물학 데이터·상관관계 등<br>전문가 교차검증으로 안전성 확보</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1UD3DMKpv9"> <figure class="figure_frm origin_fig" contents-hash="bbe589d108360638e394b9107c2b9bdd358311c476e77d76da58f7eb8ad03194" dmcf-pid="tuw0wR9UyK" dmcf-ptype="figure"> <p class="link_figure"><img alt="이수인 미국 워싱턴대 컴퓨터공학과 석좌교수가 28일 서울 중구 신라호텔에서 열린 ‘서울포럼 2026’에서 특별 강연을 하고 있다. 조태형 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/28/seouleconomy/20260528173806787sjty.jpg" data-org-width="1200" dmcf-mid="0cvuhoPKlY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/28/seouleconomy/20260528173806787sjty.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이수인 미국 워싱턴대 컴퓨터공학과 석좌교수가 28일 서울 중구 신라호텔에서 열린 ‘서울포럼 2026’에서 특별 강연을 하고 있다. 조태형 기자 </figcaption> </figure> <p contents-hash="88f7ff9107a13b27c790959de632092076c30a2f247705f70e4d35c6f6a339ef" dmcf-pid="F7rpre2uWb" dmcf-ptype="general">인공지능(AI) 시대에 ‘설명 가능한 AI(XAI)’ 분야를 개척한 이수인 미국 워싱턴대 컴퓨터공학과 석좌교수는 신뢰할 수 있는 AI의 중요성을 강조했다. 이 교수는 “생명과학·의학 분야 AI의 핵심 경쟁력은 더 크고 정확한 모델을 만드는 것이 아니라 더 투명하고 신뢰할 수 있는 모델을 구축하는 것”이라고 제안했다.</p> <p contents-hash="2fe296424f06470a7b3616ef1db5ff6e4705bbaaa74e3dd8b365ee0cfc9923b2" dmcf-pid="3zmUmdV7vB" dmcf-ptype="general">이 교수는 28일 서울 중구 신라호텔에서 ‘지능을 넘어, 산업의 새 엔진으로’를 주제로 열린 ‘서울포럼 2026’ 특별 강연에서 “AI 모델이 질병 조기 진단 및 예후 예측에 100% 수준의 정확도를 자랑하더라도 예측 결과를 도출한 이유를 설명하지 못하면 의료용으로 부적합하다”고 화두를 던졌다. 이 교수는 최근 생명과학계와 의학계 내 질병 분석 및 예측에 AI를 활용하는 사례가 늘고 있다는 동향을 소개했다. 이어 현재의 AI 활용 문제는 예측과 이해 사이의 간극에서 발생한다고 설명했다. 이 교수는 “생명과학·의학 분야에서 AI의 쓰임새는 정확도만 높인다고 안전과 신뢰를 보장할 수 없다”고 짚었다.</p> <p contents-hash="8a2559631dc861bddea47d2550052d6c344db4cbb302eed05c39df8b60897fd1" dmcf-pid="0bIzIn8Byq" dmcf-ptype="general">이는 AI가 항상 기존에 학습한 데이터를 바탕으로 결과를 내놓는 데다 이 결과에 편향 위험을 내포하기 때문이다. 편향된 데이터를 학습한 AI는 예외 사례를 분석할 때 정합성이 떨어지는 문제점을 드러낸다. 의료 부문에서 이 같은 오류가 발생할 경우 자칫 치명적 결과를 초래할 수 있다. 환자 진료 과정에서 이처럼 부정확한 AI를 사용하면 의료 사고가 발생할 수 있기 때문이다. 이 교수는 이와 관련해 “같은 질병이 발병해도 환자마다 발병에 영향을 미치는 유전자 특성, 개인의 생활 습관, 주변 환경 등이 모두 다르다”며 “AI가 복잡한 생물학적 데이터와 질병 간 상관관계를 설명할 수 있어야 한다”고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="a941a8bd1f954b0be8b2f0eaa3f2fab4c520e985847c467dabbe56a9b4a28b84" dmcf-pid="pKCqCL6blz" dmcf-ptype="figure"> <p class="link_figure"><img alt="이수인 미국 워싱턴대 컴퓨터공학과 석좌교수가 28일 서울 중구 신라호텔에서 열린 ‘서울포럼 2026’에서 특별 강연을 하고 있다. 성형주 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/28/seouleconomy/20260528173808148dcrw.jpg" data-org-width="1200" dmcf-mid="p4361saelW" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/28/seouleconomy/20260528173808148dcrw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이수인 미국 워싱턴대 컴퓨터공학과 석좌교수가 28일 서울 중구 신라호텔에서 열린 ‘서울포럼 2026’에서 특별 강연을 하고 있다. 성형주 기자 </figcaption> </figure> <p contents-hash="018e3e6530c1b6d5b5d79d5fd28397b7eed9a7e31481549514d686cca9d9fb71" dmcf-pid="U9hBhoPKv7" dmcf-ptype="general">이 교수는 AI에 대한 전문가의 교차 검증 필요성도 제안했다. AI가 분석 결과를 도출하며 어떤 종류의 데이터를 얼마나 활용했는지 근거를 제시하면 전문가가 이를 확인하는 방식이다. 생명과학·의학 분야에서 이 같은 전문가의 개입은 AI의 편향된 학습이 일으킬 위험을 차단하는 안전장치인 셈이다. 이 교수는 “XAI는 판단의 근거로 쓰인 데이터와 데이터 기여도 등을 밝히면 사람이 AI의 답변을 검증하고 숨겨진 오류를 잡아낼 수 있다”며 “XAI는 AI를 안전하게 사용하기 위한 해법”이라고 부연했다.</p> <p contents-hash="cf763e87b943f3cc52eb358739fabd75fc937244e491ae0dc21bcb6751228f13" dmcf-pid="u2lblgQ9Tu" dmcf-ptype="general">이 교수는 이날 의학계 내 편향된 학습으로 빚어진 AI 도입 실패 사례의 원인을 규명한 연구도 소개했다. 이 연구들 역시 XAI를 도구로 삼아 진행했다. 한 예로 코로나19 유행 시기 의료계에서는 흉부 엑스레이 촬영 사진으로 코로나19 감염 여부를 예측하는 AI 모델 개발 시도가 이어졌다. 이때 한 병원의 엑스레이 사진을 학습해 정확도를 높인 AI 모델이 다른 병원에서는 코로나19 감염 여부를 제대로 분별하지 못하는 현상이 나타났다.</p> <figure class="figure_frm origin_fig" contents-hash="c5ce4a67f177ad84fb0e1ecf7ad192e640b580099858cf49576e600dc28d5073" dmcf-pid="7VSKSax2CU" dmcf-ptype="figure"> <p class="link_figure"><img alt="이수인 미국 워싱턴대 컴퓨터공학과 석좌교수가 28일 서울 중구 신라호텔에서 열린 ‘서울포럼 2026’에서 특별 강연을 하고 있다. 조태형 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/28/seouleconomy/20260528173809558glaj.jpg" data-org-width="1200" dmcf-mid="UNwHcPqFvy" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/28/seouleconomy/20260528173809558glaj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이수인 미국 워싱턴대 컴퓨터공학과 석좌교수가 28일 서울 중구 신라호텔에서 열린 ‘서울포럼 2026’에서 특별 강연을 하고 있다. 조태형 기자 </figcaption> </figure> <p contents-hash="8de772ddee45879e3e211e8c75e5617710cca4b67e9a183bb3d04c99f1794d0c" dmcf-pid="zfv9vNMVTp" dmcf-ptype="general">이 교수가 이끄는 연구팀은 XAI를 활용해 ‘AI 모델의 먹통 현상’도 밝혀냈다. 흉부 엑스레이 촬영 사진을 픽셀 단위로 나눈 뒤 어느 픽셀이 코로나19 진단 AI 모델에 어느 수준의 영향을 미치는지 분석한 것. 연구팀의 조사 결과 AI 모델은 엑스레이 촬영 사진 중 어깨 촬영부를 중요한 정보로 인식하고 있었다. 호흡기 질환인 코로나19 감염 여부를 확인하기 위해서는 폐와 기관지 촬영부를 집중적으로 분석해야 하는데 함께 찍힌 어깨 촬영부를 주요 학습 데이터로 삼은 오류를 범한 것이다. 해당 연구를 소개한 논문은 의료계 AI 활용의 맹점을 정확히 지적했다는 성과를 인정받아 2021년 ‘네이처 머신 인텔리전스’에 게재됐다.</p> <p contents-hash="d8853e393fc75112379864bb5210fac94164ab25f6b898e2702d4e204d1e2ac7" dmcf-pid="q4T2TjRfy0" dmcf-ptype="general">이 교수와 연구팀은 AI가 내놓은 답을 연구할 때 정답 혹은 오답 이분법 틀에 얽매이지 않고 결과 도출까지의 과정을 규명하는 데 초점을 맞췄다. 이처럼 이 교수는 XAI를 활용하면 AI의 분석 결과를 맹신하는 대신 사람이 개입하고 검증하며 학문 발전을 도모할 수 있다고 조언했다. 그는 “XAI는 과학적 발견을 가능하게 하고 AI 모델을 체계적으로 검증해 임상 적용까지 이루게 하는 기반 기술”이라며 “XAI를 활용해 질병의 새로운 생물학 구조를 발견할 수 있고 나아가 신약 개발 결실도 이룰 수 있다”고 설명했다.</p> <p contents-hash="07bab9de9b27f30521c7758565da96ce7189ac202a23a82b3fbaa3a27b856ef7" dmcf-pid="B8yVyAe4h3" dmcf-ptype="general">김태호 기자 teo@sedaily.com양지혜 기자 hoje@sedaily.com</p> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘케데헌’부터 국중박 열풍까지… ‘전통 붐’ 온 이유는 [서울포럼 2026] 05-28 다음 박성현 리벨리온 대표 “이젠 NPU 시대…K추론으로 엔비디아 독점 깰 것”[서울포럼 2026] 05-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
