의사·AI 함께 진료하면 책임은 누가?…AI 7단계 분류체계 제시 작성일 08-01 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3ICh1TyOLJ"> <figure class="figure_frm origin_fig" contents-hash="a61452f223a3a9541590217867a9d9a6900565544cf3d1890bc51f2f83927d66" dmcf-pid="0ChltyWIdd" dmcf-ptype="figure"> <p class="link_figure"><img alt="고도화된 인공지능(AI) 의료 도구가 등장하기 전 안전망 구축을 해야 한다는 전문가 의견이 제기됐다. 게티이미지뱅크 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/dongascience/20260801180210866vosw.jpg" data-org-width="680" dmcf-mid="F9bKef4qLi" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/dongascience/20260801180210866vosw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 고도화된 인공지능(AI) 의료 도구가 등장하기 전 안전망 구축을 해야 한다는 전문가 의견이 제기됐다. 게티이미지뱅크 제공 </figcaption> </figure> <p contents-hash="6d0da507d93f1594e74b1421f752cb5e6ed5221ee48670541e222a471b18c462" dmcf-pid="phlSFWYCLe" dmcf-ptype="general">인공지능(AI) 도구를 이용한 진단 및 치료는 의료사고 발생 시 책임 소재를 불분명하게 만들 것이란 우려가 제기된다. 법적 불확실성은 ‘책임 공백’과 ‘환자 피해’로 이어진다. 규제기관, 정책입안자, 의료기관 등이 고도화된 AI 도구 등장에 대비할 수 있도록 AI 역량을 7단계로 나눠 법적 안전망을 세워야 한다는 전문가 제언이 제시됐다. </p> <p contents-hash="5932a612e134bbb6f2cf924885e9f124960e722899a058584074f7e0e0dc242e" dmcf-pid="UlSv3YGhMR" dmcf-ptype="general">지아닝 추 아랍에미리트 빈자예드인공지능대 교수 등 전문가 5명은 28일(현지시간) 국제학술지 ‘네이처’를 통해 자율성, 자동화, 운용 범위 등 3가지 요소를 기반으로 AI 역량을 7단계로 분류해 공개했다. </p> <p contents-hash="b0be3a513a41b667f8fd20954c554bf3ab2123eecb2ec34e61fb7b367c5baada" dmcf-pid="uSvT0GHliM" dmcf-ptype="general">지금까지 보건의료 분야 책임 소재는 비교적 명확했다. 의료기기 사용 과정에서 의료사고가 발생했을 때 치료를 제공한 임상의, 안전 치료 프로세스를 구축한 의료기관, 결함 없는 의료기기를 공급해야 하는 제조업체 중 누구의 책임이 큰지 판단할 수 있었다는 의미다. </p> <p contents-hash="887047b33b4114cddc6c1988bec3ead1fe54b7af2a25ef9a486cf8b767c1e768" dmcf-pid="7vTypHXSJx" dmcf-ptype="general">AI 도구의 등장은 책임 소재를 모호하게 만든다. 패혈증 위험 예측 모델처럼 현재 존재하는 AI 도구는 명확한 생리학적 변수와 공식을 이용하기 때문에 임상의가 AI의 결과물을 이해할 수 있지만 보다 진화된 AI 도구는 ‘블랙박스 딥러닝 프로세스’를 거쳐 결과물을 내기 때문에 인간이 결과물이 도출된 이유를 파악하거나 추론하기 어렵다. 블랙박스 딥러닝 프로세스는 입력 데이터와 출력값은 확인할 수 있지만 그 중간 연산 과정이나 의사결정 방식은 알 수 없는 상태를 의미한다. </p> <p contents-hash="27bc41034a94a5af98c524e5fc2aac7adfd6c427a9310c36c1610bd99c6f97e1" dmcf-pid="ztF3Vu71RQ" dmcf-ptype="general"><strong>● 자율성·자동화·운용 범위 기반 AI 역량 7단계 분류</strong></p> <p contents-hash="723d2c2a73042d17add92089964b317152f4a40b2af6d185fcc48866a07744f5" dmcf-pid="qF30f7zteP" dmcf-ptype="general">추 교수 등은 AI 도구의 법적 리스크를 정밀하게 평가하려면 AI 도구를 세 가지 기준 축으로 분류해야 한다고 밝혔다. 인간 개입 없이 얼마나 독립적으로 추론하는지를 의미하는 ‘자율성’, AI가 스스로 실행할 수 있는 작업 범위를 나타내는 ‘자동화’, AI의 활동이 허락된 범위를 의미하는 ‘운용 범위’ 등 세 가지다. <br> <br> 세 가지 기준을 기반으로 AI 역량은 7단계로 정의했다. 우선 0단계는 ‘정보용 AI’다. 자율성은 없고 자동화는 가변적이며 운용 범위는 좁은 AI 도구다. 전자건강기록(EHR) 관리 알고리즘이나 웨어러블기기 데이터 단순 모니터링 등이 이에 해당한다. 알고리즘이 투명하게 작동하고 출력값은 검증 가능하다. </p> <p contents-hash="245601838409c478ea8a35df7f49a7b9cd6ccc668e09cad3ca4456dc14028d33" dmcf-pid="B30p4zqFn6" dmcf-ptype="general">1단계는 ‘보조용 AI’다. 자율성은 낮고 자동화는 낮음에서 중간, 운용 범위는 좁은 AI다. 심장 모니터링에서 의심스러운 심장박동을 포착하거나 스캔 영상에서 비정상적인 조직을 표시하는 등의 작업을 수행하는 AI다. 환자 데이터를 임상의가 검토하거나 입력과 출력 데이터 간 상관관계를 ‘설명 가능한 AI(XAI)’로 살펴 AI 결과값을 검증할 수 있다. </p> <p contents-hash="52d1ef4866f32e9af637cd1623b0699fae19f4f942beeb765fc9f28e80ba6e0b" dmcf-pid="b0pU8qB3n8" dmcf-ptype="general">2단계는 ‘의사결정 지원 AI’다. 자율성은 낮고 자동화는 낮음에서 중간, 운용 범위는 중간 정도의 AI다. 증상, 과거 병력, 영상 데이터, 최신 지침 등을 결합해 진단 및 치료 계획을 생성하고 환자 분류 결정을 위한 점수를 생성할 수 있다. AI 추론 과정은 부분적으로 검증 가능하고 환자 진단 및 치료에 대한 최종 결정은 임상의가 내리는 단계다. </p> <p contents-hash="a4d6d41ffa6171d53e4f03be4315b420ac16765050d772bd8cfae71b0524cba4" dmcf-pid="KpUu6Bb0R4" dmcf-ptype="general">3단계는 ‘인간 지도 내 자동화 AI’다. 중간 수준의 자율성, 자동화, 운용 범위를 가진 AI다. AI가 직접적인 의사결정자가 되는 단계로 현시점 거의 존재하지 않는 AI다. 인슐린 투여량을 자동 조절하는 형태의 AI로, 임상의는 특정 위험 상황에만 개입한다. </p> <p contents-hash="b521fe0a82f2dc75ccb84aadfa0ccccfbb0f3eef74097b0b461dc2c5fbd784e8" dmcf-pid="9Uu7PbKpMf" dmcf-ptype="general">4단계는 자율성, 자동화는 중상, 운용 범위는 넓은 ‘의료진 백업 AI’다. 중환자실에서 여러 생리학적 목표에 맞춰 인공호흡기를 설정하고 진정제를 투여하는 등의 작업을 동시에 조절할 수 있는 AI다. 문제가 발생하면 의료진을 소환하는 백업 프로토콜을 가진다. 임상의는 AI 경보가 울릴 때 관여한다. </p> <p contents-hash="3c793c0bcc69044885e7348d55f4340ed3f91b7613d6931b8c7d54aed7a93d3a" dmcf-pid="2u7zQK9UiV" dmcf-ptype="general">5단계는 ‘자율 의사 AI’다. 자율성과 자동화 수준이 높고 운용 범위는 넓다. 병력을 청취하고 검사 수립 및 검사 결과 해석, 약물 처방, 합병증 관리 등을 처리하도록 승인된 AI다. 인간은 필요 시에만 개입할 수 있는 권한이 유지된다. 현재 5단계에 근접한 AI는 존재하지 않는다. </p> <p contents-hash="d6459dd336f29c789310fbe1a38768468ab4fe9cc7e2f9ebb06f031b3d52b044" dmcf-pid="V7zqx92ud2" dmcf-ptype="general">6단계는 극도로 높은 자율성과 자동화, 넓은 운용 범위를 가진 ‘자기 학습 의료 AI’다. AI가 완전히 자율적으로 치료를 제공하고 새로운 데이터가 발생하면 스스로 진료 방식을 업데이트한다. </p> <p contents-hash="291fef5d61ae6b6c6b21d0a780bac6fbd159863408ffc850e47885ed63195139" dmcf-pid="fzqBM2V7e9" dmcf-ptype="general"><strong>● 고도화 AI 유입 대비…늦기 전 선제 대응해야</strong></p> <p contents-hash="22412ce0c2f42f4f1d66534e3a8d92a8911159baa68b9ee2ea539d836eee887a" dmcf-pid="4qBbRVfzMK" dmcf-ptype="general">추 교수 등은 규제기관, 개발업체, 병원, 법 차원에서 3단계 이상 도구가 등장할 때를 대비해야 한다고 보았다. </p> <p contents-hash="52254f1ac64666a36d7de1169ccb880bfdeec5a3980a10ea6baa394dfe0c1db5" dmcf-pid="8BbKef4qdb" dmcf-ptype="general">규제기관은 시장에 진입하는 AI 도구의 사용 목적과 개발자 제출 데이터 기반으로 등급을 부여하고 다목적 AI는 각 기능별 등급을 부여해야 한다는 것이다. 개발업체들이 등급을 낮추려는 시도를 할 때는 엄격한 기준을 제시해야 한다고 강조했다. </p> <p contents-hash="83e480ec99a68116802e6ceab6208f8ea1a28306287cc8614f446e7418b3d8d0" dmcf-pid="6bK9d48BnB" dmcf-ptype="general">개발업체는 실제 현장에서 AI가 잘 작동하는지 지속 감시하고 의료기관은 의료인 교육, AI 판단 및 활용 기록 등을 철저히 지켜야 하며 법적으로는 AI 전용 보험 및 안전망 구축 등이 필요하다고 지적했다. </p> <p contents-hash="36b3d2be900bf26ce68f4ec0b5139e27259168b654465ba15cb770722ddd67ee" dmcf-pid="PvTypHXSRq" dmcf-ptype="general">추 교수 등은 “아직 AI가 비교적 낮은 단계에 머물러 있는 지금이 의료AI에 대한 활용을 정립할 수 있는 때”라며 “3~4단계 AI가 일상적으로 사용될 때까지 대응을 미룬다면 책임 경계를 설정하기 더욱 어려워질 것”이라고 말했다.</p> <p contents-hash="f64ac3e892210620f4b3234aef472c1d59245cd8537fc092aaa1b1ec77f6d06a" dmcf-pid="QTyWUXZvRz" dmcf-ptype="general">[문세영 기자 moon09@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 황주찬-조영승 마지막 복식 승리, 서인천고 살렸다…대통령기 테니스 2연패 도전 08-01 다음 대한민국-파키스탄 필드하키 대표팀 합동 훈련 실시, “우호 관계와 값진 실전 경험” 08-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
