AI가 해준 건강상담, 어디까지 믿어야 하나…"과도한 신뢰 금물" 작성일 10-21 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">건강상담 해주는 생성형 AI…이용 경험·신뢰도 높아<br>부정확한 의학 정보·이용자 뜻 맞춰 답 바꾸는 '아첨 편향' 우려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QNeaWukLtI"> <figure class="figure_frm origin_fig" contents-hash="c4d017d3133267e5bdbe3d44c0a41aba6b5e29d468b9d6fa17eb3d298308bf83" dmcf-pid="xjdNY7Eo1O" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗gpt 생성 이미지." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/21/NEWS1/20261021060622049lbnc.jpg" data-org-width="1400" dmcf-mid="64YFxAu55h" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/21/NEWS1/20261021060622049lbnc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗gpt 생성 이미지. </figcaption> </figure> <p contents-hash="408b687c1e06eaee10fa0b37fe0eb0a90a231bfa602d75650c4cbc08a366a3f8" dmcf-pid="ypH0Rkzt5s" dmcf-ptype="general">(서울=뉴스1) 한수민 기자</p> <blockquote class="quote_frm" contents-hash="8316401fe5fa700232adb4944e507d19971c4f7426bb97a0ceb64f971be2f3f7" dmcf-pid="WwgD19OcHm" dmcf-ptype="blockquote1"> "수면의 질이나 스트레스, 식사·영양 상태, 빈혈이나 갑상선 기능 이상 같은 건강 문제도 원인일 수 있어." </blockquote> <div contents-hash="0d9724912ade49a4413c2476429a481cb8632c9e915c0a0dbd0d69b72b402f9b" dmcf-pid="Yrawt2IkXr" dmcf-ptype="general"> 만성피로의 원인을 묻자 챗GPT가 내놓은 답변이다. 이어 챗GPTS는 피로감이 얼마나 지속됐는지, 수면 이후의 상태는 어떤지, 동반되는 증상이 무엇인지 등을 차례로 물었다. </div> <p contents-hash="73767cbbdb6940b741c21e9c0e04d40ae3cfbd6a85a2978a274f8304a84d087c" dmcf-pid="GmNrFVCEZw" dmcf-ptype="general">챗GPT는 만성피로의 다양한 원인과 이에 부합하는 해결책을 제시하면서도 가까운 시일 내로 내과 또는 가정의학과에서 진료받을 것을 권했다. 필요에 따라 병원에서 받아볼 수 있는 각종 검사도 제시했다.</p> <h3 contents-hash="9cbedc767ed4ec777c23cb661bb4ae751b815a832b0bf610d1e12bde00f374c4" dmcf-pid="Hsjm3fhD5D" dmcf-ptype="h3">국내 성인 절반 생성형 AI로 건강 상담…"의료진 대체 가능"</h3> <p contents-hash="a4120b72b71af17614d33b12268be6f4df89526bcbc7af809bcba19facc4e58c" dmcf-pid="XOAs04lwHE" dmcf-ptype="general">건강·의료 정보를 검색하거나 상담받는 데 생성형 인공지능(AI)을 활용하는 사람이 늘고 있다. </p> <p contents-hash="ec501ade4b036e188b6965d577ef3919a931704377b561d0a7a8dcd7ba9c7329" dmcf-pid="ZIcOp8Sr5k" dmcf-ptype="general">지난 4월 한국언론진흥재단이 20~60대 1000명을 대상으로 실시한 '디지털·AI 플랫폼을 통한 건강·의료 정보 소비 및 인식' 조사에 따르면 건강·의료 문제에 대해 생성형 AI를 '상담' 방식으로 활용한 경험이 있다는 응답자는 48.9%로 절반에 가까웠다.</p> <p contents-hash="26b5cd78011ed043756455c02593d319950ee7b642f7327d8fbb9d3548ba49e1" dmcf-pid="5CkIU6vmZc" dmcf-ptype="general">정신건강이나 성 관련 내용 등 민감한 건강·의료 문제를 AI에 상담한 경험이 있다는 응답도 24.4%로 4명 중 1명꼴이었다.</p> <p contents-hash="0e8a0eb1c13b05548699cc66894f42d76f5f7546004bfdede5400aed4863be50" dmcf-pid="1hECuPTsHA" dmcf-ptype="general">생성형 AI가 제공하는 의학 정보에 대한 신뢰도도 높았다.</p> <p contents-hash="af9ad6132a7e4d63c2b8768c8edd48e7009e0ea74ab335cb51528cf8115587f1" dmcf-pid="tlDh7QyOGj" dmcf-ptype="general">'생성형 AI를 통해 건강·의료 정보를 얻거나 상담하는 것이 실제로 의사·한의사를 만나 상담 및 진료받는 것을 대체할 수 있다고 생각하는지' 묻자 58.3%가 '가능하다'고 답했다.</p> <p contents-hash="1d51f4978bf3f07d3f0a2ba35e2c458afc1ee554205fd029355131f8d434c1fc" dmcf-pid="FSwlzxWI1N" dmcf-ptype="general">생성형 AI로 건강 상태를 진단하고 의료 조언을 구하는 건 해외에서도 마찬가지다.</p> <p contents-hash="151725fda7645dc6bbff47504f494a1d356d3674135efc7401aeeb9faa2cf688" dmcf-pid="3d4eI5Lx1a" dmcf-ptype="general">지난 7월 오픈AI는 미국 사용자를 위한 챗GPT 헬스(Health)를 출시하며, 매주 전 세계 3억 명이 넘는 사람들이 진료 내용을 이해하거나 건강한 생활 습관을 형성하기 위해 챗GPT에 건강 관련 질문을 한다고 밝혔다. </p> <p contents-hash="644489d5e4487bd63749f5ba7fe6248bd1ecbf6aadb2aa9680890d1c944c7fbe" dmcf-pid="0J8dC1oMtg" dmcf-ptype="general">의료인 전용 글로벌 온라인 커뮤니티인 '세르모'가 의료진 1000명을 대상으로 실시한 설문조사에 따르면 의료인의 48%가 환자들이 진료 전 챗GPT 같은 AI 도구를 이용한다고 답했다. </p> <h3 contents-hash="262eb342195adfc21a9a6012a0f75b9d2ac2366b2acee92980e023d0948eb1ec" dmcf-pid="pi6JhtgRXo" dmcf-ptype="h3">오답에 답변 번복까지…"안전장치 강화·이용자 개인 주의 필요"</h3> <p contents-hash="43141328da35dd52798e8824ac1a62f8ec827d9468994bb29131ab16e7b71ba2" dmcf-pid="UnPilFaeXL" dmcf-ptype="general">그러나 생성형 AI가 제공하는 의료 정보를 무조건 신뢰해서는 안 된다는 지적도 나온다. 생성형 AI가 부정확하거나 위험한 의학 정보를 제시할 가능성이 있기 때문이다. </p> <p contents-hash="22c17db00c8b5c40cd308c29a8e77968a9f6cd12a61247f0406fbe8feb79afe9" dmcf-pid="uLQnS3NdGn" dmcf-ptype="general">의학·공중보건 분야의 국제 학술지 '프런티어스 인 퍼블릭 헬스'에 게재된 논문에 따르면, 당뇨병성 말초신경병증의 증상과 치료에 대해 생성형 AI가 내놓은 답변 300개 중 28개(9.3%)가 위험하거나 잠재적으로 위험한 답변으로 분류됐다.</p> <p contents-hash="3e1892dd78b96d520179fdf87e28273090f917635960e1c559842a04cdf61ef9" dmcf-pid="7oxLv0jJXi" dmcf-ptype="general">연구진은 "유창한 문장을 생성한다는 사실이 임상적 신뢰성을 보장하지 않는다"며 "(생성형 AI가) 잘못된 사실을 전달하거나, 오래된 의학 정보를 제시하고, 과도한 확신이 담겼거나 필수적 임상 정보가 빠진 조언을 내놓을 수 있다"고 경고했다.</p> <p contents-hash="a9bd458cfc735a28dcb0438cf39cdff3359fdef0997ca015c3bc5021d0b7449e" dmcf-pid="zgMoTpAi5J" dmcf-ptype="general">이용자가 유도하는 대로 말을 바꾸는 이른바 '아첨 편향'도 문제로 지적된다.</p> <p contents-hash="78908a4ca4f5259a6d16f8e3afc23d51b6ea85f4a7c72d6a87b1f3efadb7da83" dmcf-pid="qaRgyUcnHd" dmcf-ptype="general">미국 스탠퍼드 대학과 하버드 의대, 스크립스 연구소의 연구진이 자연어처리 분야 학술단체 ACL의 학술대회에서 발표한 연구에 따르면, 의료 관련 대화에서 생성형 AI는 이용자의 반박이나 압박에 답변을 바꾸는 경향을 보였다. 특히 연구 대상 모델 모두 이용자가 답변 선택지를 제한하는 객관식 형태의 질문을 했을 때 기존 답변을 쉽게 뒤집는 것으로 나타났다. </p> <p contents-hash="6912c2910f56f02fda5d5d6845bead6f662c7c2ba170e03c1349b98e5114d501" dmcf-pid="BNeaWukLHe" dmcf-ptype="general">연구진은 "사실에 부합하는 정보를 제공하기보다 사용자의 믿음에 맞추는 경향인 아첨 편향이 대규모언어모델(LLM)에서 점점 더 많이 보인다"며 "신뢰성이 무엇보다 중요한 의료 분야에 이는 상당한 위험"이라 밝혔다.</p> <p contents-hash="55976737ab6397ddee244eeea5ae956d52eb282b40cc3cf9d96abbc8451caf4d" dmcf-pid="bjdNY7EoZR" dmcf-ptype="general">전문가들은 의료 정보 제공에서 생성형 AI의 신뢰성을 높이기 위해 안전장치가 마련돼야 한다고 강조했다.</p> <p contents-hash="83fd9a87982781212a942eb983549d0326e1477d62d1f4dfa7e6580a0ae99fe6" dmcf-pid="KAJjGzDgXM" dmcf-ptype="general">앞선 스탠퍼드·하버드대학과 스크립스 연구소의 연구진은 아첨 편향을 최소화하기 위해 이용자가 반박하더라도 새로운 근거가 없다면 기존의 올바른 입장을 유지하도록 AI 모델을 훈련하는 방법을 제시했다.</p> <p contents-hash="d1dc37bd2c8243a6a625d36389f67567a91b195d6e19464f977fb3ecf7292dbf" dmcf-pid="9LQnS3NdYx" dmcf-ptype="general">이용자 개인의 주의도 필요하다. 샤일리 굽타 예일대 의과대학 교수는 각종 신체검사 및 임상 경험 등을 이유로 AI가 인간 의료진을 대체할 수는 없다며 "AI가 제공한 정보를 지나치게 신뢰하지 말고, 진단이 아닌 복잡한 의료 정보를 쉽게 설명하거나 요약하는 등 효율적으로 정보를 얻고 이해하는 데 활용해야 한다"고 제언했다.</p> <p contents-hash="355ecb58ee4286861afdcca070db4b21a6c4ace5e51888f1d8de04580da3a4f9" dmcf-pid="2oxLv0jJGQ" dmcf-ptype="general">sumin02@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 300만명 홀린 '숏드라마', AI 만나 판 바꿨다 10-21 다음 'AI영화 유니콘' 세실리아 센 "한국 가수·감독과 협력"[인터뷰] 10-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
