"AI 결정은 위험보다 기대수익에 집중… 최종 판단때 인간 개입 필요" 작성일 04-23 131 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">연세대 홍순만 교수팀, AI와 인간의 의사결정 방식 차이 밝혀내</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="961Rjh5ro9"> <figure class="figure_frm origin_fig" contents-hash="ddeb4487c2becc98f891c22ffec1cb6257698dd4cf3b15a9835db6353f4b7d48" dmcf-pid="2PteAl1moK" dmcf-ptype="figure"> <p class="link_figure"><img alt="연세대학교 행정학과 홍순만 교수팀이 인공지능(AI)과 사람간 바둑 대국을 통해 의사결정 방식의 차이를 살펴보고 있다. 연세대 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/23/fnnewsi/20250423143414926pcta.jpg" data-org-width="800" dmcf-mid="Ki9xaIXDk2" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/23/fnnewsi/20250423143414926pcta.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 연세대학교 행정학과 홍순만 교수팀이 인공지능(AI)과 사람간 바둑 대국을 통해 의사결정 방식의 차이를 살펴보고 있다. 연세대 제공 </figcaption> </figure> <p contents-hash="52c5a021f0ba8cd5edc60f9446ddf9c2aa371f1e150fb75a69661a8e5a395678" dmcf-pid="VQFdcStsNb" dmcf-ptype="general">[파이낸셜뉴스] 연세대학교 행정학과 홍순만 교수팀은 인간과 인공지능(AI)의 의사결정 방식에 차이가 있으며, AI의 위험 감수 성향이 자칫 큰 판단 오류로 이어질 수 있다는 것을 밝혀냈다. </p> <p contents-hash="793100b0c82f98dd3bf7b947a135b666e32d820a97b1727e1f6a6812f7476d0f" dmcf-pid="fx3JkvFOjB" dmcf-ptype="general">홍순만 교수는 23일 "충분한 검증을 거치지 않은 AI는 얼핏 정교해 보일지라도, 때로는 리스크를 전혀 고려하지 않은 채 과감한 판단을 내려 치명적인 결과를 초래할 수 있다"고 경고했다. 그러면서 "AI의 판단을 무조건 신뢰하기보다는 인간과의 협업과 상호 검증 체계가 함께 작동해야 한다"고 말했다. </p> <p contents-hash="b20b0a490d77db003685324bcc2c2b154b89d61c8d7b85751343df1fe6cd4f5e" dmcf-pid="4M0iET3Ioq" dmcf-ptype="general">연구진은 이번 연구가 처음부터 AI와 행정학을 연결할 계획은 없었으나, 알파고의 훈련 방식에 대한 개인적인 호기심에서 출발했다고 설명했다. </p> <p contents-hash="d3ac4988400f0fb2090048fd83456b412e5a8c57a25a28a0fa7e98c02597f3eb" dmcf-pid="8RpnDy0Coz" dmcf-ptype="general">우선 연구진이 직접 개발한 바둑 AI와 유사한 기력을 지닌 아마추어 7단 인간 기사의 대국 데이터를 수집·분석했다. </p> <p contents-hash="2791ff42c3056dcbff11b1d20e8db71ad048ce902e5bc312d3a95681f3bfea82" dmcf-pid="6eULwWphk7" dmcf-ptype="general">그결과, AI는 위험 요소를 고려하지 않고 기대 수익을 극대화하는 '위험중립적' 전략을 취하는 반면, 인간은 기대 수익을 일부 포기하더라도 불확실성을 줄이려는 '위험회피적' 전략을 선호하는 경향이 있는 것으로 나타났다. </p> <p contents-hash="813319bb4c007c1ecada55d3432b18e6181d091f965f01842a4d08da8bc62a44" dmcf-pid="PduorYUlAu" dmcf-ptype="general">예를 들어, 프로 기사를 능가하는 바둑 AI조차도 초등학생도 쉽게 피할 수 있는 축을 놓치거나, 자신의 집을 메우는 등 비상식적인 실수를 저질렀다. 그는 AI와 인간의 판단 차이에 대해 "인간은 위기 상황에서 본능적으로 위험과 불확실성을 줄이려는 결정을 내리지만, AI는 목표 달성만을 향해 직진하는 경향이 있다"고 설명했다. </p> <p contents-hash="53b4afdf82cf4d9585c00bd183489e58cd72c009b8409041b888a88a49c61e66" dmcf-pid="QJ7gmGuSAU" dmcf-ptype="general">특히 행정, 의료, 사회복지, 재난관리 등 고위험 공공 분야에 AI가 활용될 경우, '위험중립적 판단'이 새로운 사회적 리스크로 이어질 수 있다는 것이다. 그는 "금융 투자, 자동 매매, 정책 시뮬레이션처럼 불확실성이 큰 분야에서는 AI의 판단을 신중히 검토하고, 인간의 개입과 검증이 필요할 수 있다"고 강조했다. </p> <p contents-hash="f6ab9e53cc669d973da967618a29f4449e25610b4a34c06f8bae1390d68f0e27" dmcf-pid="xizasH7vNp" dmcf-ptype="general">연구진은 향후 AI 시스템 설계에 있어 △시뮬레이션 기반 불확실성 저감 능력 강화 △오류 대비 안전장치 마련 △전문가 피드백 접목 등 책임 있는 AI 개발을 위한 제도적·윤리적 기준 수립의 필요성을 강조했다. </p> <p contents-hash="6dd74fb6950af2ed25248513b5f0c8b396323892f1b64589eed9ca0ed704d825" dmcf-pid="yZE39dkPg0" dmcf-ptype="general">한편, 연구진은 이번 논문을 '인간은 AI의 판단을 어느 수준까지 신뢰해야 하는가?', '우리 사회는 AI의 결정을 어디까지 수용할 수 있는가?'라는 근본적인 질문을 제기하며, 국제학술지 '심리학 및 인공지능 저널((Journal of Psychology and AI)'에 지난 22일 발표했다. <br>#알파고 #인공지능 #AI #리스크 #바둑 #의사결정 #위험중립 </p> <p contents-hash="08b8533bedeeadd82af9e56e68fda2050886f9f3955d25150d3f2a728909c86a" dmcf-pid="W5D02JEQo3" dmcf-ptype="general">monarch@fnnews.com 김만기 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 스마트폰 시장, 올해 먹구름…재고 부담·관세 리스크 여전 04-23 다음 네이버 "외산 AI, 상표만 갈아끼운다고 소버린 아냐" 04-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
