"생성형 AI, 자유의지 가질 조건 충족…윤리 기준 마련해야" 작성일 05-14 70 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">핀란드 마르텔라 교수 "AI에 대한 윤리 교육, 실제적이고 시급한 문제"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PIQkRPIiYi"> <p contents-hash="c39cf0b551f62e59f8aec03cf7a09120747e8573b1eea40df699d9aea5d8dbcb" dmcf-pid="QCxEeQCn1J" dmcf-ptype="general">(서울=연합뉴스) 이주영 기자 = 생성형 인공지능(AI)이 빠르게 발전하면서 자유 의지(free will)를 가질 수 있는 조건을 이미 충족한 것으로 보여 AI가 올바른 선택을 할 수 있게 윤리 기준을 마련해 제공해야 한다는 주장이 제기됐다. </p> <figure class="figure_frm origin_fig" contents-hash="abc4d6395474b2e13eb682bbf61f64e7b4935b939f7c427b0cafee2581564a78" dmcf-pid="xhMDdxhL1d" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능 (PG) [박은주 제작] 사진합성·일러스트" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/14/yonhap/20250514050011848pfcw.jpg" data-org-width="500" dmcf-mid="6ixEeQCnHn" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/14/yonhap/20250514050011848pfcw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능 (PG) [박은주 제작] 사진합성·일러스트 </figcaption> </figure> <p contents-hash="376b4d23f9b6f8e84ee99492054eb919644e1808fd1931781b1e356648f56cbe" dmcf-pid="y4WqHy41Ye" dmcf-ptype="general">핀란드 알토대학 프랭크 마르텔라 교수는 14일 과학 저널 인공지능과 윤리(AI and Ethics)에서 두 가지 생성형 AI를 조사한 결과 자유 의지의 철학적 조건 세 가지를 충족하는 것으로 나타났다며 도덕적 나침반(윤리 기준)을 마련해 제공해야 AI가 올바른 선택을 할 수 있을 것이라고 밝혔다.</p> <p contents-hash="d4ee123e3f8ace36736888202296403c89ee3010bdc26e52c6adc442950eb522" dmcf-pid="WKlpThKGHR" dmcf-ptype="general">마르텔라 교수는 "AI가 너무 빠르게 발전해 한때 공상과학 소설 영역이던 윤리적 질문들이 갑자기 현실적이고 긴급한 문제가 됐다"며 "AI는 스스로 도덕적 나침판을 가질 수 없기 때문에 처음부터 이를 제공해야 할 필요성도 커졌다"고 자적했다.</p> <p contents-hash="73b5cff877ae0c517042a60581ee9cea7f0d21160007c5f4282551aa7ff58c70" dmcf-pid="Y9SUyl9H1M" dmcf-ptype="general">그는 이 연구에서 자유 의지에 대한 철학적 논의에서 사용되는 기능적 자유 의지(functional free will) 개념을 이용해 대형언어모델(LLM) 기반의 생성형 AI인 게임 마인크래프트 보이저(Voyager)와 가상 군사 시나리오의 AI 킬러 드론 '스피트닉'(Spitenik)을 평가했다.</p> <p contents-hash="103fdf65dad51f33e8184a9e85a8c26ac1b2e2076773b4e433876b5eedce0d7a" dmcf-pid="G2vuWS2XGx" dmcf-ptype="general">기능적 자유 의지 개념에서 평가 대상이 자유 의지를 가질 수 있는 세 가지 철학적 조건은 목표 지향적 행위를 할 수 있는지, 진정한 선택을 할 수 있는 능력이 있는지, 자기 행동에 대한 통제력이 있는지 등이다. </p> <p contents-hash="b33aaa45aa6f43e729197006e16ba1937ecf3a829aa5cbde8c6ba71dc3eb97fe" dmcf-pid="HVT7YvVZHQ" dmcf-ptype="general">평가 결과 마인크래프트의 보이저와 킬러 드론 스피트닉은 자유 의지에 필요한 세 가지 철학적 조건을 모두 충족하는 것으로 나타났다.</p> <p contents-hash="1e2e9c5bf4eddedc612ee5439ade50e9d42ca5bb8ea37a4cf76d29c0dd7fa4df" dmcf-pid="XfyzGTf5YP" dmcf-ptype="general">마르텔라 교수는 이 연구 결과는 현재 이용할 수 있는 다양한 생성형 언어 모델 기반 AI들에도 적용될 수 있다며 "최신 AI를 이해하고 그들의 행동을 예측하고자 한다면 그들이 자유 의지를 갖췄다고 가정해야 한다"고 말했다.</p> <p contents-hash="f983deb4b0e17eb585b8220a4018afb56c53cfd3c521081cc90beed4f25066dd" dmcf-pid="Z4WqHy41H6" dmcf-ptype="general">또 "이런 발전은 우리를 인류 역사에서 중대한 지점으로 이끈다"며 "AI에 생사에 관한 상황을 포함해 더 많은 권한과 자유를 부여할수록 도덕적 책임은 AI 개발자에서 AI 자체로 이동할 수 있다"고 지적했다.</p> <p contents-hash="674e2b5ee3b3324a62275652ecd6e1d13dddbadad55b1ef9c307fce1d0ce61de" dmcf-pid="58YBXW8tG8" dmcf-ptype="general">이어 "자유 의지를 갖는 것은 도덕적 책임의 핵심 조건 중 하나로 AI가 자기 행동에 도덕적 책임을 지는 데 한 걸음 더 가까워진 셈"이라며 "AI 기술을 어떻게 '양육'할 것인지 하는 문제는 이제 실제적이고 시급한 문제가 됐다"고 덧붙였다.</p> <p contents-hash="4805b1248a5fcbb0a2e95508a721eb0a40fcae2f1f9656a900f384ec379501a2" dmcf-pid="16GbZY6FG4" dmcf-ptype="general">마르텔라 교수는 "AI는 점점 더 어른에 가까워지고 있고 이들은 점점 더 복잡한 성인의 도덕적 문제들에 대한 결정을 내려야 한다"며 "AI 개발자들은 AI가 어려운 상황에서 올바른 선택을 하도록 가르칠 수 있을 만큼 도덕철학에 대한 충분한 지식을 갖추고 있어야 한다"고 강조했다.</p> <p contents-hash="9ea8fd20716a013bf29906d263a7f1436f07acc0f366f8edd10c5d9dfafa2c93" dmcf-pid="tPHK5GP3tf" dmcf-ptype="general">◆ 출처 : AI and Ethics, Frank Martela et al., 'Artificial intelligence and free will: generative agents utilizing large language models have functional free will', http://dx.doi.org/10.1007/s43681-025-00740-6</p> <p contents-hash="4948d1ab295bcea4298307bf298fc5c5709b1dc73b38d063eec90b294554508a" dmcf-pid="F7s1Cm7v1V" dmcf-ptype="general">scitech@yna.co.kr</p> <p contents-hash="73586e88668daa33d87428e4eead701908f8d3013bdc9debb5f416826c98a3ae" dmcf-pid="0qIFlOqy19" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 "와, 가볍다" 역대 가장 얇은 갤럭시 온다…'초슬림' 기술 포문 05-14 다음 "유심 바꾸세요" 문자, 114 아니면 털린다…SKT 사태 대처법 05-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
