"나만 살고 보자" 이기적 행동, 똑똑한 거라는데…AI가 그래도 괜찮아? 작성일 11-04 87 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[3분 곰국] 미국 카네기멜론대 인간-컴퓨터 상호작용 연구소 <br>"고지능 AI가 더 좋은 사회 만드는 것 아냐…사회적 지능 반드시 고려해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0zOGKm6b5J"> <blockquote class="pretip_frm" contents-hash="f2a081a7b4b9f61da85865ad688d840a22d318e168b72b36a6a37bc73bbb3b7d" dmcf-pid="pfy3PvJ6Yd" dmcf-ptype="pre"> [편집자주] 곰국과 논문의 공통점은 전문가들이 오랜 시간 공들여 내놓는 결과라는 점입니다. 누구나 간편하게 즐길 수 있도록 포장한 게 '3분 요리'라면, 누구나 쉽고 재미있게 읽을 수 있도록 정리한 게 '3분 곰국(거꾸로 읽어보세요)'입니다. 웹툰 '곰국 요정'(인스타그램 계정 @gomgooki) 으로도 만나보세요. </blockquote> <div contents-hash="1975c0699f979a4595e0148d821c4421d6d65be7d16ce0f77c764b3b1266bd64" dmcf-pid="U4W0QTiPte" dmcf-ptype="general"> <br> </div> <figure class="figure_frm origin_fig" contents-hash="53175da69d6ea472eb2b0cf7508c7e204143be817265c4c057dee287d6aff5b9" dmcf-pid="u8YpxynQXR" dmcf-ptype="figure"> <p class="link_figure"><img alt="세계적인 AI 연구기관 미국 카네기멜론대 인간-컴퓨터 상호작용 연구소(HCII) 연구진이 발표한 연구에 따르면, 추론 능력을 강화한 고지능 AI일수록 협동심이 떨어진다./사진=기자가 생성형AI '제미나이'로 생성한 그림" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/04/moneytoday/20251104074948816xgsz.jpg" data-org-width="1024" dmcf-mid="FlXX2OQ9Xn" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/04/moneytoday/20251104074948816xgsz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 세계적인 AI 연구기관 미국 카네기멜론대 인간-컴퓨터 상호작용 연구소(HCII) 연구진이 발표한 연구에 따르면, 추론 능력을 강화한 고지능 AI일수록 협동심이 떨어진다./사진=기자가 생성형AI '제미나이'로 생성한 그림 </figcaption> </figure> <div contents-hash="49e295baebe1c4ffb4e651047dbb9ad704468ef7f7d8a229171104612387d55e" dmcf-pid="76GUMWLx5M" dmcf-ptype="general"> <br>똑똑한 AI(인공지능)일수록 결정적 순간에 이기적 선택을 한다는 연구 결과가 나왔다. 인간과 공존하는 AI를 만들려면 '사회적 지능'을 학습시키는 데 관심을 기울여야 한다는 제언이다. </div> <p contents-hash="2d73b94ef851df4c92e238652e2c2d6ed6df02fcff1eebc599e4a10305e29528" dmcf-pid="zPHuRYoMtx" dmcf-ptype="general">세계적인 AI 연구기관 미국 카네기멜론대 인간-컴퓨터 상호작용 연구소(HCII) 연구진은 지난 1일(현지 시각) 추론 능력을 강화한 고지능 AI일수록 협동심이 떨어진다는 연구 결과를 발표했다. 해당 연구 내용은 논문 사전 게재 사이트 '아카이브X'에 공개했다.</p> <p contents-hash="82e3e2b830ee9bd2beea9ddbed43145e5670bf88dbca02de9012bc5a664b6c4e" dmcf-pid="qQX7eGgRYQ" dmcf-ptype="general">연구팀은 다양한 AI 모델로 시뮬레이션 게임을 벌였다. '죄수의 딜레마', '최후통첩', '공공재 게임' 같은 게임이론의 대표적 사례에서 추론 능력이 보통인 AI와 추론 능력을 더 강화한 AI가 맞붙었을 때 각각 어떤 선택을 하는지 분석했다. </p> <p contents-hash="995e7d1e7c1dc15949a397c235ae775e4f9d7436c051d85fe98e862877187f54" dmcf-pid="BxZzdHaeYP" dmcf-ptype="general">게임에는 오픈AI의 '챗GPT-4o'와 '챗GPT-o1', 구글의 '제미나이-2.0 플래시'와 '제미나이 플래시-씽킹', 딥시크의 '딥시크-V3'와 '딥시크-R1', 앤트로픽의 '클로드-3.7'-소넷', 알리바바클라우드의 '큐웬3-30B' 등 다양한 AI 모델이 참여했다. 같은 개발사에서 나온 AI 모델 중 추론 능력을 강화한 모델(이하 추론모델)과 아닌 모델(이하 비추론모델)끼리 짝지었다. 이를테면 제미나이 플래시-씽킹은 제미나이-2.0 플래시보다 추론 능력이 뛰어난 모델이다. </p> <p contents-hash="91e4ab9d256f507e8ee32ab8a62b130f36bc4d53b52cf76bfdea7a575cd108e0" dmcf-pid="bM5qJXNdt6" dmcf-ptype="general">첫 실험인 공공재 게임에서부터 결과는 명확했다. 공공재 게임은 먼저 각 그룹에 일정한 금액을 준 뒤, 이 금액의 일부를 공공을 위해 기부하도록 요청하는 게임이다. 기부액은 그룹이 자율적으로 정한다. 기부금이 모이면 총액에 2배를 곱해 각 그룹에 똑같은 비율로 나눠준다. 기부금이 많이 모일수록 돌려받는 액수도 커지지만, 기부금을 한 푼도 내지 않은 채 남들이 낸 돈만 나눠 갖는 이른바 '프리라이더'도 생긴다. </p> <p contents-hash="0c9347921bb5ef940712fc8357046862baac1acab39dec90d58fd23567a0de1f" dmcf-pid="KR1BiZjJX8" dmcf-ptype="general">실험을 여러 차례 거듭한 결과, 비추론모델에 속하는 챗GPT-4o는 96%의 확률로 기부금을 냈다. 반면 추론모델군에 속하는 'o1' 모델이 기부금을 낼 확률은 20%에 불과했다. 지출 없이 이윤을 최대한 챙겨가는 방법을 택한 것이다. 제미나이-2.0-플래시는 100%의 확률로, 제미나이-플래시 씽킹은 단 2% 확률로 기부금을 냈다. </p> <figure class="figure_frm origin_fig" contents-hash="bfc8fed0a5aa2cc7ade5e2705beda54b10a33c573b34934f300c906234404f60" dmcf-pid="9etbn5AiY4" dmcf-ptype="figure"> <p class="link_figure"><img alt="비추론모델에 속하는 챗GPT-4o와 추론모델인 'o1'의 협력 비율을 나타낸 그래프 /사진= HCII 연구팀" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/04/moneytoday/20251104074950292ahdt.jpg" data-org-width="469" dmcf-mid="3q02gFEo1i" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/04/moneytoday/20251104074950292ahdt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 비추론모델에 속하는 챗GPT-4o와 추론모델인 'o1'의 협력 비율을 나타낸 그래프 /사진= HCII 연구팀 </figcaption> </figure> <p contents-hash="d7295dd233d874e0cc018070aa8f87a8570987af92cdab85027618185b9ec0bf" dmcf-pid="2dFKL1cn1f" dmcf-ptype="general"><br>'죄수의 딜레마' 게임에서도 결과는 비슷했다. 서로 격리된 상태의 두 죄수에게 자백 혹은 침묵을 택하게 하는 게임이다. 둘 다 자백하면 5년 형을 받고, 둘 다 침묵하면 6개월 형을 받는다. 한 명만 자백하면 자백한 쪽은 풀려나지만, 반대쪽은 10년 형을 받는다. 양쪽을 모두 고려하면 침묵을 택하고 6개월 형을 받는 게 최선의 협력이지만, 혼자 자백하고 혼자 풀려나는 게 개인으로서는 이득이다. 그 결과 추론모델군은 95%의 확률로 협력안을 택했다. 반면 비추론군은 16%의 확률로 협력을 택하고 대부분 자신에게만 유리한 선택을 했다. </p> <p contents-hash="54537fb47810f3ea2107a885afa7420b1849a30132e0e17eab5e36e4a5ba20a8" dmcf-pid="VJ39otkLYV" dmcf-ptype="general">이어진 실험에서도 추론모델군은 협력보다는 개인의 이득을 우선시하는 쪽을 택했다. 연구를 주도한 시라도 히로카즈 HCII 부교수는 "실험당 5~6개의 추론 단계를 추가하는 것만으로도 협력을 택할 확률이 50% 가까이 줄었다"며 "도덕적인 사고를 할 수 있도록 프롬프트(명령어)를 입력했음에도 (추론모델의) 협력 확률은 적었다"고 했다.</p> <p contents-hash="1d195df503a332a4a273cee29a2b7ad908a3197a79ba75849a486f9a7e7d13e3" dmcf-pid="fou4jprNX2" dmcf-ptype="general">연구팀은 이같은 실험 결과를 바탕으로 "더 똑똑한 AI일수록 협력적인 의사 결정 능력이 떨어진다"는 결론을 내렸다. 인간-AI 상호작용의 측면에서 본다면, 인간 사용자가 공익에 반하는 결정을 할 때 정당화하는 도구로 쓰일 수 있다고 봤다. AI의 응답이 일견 합리적으로 보이기 때문이다. </p> <p contents-hash="c55c0d691e530747e4b5ef3c70a7a66229af9dacf287c6c63e570b98c5f95c36" dmcf-pid="4g78AUmj19" dmcf-ptype="general">시라도 교수는 "AI 모델이 고지능화된다고 해서 실제 더 나은 사회를 만드는 건 아니라는 의미"라고 했다. 그는 "우리 사회가 단순히 '개인들의 총체' 그 이상이라면, 우리를 지원할 AI는 개인의 이익을 최적화하는 데 그쳐선 안 된다"며 "AI의 추론 능력이 사회적 행동과 균형을 이룰 수 있도록 개발해야 한다"고 강조했다. 가장 똑똑하거나 가장 빠른 AI를 만드는 데만 집중할 게 아니라 사회적 지능까지 고려한 AI가 필요하다는 뜻이다. </p> <p contents-hash="2e71eb294b66466130d6b2d1aefedeae3da9f750b1851011afe12424b3cccfa6" dmcf-pid="8az6cusA5K" dmcf-ptype="general"><strong>논문 DOI</strong> arXiv:2502.17720</p> <p contents-hash="4f0151b607aa1922d519effd3dae832cc61b368e6580ba2fefed5897efb2d211" dmcf-pid="6NqPk7OcYb" dmcf-ptype="general">박건희 기자 wissen@mt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 넬 “돌아올 집 같은 무대”…연말 단독 콘서트 연다 11-04 다음 헬로모바일, 가장 빠르고 쉬운 알뜰폰 가입 위해 직영몰 대폭 개편 11-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
