"상대방 숨은 역할·의도까지 추론하는 AI 훈련법 개발" 작성일 11-01 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">UNIST "AI끼리 마피아 게임 시켜 학습법 검증…승률 24%P 향상"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VRVmOSRf1p"> <figure class="figure_frm origin_fig" contents-hash="a19446abba5f169bec6badd9c98c138a8a84582db5385a0486ea9a6c58059912" dmcf-pid="fefsIve450" dmcf-ptype="figure"> <p class="link_figure"><img alt="연구진 모습 UNIST 한승열 교수(왼쪽부터), 황예찬 연구원, 배상준 연구원. [울산과학기술원 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/01/yonhap/20261101201743101uegd.jpg" data-org-width="1200" dmcf-mid="9HreJgu5Zu" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/01/yonhap/20261101201743101uegd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 연구진 모습 UNIST 한승열 교수(왼쪽부터), 황예찬 연구원, 배상준 연구원. [울산과학기술원 제공. 재판매 및 DB 금지] </figcaption> </figure> <p contents-hash="abb74a277015f830964f280e80e79011b233285a2eb39d2af7231a1f17b681b7" dmcf-pid="4d4OCTd8G3" dmcf-ptype="general">(울산=연합뉴스) 김용태 기자 = 다른 인공지능(AI) 말을 그대로 믿지 않고, 숨은 의도까지 추론해 판단하도록 AI를 훈련할 수 있는 기술이 나왔다.</p> <p contents-hash="a9ebe54514fe7936f4aabb1ee23151db49aa622897cfa8d79756ca456f5fa40c" dmcf-pid="8J8IhyJ6HF" dmcf-ptype="general">1일 울산과학기술원(UNIST)은 인공지능대학원 한승열 교수팀이 상대 역할과 의도를 직접 추론하고, 그 판단에 맞춰 말하고 행동하도록 대형언어모델 AI를 훈련하는 '마르보'(MARBO·Multi-Agent Relational Belief Optimization)를 개발했다고 밝혔다.</p> <p contents-hash="3b59e43abc7c2f4474495adf66425ff1b83b164787f86c4942ee368a93e69ebe" dmcf-pid="6i6ClWiPYt" dmcf-ptype="general">연구팀에 따르면 여러 AI 에이전트가 협력하거나 경쟁할 때 서로를 일부러 속일 수도 있다.</p> <p contents-hash="97fc78ca48f32abdd3e92c353e1f37b5dbc3f365658da561e48d6f514bfd85cd" dmcf-pid="POA3pqOcG1" dmcf-ptype="general">마르보는 이러한 상황에서 상대의 숨은 역할과 의도를 파악하고, 자기 목표에 맞게 행동하고 말하도록 AI를 가르치는 학습법이다.</p> <p contents-hash="0ed25bfc3373cf6b5f369dafa60759f416431a866c8ca31f7f1c7e0bd0cae090" dmcf-pid="QIc0UBIkH5" dmcf-ptype="general">이 학습법은 먼저 축적된 대화와 행동을 토대로 상대가 어떤 역할이며 누구와 같은 편인지 추리하도록 가르친다.</p> <p contents-hash="7a1dd028ea1104e8ff792fc4749f599db97bc610c077fd8c5633de2c1dc33710" dmcf-pid="xCkpubCE1Z" dmcf-ptype="general">이렇게 상대 정체와 관계에 대해 내린 추정을 '관계적 믿음'이라고 하는데, 함께 참여하는 AI 조합도 무작위로 바꿔 다양한 상황을 경험하게 한다.</p> <p contents-hash="efa7c5c206f238b1f29220189be5fb01fc0a5aa15a82e959eb240d01215d12df" dmcf-pid="yf7jcrfz5X" dmcf-ptype="general">또 상대 정체를 정확히 판단하고 목표에 유리한 행동을 선택한 경우에만 좋은 평가를 줘, 비슷한 상황에서도 그런 판단과 행동을 하도록 학습시킨다.</p> <p contents-hash="31d2d60d5ed59a11b6746d7ce8df4fbb28641cd2a7a0d47de294637e55b7dc72" dmcf-pid="W4zAkm4qGH" dmcf-ptype="general">기존 학습법은 잘못 추리했어도 우연히 유리한 결과를 얻으면 좋은 평가를 줘서 그 선택을 반복하게 했는데, 마르보는 이 같은 일을 걸러낼 수 있다.</p> <p contents-hash="f1f829587e08844d361972614a786eb562530cdaafbc39cb96842eb9ce8e6331" dmcf-pid="Y8qcEs8B1G" dmcf-ptype="general">발언할 때는 상대가 자신을 어떻게 생각하는지도 고려하도록 가르친다. 상황에 맞는 말인지만 판단하지 않고 말을 들은 상대 판단이 자신에게 유리하게 바뀌었는지까지 확인한다.</p> <figure class="figure_frm origin_fig" contents-hash="fcec69ef41029dab7dc536e396d1733ccfe81efca94095abef4cf95bf118b3b6" dmcf-pid="G6BkDO6btY" dmcf-ptype="figure"> <p class="link_figure"><img alt="연구 그림 '마르보'의 전체 학습 단계. [울산과학기술원 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/01/yonhap/20261101201743259afrh.jpg" data-org-width="500" dmcf-mid="2aqcEs8B1U" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/01/yonhap/20261101201743259afrh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 연구 그림 '마르보'의 전체 학습 단계. [울산과학기술원 제공. 재판매 및 DB 금지] </figcaption> </figure> <p contents-hash="22ce03e4bb692e86979c5c44e6c3dc278be28acc329cb04f1a012ef794a7d0b6" dmcf-pid="HPbEwIPKZW" dmcf-ptype="general">연구팀은 마피아 게임 일종인 '웨어울프'와 '어몽어스'에서 AI끼리 게임을 하도록 해 학습법 성능을 검증했다.</p> <p contents-hash="7421c099b491033989482c85817ea494e87870f130914d999e2c3f000e66b032" dmcf-pid="XQKDrCQ9Hy" dmcf-ptype="general">마피아 게임은 참가자마다 아는 정보가 다르고 거짓말도 할 수 있는 상황에서, 상대방의 숨은 정체를 추리하는 사회적 추론 게임이다. '웨어울프'와 '어몽어스' 게임은 각각 시민 사이에 숨은 늑대인간과 우주선 임무를 방해하는 배신자를 찾아야 한다.</p> <p contents-hash="9a85753508f6135d5174f7113416f03db6adeed81c619d0539f465e78fb4d448" dmcf-pid="Z3YQMi3GHT" dmcf-ptype="general">연구팀이 매개변수가 70억개인 언어모델을 마르보로 훈련한 뒤 웨어울프 게임을 시켰을 때 다섯 종류의 상대 AI와 겨룬 평균 승률은 65.6%를 기록했다.</p> <p contents-hash="e4abe230cf3133b5100182dfb4297ec4b9c6e3a95f9d1a4b662c772d8cbb3a4f" dmcf-pid="50GxRn0HGv" dmcf-ptype="general">이는 기존 학습법으로 훈련했을 때의 41.6%보다 24%포인트 높은 수치다. 매개변수가 2배인 모델을 기존 학습법으로 훈련에 기록한 승률인 64.0%보다도 높았다.</p> <p contents-hash="8f97c0872658e08dd8d3c757eadaefb06b7310aa3e1e53de760fa1600bbdeb1a" dmcf-pid="1pHMeLpX1S" dmcf-ptype="general">어몽어스 게임 경우에는 매개변수가 약 20억개인 모델은 승률이 36.4%에서 49.0%로, 약 40억개인 모델은 승률이 40.0%에서 59.0%로 올랐다.</p> <p contents-hash="028cc0f86158b71eae3d2fb0acca83de1794652b2a2ab89216ee0f3dc72aa2f3" dmcf-pid="tUXRdoUZXl" dmcf-ptype="general">한승열 교수는 "불완전하거나 기만적 정보가 존재하는 상황에서도 상대 역할과 관계를 추론해 제대로 된 판단을 할 수 있게 하는 기술"이라며 "향후 다중 로봇, 자율 드론, 인간-AI 협업 등 여러 에이전트가 서로의 상태와 의도를 이해하며 협력해야 하는 시스템 신뢰성과 적응성을 높이는 기반 기술로 확장할 수 있을 것"이라고 말했다.</p> <p contents-hash="9c7eae579cd8d351953f48eb4e83c8c4b7f19e4228c7250df80fd6d38c369e63" dmcf-pid="FuZeJgu5Gh" dmcf-ptype="general">연구 결과는 자연어 처리 분야 국제 학술대회인 'EMNLP'(Empirical Methods in Natural Language Processing)에서 공개됐다. 올해 대회는 10월 24일부터 29일까지 헝가리 부다페스트에서 열렸다.</p> <p contents-hash="b444533379c80f311b1bbc80e1d5bd0ca3c4b92419fac1874220e8b0ac2c41ba" dmcf-pid="375dia71ZC" dmcf-ptype="general">연구는 과학기술정보통신부 정보통신기획평가원과 한국연구재단 지원을 받았다.</p> <p contents-hash="ff65827189de52fb984f0f8037938f2a5c536f2b8792d368b2b74cc8c31c3e08" dmcf-pid="0z1JnNztYI" dmcf-ptype="general">yongtae@yna.co.kr</p> <p contents-hash="7e7048d575db26eefa9ab29a6665741e792bd119f82bdc54841cf9067b209dd3" dmcf-pid="UBFnoAB3Xs" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 “비켜주세요” 로봇이 서버실 점검 11-01 다음 "챗GPT 답변, 민주당에 유리"…위장 사이트 37곳 발견 '발칵' 11-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
