상대 거짓말·숨은 의도 추론 AI 훈련법…'마피아 게임' 승률↑ 작성일 11-02 6 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="FFpUUe1ydW"> <figure class="figure_frm origin_fig" contents-hash="4ff2cb3e2e3df76814d196f694eecff02740a59bc78c7dc590df4d7fad75ac75" dmcf-pid="33UuudtWny" dmcf-ptype="figure"> <p class="link_figure"><img alt="'어몽어스(Among Us)'은 우주선 승무원 사이에 숨어든 배신자를 찾아내는 멀티플레이어 게임이다. 참가자마다 아는 정보가 다르고 거짓말도 할 수 있는 상황에서 숨겨진 정체를 추리하는 사회적 추론 게임으로 분류된다. Innersolth 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/02/dongascience/20261102112924384pueq.png" data-org-width="680" dmcf-mid="1Pmss3kLMG" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/02/dongascience/20261102112924384pueq.png" width="658"></p> <figcaption class="txt_caption default_figure"> '어몽어스(Among Us)'은 우주선 승무원 사이에 숨어든 배신자를 찾아내는 멀티플레이어 게임이다. 참가자마다 아는 정보가 다르고 거짓말도 할 수 있는 상황에서 숨겨진 정체를 추리하는 사회적 추론 게임으로 분류된다. Innersolth 제공 </figcaption> </figure> <p contents-hash="7b73b0dfbd53e1d825cd7e6cf863d3b9bdcb464e9c3022c16ab57e42840d920d" dmcf-pid="00u77JFYiT" dmcf-ptype="general">국내 연구팀이 다른 인공지능(AI)의 거짓말이나 숨은 의도 등을 파악해 추론하도록 하는 AI 모델 훈련법을 개발했다. 새로운 훈련을 수행한 AI 에이전트는 상대의 정체를 알아내거나 자신의 정체를 숨겨야 하는 '마피아 게임'에서 평균 승률이 기존 학습법의 41.6%에서 65.6%로 높아졌다. </p> <p contents-hash="307fe9922c1dc154ec2ea826456d703184ac4f42b84e42295b4aef887b3df1a7" dmcf-pid="pp7zzi3GJv" dmcf-ptype="general"> 울산과학기술원(UNIST)은 한승열 인공지능대학원 교수팀이 상대의 역할과 의도를 직접 추론하고 판단에 따라 말하고 행동하도록 대형언어모델(LLM)을 훈련하는 기술인 '마르보(MARBO, Multi-Agent Relational Belief Optimization)'를 개발했다고 1일 밝혔다. 연구결과는 10월 24일부터 29일까지 헝가리 부다페스트에서 열린 자연어 처리 분야 국제학술대회 'EMNLP'에 채택됐다.</p> <p contents-hash="a77d32004f46dc2d675d57b6c30b26a87c092bbeece70fde0874d398b2cee30a" dmcf-pid="UUzqqn0HdS" dmcf-ptype="general"> 다수의 AI 에이전트가 협력 또는 경쟁할 때는 소통 부족으로 정보가 부족하거나 의도적으로 속이는 상황이 발생할 수 있다. 연구팀은 상대의 숨은 역할과 의도를 파악하고 자신의 목표에 맞게 행동하고 말하도록 하는 학습법을 개발했다.</p> <p contents-hash="277d63da31dc53cee445133879e4cef5744fab3ef0f40d8e5e38dad4efce81cb" dmcf-pid="uuqBBLpXdl" dmcf-ptype="general"> 먼저 AI가 축적된 대화와 행동을 바탕으로 상대가 어떤 역할이고 누구와 같은 편인지 추리하도록 했다. 함께 참여하는 AI의 조합을 무작위로 바꿔 가며 다양한 상황을 경험한다. 상대의 정체를 정확히 판단하고 목표에 유리한 행동을 선택한 경우에만 좋은 평가를 줘 비슷한 상황에서도 그런 판단과 행동을 하도록 학습시킨다. </p> <p contents-hash="a5d9db92db6c7d6b8189f18bc285eaf1c231cfb759628f1ea716624864802fda" dmcf-pid="78Qxxrfzih" dmcf-ptype="general"> 기존 학습법은 잘못 추리해도 우연히 유리한 결과를 얻으면 좋은 평가를 줘 해당 선택을 반복하는 경우가 발생한다. 마르보는 이런 상황을 방지할 수 있다.</p> <p contents-hash="13719c9426d0941260c99f8483444e51b9df0016e52a4e4d01a495c258ab17ed" dmcf-pid="z6xMMm4qnC" dmcf-ptype="general"> 발언할 때는 상대가 자신을 어떻게 생각하는지도 고려하도록 가르친다. 상황에 맞는 말인지만을 판단하는 것이 아니라 내용을 들은 상대의 판단이 자신에게 유리하게 바뀌었는지까지 확인한다.</p> <p contents-hash="199d2b116e5050d818a5d3ef18e2dbdb9ce1a2ca2540f3b4bb1e1f5196c5282c" dmcf-pid="qPMRRs8BJI" dmcf-ptype="general"> 연구팀은 마피아 게임의 일종인 온라인게임 '웨어울프'와 '어몽어스'에서 AI 에이전트끼리 게임을 하도록 해 마르보 학습법의 성능을 검증했다. 마피아 게임은 참가자마다 아는 정보가 다르고 거짓말도 할 수 있는 상황에서 숨겨진 정체를 추리하는 사회적 추론 게임이다. 웨어울프와 어몽어스는 각각 시민 사이에 숨은 늑대인간과 우주선의 임무를 방해하는 배신자를 찾는 게임이다.</p> <p contents-hash="371facb848d7644aa06b4624a611a229811c947327828feb2075adb4f78b079d" dmcf-pid="BQReeO6bRO" dmcf-ptype="general"> AI 모델의 규모 단위인 매개변수가 70억개인 언어모델을 마르보로 훈련한 뒤 웨어울프 게임을 시킨 결과 다섯 종류의 상대 AI와 겨룬 평균 승률은 65.6%를 기록했다. 기존 학습법으로 훈련했을 때의 41.6%보다 24%포인트 높은 수치다. 매개변수가 2배인 모델을 기존 학습법으로 훈련해 기록한 승률인 64.0%보다도 높다.</p> <p contents-hash="72ccfdb06ee7ca76b85d7c8568df64ba84084b345630e0955e43a019d2e98c71" dmcf-pid="bxeddIPKds" dmcf-ptype="general"> 어몽어스에서는 매개변수가 약 20억개인 모델은 학습 이후 승률이 36.4%에서 49.0%로, 약 40억 개인 모델은 승률이 40.0%에서 59.0%로 올랐다.</p> <p contents-hash="f1ecb1b9b1010a5de1078abc6b24964cff8b3a6d4594944662693e814aa2bb08" dmcf-pid="KMdJJCQ9em" dmcf-ptype="general"> 논문 제1저자인 황예찬 UNIST 인공지능대학원 석사과정 연구원은 "기존처럼 특정 게임에만 적용되는 학습법이 아니라 상대의 역할과 관계에 대한 추론인 '관계적 믿음'을 바탕으로 전체적인 맥락을 이해하고 이를 학습에 반영하도록 하는 새로운 접근"이라고 설명했다.</p> <p contents-hash="950d5d010cc40810725bb30b935bfa014a3fe762f9ec5d3b3108ed04819445ff" dmcf-pid="9RJiihx2nr" dmcf-ptype="general"> 한 교수는 "불완전하거나 기만적인 정보가 존재하는 상황에서도 상대의 역할과 관계를 추론하며 제대로 된 판단을 할 수 있게 하는 기술"이라며 "향후 다중 로봇, 자율 드론, 인간-AI 협업 등 여러 에이전트가 서로의 상태와 의도를 이해하며 협력해야 하는 시스템의 신뢰성과 적응성을 높이는 기반 기술로 확장될 수 있을 것"이라고 밝혔다.</p> <p contents-hash="fee7918261d49c30a70b95bc49b9983ec1962ddd192631095127d2c048d482a6" dmcf-pid="2einnlMVJw" dmcf-ptype="general"> <참고 자료><br> - doi.org/10.48550/arXiv.2609.06563</p> <figure class="figure_frm origin_fig" contents-hash="9a55f9d8ec773cd80c10f49dcfa5981e34c9c80a7ae5c37a6ce84f94d6b2dc56" dmcf-pid="VdnLLSRfLD" dmcf-ptype="figure"> <p class="link_figure"><img alt="왼쪽부터 한승열 UNIST 교수, 황예찬 연구원, 배상준 연구원. UNIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/02/dongascience/20261102112925662inue.jpg" data-org-width="680" dmcf-mid="t0488kKpJY" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/02/dongascience/20261102112925662inue.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 왼쪽부터 한승열 UNIST 교수, 황예찬 연구원, 배상준 연구원. UNIST 제공 </figcaption> </figure> <p contents-hash="e20777700dba62506151d983697d1cd6793e4a37456186e123437e70a228ae3c" dmcf-pid="fJLoove4dE" dmcf-ptype="general">[이병구 기자 2bottle9@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 [IT과학칼럼] 넥스트<NEXT>의 열매가 다음<NEXT> 정부까지 이어지길 기대하며 11-02 다음 신경은 다 나았는데 통증은 왜 계속될까…만성 통증 원인 단백질 발견 11-02 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
