거짓말하는 AI도 꿰뚫는다…UNIST, 상대 의도 읽는 AI 학습법 개발 작성일 11-02 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">마피아 게임서 승률 41.6%→65.6%…24%p 향상<br>상대 발언·행동 분석해 숨은 역할과 관계 추론<br>다중 로봇·자율 드론 등 AI 협업 분야 활용 기대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ZgQWXxXSIP"> <p contents-hash="2d513f6c614ca5107910cee66f3f0996297b22fac0ff9afefec883145e9c093d" dmcf-pid="5L6TGPGhO6" dmcf-ptype="general"> [이데일리 김현아 기자] 인공지능(AI)이 다른 AI의 말을 무조건 믿지 않고 행동과 과거 대화까지 분석해 숨은 의도를 파악하는 기술이 개발됐다. 상대가 거짓 정보를 흘리는 상황에서도 누구를 믿고 경계해야 할지 판단하도록 AI를 훈련하는 기술이다.</p> <p contents-hash="1f49b6dce5c2037fce3f9cfb5fbf7b01c3a8b04135f19ac93c5c5c8b2ed0cb7a" dmcf-pid="1oPyHQHlD8" dmcf-ptype="general">울산과학기술원(UNIST) 인공지능대학원 한승열 교수팀은 상대 AI의 역할과 관계를 추론하고, 이를 바탕으로 말과 행동을 결정하도록 대형언어모델(LLM)을 훈련하는 기술 ‘마르보(MARBO)’를 개발했다고 1일 밝혔다. 연구 결과는 자연어 처리 분야 국제학술대회인 EMNLP에 채택됐다.</p> <figure class="figure_frm origin_fig" contents-hash="3323ebe8d20928e2bd6a843b0ea36ad962bbaf9370d02a869452df355f94ba3c" dmcf-pid="tgQWXxXSO4" dmcf-ptype="figure"> <p class="link_figure"><img alt="[연구진사진] (좌측부터) 한승열 교수, 황예찬 연구원, 배상준 연구원. 사진=UNIST" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/02/Edaily/20261102071029628jwum.jpg" data-org-width="1280" dmcf-mid="HBHjE0Eosx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/02/Edaily/20261102071029628jwum.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [연구진사진] (좌측부터) 한승열 교수, 황예찬 연구원, 배상준 연구원. 사진=UNIST </figcaption> </figure> <div contents-hash="426b8aa7db2ba4cac8c365bec543db1eee63fa7728f504c2fdb2222d8b27cae2" dmcf-pid="FaxYZMZvDf" dmcf-ptype="general"> 기존 AI는 다른 에이전트의 발언이나 행동을 관찰하고, 비슷한 상황에서 성공한 행동 패턴을 학습하는 방식이 주를 이뤘다. 그러나 상대가 거짓 정보를 제공하거나 실제 의도와 다른 행동을 하면 잘못 판단할 수 있다. 우연히 좋은 결과를 얻은 행동까지 정답으로 학습하는 한계도 있었다. </div> <p contents-hash="1b9d7644b28504993229f9727e3dd051f87b8e8a21c7584d646f64f46f9f8c9b" dmcf-pid="3NMG5R5TwV" dmcf-ptype="general">마르보는 상대의 발언과 행동, 과거 상호작용을 종합해 숨은 역할과 관계를 추론한다. 연구팀은 이를 ‘관계적 믿음’이라고 정의했다. 상대가 같은 편인지, 속이려는 상대인지 판단하고 새로운 정보가 들어오면 추론을 갱신하는 방식이다.</p> <p contents-hash="4ec339b349c3970a25df3e3771a814b94e5979ffaa081ff493c6114e94e8dabe" dmcf-pid="0jRH1e1yO2" dmcf-ptype="general">이렇게 파악한 관계는 행동과 발언에도 반영된다. 상대의 정체를 정확하게 추론하고 목표 달성에 유리한 행동을 선택했을 때 높은 평가를 주도록 학습한다. 발언할 때도 상대가 자신을 어떻게 생각하는지 고려해 상대의 판단을 자신에게 유리한 방향으로 바꾸는 전략을 익힌다.</p> <figure class="figure_frm origin_fig" contents-hash="0178347bc41dda04fdb0b5d7950eaf7f2e14973bead90b730b8144da8809df2e" dmcf-pid="pAeXtdtWE9" dmcf-ptype="figure"> <p class="link_figure"><img alt="여러 AI 에이전트가 함께하는 상황에서 기존 대형언어모델 AI에이전트의 실패 패턴. 마피아 게임과 같은 다중 에이전트 환경에서의 실패 패턴을 나타낸다. (a) 논리적인 비약이 포함된 다른 에이전트 발언을 그대로 믿는 경우 (b) 자신이 추론한 관계적 믿음과는 일치하지 않는 행동을 하는 경우. 상대의 정체를 어떻게 추리했는지보다 투표 결과가 유리했는지를 중심으로 학습해, 1번이 의심스럽다고 판단했어도 3번을 지목할 수 있다. (c) 자신의 발화가 다른 에이전트에게 미치는 영향을 충분히 고려하지 못한 경우. 그림=UNIST" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/02/Edaily/20261102071030881umzg.jpg" data-org-width="586" dmcf-mid="XentpLpXsQ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/02/Edaily/20261102071030881umzg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 여러 AI 에이전트가 함께하는 상황에서 기존 대형언어모델 AI에이전트의 실패 패턴. 마피아 게임과 같은 다중 에이전트 환경에서의 실패 패턴을 나타낸다. (a) 논리적인 비약이 포함된 다른 에이전트 발언을 그대로 믿는 경우 (b) 자신이 추론한 관계적 믿음과는 일치하지 않는 행동을 하는 경우. 상대의 정체를 어떻게 추리했는지보다 투표 결과가 유리했는지를 중심으로 학습해, 1번이 의심스럽다고 판단했어도 3번을 지목할 수 있다. (c) 자신의 발화가 다른 에이전트에게 미치는 영향을 충분히 고려하지 못한 경우. 그림=UNIST </figcaption> </figure> <div contents-hash="bea39010c86408fc14c23dc6524ddaece086caa9717cb472ad2e3cf106fc440f" dmcf-pid="UcdZFJFYEK" dmcf-ptype="general"> <strong>마피아 게임 승률 24%p 높여</strong> </div> <p contents-hash="88ab843947d4af25a0be9cae4c3652da1fe7598d61bb2c07b19212354c6e2a85" dmcf-pid="uro3ugu5wb" dmcf-ptype="general">연구팀은 마피아 게임의 일종인 ‘웨어울프’와 ‘어몽어스’에서 AI끼리 대결하도록 해 성능을 검증했다.</p> <p contents-hash="db6b500a03327603961c98deaea7970bfe2724376acc891d941612f971b2cc09" dmcf-pid="7mg07a71wB" dmcf-ptype="general">웨어울프 게임에서 매개변수 70억개 규모의 언어모델에 마르보를 적용한 결과, 다섯 종류의 상대 AI를 대상으로 한 평균 승률이 65.6%를 기록했다. 기존 학습법을 적용한 모델의 승률 41.6%보다 24%포인트 높았다. 상대가 시민 편인지 늑대인간 편인지 구분하는 정확도도 44.8%에서 66.0%로 개선됐다.</p> <p contents-hash="ee8f0e264e3a3cf6e8847bd063cfe09691e2f7511b129b8eb055418845eb9908" dmcf-pid="zsapzNztEq" dmcf-ptype="general">마르보를 적용한 70억개 매개변수 모델은 기존 학습법으로 훈련한 매개변수 2배 규모의 모델(승률 64.0%)보다도 높은 승률을 보였다.</p> <p contents-hash="85ca7941c0ad38f07f53a6c957396c87c17585f480e0c15a4691775a12b2a894" dmcf-pid="qONUqjqFDz" dmcf-ptype="general">어몽어스에서도 성능이 향상됐다. 유효 매개변수 약 20억개 모델의 승률은 36.4%에서 49.0%로, 약 40억개 모델은 40.0%에서 59.0%로 높아졌다.</p> <p contents-hash="b90558b53b390cd1ef3f97c14770047a981898f203171da64492481910ddae3a" dmcf-pid="BIjuBAB3O7" dmcf-ptype="general">이번 연구는 AI가 단순히 성공한 행동을 반복하는 데서 벗어나 다른 AI의 역할과 관계를 추론하고 이를 의사결정에 활용하도록 학습했다는 데 의미가 있다.</p> <p contents-hash="45216be5d54438c221e8c99e82b9c26210d7b4c17abdafbc4812ed64a6632868" dmcf-pid="bCA7bcb0Du" dmcf-ptype="general">한승열 교수는 “불완전하거나 기만적인 정보가 있는 상황에서도 상대의 역할과 관계를 추론해 올바른 판단을 내릴 수 있게 하는 기술”이라며 “다중 로봇과 자율 드론, 인간과 AI의 협업 등 여러 에이전트가 서로의 상태와 의도를 이해해야 하는 시스템으로 확장할 수 있을 것”이라고 말했다.</p> <p contents-hash="6effd6a378ee01cb69c26fe582d741f53ecfee3602e5611ebab311bae0c6125e" dmcf-pid="KhczKkKprU" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 '싸우기보다 힘 합친다'…슈팅게임, '경쟁'에서 '협동'으로 11-02 다음 스마트 TV서 기능 삭제, 인스타서 릴스 삭제… AI 활용한 ‘빼기 테크’가 뜬다 11-02 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
