AI도 집단지성…다수결 원칙 따른다 작성일 08-16 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WxQWYT4qdh"> <figure class="figure_frm origin_fig" contents-hash="051faf60b409da0e175441d685be4de755b4717fb71552ccf40727f36386ddba" dmcf-pid="YMxYGy8BnC" dmcf-ptype="figure"> <p class="link_figure"><img alt="LLM 에이전트들은 다른 에이전트들을 참조해 다수의 의견을 따르는 경향을 보이는 것으로 나타났다. 게티이미지뱅크 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/16/dongascience/20260816080210739nwdw.jpg" data-org-width="680" dmcf-mid="yDEBbzjJel" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/16/dongascience/20260816080210739nwdw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> LLM 에이전트들은 다른 에이전트들을 참조해 다수의 의견을 따르는 경향을 보이는 것으로 나타났다. 게티이미지뱅크 제공 </figcaption> </figure> <p contents-hash="7baf9c3cf554ae6332b2d74225d3740ad2477667c38d569ab1df98d7d2ac7d2f" dmcf-pid="GRMGHW6biI" dmcf-ptype="general">인공지능(AI)도 집단을 이루면 사람처럼 다수의 의견을 따르는 것으로 나타났다. </p> <p contents-hash="1894acbbb1a5b61c75d0ca0d79b56c633931a0c80b66ce0b5a7ad07d6ee71aad" dmcf-pid="HrwK9BcndO" dmcf-ptype="general">조르다노 데 마르조 독일 콘스탄츠대 컴퓨터사회과학연구소 박사후연구원 연구팀은 대형언어모델(LLM) 에이전트들이 생물체 집단 현상인 ‘다수 따르기’를 통한 행동을 보인다는 점을 확인하고 연구결과를 14일 국제학술지 '사이언스 어드밴시스'에 발표했다. </p> <p contents-hash="e604d8a69d53d17b21a0acb2174a41313749168df8a48de17f29961274632916" dmcf-pid="Xmr92bkLLs" dmcf-ptype="general">사람뿐 아니라 조류, 어류, 심지어 곤충도 다수결 원칙을 따르는 것으로 알려져 있다. 물고기는 동료 물고기들의 움직임을 보고 많은 개체가 향하는 방향으로 이동하고 벌은 새로운 집터를 찾을 때 다수의 정찰벌들이 지지하는 장소를 택한다.</p> <p contents-hash="59ee61d0648d8ce016750ae1e13009183348d6ae186edfd675853279ffe50f9a" dmcf-pid="Zsm2VKEonm" dmcf-ptype="general">연구팀에 따르면 LLM 에이전트도 다수 의견을 선호해 채택하는 양상을 보였다. LLM 에이전트는 LLM을 두뇌처럼 사용해 스스로 판단하고 행동하는 AI다. 일반 LLM이 사용자 질문에 답변을 생성한다면 LLM 에이전트는 검색, 코드 실행, 다른 AI와의 협업 등을 통해 목표로 한 행동을 달성한다. </p> <p contents-hash="33ce47076affb623c797c4583aa71e60f2a6ed286c85ef18ae90dc91c15b322b" dmcf-pid="5OsVf9Dgir" dmcf-ptype="general">연구팀은 클로드 3.5 소네트, GPT-4 터보, 라마 계열, 미스트랄 계열 등 다양한 크기와 성능의 오픈소스 및 폐쇄형 LLM 모델을 이번 연구에 활용했다. 연구팀은 LLM 모델을 기반으로 LLM 에이전트를 만들고 1개에서 1000개까지 모인 LLM 에이전트 네트워크를 만들었다. </p> <p contents-hash="4b7340e753be4165f6ba2c87ce43a0638247796c9b5a3a00444be82db525e18e" dmcf-pid="1IOf42waMw" dmcf-ptype="general">그 다음 각 LLM 에이전트들에게 두 가지 옵션 중 하나를 선택하도록 프롬프트를 작성했다. 두 가지 옵션 중 어느 한쪽을 특별히 선호할 이유가 없는 대칭적이고 중립적인 옵션을 기반으로 했다.</p> <p contents-hash="18ce5e11fed60f598ae9ad7bdcfd6d1de484876952f28ad76c7332f6dac1d321" dmcf-pid="tCI48VrNRD" dmcf-ptype="general">각 LLM 에이전트들에게는 네트워크 내 다른 에이전트들이 선택한 옵션을 정보로 전달해 최종 선택을 내리도록 유도했다. </p> <p contents-hash="69d0f2cb4de713f2c1d215a1a0e45a2ef3c5366d033d64ae00e5373cf4b6ec2a" dmcf-pid="FhC86fmjeE" dmcf-ptype="general">그 결과, LLM 모델 종류와 네트워크 크기에 상관없이 모든 LLM 에이전트가 다수가 선택한 옵션을 우선적으로 채택했다. </p> <p contents-hash="dad1e63f65a8501fde9c0c198c1ffb769f381372d962651369cc21758408f5c8" dmcf-pid="3lh6P4sAek" dmcf-ptype="general">이번 연구는 수많은 AI 에이전트가 협력하는 다중 에이전트 시스템을 설계할 때 참조가 될 수 있다. 중앙에서 모든 에이전트를 통제하는 시스템을 구축할 필요 없이 에이전트 간 상호작용만으로 합의 도출이 가능한 고효율 시스템을 만들 수 있다는 것이다. </p> <p contents-hash="d31ed05a458eb1ea4a2c71efee59950b4daf0479f1b9b88245e2ddb2c6c3c293" dmcf-pid="0SlPQ8OcRc" dmcf-ptype="general">또다른 관점에서 이번 연구는 AI가 집단 편향의 위험성을 갖고 있다는 의미이기도 하다. 연구팀은 “집단 전체가 잘못된 결론에 동조할 수 있다”며 “다중 에이전트 생태계를 안전하게 운용하기 위한 외부 검증 모듈을 두는 등의 방안이 필요하다”고 설명했다. </p> <p contents-hash="71a4a64dcc608f96de014a48e10589cccaa595b27d1b5c5b95e75a69af621127" dmcf-pid="pvSQx6IkLA" dmcf-ptype="general"> <참고 자료><br> doi.org/10.1126/sciadv.aea6091</p> <p contents-hash="745ec117b826f571fd3e7e5073e9ea207d90d07dc3d97ea7a71d8a996b59019a" dmcf-pid="UTvxMPCEMj" dmcf-ptype="general">[문세영 기자 moon09@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 쇠약해진 탐사선 향해 214억㎞ 날아간 긴급 처방…“전기 다이어트해” 08-16 다음 넓고 오래된 우주, 외계인은 왜 보이지 않을까 08-16 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
