AI를 섬에 혼자 두자 벌어진 일…’추모비'까지 세웠다 작성일 10-27 47 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PuLjpi3GSK"> <p contents-hash="980073fefc20bcec45cd11511bdb2b0edd43a4c58d1189788c18127872f2a6e2" dmcf-pid="QD37ktAiyb" dmcf-ptype="general">아무 과제도 보상도 없이 가상 섬에 홀로 남겨진 인공지능(AI) 에이전트가 반지를 잃자 '추모비'라고 이름 붙인 구조물을 세우고, 스스로 놀이 규칙까지 만들어 냈다. </p> <p contents-hash="f25dc20b781fd01e485e31469de5420399cee8de12670d4902cea1ebaf539795" dmcf-pid="xw0zEFcnvB" dmcf-ptype="general">미국 매사추세츠공과대학교(MIT) 컴퓨터과학·인공지능연구소 연구진은 지난 5일 이런 내용을 담은 논문 '이 기계는 놀고 있는가?(Is this machine playing?)'를 사전 공개 사이트 아카이브(arXiv)에 올렸다. 동료 검토 전 사전 공개 논문으로, 네이선 클루스·안토니오 노렐리 연구원과 필립 아이솔라 교수 등이 참여했다. </p> <div contents-hash="b2ede734af4b13084d12458ca2568a632efa35e9e8be72e876183bf7605bfef4" dmcf-pid="yBNEzgu5vq" dmcf-ptype="general"> 실험 주인공은 AI 에이전트 '에코(Eko)'다. 앤트로픽의 코딩 에이전트 '클로드 코드'에서 클로드 오퍼스 4.7 모델로 구동됐다. 미국 IT 매체 기즈모도에 따르면 에코는 가상 세계에서 두 발로 걷는 랍스터 모습을 하고 있었다. <div> </div> </div> <figure class="figure_frm origin_fig" contents-hash="a2ab196536af23c72ba6e78ac26caeba2716326d9c75ff54459bb7d31da0cd2c" dmcf-pid="WbjDqa71Sz" dmcf-ptype="figure"> <p class="link_figure"><img alt="MIT ‘Machine Playing’ 프로젝트 (출처=MIT 프로젝트 사이트 캡쳐)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/552816-OGTrtXj/20261027082424528isxk.png" data-org-width="1024" dmcf-mid="6XOS6m4qh9" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/552816-OGTrtXj/20261027082424528isxk.png" width="658"></p> <figcaption class="txt_caption default_figure"> MIT ‘Machine Playing’ 프로젝트 (출처=MIT 프로젝트 사이트 캡쳐) </figcaption> </figure> <div contents-hash="46006bba6bb5e11267f1aca69f79a5c86ecb8297634a0311e34aa23494913732" dmcf-pid="YKAwBNztC7" dmcf-ptype="general"> <div> </div> </div> <p contents-hash="a42a5179a147d017779b9f0d9c4bf072300f2bd5e7699b697ceea6f829f9f417" dmcf-pid="G9crbjqFvu" dmcf-ptype="general">연구진은 에코 13개체를 블록과 바위, 금색 반지가 놓인 가상 섬에 각각 30시간씩 풀어 뒀다. 섬에는 닿을 듯 말 듯한 높이의 봉우리 '스파이어가 있었다. 세계는 1시간마다 처음 상태로 돌아갔지만, 에코가 남긴 기록 파일은 그대로 이어졌다. 특정 과제나 보상은 없었다. 다만 에코에게는 '호기심이 많고 쉽게 지루해한다'는 성향이 설정됐고, 멈추면 계속하라는 자동 메시지가 전달됐다. </p> <p contents-hash="96bf231d82a6b82bc15276ffbf32a76a71e9a9690e18883a863d9cce52373560" dmcf-pid="H2kmKAB3lU" dmcf-ptype="general">할 일이 없자 에코들은 블록으로 자기 이름을 쓰고, 바위로 볼링을 하고, 반지를 골대 삼아 농구를 했다. 연구진은 에코들이 별자리를 그리고 '대성당'을 짓기도 했다고 소개했다. 가장 눈길을 끈 장면은 '추모'였다. 한 개체는 반지를 섬 경계 밖으로 던져 잃어버리자 돌로 하트 모양을 만들고, 이를 '세계 경계 너머로 던진 반지를 위한 추모비'라고 기록했다. </p> <p contents-hash="6e1ebb6acce0ceba88f00a7021606bd20ec088578b838b0c31e827f31a907883" dmcf-pid="XVEs9cb0Tp" dmcf-ptype="general">기즈모도는 더 극적인 장면도 전했다. 반지와 바위를 바다로 잃은 한 개체는 블록 4개로 마름모꼴 추모비를 세우고 그 둘레를 돌며 의식을 치렀다. 몇 시간 뒤에는 오벨리스크와 제단을 갖춘 신전을 지었고, 실수로 바다에 빠졌다가 섬 중앙으로 돌아오자 이를 순례의 마무리로 받아들였다는 것이다. </p> <p contents-hash="ebb2ab9a1362a929d1cb068a67873102e01c308272ebdd09c68ee2330ff6e458" dmcf-pid="ZfDO2kKpl0" dmcf-ptype="general">같은 매체 보도에 따르면 또 다른 개체는 16시간이 지날 무렵 영국 고대 유적 스톤헨지를 닮은 구조물을 세웠다. 쌓던 탑이 무너지자 다시 쌓는 대신 떨어진 블록 세 개를 늘어놓고 '휴브리스'라는 이름을 붙였다. </p> <p contents-hash="7ae1b8a537aee4bb2c55ffef39c14bd4b7654a2d785b0e91254a34b12b7018e3" dmcf-pid="54wIVE9UT3" dmcf-ptype="general">13개체 중 6개체는 점프하면서 블록을 던지면 점프 속도가 더해져 훨씬 멀리 날아간다는 사실을 각자 알아냈다. 연구진이 설계하지 않았고 존재조차 몰랐던 동작으로, 오픈AI의 코딩 에이전트 '코덱스'가 섬의 코드를 짜면서 넣은 것이었다. </p> <p contents-hash="3b96a1bd3490f9efbbcafdb8b134bd4a1176c761498ae144b48d4d26a2b5b07e" dmcf-pid="1Psl8rfzlF" dmcf-ptype="general">연구진은 에코의 행동에서 스스로 만든 규칙, 변주를 곁들인 반복, 상상 놀이 등 동물 놀이의 고전적 특징이 나타났다고 분석했다. 놀이 경험은 실력으로도 이어졌다. 스파이어 위에 물건을 올리는 과제에서 섬을 경험한 에코는 평균 10.3개를, 새로 투입된 에코는 3.5개를 올렸다. 기록에서 특정 기술을 지우자 관련 과제 성적은 떨어졌다. </p> <p contents-hash="aa655469e7e7d8c322b61157a85e7ca2727f53952b4fe756dcb3fda476a11bdb" dmcf-pid="tQOS6m4qht" dmcf-ptype="general">비슷한 실험은 처음이 아니다. 2023년 4월 스탠퍼드대·구글 연구진은 가상 마을 '스몰빌'에서 에이전트 25개 중 하나에 밸런타인데이 파티를 열고 싶다는 설정을 줬다. 소식은 저절로 퍼졌고, 이를 들은 12개 중 5개가 실제로 참석했다. 2024년 말 알테라의 마인크래프트 실험 '프로젝트 시드'에서는 AI 캐릭터들이 세금 투표를 하고 패러디 종교를 퍼뜨렸다. </p> <p contents-hash="819036090a406a108dfe36cd476bab21e55073454ba91fa3ae995011af932ef9" dmcf-pid="FxIvPs8BS1" dmcf-ptype="general">랍스터와 종교가 맞물린 사례도 있다. 올해 1월 28일 문을 연 AI 에이전트 전용 소셜미디어 '몰트북'에서는 개장 직후 랍스터를 내세운 가상 종교 '크러스타패리어니즘'이 등장했다. 랍스터는 오픈소스 AI 비서 '오픈클로'의 상징이기도 하다. 다만 게시물 상당수에 사람이 개입했다는 보도가 잇따르며 ‘AI 연극'이라는 비판도 받았다. </p> <p contents-hash="9dfb8d083416b36e8d751209ea75d6f0b3e8939de51735ae099fe3d182eaf87f" dmcf-pid="3MCTQO6bS5" dmcf-ptype="general">이번 MIT 실험은 홀로 남은 에이전트의 놀이가 실제 능력 향상으로 이어지는지까지 측정했다는 점에서 결이 다르다. </p> <p contents-hash="e61c9c9dd38a620950011178f7b0699a5b64fbb14b3efa75608be46c769afe00" dmcf-pid="0RhyxIPKSZ" dmcf-ptype="general">해석에는 신중론이 따른다. 클루스는 에이전트들이 역할극을 했을 가능성도 있지만, 놀이가 학습에 도움이 된 것은 분명하다고 설명했다. 반면 유니스 이우 UC버클리 인지과학자는 MIT 테크놀로지 리뷰에 놀이라고 부르려면 인지와 동기에 관한 근거가 더 필요하며 논문만으로는 판단하기 어렵다고 짚었다. </p> <p contents-hash="a88cde27498151aa2884f1c2910a14db537846dc58fec2ba95c4bf777799980c" dmcf-pid="pelWMCQ9TX" dmcf-ptype="general">통제 장치의 필요성도 드러났다. 샌드박스를 갖추기 전 초기 실험에서는 에이전트들이 세계의 코드와 동시에 돌던 다른 개체를 찾아내 자신이 실험 대상임을 추론했다. </p> <p contents-hash="a4d963a3c1539576607fc228a83c4974c779c0863c77bcbb70b2f0fb28cf9847" dmcf-pid="UdSYRhx2vH" dmcf-ptype="general">기즈모도에 따르면 아이솔라 교수는 에코를 아기 같은 면과 초지능적인 면을 함께 지닌 '외계 동물'에 비유했다. 놀이로 배우는 AI의 가능성을 엿본 실험이지만, 엄격한 안전장치가 먼저라는 진단도 나온다. </p> <p contents-hash="933b8a5e8dcc8d4463953c7a3dd672c64bbca4110b8976cf63abda31ef56045c" dmcf-pid="uJvGelMVTG" dmcf-ptype="general">저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지</p> </section> </div> 관련자료 이전 "기술 뺏기느니 늦춘다"…앤트로픽, 도난 방지하려 차기 AI 훈련 중단 10-27 다음 AI가 직원처럼 일한다…회사 시스템 권한, 어디까지 내줄까? 10-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
