“로봇이 칼들고 덤빌까 겁납니까?”…AI 대부는 ‘사소한 문제’라는데 작성일 10-13 59 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘인공지능 대부’ 얀 르쾽의 일침<br>글로 배운 LLM은 현실 모른다<br>행동결과 예측 월드모델이 대안<br>해킹·통제불능은 기업부주의탓<br>초지능이 세상 정복은 공상과학</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VOCzQrV7CC"> <figure class="figure_frm origin_fig" contents-hash="8743516d543f40dbddad6728dbfebf937139cbc783dc5103258ff0c519872a1c" dmcf-pid="fIhqxmfzyI" dmcf-ptype="figure"> <p class="link_figure"><img alt="12일 서울 웨스틴조선 호텔 서울에서 산업 AI 글로벌 협력 기자간담회가 열리고 있다. 이날 간담회에는 얀 르쾽 AMI Labs 회장, 크리스토퍼 응우옌 IIAC 총괄위원장, 앤서니 아눈지아타 AI 얼라이언스 공동의장, 지미 리 ASI 파운드리 회장이 참석했다. [한주형 기자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/mk/20261013062102273auqv.jpg" data-org-width="700" dmcf-mid="928wW9hDvl" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/mk/20261013062102273auqv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 12일 서울 웨스틴조선 호텔 서울에서 산업 AI 글로벌 협력 기자간담회가 열리고 있다. 이날 간담회에는 얀 르쾽 AMI Labs 회장, 크리스토퍼 응우옌 IIAC 총괄위원장, 앤서니 아눈지아타 AI 얼라이언스 공동의장, 지미 리 ASI 파운드리 회장이 참석했다. [한주형 기자] </figcaption> </figure> <div contents-hash="db11109fb6638207796cf904fcb28c98a31005ff40923222d3fa47f500bd051a" dmcf-pid="4ClBMs4qvO" dmcf-ptype="general"> 전 세계 인공지능(AI) 혁신에 공로를 세운 ‘4대 대부’ 중 한 명인 얀 르쾽 AMI랩스 회장(창업자)이 AI가 통제를 벗어나 세상을 장악한다는 시나리오를 ‘공상과학(SF)’이라고 일축했다. 그는 “지금 AI는 글로 배운 지식을 되풀이하는 수준으로 현실 세계는 이해하지 못한다”며 “다음 혁명은 행동의 결과를 예측하는 ‘월드 모델’에서 나올 것”이라고 내다봤다. </div> <p contents-hash="cf633e92dc3d6e1d4783eaf858f545d89a3d99bd2dc947c3125a1c3aacdc7569" dmcf-pid="8hSbRO8BCs" dmcf-ptype="general">르쾽 회장은 12일 서울 중구 웨스틴 조선 서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 “언어를 이해하는 AI를 만드는 일은 쉬웠지만 현실 세계를 이해하는 AI는 쉽지 않다는 게 드러났다”며 이같이 밝혔다.</p> <p contents-hash="1dc3bfcce53a9baba735b1b6852e0ae1e655778fe73dcfc3accfaefead167f9c" dmcf-pid="6lvKeI6bSm" dmcf-ptype="general">르쾽 회장은 “수학 정리를 증명하고 변호사 시험을 통과하는 AI는 있지만 열 살 아이가 따로 배우지 않고도 해내는 일을 할 수 있는 로봇은 아직 없다”고 짚었다. 그는 자율주행을 예로 들며 “10년 전 사람의 운전을 따라 하도록 학습시킨 자율주행차 시연이 쏟아졌지만, 운전 데이터가 수십억 시간 분량인데도 아직 완전한 자율주행차는 나오지 않았다”며 “이 방식(모방학습)만으로는 충분하지 않다는 뜻”이라고 설명했다.</p> <p contents-hash="2303f5da0ec85817a2c3f4df2e69de0e971779dc90eee9fdde8603077a6d4ce5" dmcf-pid="PST9dCPKyr" dmcf-ptype="general">원인으로는 예측 불가능성을 꼽았다. 르쾽 회장은 “언어와 달리 현실 세계의 정보는 대부분 예측할 수 없다”며 “카메라로 이 방을 천천히 비추다 멈추고 AI에게 다음 장면을 완성하라고 하면 여러분이 어떤 모습일지, 어느 자리가 차 있을지 예측할 방법이 없다”고 설명했다.</p> <p contents-hash="807b8e88d43f4206e3b66faa64e3f596352941fad278f1bd8a2db5e0c1ffe11c" dmcf-pid="Qvy2JhQ9lw" dmcf-ptype="general">르쾽 회장이 내놓은 해법은 월드 모델이다. 현재 상태에서 특정 행동을 하면 세상이 어떻게 바뀔지 예측해 목표 달성에 필요한 행동 순서를 계획하는 AI로, AMI랩스가 개발 중인 기술이다. 르쾽 회장은 “거대언어모델(LLM)과는 매우 다른 새 청사진”이라며 “자기 행동의 결과를 예측하지 못하면 AI가 적절하고 안전하게 행동할지 어떻게 확신할 수 있겠느냐”고 반문했다.</p> <figure class="figure_frm origin_fig" contents-hash="1029ba1aa50161491a4ae33875c2d64a0d298461e5be5c3efbd457c6e90b54a4" dmcf-pid="x7qgOpEohD" dmcf-ptype="figure"> <p class="link_figure"><img alt="12일 서울 웨스틴조선 호텔 서울에서 산업 AI 글로벌 협력 기자간담회가 열리고 있다. 이날 간담회에는 얀 르쾽 AMI Labs 회장, 크리스토퍼 응우옌 IIAC 총괄위원장, 앤서니 아눈지아타 AI 얼라이언스 공동의장, 지미 리 ASI 파운드리 회장이 참석했다. [한주형 기자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/mk/20261013062103546vypx.jpg" data-org-width="700" dmcf-mid="2jk1Kau5Th" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/mk/20261013062103546vypx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 12일 서울 웨스틴조선 호텔 서울에서 산업 AI 글로벌 협력 기자간담회가 열리고 있다. 이날 간담회에는 얀 르쾽 AMI Labs 회장, 크리스토퍼 응우옌 IIAC 총괄위원장, 앤서니 아눈지아타 AI 얼라이언스 공동의장, 지미 리 ASI 파운드리 회장이 참석했다. [한주형 기자] </figcaption> </figure> <div contents-hash="c5a6f9dea49ccf19820a952eaf5334f6caa65b5d31e1edc843d3ccc693517a35" dmcf-pid="ykDF2jztTE" dmcf-ptype="general"> 최근 국내 금융권 AI 해킹 사태로 AI 안전·보안 문제가 다시 부각됐다는 질문에 르쾽 회장은 “최근 몇 달 새 벌어진 사고는 AI 기업들이 에이전트를 배포하는 과정에서 부주의한 탓”이라며 “에이전트를 가둬두는 격리 실행 환경(샌드박스)에 빈틈이 있었다”고 답했다. 이어 “쉽게 고칠 수 있는 문제로, AI를 통제할 수 없어서 생긴 일이 아니다”고 덧붙였다. </div> <p contents-hash="27049d0bc80ecf65b26a01b12fe2a9cf7349fffbae063ed4df3c158b37ab1819" dmcf-pid="WEw3VAqFhk" dmcf-ptype="general">AI를 인류가 통제할 수 있느냐는 더 근본적인 질문으로 넘어가선 LLM의 구조적 한계를 짚었다. 르쾽 회장은 “LLM은 가능한 한 모든 질문에 위험하지 않은 답을 내도록 미세조정하는 방식으로 통제하는데, 질문은 무한해 이는 완전히 비현실적”이라며 “그래서 LLM이 해선 안 될 답을 내놓도록 ‘탈옥’시키기가 비교적 쉽다”고 설명했다.</p> <p contents-hash="3e0773dab63089f5012a984216e0e6f36dbdaf192e07ce3ef69e7b87ccdef5d9" dmcf-pid="YDr0fcB3hc" dmcf-ptype="general">대안으로는 월드 모델을 갖춘 ‘목적 지향형 AI’를 제시했다. 르쾽 회장은 “목표를 주면 AI는 가드레일(안전 규칙) 안에서만 목표를 수행할 수 있고, 가드레일은 실행 단계에서 반드시 충족돼야 하기 때문에 어길 수 없다”고 말했다. 가사 로봇이라면 ‘칼을 든 채 주변에 사람이 있으면 팔을 휘두르지 말라’는 규칙을 심는 식이다. 그는 “AI 안전은 공학의 문제”라며 “아마 터보제트 엔진을 안전하게 만드는 것보다 단순할 것”이라고 말했다.</p> <p contents-hash="d8629665ab3879e7ffbfc70aa204014bdbd0929774beff56ac20104cb9ec6639" dmcf-pid="Gwmp4kb0SA" dmcf-ptype="general">르쾽 회장은 초지능이 하루아침에 등장하는 일도 없다고 봤다. 그는 “AI 발전은 하나의 사건이 아니라 여러 혁신이 쌓이는 과정이고, 멀리서 보면 연속적인 진화처럼 보일 것”이라고 지적했다.</p> <p contents-hash="a140bf3666af9deb30912b7c84a268a37b661ae412f452c5436d6d97754b1e62" dmcf-pid="HrsU8EKpSj" dmcf-ptype="general">아울러 르쾽 회장은 반도체·조선·자동차 등 한국 주력 제조업을 언급하며 “이 산업들은 피지컬 AI의 등장으로 깊은 영향을 받을 것”이라며 “다음 혁명은 피지컬 AI, 로보틱스와 관련돼 있고, 한국은 이 분야에 오래 기여해온 전통이 있어 중요한 역할을 할 기회가 있다”고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 [AI프리즘] AI가 업무까지 척척…챗GPT·클로드, 협업툴 넘본다 10-13 다음 68조원 가치 ‘분산형 AI’ 시대 온다…인프라 시장은 이미 변화 중 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
