"AI가 인류 위협? 공상과학 같은 얘기" 작성일 10-12 57 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">딥러닝 40여년 연구 얀 르쾽 AMI랩스 회장<br>10년 공들여도 자율차 불완전<br>AI, 글로 배운 지식 반복할뿐<br>현실 세계 예측할 능력은 없어<br>해킹문제는 기업들 부주의 탓<br>통제할 수 없어 생긴일 아냐</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9TGQZD9USV"> <figure class="figure_frm origin_fig" contents-hash="cd65645614571eb02c21253e02f02cb3e04c92d0717137646528907226cd35ab" dmcf-pid="2yHx5w2uh2" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/mk/20261012172706749ubfd.jpg" data-org-width="1000" dmcf-mid="KigZjfvmvf" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/mk/20261012172706749ubfd.jpg" width="658"></p> </figure> <p contents-hash="ac84c998d6c30cadd843ac937cdbb0efeb64dac971dbfbbef8a0319546debfd6" dmcf-pid="V53nUhQ9S9" dmcf-ptype="general">전 세계 인공지능(AI) 혁신에 공로를 세운 '4대 대부' 중 한 명인 얀 르쾽 AMI랩스 회장(창업자)이 AI가 통제를 벗어나 세상을 장악한다는 시나리오를 '공상과학(SF)'이라고 일축했다. 그는 "지금 AI는 글로 배운 지식을 되풀이하는 수준으로 현실 세계는 이해하지 못한다"며 "다음 혁명은 행동의 결과를 예측하는 '월드 모델'에서 나올 것"이라고 내다봤다.</p> <p contents-hash="ad3f2ba409b2f4cba61e9aa55ef36a4f9527f4bac67bcadb6312133f534dfee4" dmcf-pid="f10Lulx2SK" dmcf-ptype="general">르쾽 회장은 12일 서울 중구 웨스틴 조선 서울에서 열린 '산업 AI 글로벌 협력' 기자간담회에서 "언어를 이해하는 AI를 만드는 일은 쉬웠지만 현실 세계를 이해하는 AI는 쉽지 않다는 게 드러났다"며 이같이 밝혔다.</p> <p contents-hash="b868ec04238691d4a4ec39d5178fcee3d52dfd92a46f8681cdff5b3080407950" dmcf-pid="4tpo7SMVCb" dmcf-ptype="general">르쾽 회장은 "수학 정리를 증명하고 변호사 시험을 통과하는 AI는 있지만 열 살 아이가 따로 배우지 않고도 해내는 일을 할 수 있는 로봇은 아직 없다"고 짚었다. 그는 자율주행을 예로 들며 "10년 전 사람의 운전을 따라 하도록 학습시킨 자율주행차 시연이 쏟아졌지만, 운전 데이터가 수십억 시간 분량인데도 아직 완전한 자율주행차는 나오지 않았다"며 "이 방식(모방학습)만으로는 충분하지 않다는 뜻"이라고 설명했다.</p> <p contents-hash="80c758f04914b411f8463ae249823636c97e3ccd03878c219e1d20e69c84db35" dmcf-pid="8FUgzvRfSB" dmcf-ptype="general">원인으로는 예측 불가능성을 꼽았다. 르쾽 회장은 "언어와 달리 현실 세계의 정보는 대부분 예측할 수 없다"며 "카메라로 이 방을 천천히 비추다 멈추고 AI에게 다음 장면을 완성하라고 하면 여러분이 어떤 모습일지, 어느 자리가 차 있을지 예측할 방법이 없다"고 설명했다. 르쾽 회장이 내놓은 해법은 월드 모델이다. 현재 상태에서 특정 행동을 하면 세상이 어떻게 바뀔지 예측해 목표 달성에 필요한 행동 순서를 계획하는 AI로, AMI랩스가 개발 중인 기술이다. 르쾽 회장은 "거대언어모델(LLM)과는 매우 다른 새 청사진"이라며 "자기 행동의 결과를 예측하지 못하면 AI가 적절하고 안전하게 행동할지 어떻게 확신할 수 있겠느냐"고 반문했다.</p> <p contents-hash="07e083d685a5239988f0f512ba20101ad73ce080e77004fa52e0ad39cd006d31" dmcf-pid="63uaqTe4hq" dmcf-ptype="general">최근 국내 금융권 AI 해킹 사태로 AI 안전·보안 문제가 다시 부각됐다는 질문에 르쾽 회장은 "최근 몇 달 새 벌어진 사고는 AI 기업들이 에이전트를 배포하는 과정에서 부주의한 탓"이라며 "에이전트를 가둬두는 격리 실행 환경(샌드박스)에 빈틈이 있었다"고 답했다. 이어 "쉽게 고칠 수 있는 문제로, AI를 통제할 수 없어서 생긴 일이 아니다"고 덧붙였다.</p> <p contents-hash="fdfddb678dec3d921e13b0a0a5e82620bdc02591afa4603880effa472ecc7a12" dmcf-pid="P07NByd8Wz" dmcf-ptype="general">AI를 인류가 통제할 수 있느냐는 더 근본적인 질문으로 넘어가선 LLM의 구조적 한계를 짚었다. 르쾽 회장은 "LLM은 가능한 한 모든 질문에 위험하지 않은 답을 내도록 미세조정하는 방식으로 통제하는데, 질문은 무한해 이는 완전히 비현실적"이라며 "그래서 LLM이 해선 안 될 답을 내놓도록 '탈옥'시키기가 비교적 쉽다"고 설명했다. 대안으로는 월드 모델을 갖춘 '목적 지향형 AI'를 제시했다. 르쾽 회장은 "목표를 주면 AI는 가드레일(안전 규칙) 안에서만 목표를 수행할 수 있고, 가드레일은 실행 단계에서 반드시 충족돼야 하기 때문에 어길 수 없다"고 말했다. </p> <p contents-hash="6532338e82aa2418b6db66140bb1ebbdaf8705b64c1f4a648beea60f191a962e" dmcf-pid="QpzjbWJ6C7" dmcf-ptype="general">르쾽 회장은 초지능이 하루아침에 등장하는 일도 없다고 봤다. 그는 "AI 발전은 하나의 사건이 아니라 여러 혁신이 쌓이는 과정"이라고 지적했다.</p> <p contents-hash="79c2c037f7830b79a9fd7596ff754aa58babda9e11a13937ad02bd30c54b401c" dmcf-pid="xUqAKYiPSu" dmcf-ptype="general">아울러 르쾽 회장은 반도체·조선·자동차 등 한국 주력 제조업을 언급하며 "다음 혁명은 피지컬 AI, 로보틱스와 관련돼 있고, 한국은 이 분야에 오래 기여해온 전통이 있어 중요한 역할을 할 기회가 있다"고 강조했다.</p> <p contents-hash="9acf7ab6079b146d6c8af868b0146e06fad87290e92dbb6181990ab1a28335dc" dmcf-pid="y6MSd7rNWU" dmcf-ptype="general">[고민서 기자 / 사진 한주형 기자]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 “AI 때문에 인류 멸망? 전혀 걱정 안해"…AI 대부 얀 르쿤 인터뷰 [팩플] 10-12 다음 국감 오른 토스-네이버 POS 분쟁…주병기 "차별 여부 살펴봐야" 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
