“AI 때문에 인류 멸망? 전혀 걱정 안해"…AI 대부 얀 르쿤 인터뷰 [팩플] 작성일 10-12 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2AnbyN71SF"> <figure class="figure_frm origin_fig" contents-hash="af2a739aafc4ccfc9085f0350b9d5919416c3cbc3b29986b9a524c5cdb1ef8fa" dmcf-pid="VcLKWjztyt" dmcf-ptype="figure"> <p class="link_figure"><img alt="얀 르쿤 AMI랩스 회장이 12일 서울 소공동 웨스틴조선호텔에서 중앙일보와 인터뷰하고 있다. 강정현 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/joongang/20261012172317428ndyb.jpg" data-org-width="1279" dmcf-mid="9V41wxHlh3" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/joongang/20261012172317428ndyb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 얀 르쿤 AMI랩스 회장이 12일 서울 소공동 웨스틴조선호텔에서 중앙일보와 인터뷰하고 있다. 강정현 기자 </figcaption> </figure> <p contents-hash="5f4959c6af32dece2a307d1bbc598244d0a5493fcde0435117835bcd7ecc9e2a" dmcf-pid="fko9YAqFW1" dmcf-ptype="general"><br> “인공지능(AI)은 인류를 위협할 만큼 똑똑하지 않다.” </p> <p contents-hash="cf696bd1c9cb9db6072cefdd801ef0ac2de60cf40e0277af4d5aa1160678499e" dmcf-pid="4Eg2GcB3v5" dmcf-ptype="general">얀 르쿤 AMI랩스 회장은 12일 서울 중구 소공로 웨스틴조선서울에서 가진 중앙일보와 인터뷰에서 이렇게 말했다. 최근 불거진 ‘AI 종말론’에 대해 그는 “(현재 주류인) 대규모언어모델(LLM)은 자신이 한 행동이 어떤 결과로 이어질지 예측할 수 없고, 그 결과가 인간에게 어떤 영향을 미치는지도 모른다”며 “인간의 경우 열 살짜리 아이도 알 수 있는 것”이라고 설명했다. </p> <p contents-hash="38aadf22b1c4d6890b7a2056ece8c997bb0bc20358337602bc846fae92af83d1" dmcf-pid="8DaVHkb0lZ" dmcf-ptype="general">뉴욕대 교수인 르쿤 회장은 AI 기반 기술인 딥러닝 연구로 요슈아 벤지오 몬트리올대 교수, 제프리 힌턴 토론토대 교수와 함께 2018년 ‘컴퓨터 과학계 노벨상’으로 불리는 튜링상을 받았다. 메타 수석AI과학자로 일하던 그는 올해 1월 메타를 떠나 AMI랩스를 세웠다. 언어 환경 중심의 LLM과 다른 실제 환경의 움직임을 학습해 다음 행동을 예측하는 AI모델(월드모델)을 개발하는 게 목표다. 르쿤 회장은 “매년 미국에선 잔디깎이 사고로 100명이 숨지는데 AI는 매일 10억명이 써도 심각한 사고가 드물다”며 “AI가 잔디깎이보다 훨씬 안전하다”고 강조했다. 르쿤 회장은 이날 같은 장소에서 열린 '산업 AI 글로벌 협력 간담회'에 참석하기 위해 방한했다. 다음은 일문일답. </p> <p contents-hash="38d9796f6aac65716c81ddf75471586217d6757ac5f9f71af017355bed854906" dmcf-pid="6wNfXEKpCX" dmcf-ptype="general">Q : 최근 한국에선 AI 해킹 사고가 연달아 나왔다.<br> A : 기본적으로 기업이 부주의한 탓이다. AI에이전트(비서)를 배포한 개발사의 보안 경험이 부족했고, AI를 가둬 두는 격리환경(샌드박스)에는 허점이 있었다. AI를 통제할 수 없어서 발생한 사고가 아니다. 사이버 보안 문제로 봐야 한다. </p> <p contents-hash="ea24a6e5c5afb47244d592c63c331be6e9edad2d322ccd62d4f8cf44652caaa9" dmcf-pid="Prj4ZD9UyH" dmcf-ptype="general">Q : AI의 일탈 사례도 나온다.<br> A : 어려운 문제가 아니다. ‘엔지니어링’(공학)으로 해결하면 된다. AI에 명령을 내린 순간 안전장치(가드레일)가 작동하는 ‘목표 지향형 AI’(Objective Driven AI)로 설계해야 한다. 인간이 설정한 목표 외엔 돌발 행동을 할 수 없는 AI를 뜻한다. 식칼을 든 로봇에 ‘주변에 사람이 있으면 팔을 휘두르지 말 것’이라는 규칙을 설정하는 식이다. </p> <p contents-hash="21ef779139d99edfb729ec4fad95f9d39bf7998714805b5430cea707f39b1479" dmcf-pid="Q8bYjfvmTG" dmcf-ptype="general">Q : 지금 나온 AI에도 적용할 수 있나.<br> A : LLM의 경우 이용자의 개별 명령에 대응하는 규칙을 일일이 ‘미세조정’(파인튜닝)하기 어렵다. 그러니까 AI의 ‘일탈’이 잦은 것이다. 샘 올트먼 오픈AI CEO가 속도 조절을 강조하며 차기 모델을 출시하지 않는 이유도 여기에 있다. 충분히 미세조정되지 않았다고 느껴서다. </p> <p contents-hash="3e9518aba37240e16c4ee480bb9d9b69683b11635e65efd9b953745c960bb4fb" dmcf-pid="x6KGA4TsyY" dmcf-ptype="general">Q : 힌턴·벤지오도 AI 종말론을 주장하는데.<br> A : 둘 다 AI가 인간을 뛰어넘을 것을 가정하고 말하는데, 동의하지 않는다. 지금의 AI는 인간이 쌓은 지식을 취합하고, 이를 되풀이하는 것에 불과하다. 자가 검증이 가능한 수학, 코딩 등 제한적인 영역을 제외하면 그다지 영리하지 않다. </p> <p contents-hash="57232d17bb163592445e7ab9d8a85d970aed14a6c7f5eaebb82d6dd343e2eb46" dmcf-pid="ySmeUhQ9CW" dmcf-ptype="general">Q : 그럼 AI는 어떤점이 위험한가.<br> A : 과도한 독점이 문제다. 현재 대다수 사람이 AI를 거쳐 정보를 습득하는데, 그 시스템을 소수 기업이 독점하면 전 세계의 가치·언어 다양성은 사라진다. 정보가 오가는 경로를 틀어 쥔 다리오 아모데이(앤트로픽 CEO)가 “AI는 본질적으로 위험하니 통제해야 한다”는 식의 주장은 몽매주의(obscurantism·지식 확산을 막는 태도)에 가깝다. 과거 오스만 제국 군주들이 인쇄기 배포를 막았던 것과 비슷하다. </p> <p contents-hash="8071826eb2473e8937c9352982094b3c65fe0046e5099742455babc2736ac8ef" dmcf-pid="Wvsdulx2Sy" dmcf-ptype="general">Q : AMI랩스가 만드는 월드모델은 뭐가 다른가.<br> A : 월드모델은 LLM과 달리 행동 결과를 예측할 수 있어 훨씬 똑똑해질 것이다. 목표 지향형 AI로 설계해서 통제하기 더 쉽다. AI가 똑똑하다고 통제할 수 없다는 생각은 틀렸다. </p> <p contents-hash="cd2a039e8b8dafca331c664ba97117a127341b54b32ce7dcc01eedeb0ae2763e" dmcf-pid="YTOJ7SMVlT" dmcf-ptype="general">■ 더중앙플러스 : 팩플</p> <p contents-hash="1e29507a702a8385dd278cadb64d054c2a0e7855a398a377d1501b832e4c026a" dmcf-pid="GyIizvRfTv" dmcf-ptype="general">「 더 자세한 기사 내용이 궁금하시다면, 주소창에 링크를 붙여넣으세요. </p> <p contents-hash="f8cff4cde05478ed35e2563e34cd5107469432c21b17b34e77e7f34692c1bb3a" dmcf-pid="HWCnqTe4WS" dmcf-ptype="general">1조 모은 얀 르쿤과 수제자, 삼성·LG 비밀리에 만난 이유 <br> “언어 (모델)은 ‘독’이다(Language is Poison)” 사이닝 시에 AMI랩스 최고과학책임자(CSO)는 인터뷰에서 글로벌 AI 개발 상황을 강하게 비판했다. 챗GPT 등 대규모 언어 모델(LLM)이 보여준 성과에 매몰된 탓에 모든 리소스가 LLM 개발에만 쏠리고 있다는 것. 시에 CSO는 “AI 챗봇의 화술과 코딩 실력에 (우리가) 놀라서 과도하게 투자하고 있다”며 “실리콘밸리는 LLM이라는 집단 최면에 걸려 있다(LLM-pilled)”고 말했다. ‘세계 4대 AI 석학’으로 불리는 얀 르쿤 뉴욕대 교수의 수제자이기도 한 시에 CSO는 자신의 주력 연구분야이기도한 LLM에 대해 왜 이 같이 말했을까. <br> https://www.joongang.co.kr/article/25447568 </p> <p contents-hash="d9b344783bfb73af701d8a7596f73f7d0b289d39ebe25ac8670c3d64abcefbd5" dmcf-pid="XYhLByd8Cl" dmcf-ptype="general">“챗GPT? 제정신이면 안 쓸것” 5년뒤 터질 ‘월드모델’ 뭐길래 <br> 우리가 주로 쓰는 AI는 거대언어모델(LLM)인데, 이게 정말 AI의 전부일까? “지금은 AI 버블이 아니라 LLM 버블이다.” 허깅페이스 공동 대표인 클레멘트 델랑그 CEO는 지난 18일 악시오스 포럼에서 일반 이용자들이 쓰는 챗봇의 핵심인 LLM이 과대평가됐다고 말했다. 최근 거세지고 있는 AI 버블 논란 문제는 ‘AI 전체’가 아니라 ‘LLM 중심 AI’에 대한 의구심이라는 것. AI 업계에선 진작부터 이런 LLM의 한계를 극복하려는 움직임이 있어 왔다. 언어 예측 중심 LLM 대신 세계를 모델링하는 AI, 즉 월드모델(World Model)이 차세대 패러다임으로 부상하고 있는 것. 월드모델은 LLM과 뭐가 그렇게 다르길래? 세계 AI 4대 석학까지 차세대 AI로 거론하는 월드 모델의 모든 것을 파헤쳤다. <br> https://www.joongang.co.kr/article/25385639 <br> 」</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 삼성전자 반도체 성과급 충당금만 30조 육박…커지는 '호황의 비용' 10-12 다음 "AI가 인류 위협? 공상과학 같은 얘기" 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
