“AI가 통제 불능? 문제는 허술한 기업 보안”…‘AI 대부’ 얀 르쿤의 진단 작성일 10-12 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">“AI, 해커보다 보안 전문가에 유리<br>현재 LLM은 직접 통제 어려워”<br>“AI 안전, 제트엔진보다 쉬울 수도<br>로봇의 인류 지배는 공상과학 소설”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1aKOLAqFvQ"> <figure class="figure_frm origin_fig" contents-hash="73c4390890a07e8233bffebf6a4f61e8a16439b7cafa49cebc347593cac13b73" dmcf-pid="tM3jPd1yWP" dmcf-ptype="figure"> <p class="link_figure"><img alt="세계적인 인공지능(AI) 석학 얀 르쿤 뉴욕대 교수가 12일 오전 서울 중구 웨스틴 조선 서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 질의에 답하고 있다. [전종헌 기자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/mk/20261012131205260ccsk.jpg" data-org-width="700" dmcf-mid="ZhbvArV7CM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/mk/20261012131205260ccsk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 세계적인 인공지능(AI) 석학 얀 르쿤 뉴욕대 교수가 12일 오전 서울 중구 웨스틴 조선 서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 질의에 답하고 있다. [전종헌 기자] </figcaption> </figure> <div contents-hash="f2196218880be08e1ce110b8e6e74d174bc74401ceb3adf24730185a5d8585c5" dmcf-pid="FR0AQJtWW6" dmcf-ptype="general"> 세계적인 인공지능(AI) 석학 얀 르쿤 뉴욕대 교수가 최근 발생한 AI 에이전트 관련 보안 사고에 대해 AI 자체를 통제할 수 없어서 생긴 문제가 아니라 기업들의 허술한 보안 설계가 원인이라고 진단했다. AI가 사이버 공격에 악용될 수 있다는 우려에 대해서도 공격자보다 방어자에게 더 유리한 기술이 될 수 있다고 전망했다. </div> <p contents-hash="63cec1dcebb561dc3db63e4e03d0eb28955d27dc94f2624bf2b02df71044d5c2" dmcf-pid="3epcxiFYl8" dmcf-ptype="general">르쿤 교수는 12일 오전 서울 중구 웨스틴 조선 서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 “최근 몇 달간 발생한 보안 사고는 AI 에이전트를 도입한 기업들이 사이버 보안에 충분한 경험을 갖추지 못했고, 에이전트를 격리하는 보안 환경에도 허점이 있었기 때문”이라고 말했다.</p> <p contents-hash="4f9e893c6a7af6645e2936e93bce97dc8f24dc1b80e4b0ac6e9be12fcc5cb711" dmcf-pid="0dUkMn3Gv4" dmcf-ptype="general">이어 “이는 AI를 통제할 수 없어서 발생한 문제가 아니다”라며 “이미 잘 알려진 보안 기술을 제대로 적용하지 않은 것으로, 충분히 해결할 수 있는 문제”라고 강조했다.</p> <p contents-hash="d656f045fd33b9a690900a30dc409c52df769b6ce5f7651dfed8676ac2204658" dmcf-pid="pJuERL0HWf" dmcf-ptype="general">AI가 사이버 공격자와 방어자 중 어느 쪽에 유리할 것인지에 대해서는 방어자의 손을 들어줬다.</p> <p contents-hash="80884503fa9b0336a78f7f9c67250e091b3ec4757992c47c9f0a52c75ec789f6" dmcf-pid="Ui7DeopXTV" dmcf-ptype="general">그는 “화이트 해커들은 역사적으로 블랙 해커보다 인력이 많고 전문성이 높으며 자금도 풍부했다”며 “서로 정보를 공유하며 협력할 수 있는 반면, 공격자들은 비밀리에 활동해야 해 지식을 공유하기 어렵다”고 설명했다.</p> <p contents-hash="897f986fe2767847a0a7eb7cbb61cc6477397c13b2845fe67e33507995da8cd5" dmcf-pid="unzwdgUZy2" dmcf-ptype="general">이어 “강력한 AI 시스템을 운영하려면 막대한 컴퓨팅 자원이 필요한데, 이러한 활동은 탐지되기도 쉽다”며 “궁극적으로 AI는 공격보다 방어에 유리하게 작용할 것으로 본다”고 덧붙였다.</p> <p contents-hash="1717f228af4d6d3c5763a5dddebc39d001b99f0f440891a2f68b9b1a420c8f88" dmcf-pid="7LqrJau5T9" dmcf-ptype="general">다만, 현재의 거대언어모델(LLM)이 지닌 구조적 위험성은 인정했다.</p> <p contents-hash="a29cd66445df3ddc96fe9283f11cdb967b5608f5cf4143af4f565969d854bd72" dmcf-pid="zoBmiN71SK" dmcf-ptype="general">르쿤 교수는 “LLM 기반 AI 시스템은 직접 통제하기 어렵고, 어떤 측면에서는 본질적으로 위험하다”며 “가능한 모든 질문에 안전한 답변을 내놓도록 학습시키는 것은 현실적으로 불가능하다”고 지적했다. 이 때문에 AI의 안전장치를 우회해 원래 허용되지 않는 답변을 끌어내는 이른바 ‘탈옥’이 비교적 쉽게 발생할 수 있다는 것이다.</p> <p contents-hash="b53ecc8deeabe1744e68e1d765e2eeb8ee5553daa06bb9ed8421225de5ca54da" dmcf-pid="q9WeBfvmWb" dmcf-ptype="general">그는 대안으로 ‘목표 지향형 AI(Objective-driven AI)’를 제시했다. AI가 자신의 행동이 가져올 결과를 예측하고, 실제 작동하는 과정에서 정해진 안전 조건을 반드시 지키도록 설계하는 방식이다.</p> <p contents-hash="3a3986dce592ab3884fe630d9fffd99e7104ac28006ec4d132cf44f518cbc511" dmcf-pid="B2Ydb4TsTB" dmcf-ptype="general">AI 통제 가능성에 대해서는 가정용 로봇을 예로 들었다. 르쿤 교수는 “로봇이 칼을 들고 요리할 때 주변에 사람이 있으면 팔을 빠르게 움직이지 못하도록 안전 규칙을 적용할 수 있다”며 “인간 사회의 법률처럼 AI에도 행동에 따른 비용과 제약 조건을 내장할 수 있다”고 설명했다.</p> <p contents-hash="dce26832949de82da7e0934e2092a1bda435920492bffeac2499c87873607a33" dmcf-pid="bVGJK8yOvq" dmcf-ptype="general">그러면서도 안전장치를 갖췄어도 AI가 잘못된 판단을 내릴 가능성은 있다고 인정했다.</p> <p contents-hash="653bc3c0fdcab9cd80fd808a83a8eaf7c93e66a94bceb55d61ed35bfa7a7e34a" dmcf-pid="KfHi96WICz" dmcf-ptype="general">그는 “AI가 자신의 행동이 가져올 결과를 정확히 예측하지 못해 안전하다고 생각한 행동이 실제로는 위험한 결과를 초래할 수 있다”며 “이것이 AI 시스템이 위험해지는 주된 방식”이라고 말했다.</p> <p contents-hash="71e6a86dbb1224d6c7fdc5a020377aedf8f9277a35de1b71ded158c77e4f7093" dmcf-pid="94Xn2PYCy7" dmcf-ptype="general">그럼에도 AI 안전 문제는 기술적으로 해결할 수 있다는 입장이다. 르쿤 교수는 “안전 조건을 설계하는 것이 쉬운 일은 아니지만 결국 공학적으로 해결할 수 있는 문제”라며 “AI를 안전하게 만드는 것이 터보제트 엔진을 안전하게 만드는 것보다 오히려 간단한 공학적 문제일 수도 있다”고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="709ec8aee6c5f635114b5f57f0c626a864bb285c77c59070274e42f85648c282" dmcf-pid="28ZLVQGhhu" dmcf-ptype="figure"> <p class="link_figure"><img alt="세계적인 인공지능(AI) 석학 얀 르쿤 뉴욕대 교수. [전종헌 기자]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/mk/20261012131206564zitr.png" data-org-width="622" dmcf-mid="5Tm21UDgyx" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/mk/20261012131206564zitr.png" width="658"></p> <figcaption class="txt_caption default_figure"> 세계적인 인공지능(AI) 석학 얀 르쿤 뉴욕대 교수. [전종헌 기자] </figcaption> </figure> <div contents-hash="3223abcc6bc7655832a40a8ececc250505486634cf2d5a7728feb3e654c7599a" dmcf-pid="V65ofxHlCU" dmcf-ptype="general"> AI가 어느 날 갑자기 인간의 통제를 벗어나 세계를 지배할 수 있다는 우려에도 선을 그었다. 그는 “누군가 인간 수준의 지능을 만드는 비밀을 발견하고 로봇이 갑자기 세계를 장악한다는 것은 공상과학 소설 같은 이야기”라며 “AI는 단 한 번의 사건이 아니라 여러 기술적 돌파구가 쌓이면서 점진적으로 발전할 것”이라고 내다봤다. </div> <p contents-hash="f6a00bb328d952202c2f0e9b82704db6a3ff5c615ec12c2d66426e55a9f73b45" dmcf-pid="fP1g4MXSSp" dmcf-ptype="general">한편 이날 간담회에서는 한국 제조업의 피지컬 AI 경쟁력과 글로벌 협력 방안도 논의됐다.</p> <p contents-hash="cf8df6bb16b623198ae0dd30a38209399f033c300774fc109eefde8dc2c2ea8b" dmcf-pid="4Qta8RZvC0" dmcf-ptype="general">르쿤 교수는 한국이 우수한 과학기술 인재와 반도체·조선·자동차 등 제조업 기반을 갖추고 있다며 기초연구 투자와 해외 인재 유치의 중요성을 강조했다. 특히, 거대언어모델에 이어 로봇과 피지컬 AI 분야에서 새로운 기술혁명이 일어날 것이라며 한국이 중요한 역할을 할 수 있다고 전망했다.</p> <p contents-hash="0a84c9789ee9ac92f4c7f74cb34f4dd1c564267beef83d1d9a00e9ef570bed01" dmcf-pid="8xFN6e5Tl3" dmcf-ptype="general">크리스토퍼 응우옌 에이토매틱 공동창업자 겸 최고경영자(CEO)는 미국의 초대형 AI 개발 경쟁을 그대로 따라 하기보다 한국이 강점을 가진 제조 현장에 AI를 빠르게 적용해야 한다고 조언했다.</p> <p contents-hash="b0ff770315e9986ff100c8d658a61ace486d95820a0ad47d4fd9baf464100914" dmcf-pid="6M3jPd1yhF" dmcf-ptype="general">이번 간담회는 에이토매틱과 국제 산업 AI 콘퍼런스(IIAC) 조직위원회가 공동 주최했다. 르쿤 교수와 응우옌 CEO를 비롯해 앤서니 아눈지아타 AI 얼라이언스 공동의장, 지미 리 ASI 파운드리 회장 등이 참석했다.</p> <p contents-hash="4f3f338e1c3c7345ee32c8c2ceec755b17fa3d48d388ded2fa6269cd3ae58de9" dmcf-pid="PqSQuKCEht" dmcf-ptype="general">간담회를 기획한 황명은 ASI Foundry 대표는 한국 제조업이 축적한 현장 전문성과 문제 해결 경험이 산업 AI 시대의 중요한 경쟁력이 될 수 있다고 강조했다. 황 대표는 “한국 기업이 글로벌 산업 AI 기술을 단순히 도입하는 데 그치지 않고, 실제 산업 현장에서 기술이 작동하는 기준과 활용 방식을 함께 만들어가는 역할을 할 수 있다”며 “이번 논의가 기술 담론을 넘어 현장 검증과 산업적 가치로 이어지는 계기가 되길 기대한다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 "AI 글래스가 길도 찾아준다"…네이버지도, 구글·삼성·메타와 맞손 10-12 다음 'AI의 아버지' 얀 르쿤 "한국, 피지컬 AI 혁명에 중요한 역할할 것" 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
