얀 르쿤 “AI가 세상 지배한다는 건 SF…인류 통제할 만큼 똑똑하지 않아” 작성일 10-12 57 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="G3uWYAqFs0"> <figure class="figure_frm origin_fig" contents-hash="8aad4cb9d2ee6fc1631ee823b723dad8ecf990b0aa48cc40049046675c2f1033" dmcf-pid="H07YGcB3O3" dmcf-ptype="figure"> <p class="link_figure"><img alt="얀 르쿤 에이미랩스(AMI Labs) 회장이 12일 서울 중구 웨스틴 조선호텔에서 열린 산업 인공지능(AI) 글로벌 협력 기자간담회에서 인사말을 하고 있다. 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/hani/20261012191155530jinj.jpg" data-org-width="685" dmcf-mid="YB2tFs4qEp" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/hani/20261012191155530jinj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 얀 르쿤 에이미랩스(AMI Labs) 회장이 12일 서울 중구 웨스틴 조선호텔에서 열린 산업 인공지능(AI) 글로벌 협력 기자간담회에서 인사말을 하고 있다. 연합뉴스 </figcaption> </figure> <p contents-hash="491b45be19fd6c6c843d3d8c90966cfe8c3381dc99d2feef1e547d86c582485d" dmcf-pid="XEmnLbIkIF" dmcf-ptype="general"> 메타 전 수석과학자이자 세계적인 인공지능(AI) 석학 얀 르쿤 에이미랩스(AMI Labs) 창업자 겸 회장이 최근 불거진 인공지능 기술 발전에 따른 ‘인공지능 종말론’에 대해 과도한 우려라고 반박했다. 인공지능을 둘러싼 위험은 향후 기술 발전 과정에서 인간이 충분히 통제할 수 있다는 취지다.</p> <p contents-hash="37060ffe5ea1b5a622fca277ce45f106455aa0624eece6f9df1788206d3cea09" dmcf-pid="ZDsLoKCEwt" dmcf-ptype="general">르쿤 회장은 12일 서울 중구 웨스틴조선 서울에서 열린 ‘산업 인공지능 글로벌 협력’ 기자간담회에서 “인공지능이 세상을 지배한다는 건 공상과학(SF) 소설일 뿐”이라며 “현재의 인공지능은 수학과 코딩 분야를 제외하면 인류가 쌓아온 지식을 재생하는 수준이라 인류를 통제할 정도로 똑똑하지 않다”고 말했다. 그는 이어 “인공지능의 진화는 여러 방면에서 점진적으로 이뤄질 것이기 때문에 갑자기 인간을 뛰어넘는 수준의 인공지능이 등장하는 단일한 사건이 일어나진 않을 것”이라고 덧붙였다. </p> <p contents-hash="2e5fcf5bfabd124af65d1c32e158df3852a3b4fe4679cd8d53e42ccd63cff387" dmcf-pid="5wOog9hDO1" dmcf-ptype="general">앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈에이아이 최고경영자 등은 지난달 인공지능이 스스로 지능을 높여 다음 단계로 진화하는 ‘재귀적 자기개선’(RSI) 현상이 나타나는 등 기술 발전 속도가 급격히 빨라짐에 따라 인류의 안전을 위해 최첨단 모델 개발 속도를 늦추자는 ‘인공지능 속도조절론’을 주장해 업계 안팎의 논쟁을 불렀다. </p> <p contents-hash="e8402ca0f16535c71211caeba8cb9fa37d5fa3da8d1b8ebae2d38b249e409f5f" dmcf-pid="1rIga2lwm5" dmcf-ptype="general">그러나 르쿤 회장은 인공지능을 둘러싼 안전 문제는 기술적으로 해결할 수 있다는 입장이다. 그는 최근 잇따른 인공지능 에이전트(비서) 관련 사이버 보안 사고는 기업들의 경험 부족과 허술한 보안 환경 설계에서 비롯한 것인 만큼 “쉽게 고칠 수 있는 문제”라고 말했다. 인간이 인공지능을 통제하지 못해 생긴 문제가 아니라 기존의 보안 기술을 제대로 적용하지 않은 탓이라는 지적이다. </p> <p contents-hash="bd57cb0e6d3914eb6d1fa3b716e5cbd3646dbe3cc9b7ee7bc9d27e96fc1d9b83" dmcf-pid="tmCaNVSrwZ" dmcf-ptype="general">그는 또 사이버 보안 관점에서 인공지능 기술이 ‘공격자’와 ‘방어자’ 가운데 어느 쪽에 더 유리한가를 묻는 질문에 대해 ‘방어자’ 쪽이라고 답했다. 공격을 방어하는 화이트 해커는 블랙 해커(공격자)처럼 비밀리에 활동하지 않아 지식을 공유하는 데 제약이 없고, 더 많은 숙련 인력과 자금 등의 투입이 가능하다는 설명이다. </p> <p contents-hash="07f7edddbca3a9852235492c6d173cb43cfce510cab3e27205f484e8c214c371" dmcf-pid="FshNjfvmwX" dmcf-ptype="general">다만, 르쿤 회장은 현재의 거대언어모델(LLM) 구조가 안전장치를 무력화하는 이른바 ‘탈옥’(jailbreak)에 취약하다는 점은 인정했다. 르쿤 회장은 “거대언어모델 기반 인공지능 시스템은 직접 통제하기 어렵고, 어떤 측면에선 본질적으로 위험하다”며 “가능한 모든 질문에 안전한 답변을 내놓도록 학습시키는 것은 현실적으로 불가능하다”고 지적했다. 이런 이유로 인공지능이 자신의 행동이 가져올 결과를 예측하고, 안전장치(가드레일)를 반드시 지키도록 설정한 ‘목표지향형 인공지능’(objective-driven AI) 구조로 모델을 설계해야 한다는 것이 그가 제시하는 대안이다.</p> <p contents-hash="0b4a98406a9e722c76bc21631ce1126c543b59c109769f31f225ac59b8afd936" dmcf-pid="3OljA4TsEH" dmcf-ptype="general">뉴욕대 교수인 르쿤 회장은 지난 2018년 요슈아 벤지오 몬트리올대 교수, 제프리 힌턴 토론토대 명예교수와 함께 ‘컴퓨터 과학계 노벨상’으로 불리는 튜링상을 받았다. 그는 올해 1월 수석 인공지능 과학자로 일했던 메타를 떠나 에이미랩스를 설립했다. </p> <p contents-hash="f4bf56d5627ea078dfb48b0be2309986dc7f7c7d3114f6c10b92af78c9339580" dmcf-pid="0ISAc8yOwG" dmcf-ptype="general">선담은 기자 sun@hani.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지</p> 관련자료 이전 알테오젠 "실탄 6300억, 새 기술 도입에 투자" 10-12 다음 “영업취소되도 옆집에서 버젓이 판매”…김남국, 옆커폰 ‘편법 영업’ 지적 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
