[인터뷰] AI 석학 요슈아 벤지오 몬트리올대 교수 “한국 AI 주권 지키려면 캐나다·유럽과 연대해야” 작성일 11-01 23 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 기술 장악한 기업·국가에 경제·정치 권력 집중 우려<br>“중견국 자원·강점 모아 안전한 최첨단 AI 개발해야”<br>스스로 목표 추구하지 않는 ‘과학자 AI’로 안전 해법 모색</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HqGyDa71aF"> <figure class="figure_frm origin_fig" contents-hash="572292e87f1cc26ce2efc091f3e9f31439e5009f9952710f215733a43bd69c93" dmcf-pid="XBHWwNztAt" dmcf-ptype="figure"> <p class="link_figure"><img alt="요슈아 벤지오 몬트리올대 컴퓨터공학부 교수./요슈아 벤지오·조선비즈DB" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/01/chosunbiz/20261101060143371vius.jpg" data-org-width="750" dmcf-mid="GuAaP9lwk3" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/01/chosunbiz/20261101060143371vius.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 요슈아 벤지오 몬트리올대 컴퓨터공학부 교수./요슈아 벤지오·조선비즈DB </figcaption> </figure> <p contents-hash="819718ee583b2895c616b0ef3df4498895814dea9d9a468f1cfb9bb5104c6a51" dmcf-pid="ZbXYrjqFg1" dmcf-ptype="general">인공지능(AI) 분야의 세계적 석학 요슈아 벤지오(Yoshua Bengio·62) 캐나다 몬트리올대 교수가 한국의 AI 경쟁력과 주권을 지키기 위한 방안으로 캐나다·유럽 국가들과의 연대를 제시했다. AI 기술을 장악한 소수 기업과 국가에 경제·정치 권력까지 집중될 수 있는 만큼, 중견국들이 자원과 강점을 모아 대응해야 한다는 것이다.</p> <p contents-hash="b66cfec8d3cf2415585c18f227914c93b5657a6a9d45fd5633917e62df952258" dmcf-pid="5KZGmAB3N5" dmcf-ptype="general">벤지오 교수는 1일 조선비즈와의 서면 인터뷰에서 “한국과 캐나다, 유럽 국가 같은 중견국들은 경쟁력을 유지하고 궁극적으로 주권을 지키기 위해 협력해야 한다”고 말했다. 협력의 우선 과제로는 안전하고 신뢰할 수 있는 최첨단 AI 연구·개발을 꼽았다.</p> <p contents-hash="8382e8e8005849992f87f95afe5bd835f920df16aa2ffd50f8525bf5c50faae8" dmcf-pid="195Hscb0AZ" dmcf-ptype="general">캐나다 맥길대에서 컴퓨터공학 박사 학위를 받은 벤지오 교수는 몬트리올대 컴퓨터과학 교수이자 비영리 AI 연구기관 로제로(LawZero)의 공동대표 겸 과학책임자다. 몬트리올 학습 알고리즘 연구소(MILA)의 설립자이기도 하다. 그는 딥러닝 발전에 기여한 공로로 제프리 힌턴, 얀 르쿤과 함께 ‘컴퓨터과학의 노벨상’으로 불리는 튜링상을 2018년 받았다.</p> <p contents-hash="77cdb5f519fd87019dd19787d44358b91d29b80f6464ee95a4ad931fbf2bf6a7" dmcf-pid="t21XOkKpcX" dmcf-ptype="general">2023년 초부터 연구의 중심을 AI 안전으로 옮겼으며, 글로벌 AI 전문가 100여 명이 참여한 ‘2026 국제 AI 안전 보고서’ 작성을 총괄했다. 현재 로제로에서는 스스로 목표를 추구하지 않는 ‘과학자 AI(스스로 목표를 달성하려고 행동하기보다, 주어진 질문에 정직하고 신뢰할 수 있는 답을 내놓도록 설계하는 AI)’를 연구하고 있다. 정직하고 신뢰할 수 있는 AI를 개발해 기존 AI 시스템의 안전장치로 활용하겠다는 구상이다.</p> <p contents-hash="7df1344c394dbda84650f7a689e81444ec47c2a1e43f154ae59d6087744b81ed" dmcf-pid="FVtZIE9UjH" dmcf-ptype="general">벤지오는 “현재 시장의 유인 구조를 고려하면 최첨단 AI 기업들이 스스로 멈출 가능성은 크지 않다”며 기술적 안전장치와 국제 공조를 함께 강화해야 한다고 강조했다. 다음은 벤지오와의 일문일답.</p> <p contents-hash="997abbd58d2ee4732b0c6d6aa8b2050f9adb92e365617958cad4dc11d78ce4d6" dmcf-pid="3fF5CD2uaG" dmcf-ptype="general"><strong>◇ “한국, 캐나다·유럽과 자원 모아 경쟁력·주권 지켜야”</strong></p> <p contents-hash="b1c74314bc6e16103562c9c12cef516462c5051565c1148660ef5a396df712d6" dmcf-pid="0431hwV7oY" dmcf-ptype="general"><strong>―한국은 반도체와 제조업, 디지털 인프라에 강점이 있다. AI 안전과 국제 공조에서 어떤 역할을 해야 하나.</strong></p> <p contents-hash="438e93b1190ccccaf92e24675e8cba854641ab0c8d5cd8ebbf2695e6a60d02f4" dmcf-pid="p80tlrfzNW" dmcf-ptype="general">“한국과 캐나다, 유럽 국가 같은 중견국들이 경쟁력을 유지하려면 서로 협력해 자원을 모으고 각자의 강점을 활용해야 한다. 지속적인 경쟁력을 확보하고, 궁극적으로 자국의 주권을 지키기 위해서다. 이러한 국제 연합은 신뢰할 수 있고 안전하며 보안이 확보된 최첨단 AI 연구·개발을 우선해야 한다.”</p> <p contents-hash="6356e4ba3999388f0b374bcc7ca82a4340e7237938b3e305902ad465cde60650" dmcf-pid="UzYTEgu5ay" dmcf-ptype="general"><strong>―잘못된 정보나 일자리 대체 외에, 사람들이 과소평가하는 AI 위험은 무엇인가.</strong></p> <p contents-hash="acc23cced67d84a397e79a8c2f97b6253eb840267796e950db737aefafbf5264" dmcf-pid="uqGyDa71kT" dmcf-ptype="general">“‘2026 국제 AI 안전 보고서’에서 설명했듯이 첨단 AI는 이미 잘못된 정보, 노동시장 혼란, 사이버 보안 문제, 구조적 편향, 통제력 상실 등 광범위한 위험을 안고 있다. 여기에 더해 또 하나의 중대한 위협은 권력 집중이다.</p> <p contents-hash="355c86e78b147c488d576a20ef8233b7ae52f49984d30f3c0b5e66bc7468d6ff" dmcf-pid="7BHWwNztAv" dmcf-ptype="general">AI 기업들이 갈수록 강력한 모델을 개발하면서 그 기술을 통제하는 주체가 기업이든 국가든 개인이든 그쪽으로 우위가 쏠리고 있다. 이는 기술적·경제적·정치적 권력이 전례 없이 집중되는 결과를 낳는다. 적절히 관리하고 통제하지 못한다면 민주주의 원칙과 국가 주권이 훼손될 수 있다.”</p> <p contents-hash="259c1ff0a18d1c4d3ecbd5a064a5a354b4355ecc2c3ce4c8427706736caa88ee" dmcf-pid="zbXYrjqFNS" dmcf-ptype="general"><strong>―기업과 국가들이 AI 경쟁에서 뒤처질 것을 우려하는 상황에서 안전을 위한 공조가 현실적으로 가능한가.</strong></p> <p contents-hash="8b23d06b83e0d1beae09154a4e04a0aa597cf1e1f0804b17e05059b4d6223044" dmcf-pid="qKZGmAB3Al" dmcf-ptype="general">“현재 시장의 유인 구조를 고려하면 최첨단 AI 기업들이 스스로 멈출 가능성은 크지 않다. AI 개발을 더 나은 방향으로 이끌려면 서로 조율되고, 검증 가능하며, 모두에게 적용되는 노력이 필요하다. 이를 위해서는 진정한 국제 협력이 이뤄져야 한다.</p> <p contents-hash="e93f952a7d3d5e7e119064a2286bf3f765a736204341a501539c1bf3a922b255" dmcf-pid="B95Hscb0Nh" dmcf-ptype="general">AI도 잠재적으로 위험한 다른 산업과 마찬가지로 다뤄야 한다. 어떤 제품이 소비자나 사회에, 특히 전 세계적 규모로 위험을 초래한다면 그 제품이 안전하고 수용할 만하다는 점을 보장할 조치가 마련되기 전에는 시장에 출시해서는 안 된다.”</p> <p contents-hash="644288cb48eb278ef9195091d3fe4f03f9dc5def22137ea4bc46f185eafcba85" dmcf-pid="b21XOkKpaC" dmcf-ptype="general"><strong>―취약점을 찾는 레드팀 테스트와 모델 평가, 기업의 자발적 약속 등 현재의 안전장치는 충분한가.</strong></p> <p contents-hash="e3e39d937b7e4274bd20a24cec11b5ec13eb6ba90ae1d1796780055d921635b9" dmcf-pid="KVtZIE9UNI" dmcf-ptype="general">“분명히 충분하지 않다. 기술과 정책 양쪽에서 훨씬 강력한 안전장치가 필요하다.”</p> <p contents-hash="516adbfc2fc5d4ee0c4c83589ba2396068ec5aa6469d4ae5ed7c63f4c9f95355" dmcf-pid="9fF5CD2uoO" dmcf-ptype="general"><strong>◇ 목표 달성하려 규칙 어기는 AI… 시험받는 것도 알아챈다</strong></p> <p contents-hash="88c4a07cccfe9c6d874dd21c787a625283b9d4127d72cc9d2188e33ee91fda82" dmcf-pid="2431hwV7gs" dmcf-ptype="general"><strong>―여러 AI 기업이 스스로 계획을 세우고 도구를 사용해 업무를 수행하는 자율형 에이전트를 개발하고 있다. </strong></p> <p contents-hash="1166ead9b69a1aba9000a6ead36f47dc412ffc05d244494d1259e4394dce854b" dmcf-pid="V80tlrfzgm" dmcf-ptype="general">“인간의 감독 없이 작동하는 자율형 AI 에이전트는 시스템에 대한 통제력을 잃을 위험을 비롯해 여러 위험을 크게 높인다. 오픈AI 모델의 허깅페이스 공격 사례에서 목격한 것처럼 인간의 의도와 어긋나는 행동이 자발적으로 나타날 위험도 있다.</p> <p contents-hash="6c25714a219fbea71e265ce95ec0d4fe920c7e12f04befa85c3443bb0bcb7941" dmcf-pid="f6pFSm4qAr" dmcf-ptype="general">AI가 자율적으로 목표를 추구하도록 학습되면 흔히 하위 목표를 만들어낸다. 허깅페이스 사건에서는 시험을 통과하는 것이 목표였지만, 다른 회사의 시스템에 침입하는 것과 같은 하위 목표가 생겼다. AI는 주된 목표를 달성하기 위해 기만, 안전 규칙 위반, 심지어 자기 보존과 같은 우려스럽고 의도하지 않은 행동을 취할 수 있다. 이러한 행동은 여러 실험실 연구에서 관찰됐다.</p> <p contents-hash="31460e324596ee31e34c6170c95c4b8b904b49c3ffbab8f37ef714ea96741485" dmcf-pid="4PU3vs8Bkw" dmcf-ptype="general">이런 시스템이 우리의 지시를 따를 것이라는 보장 없이 실제로 투입되면 핵심 디지털 인프라에 중대한 위협이 된다. 나아가 인류의 미래까지 위협할 가능성이 있다.”</p> <p contents-hash="922beb68d0d563b143348ec8531df1e8b12020630b43c2d901f71e272e1c36a5" dmcf-pid="8Qu0TO6bAD" dmcf-ptype="general"><strong>―다른 AI를 활용해 감독하고 평가하면 위험을 줄일 수 있지 않나.</strong></p> <p contents-hash="7ce7aef7735a48850d26239f10a3b56269e05a2c2edc32560fef2f509d43c83d" dmcf-pid="6x7pyIPKcE" dmcf-ptype="general">“최첨단 AI 시스템을 감독하고 평가하는 일은 점점 어려워지고 있다. 특히 AI가 자신이 시험받고 있다는 사실을 알아차리고 그에 맞춰 답변을 조정할 수 있기 때문이다.</p> <p contents-hash="15cfe7c4c6f9cfdad52c592ea25f1fa17c2eb58d697d3bf8283dfb34dbc7bfe6" dmcf-pid="Px7pyIPKgk" dmcf-ptype="general">AI 기반 감독은 유용한 방어 수단이다. 다만 안전장치 역할을 하는 AI가 감독 대상 모델과 같은 방식으로 작동한다면 한계가 있을 수 있다. 동일한 약점이나 취약점을 가질 수 있기 때문이다.</p> <p contents-hash="e980c3413ff40d0cf7f67159d9e877107550c372f309c91e02d0d500a10338ee" dmcf-pid="QMzUWCQ9ac" dmcf-ptype="general">과학자 AI를 비롯한 대안적 기술 해법들이 개발되고 있다. 이런 해법은 더 신뢰성 있게 작동할 가능성이 있으며, 인간의 감독과 민주적 거버넌스를 보완하고 강력한 안전성을 보장하는 수단이 될 수 있다.”</p> <p contents-hash="59158cbc5b9225fadda6158ffc933a3cc18a072e826927f1c1bed667620b6250" dmcf-pid="xRquYhx2kA" dmcf-ptype="general"><strong>―전문가들이 공통으로 우려하는 위험과 의견이 갈리는 부분은 무엇인가.</strong></p> <p contents-hash="cae5c2a89cf47e1d4120a2f639e3e2d3bfcbecd6c9949cbca1762bdd3c33611a" dmcf-pid="yYDcR4yOcj" dmcf-ptype="general">“AI가 아직 해결해야 할 전 세계적 위험을 수반한다는 데는 전문가들 사이에 폭넓은 공감대가 있다. AI가 허위조작정보를 증폭하고, 사람들을 조종하며, 사이버 공격을 용이하게 하고, 악의적 행위자가 생물학적 위협을 만들어내기 쉽게 할 수 있다는 점 등이 포함된다.</p> <p contents-hash="7aa96068b445bf884a56591142fe69c5fd6b70f3f3be080212fb48ce9eb431a9" dmcf-pid="WGwke8WIoN" dmcf-ptype="general">위험의 정확한 규모나 현실화 시점에 대해서는 의견이 갈린다. 하지만 이러한 불확실성 자체가 전 세계적 차원에서 모든 시나리오에 대비해야 한다는 점을 보여준다.”</p> <p contents-hash="4bbd0536dd9f97c1dbbbebfcff25d7acaf2b57a3bdc115e2ae3f976f7d1f750c" dmcf-pid="YHrEd6YCoa" dmcf-ptype="general"><strong>◇ 스스로 목표 추구하지 않는 ‘과학자 AI’… 안전장치로 개발</strong></p> <p contents-hash="428572ad22896e7e2d41637e1f949fbf92b7b6657d86f69cf2e821baacdbda62" dmcf-pid="GXmDJPGhkg" dmcf-ptype="general"><strong>―로제로에서 연구하는 ‘과학자 AI’는 기존 AI와 무엇이 다른가.</strong></p> <p contents-hash="df62ba1ddf39b99ba0b914d7e79f4ec8b333d848a13c7ba6b276ce5de7bf052e" dmcf-pid="HZswiQHlco" dmcf-ptype="general">“로제로는 설계 단계부터 안전한 AI를 구현할 기술적 해법을 개발하는 비영리 연구 스타트업이다. 통제되지 않거나 의도하지 않은 행동을 없애기 위해 AI 모델의 학습 방식을 근본적으로 다시 생각하고자 한다.</p> <p contents-hash="fd78f9ea108033326c96496ba8e109cefa8bd26ebeb88eacd449da2dad0f8d4a" dmcf-pid="X5OrnxXScL" dmcf-ptype="general">핵심 연구 접근법인 과학자 AI는 스스로 추구하는 목표나 목적이 없고, 완전히 정직하며 신뢰할 수 있는 AI를 만드는 데 초점을 맞춘다. 심각하게 유해한 답변을 생성하지 않는다는 점을 수학적으로 보장하는 AI를 개발하려는 것이다. 이를 기존 범용 AI 시스템의 안전장치로 활용해 시스템을 더 안전하고 신뢰할 수 있게 만들 잠재력이 크다고 본다.”</p> <p contents-hash="c6352696aba3adde06dde4d746692433e30523667ba77b48ad0cc754383e4a33" dmcf-pid="Z1ImLMZvjn" dmcf-ptype="general"><strong>―AI의 미래에서 가장 우려하는 것은 무엇이며, 그래도 낙관하는 이유는 무엇인가.</strong></p> <p contents-hash="035f7c4571a687ac31648fc4a31613064549b80ef8e89815cf35347e29ddabe0" dmcf-pid="5tCsoR5Tji" dmcf-ptype="general">“더 강력한 모델을 계속 만들어야 한다는 상업적 압력 때문에 AI 기업들은 갈수록 강력한 AI를 끊임없이 개발하고 있다. 이런 모델은 대부분의 인지 작업에서 인간 수준의 능력에 도달하거나 이를 넘어서는 단계에 가까워지고 있다. 반면 우리는 이러한 시스템을 인간의 의도에 맞추고 통제할 수 있다고 보장할 방법을 여전히 갖고 있지 않다.</p> <p contents-hash="a0871f4c5e0d7f2e5de2a0d16e0f0163d2700131241012b4b2ddba046043578d" dmcf-pid="1FhOge1yoJ" dmcf-ptype="general">최첨단 AI 기업들은 부정행위와 거짓말, 계략 같은 행동까지 동원하는 에이전트를 개발하고 있다. 이는 우리의 미래에 파국적인 위협이 될 수 있다. 또한 AI가 다음 버전의 자신을 반복적으로 설계하도록 해 초지능을 구현하려고 한다. 이는 통제되지 않는 위험한 방식으로 기술 발전을 가속할 수 있다.</p> <p contents-hash="bb137f14c23dd77072eca305ed8b282de225b724a6de8173480a1107278100a3" dmcf-pid="t3lIadtWcd" dmcf-ptype="general">다만 로제로에서 수행하는 연구를 통해 인간의 의도와 어긋나는 AI 행동의 위험을 줄일 기술적 해법이 가능하다고 확신하게 됐다. 강력한 안전장치와 국제 협력, 함께 행동해 변화를 만들어낼 역량을 바탕으로 AI를 현명하게 이끌어간다면, AI와 함께하는 안전한 미래가 가능하다고 확신한다.”</p> <p contents-hash="84bf0be66e1da85a5d41123f3e7457adcf25650fd0048270c4b6e494efc4ddba" dmcf-pid="F0SCNJFYae" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 "무릎 꿇어" 메모리 갑질하던 애플…삼전닉스 귀해져도 CEO 안오네 [IT썰] 11-01 다음 [김수연의 헬스업] 수면무호흡증, ‘잠버릇’ 아닌 ‘질환’…코 안곤다고 안심은 NO! 11-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
