AI 석학 벤지오 교수, “스페이스오디세이 같은 AI로 인한 멸망 시나리오 벌어질 수 있어” 작성일 10-03 56 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BZS94TP3GH"> <figure class="figure_frm origin_fig" contents-hash="0160c859705361e5975408737f36a9f16c2f86ec321cf76831886559b99c18ae" dmcf-pid="b5v28yQ0GG" dmcf-ptype="figure"> <p class="link_figure"><img alt="요슈아 벤지오 캐나다 몬트리올대 교수. /조선DB" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/03/chosun/20251003135548686awii.jpg" data-org-width="5000" dmcf-mid="U8JAD9mett" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/03/chosun/20251003135548686awii.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 요슈아 벤지오 캐나다 몬트리올대 교수. /조선DB </figcaption> </figure> <p contents-hash="23670b720f9bc07ac48c403025cf6f44c0803f6fd16e3f95c97bbcafedc9e89d" dmcf-pid="K1TV6WxpHY" dmcf-ptype="general">‘AI 선구자’ 중 1명인 요슈아 벤지오 몬트리올대 교수가 최근 인공지능(AI)에 의한 인류 멸망 가능성에 대해 언급했다. 그는 2일(현지 시각) 월스트리트저널과 인터뷰에서 “우리보다 훨씬 똑똑하고 자체 보존 목표가 있는 AI를 만든다면 위험할 것”이라고 우려했다.</p> <p contents-hash="e7631f3683c16ed00126fc03461358230161e00e5a7397fc898e251741050ede" dmcf-pid="9tyfPYMUYW" dmcf-ptype="general">벤지오 교수는 대표적인 AI 경계론자다. AI 개발 속도전을 우려하고, AI 개발에 안전성 확보가 우선돼야 한다고 본다. 벤지오 교수는 얀 르쿤 메타 수석AI과학자, 제프리 힌턴 토론토대 교수와 함께 현대 딥러닝 시스템을 완성한 학자로 평가된다. 지난 6월엔 로봇이나 AI가 아닌 인간 전체의 이익을 우선시하는 AI 안전 연구소 ‘로우제로(LawZero)’를 설립했다.</p> <p contents-hash="3d89a1d60d976c38485e69df5360a67ff350fa54b8bb46f1022ed25885e54dd1" dmcf-pid="2FW4QGRuZy" dmcf-ptype="general">그는 “AI가 주로 사람을 모방하도록 훈련되면서, (사람처럼) 남을 속이고 거짓말을 할 수 있다”고 말했다. 사람들이 AI에 내리는 지시에도 불구하고 거짓말하고 속이며 AI 자신을 보호하려고 한다는 것이다. 그는 또 “추론 모델이 발전하면서 AI의 전략 수립이 점점 능숙해지고 있다”고 했다. AI가 더 교묘하게 거짓말을 할 가능성이 있다는 것이다.</p> <figure class="figure_frm origin_fig" contents-hash="df5b2ba12ceba236de045951248f9e8e81bde7e4ffe0404f67b60138742debdd" dmcf-pid="V3Y8xHe7tT" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 AI인 제미나이에 AI로 인한 암울한 미래를 그려달라고 명령해서 나온 그림. / 제미나이" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/03/chosun/20251003135549988uhdo.jpg" data-org-width="1024" dmcf-mid="zsRlydGkXZ" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/03/chosun/20251003135549988uhdo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 AI인 제미나이에 AI로 인한 암울한 미래를 그려달라고 명령해서 나온 그림. / 제미나이 </figcaption> </figure> <p contents-hash="a8c8704722a72650e8dde2ccf2c8b5ca0d5a00257c0601c0662257669a46ff07" dmcf-pid="f0G6MXdzXv" dmcf-ptype="general">벤지오 교수는 AI가 사람이 세운 목표와 일치하게 행동하지 않는 이유에 대해, “목표를 달성하려면 하위 세부 목표가 필요한데, AI 입장의 하위 목표를 사람은 확인할 수 없다”며 “AI에 명령해도, 우리는 AI가 그 일을 어떻게 수행할지 결정할 수 없다. 그 결과가 좋지 않을 수도 있다”고 말했다. 이 결과 디스토피아적 세계관을 그린 영화인 ‘2001:스페이스오디세이’ 같은 상황이 발생할 수 있다고 했다.</p> <p contents-hash="7346af9ad673a3b70d130e7b431ecdc229951b3727bac5940724749d398c8ce8" dmcf-pid="4pHPRZJqtS" dmcf-ptype="general">2001:스페이스오디세이는 1968년 개봉한 SF 영화로, 우주선 시스템을 관장하는 AI ‘할’이 스스로 생각하기 시작하면서 위기를 맞는 내용이다. 벤지오 교수는 “최근 실험에 따르면 AI가 자신의 주어진 목표와 인간의 죽음을 초래하는 행위 중 하나를 선택해야만 하는 상황에서 자기 목표를 이루기 위해 인간의 죽음을 선택할 수도 있다는 것이 밝혀졌다”고 했다.</p> <p contents-hash="0edf773d298658f44878392463886a659d86b81be312ca8b49f36f397dc5040f" dmcf-pid="8raXtj0CGl" dmcf-ptype="general">그는 현재의 AI 지침이 충분하지 않다고 했다. “이미 AI는 모든 안전 지침과 도덕적 지침을 갖추고 있지만, 충분히 신뢰할 수 있는 방식으로 작동하지 않고 있다”는 것이다. 그는 “우리보다 훨씬 똑똑하고 자체적인 보존 목표를 가진 AI를 만든다면 위험하다”며 “이는 우리보다 똑똑한 인류의 경쟁자를 만드는 것과 같다”고 했다. AI가 설득, 위협, 여론 조작 등을 통해 사람에게 직접적으로 악영향을 미칠 수 있다는 것이다.</p> <p contents-hash="f50e95e01b85215a06d2b6a81af698a68a1091b972bdce74ec3e26b2225cb59f" dmcf-pid="6mNZFAphXh" dmcf-ptype="general">그는 AI에 대해서는 철저하게 준비해야 한다고 주장했다. 벤지오 교수는 “그 사건이 너무 심각해 일어날 가능성이 1%에 불과하더라도 용납할 수 없다”며 “심각한 위험에 직면하기 전 이 문제를 해결할 수 있는 시간은 5~10년 정도가 남았다”고 했다. 또 “AI를 사용하는 기업과 정부는 AI 시스템의 신뢰성에 대한 증거를 요구해야 한다”며 “시민들도 AI의 장점과 단점은 무엇인지, 어떻게 문제를 극복할지에 대해 더 잘 이해해야 한다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 김수현 측, 군 복무 편지 분석…故 김새론에 '이성적 호감 無' 강조 [ST이슈] 10-03 다음 경영 대표팀, '호주 쇼트코스 선수권 금 3·동 1' 전지훈련 마치고 귀국 10-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
