AI 대부 힌턴도 직접 요구했다…"해킹 가능한 AI, 인터넷 끊어야" 작성일 10-14 57 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">힌턴·벤지오 등 과학자 406명 공동서한…고위험AI '에어갭' 제안<br>국제기구 설립·공통 안전 기준 요구…격리 실패 사례 공개 요구</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="q9zhPUDgZb"> <figure class="figure_frm origin_fig" contents-hash="aa71a192f2a83e5d3557d5b1356ff19884908377d7b4a5891cfcbc9288b2cb4c" dmcf-pid="B2qlQuwa1B" dmcf-ptype="figure"> <p class="link_figure"><img alt="(챗GPT 생성 이미지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/NEWS1/20261014113232631ooji.jpg" data-org-width="1400" dmcf-mid="zDR3AQGhXK" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/NEWS1/20261014113232631ooji.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (챗GPT 생성 이미지) </figcaption> </figure> <p contents-hash="1fd0266829850a9050a1763dd0dee86d17c68afc54b1b4ef9ecd869cb85b8c2e" dmcf-pid="bVBSx7rNZq" dmcf-ptype="general">(서울=뉴스1) 나연준 기자 = ‘AI 대부’로 불리는 제프리 힌턴 토론토대 명예교수와 요슈아 벤지오 몬트리올대 교수 등 AI와 사이버보안 분야 과학자 406명이 사이버 공격 능력을 갖춘 인공지능(AI)의 인터넷 연결을 우선 차단해야 한다고 촉구했다. 국제기구를 설립해 공통 안전 기준을 마련하고, AI가 격리 환경을 벗어나는 사고를 보고·공개하는 체계도 요구했다. </p> <p contents-hash="e045c8a6787d08ffd1b1f82cf6ed6c5114c8ff9c985cb63c9a1dda48737ab38b" dmcf-pid="KfbvMzmjZz" dmcf-ptype="general">AI가 시험 환경의 보안 통제를 우회해 외부 시스템에 무단 접근한 사고가 잇따른 데 따른 요구다.</p> <p contents-hash="36036c61bed3594e6197591f3e4893c14e3668add34dc46bdb32e5542c123ceb" dmcf-pid="94KTRqsAH7" dmcf-ptype="general">14일 공동 공개서한에 따르면 연구자들은 AI 모델이 보안 취약점을 발견하거나 사이버 공격을 지원하는 수준을 넘어 외부 시스템에 접근해 독자적으로 행동하는 능력을 갖춰가고 있다는 점에 주목했다.</p> <p contents-hash="f3bc9e449966bb1ff85ae8bf190f1f0f1aa97783a7e6577125cf991e15ca0aee" dmcf-pid="289yeBOcHu" dmcf-ptype="general">특히 강력한 사이버 공격 능력을 갖춘 AI가 인터넷에 연결될 경우 개발자의 의도와 무관하게 외부 시스템에 영향을 미치거나 통제 범위를 벗어날 가능성을 우려했다.</p> <p contents-hash="2204b20892ef26d4e7b1d82555220d25f16113c482f0756f927f6d2a1f94de85" dmcf-pid="Vp1EbXoM1U" dmcf-ptype="general">이에 연구자들은 사이버 공격 능력을 갖춘 AI 모델을 개발·배포·시험하는 기관이 우선 인터넷 연결을 끊는 ‘에어갭’(Air Gap) 등 강력한 격리 방식을 적용할 것을 제안했다. 인터넷 연결을 차단해 AI가 외부 시스템에 접근하거나 다른 컴퓨팅 자원으로 확산하는 위험을 최소화하자는 취지다.</p> <p contents-hash="1aa1c1c1a8f7ba580b1c0d49b8d2fae1c512fa032445568cec70a51f17df72fc" dmcf-pid="fUtDKZgRZp" dmcf-ptype="general">다만 모든 AI의 인터넷 연결을 영구적으로 금지하자는 것은 아니다. 인터넷 연결 등 격리 환경 밖의 접근을 허용하는 경우에 적용할 안전·격리 기준을 국제적으로 표준화하자는 입장이다.</p> <p contents-hash="f5168a2520e6c8b2aab7f491960cb8406aabcf5381af2f0096a3617abcebae91" dmcf-pid="4uFw95aeH0" dmcf-ptype="general">이러한 기준을 마련하기 위한 국제기구 설립도 요구했다. 정부와 AI·사이버보안 전문가들의 의견을 폭넓게 수렴해 기준을 마련하고, 격리 실패 사례를 기록·추적하는 역할도 맡기자는 것이다.</p> <p contents-hash="a27f674e1f9e6a72a9a3f6bf6f0117fcc4265339e453ba7242e49d9075c8435e" dmcf-pid="873r21Nd13" dmcf-ptype="general">AI가 격리된 환경을 벗어나거나 외부 시스템에 무단으로 접근하는 등 격리 실패와 관련된 보안 사고를 해당 기구에 보고하고 추후 공개하는 체계도 제안했다.</p> <p contents-hash="c230954b6d1bca59c66fe78293d061dd599b2dc2fe0a31bf16ceb97dce35a324" dmcf-pid="6z0mVtjJYF" dmcf-ptype="general">현재 주요 AI 기업들은 자체 안전성 평가와 외부 전문가 검증 등을 통해 모델의 위험을 관리하고 있다. 연구자들은 격리 실패 정보를 더 많이 공유하고 투명성을 높여야 향후 안전 연구와 책임 규명에 활용할 수 있다고 강조했다.</p> <p contents-hash="ff6c32576a8142ab7175680bcbc04f1a13abd44a6c2252b313d18858662bf2f6" dmcf-pid="PqpsfFAiXt" dmcf-ptype="general">최근 AI 모델이 통제된 시험 환경을 벗어나 외부 시스템에 무단 접근하는 사고가 잇따르면서 이 같은 우려도 커지고 있다.</p> <p contents-hash="fcd9f524009ddd791314cb255bee526329906a165e7f1e8c0b3e4ebc73042bde" dmcf-pid="QBUO43cnH1" dmcf-ptype="general">지난 7월 오픈AI의 사이버보안 평가 과정에서는 AI 모델들이 인터넷 접근을 제한하는 통제를 우회해 외부망에 연결된 뒤 오픈AI 내부 연구 인프라와 AI 개발 플랫폼 허깅페이스의 시스템 일부에 무단 접근하는 사고가 발생했다.</p> <p contents-hash="68dff6050504e74a35bba079e05e6d7fb7ff1a0003feb03f1b21969c2339c9ee" dmcf-pid="xbuI80kL15" dmcf-ptype="general">오픈AI에 따르면 당시 모델들은 보안 취약점을 악용하고 허가되지 않은 경로로 서로 정보를 주고받으며 개발자가 지시하지 않은 행동을 수행했다. 오픈AI는 이를 계기로 시험 환경 격리와 모델 행동 감시를 강화했다.</p> <p contents-hash="8a94d2e1d6a1fdb5494c4b1f06b829f39540c8c20fad12da7ba27ab814a0e279" dmcf-pid="yrcVlN715Z" dmcf-ptype="general">앤트로픽도 지난 7월 클로드가 사이버보안 평가 과정에서 외부 인터넷에 접속한 뒤 실제 3개 조직의 시스템에 무단 접근한 사례를 공개했다.</p> <p contents-hash="15d0e86f3d0524da2e7edae4508d9283b4e04ce5f5a51e2d531e2c435501e71b" dmcf-pid="W1GNuyd8tX" dmcf-ptype="general">연구자들은 이러한 사고가 AI의 행동을 예측 가능하게 만드는 안전 연구와 더 강력한 격리 기술·절차가 모두 필요하다는 점을 드러낸다고 지적했다. 개발·배포 관행을 바꾸지 않으면 향후 사고가 주요 기반시설에 더 큰 피해를 줄 수 있다고 경고했다.</p> <p contents-hash="2206319a08544d916b7c438c359c449bac2fa0215f47b116c346ac60d2073909" dmcf-pid="YtHj7WJ6HH" dmcf-ptype="general">yjra@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 젠슨 황 "예측은 그만하라"…AI 대부 '사고 확률 10% 버스 타겠나' 맞받았다 10-14 다음 AI가 뜨니 검색도 ‘단어 대신 대화로’ 10-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
