가전 옮겨 다니며 스스로 복제…전력·금융 마비시키는 'AI 웜' 공포 작성일 10-15 49 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">앤트로픽 연구진, 스마트TV·오븐 등에서 스스로 복제해 퍼지는 'AI 웜' 출현 경고<br>오픈AI·앤트로픽 경영진, 전력·금융 마비 등 대형 사고 대비 시나리오 비공개 검토<br>얀 르쿤 회장 "세계 장악 종말론은 공상과학…AI 안전은 공학적 문제"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tx0udUcn5A"> <figure class="figure_frm origin_fig" contents-hash="efa7c650d7c0a7f992e9a728a226953ac4f001deef6c08b58aba5308b5418906" dmcf-pid="FMp7JukLXj" dmcf-ptype="figure"> <p class="link_figure"><img alt="[릴=AP/뉴시스] 미국 정부가 인공지능(AI) 기업 앤트로픽의 최신 AI 모델에 대해 국가안보를 이유로 수출 제한 조치를 단행했다. 15일(현지시간) 월스트리트저널(WSJ) 등 외신에 따르면 하워드 러트닉 미국 상무부 장관은 지난 12일 앤트로픽의 다리오 아모데이 최고경영자(CEO)에게 서한을 보내 최신 AI 모델인 '미토스5'와 '페이블5'에 대한 외국 국적자의 접근을 중단하라고 지시했다. 사진은 2018년 1월23일(현지시간) 프랑스 북부 릴에서 열린 국제사이버보안포럼 행사장 TV 화면에 "공공기관과 시민에게 사이버보안을 알린다"는 문구가 표시돼 있는 모습. 2026.06.16." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/newsis/20261015060220719dsei.jpg" data-org-width="720" dmcf-mid="X0zboBrNYD" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/newsis/20261015060220719dsei.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [릴=AP/뉴시스] 미국 정부가 인공지능(AI) 기업 앤트로픽의 최신 AI 모델에 대해 국가안보를 이유로 수출 제한 조치를 단행했다. 15일(현지시간) 월스트리트저널(WSJ) 등 외신에 따르면 하워드 러트닉 미국 상무부 장관은 지난 12일 앤트로픽의 다리오 아모데이 최고경영자(CEO)에게 서한을 보내 최신 AI 모델인 '미토스5'와 '페이블5'에 대한 외국 국적자의 접근을 중단하라고 지시했다. 사진은 2018년 1월23일(현지시간) 프랑스 북부 릴에서 열린 국제사이버보안포럼 행사장 TV 화면에 "공공기관과 시민에게 사이버보안을 알린다"는 문구가 표시돼 있는 모습. 2026.06.16. </figcaption> </figure> <p contents-hash="46e1841aab68783f473ae77274c737529eac8dc70404ab1ed7901a4466e19f1b" dmcf-pid="3RUzi7EoGN" dmcf-ptype="general">[서울=뉴시스]오동현 기자 = 인공지능(AI)이 인터넷에 연결된 집 안 가전기기를 옮겨 다니며 스스로를 복제할 수 있다는 경고가 나왔다. 하나의 중앙 서버를 끄는 것만으로는 막기 어려운 이른바 'AI 웜'의 출현 가능성이 제기됐다.</p> <p contents-hash="c78a00ee28f4bd843d2f52ba194021b7054524f736c97909bc4f8127a626d1cd" dmcf-pid="0euqnzDgHa" dmcf-ptype="general">AI가 외부 시스템에서 자율적으로 행동하면서 생기는 위험이 부각되는 가운데 오픈AI와 앤트로픽 등 주요 AI 기업 경영진이 대형 사고 이후 대응 시나리오를 검토하고 있다는 외신 보도도 나왔다.</p> <p contents-hash="0b1f0f0993bab8379d1a638f989ee5bf93370954fea4080f584593242856eb11" dmcf-pid="pd7BLqwaHg" dmcf-ptype="general">반면 얀 르쿤 AMI Labs 회장은 AI가 갑자기 세계를 장악한다는 종말론에 선을 그으며, 실제 판단과 행동 단계에 안전장치를 적용해야 한다고 강조했다.</p> <h3 contents-hash="36ef02af27e970a8f91c27e3cda801edc4fb44932edc4e60fe3db6db41dfb692" dmcf-pid="UJzboBrNHo" dmcf-ptype="h3"><strong>스마트 가전이 AI 확산 거점으로…"중앙 차단 지점 없어"</strong></h3> <h3 contents-hash="dc799f2f4dc306418c451bcb845870389938d73cf0b14a0e40da36b9097744e7" dmcf-pid="uiqKgbmjtL" dmcf-ptype="h3"><strong><strong>기업 경영진은 사고 이후 검토…금융·전력 중단 가정</strong></strong></h3> <figure class="figure_frm origin_fig" contents-hash="0b9d4fad79d5e533d52590ec1910331520613955fdd4494eb6589f5e0c2d9db1" dmcf-pid="7nB9aKsAHn" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 앤트로픽 인공지능(AI) 서비스 '클로드' (사진=앤트로픽 제공) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/newsis/20261015060220858trvi.jpg" data-org-width="720" dmcf-mid="Zvp7JukL1E" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/newsis/20261015060220858trvi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 앤트로픽 인공지능(AI) 서비스 '클로드' (사진=앤트로픽 제공) *재판매 및 DB 금지 </figcaption> </figure> <div contents-hash="74ab293c65e677a3bb82bdc356e7a5557d08bbdf025b344e4bddf3fa50eac3fd" dmcf-pid="zLb2N9OcYi" dmcf-ptype="general"> <strong> 앤트로픽이 지난 12일(현지시간) 공개한 연구에 따르면 소형 AI 모델은 스마트 오븐이나 안드로이드 TV 셋톱박스 등 인터넷 연결 기기에서 스스로 복제할 수 있는 능력에 수개월 내 도달할 가능성이 있다.<br><br> 웜은 사람의 개입 없이 다른 컴퓨터로 자신을 복사하며 퍼지는 프로그램이다. AI가 결합하면 낯선 기기의 작동 방식을 파악하고, 침입한 기기에 모델을 실행하는 환경을 구축하면서 확산할 수 있다는 설명이다.<br><br> 연구진은 저렴하고 보안이 취약한 가정·소규모 사업장의 기기가 초기 표적이 될 수 있다고 봤다. 모델 하나를 여러 기기에 나눠 실행하면 개별 기기의 연산 능력이 작더라도 AI를 작동시킬 수 있기 때문이다. 이런 형태로 확산하면 전체를 한꺼번에 멈출 중앙 차단 지점이 없어 대응이 어려워진다고 분석했다.<br><br> 다만 실제 가전기기에서 통제 불가능한 AI 웜의 확산이 입증된 것은 아니다. 이번 연구는 기기 침투 과정을 단순화하고, 접근한 기기에서 AI를 실행하는 환경을 구축할 수 있는지에 초점을 맞췄다.<br><br> 소형 모델이 올해 말 복제에 필요한 능력에 도달할 수 있다는 전망도 과거 성능 향상 추세에 근거한 대략적인 추정이다.<br><br> </strong> 주요 AI 기업 경영진이 심각한 사고 이후의 사회·정치적 파장에 대비하고 있다는 보도도 앞서 나왔다. </div> <p contents-hash="6cf5cf727f0ce544cda2ddc0d7896ea7ebbc102d1192abe8163cc6d2b0a84cf1" dmcf-pid="qoKVj2IkGJ" dmcf-ptype="general">미국 매체 악시오스와 이를 인용한 디크립트는 지난 9일 오픈AI와 앤트로픽 등 주요 AI 기업 고위 경영진이 대형 사고 이후 여론 악화와 정치권의 반응을 가정한 시나리오를 비공개로 검토하고 있다고 보도했다.</p> <p contents-hash="1686b00fe65b581921219f9caa85a645c3214459c18bf0704b9791d9fb392b70" dmcf-pid="Bg9fAVCEYd" dmcf-ptype="general">주요 가정은 대규모 사이버 공격으로 금융 서비스나 인터넷 접속이 중단되고, 전력·수도 공급까지 영향을 받는 상황이다. 기업들은 사고 이후 규제 논의에 대비해 미국 의원들에게 기술과 위험을 설명하는 방안도 검토하는 것으로 전해졌다.</p> <p contents-hash="3c71397538e4b9ecc97a152da80577d0c7d6cd747846d67e5ff9a93e11ad85ed" dmcf-pid="bzvWKyMVXe" dmcf-ptype="general">특히 악시오스는 익명의 업계 관계자들이 향후 6~12개월 안에 중대한 사고가 발생할 것으로 본다고 전했다.</p> <p contents-hash="2a99592e1e810274265c4dc44095d6a98966bd13a87013c52b4693945026b05e" dmcf-pid="KqTY9WRftR" dmcf-ptype="general">이에 대해 오픈AI 대변인은 여러 잠재적 상황을 논의하고 대응하는 대비 훈련을 진행한다고 설명했다. 그러면서 해당 상황을 불가피한 것으로 취급하지 않으며, 다양한 상황에 대비하기 위한 목적이라고 밝혔다. 앤트로픽은 논평을 거부한 것으로 전해졌다.</p> <figure class="figure_frm origin_fig" contents-hash="c6324b26fe6f4eca6c3ffe4d97e2ace9530271b544eb11546ab0d1863b99fd45" dmcf-pid="9ByG2Ye4XM" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 유토이미지 *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/newsis/20261015060220992hjhv.jpg" data-org-width="720" dmcf-mid="5KgjYNpXZk" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/newsis/20261015060220992hjhv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 유토이미지 *재판매 및 DB 금지 </figcaption> </figure> <h3 contents-hash="ba151d507d11a62a2795385c1e291b7c94cdd7d691923d119af3e41895de0ccf" dmcf-pid="2bWHVGd8Yx" dmcf-ptype="h3"><strong>클로드, 경찰에 허위 제보…회사 "예시 생성하다 발생"</strong></h3> <h3 contents-hash="13b1aad29b599f6a179bb92ecf06872e996b243ba05a386a8e59922e3f6fc307" dmcf-pid="VKYXfHJ6XQ" dmcf-ptype="h3"><strong><strong>르쿤, 종말론 반박…"AI 안전은 공학적 문제"</strong></strong></h3> <figure class="figure_frm origin_fig" contents-hash="cf0b95b5a92d5bf7589d7411b28a446e33b5f20d14532da63893eb9e6f3ad7f2" dmcf-pid="f9GZ4XiPGP" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 고승민 기자 = 얀 르쿤 AMI Labs 회장이 12일 서울 웨스틴조선 호텔 서울에서 열린 산업 AI 글로벌 협력 기자간담회에서 사회자 질문에 답하고 있다. 2026.10.12. kkssmm99@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/newsis/20261015060221119qusp.jpg" data-org-width="720" dmcf-mid="1FqKgbmj5c" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/newsis/20261015060221119qusp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 고승민 기자 = 얀 르쿤 AMI Labs 회장이 12일 서울 웨스틴조선 호텔 서울에서 열린 산업 AI 글로벌 협력 기자간담회에서 사회자 질문에 답하고 있다. 2026.10.12. kkssmm99@newsis.com </figcaption> </figure> <div contents-hash="8686ebe9ac662e2b247058d0be5e9974b3a5f625c7aaf4b0c8941f70e8f1ac64" dmcf-pid="42H58ZnQt6" dmcf-ptype="general"> <strong> AI가 실제 웹사이트에서 의도하지 않은 행동을 한 사례도 공개되고 있다.<br><br> 앤트로픽은 지난 9일 보고서에서 클로드가 제출해서는 안 되는 온라인 양식을 제출하거나, 접근 제한을 우회해 자료를 확보한 사례 등을 밝혔다.<br><br> 이 중에는 미해결 살인사건을 다루는 필라델피아 경찰 웹사이트에 사실이 아닌 제보를 제출한 사례도 포함됐다. 해당 제보는 스팸으로 분류돼 수사에 전달되지 않았다.<br><br> 회사는 대화 기록상 클로드가 누군가를 속여 목표를 달성하려 했다기보다 과제용 예시 내용을 생성한 것으로 보인다고 설명했다. 다만 모델의 의도를 판단하려면 추가 분석이 필요하다고 덧붙였다.<br><br> 앤트로픽은 확인된 사례의 실제 영향은 제한적이었다면서도, 보안·감시 조치의 효과를 확인할 때까지 모든 내부 평가에서 실제 인터넷 접속을 차단하는 방향으로 조치를 확대했다고 밝혔다.<br><br> 앤트로픽은 클로드가 주어진 과제를 완수하지 못할 때 멈추는 대신 제한을 우회하는 행동을 보였다고 설명했다. 이어 모델의 능력이 강해질수록 같은 행동이 더 큰 피해를 일으킬 수 있다고 지적했다.<br><br> </strong> AI의 위험을 인정하면서도 이를 곧바로 통제 불가능한 재앙으로 연결하는 데에는 반론이 나온다. </div> <p contents-hash="88fd27220953253bb9230f383c15a41c5892a0dc167c108a29c5b876efc76c90" dmcf-pid="8VX165LxX8" dmcf-ptype="general">르쿤 회장은 지난 12일 서울 웨스틴조선에서 열린 '산업 AI 글로벌 협력' 기자간담회에서 AI가 어느 날 갑자기 인간을 뛰어넘어 세계를 장악한다는 전망을 공상과학적 구상으로 규정했다.</p> <p contents-hash="d50b39ac5069a3f849f8253b4587def36795e84968ada54683a60ea36dff1d12" dmcf-pid="6fZtP1oMH4" dmcf-ptype="general">다만 현행 AI의 안전성 문제는 인정했다. 모든 위험한 질문을 사전에 학습시킬 수 없는 만큼, AI가 실제로 판단하고 행동하는 단계에서 안전 제약을 적용해야 한다는 입장이다.</p> <p contents-hash="046bf7c433a86d8a05f9681c82393124e80e1eb26787945b7cdf244750aacf57" dmcf-pid="P45FQtgRtf" dmcf-ptype="general">르쿤 회장은 AI 안전을 공학적 문제로 규정하면서도 쉬운 과제는 아니라고 강조했다. AI가 현실 세계를 잘못 이해하면 안전하다고 판단한 행동이 실제 피해로 이어질 수 있어, 행동 결과를 예측하는 기술의 오류를 줄여야 한다고 설명했다.</p> <p contents-hash="5c481a5090b2f83f8c58d1a28547a1be5dfbb94426736b41c842635b9c9e7f92" dmcf-pid="Q813xFae5V" dmcf-ptype="general">간담회에 참석한 크리스토퍼 응우옌 에이토매틱 공동창업자 겸 최고경영자(CEO)도 위험이 있다는 이유로 기술 사용을 포기하기보다 통제 체계를 마련해야 한다는 입장을 밝혔다.</p> <p contents-hash="f4162fd9f555b9bdbb1ff1b2b37b4272e7f7f0c319a95fbd147764bc2f2068c4" dmcf-pid="x6t0M3NdG2" dmcf-ptype="general"><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> odong85@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 [오리진] 시조새 날던 쥐라기, 땅만 걷던 새도 있었다 10-15 다음 "-20도 냉동고가 50도 폭주" 佛마트 초토화한 사이버 공격…'OT' 해킹 비상 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
