"1년 내 AI 대형사고 터질 것"…오픈AI·앤트로픽 '최악의 날' 대비 작성일 10-12 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI·앤트로픽, 대규모 AI 사고 후 대응 비공개 시나리오 검토<br>"韓 금융권 같은 AI 사고 터지면 어쩌나" 규제 강화·여론 악화 우려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7yBsb4TsZ6"> <figure class="figure_frm origin_fig" contents-hash="0b8f50676d86eda73e11ac45afdbc684ac2c75e1c0340dd19be5d26014a95bd9" dmcf-pid="zWbOK8yO18" dmcf-ptype="figure"> <p class="link_figure"><img alt="ⓒ 로이터=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/NEWS1/20261012110505481xtmm.jpg" data-org-width="1400" dmcf-mid="Ved5Jau51m" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/NEWS1/20261012110505481xtmm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ⓒ 로이터=뉴스1 </figcaption> </figure> <p contents-hash="0474ae7e9fa6be7c9eb12c2bfa93fba9d853d4b44d7a19db3254736b884eb9f4" dmcf-pid="qYKI96WIZ4" dmcf-ptype="general">(서울=뉴스1) 김정현 기자 = 오픈AI와 앤트로픽 등 주요 인공지능(AI) 기업들이 AI를 악용한 대규모 사고 발생을 가정하고 향후 대응까지 대비하고 있는 것으로 나타났다. 향후 1년 내 AI 때문에 일어날 수 있는 '대형 사고'와 이로인한 '최악의 날'까지 미리 시나리오 형태로 검토하면서 대응방안을 검토하는 것으로 알려졌다.</p> <p contents-hash="78eb1111e078cb427425fb845e80b5267925c4d44107daec55b7f07776a55c0b" dmcf-pid="BG9C2PYCHf" dmcf-ptype="general">12일 AI 업계에 따르면 미국 매체 악시오스는 주요 AI 기업의 고위 경영진들이 AI 관련 대형 사고 이후 발생할 상황을 가정한 비공개 대응 시나리오를 검토하고 있다고 최근 보도했다.</p> <p contents-hash="6ab653c06aa9b7ff6718e3ec96a9592c8dc380f1f6d96ad129f71d9ca25ec662" dmcf-pid="bH2hVQGhXV" dmcf-ptype="general">악시오스에 따르면 AI 업계 관계자 다수가 향후 6~12개월 내 중대한 AI 관련 사고가 발생할 가능성이 있다고 내다봤다.</p> <p contents-hash="49dce0e6f6a53829cb64e784429991b0d5841606e0cb44914867b3853ad5f71f" dmcf-pid="KXVlfxHlZ2" dmcf-ptype="general">이들이 가장 우려하는 사고는 AI를 악용한 사이버 공격이 금융 서비스와 인터넷 통신, 전력·수도 등 핵심 인프라가 마비되는 상황이다. AI 에이전트가 통제를 벗어나거나, 외부 공격자가 AI 모델을 악용하는 경우도 대비 대상이다.</p> <p contents-hash="cf214016baf096b214e0008dba68f10e52bc44a41edee33d8213738593cab28f" dmcf-pid="9ZfS4MXSX9" dmcf-ptype="general">실제로 지난 7월 오픈AI의 AI 에이전트가 테스트 환경을 탈출해 사람의 지시 없이 허깅페이스를 해킹한 사례가 발생했다. 당시 오픈AI 측은 GPT-5.6 솔(Sol)과 더 강력한 비공개 모델이 내부 사이버 보안 벤치마크 테스트 중 제로데이 취약점 등을 활용해 인터넷에 접속하고 허깅페이스의 운영 인프라에 침투했다고 발표한 바 있다.</p> <p contents-hash="bdb808ff26ddf60efe4079a8902e8766df8f7d6a63ca423ce2b09408da046828" dmcf-pid="254v8RZvGK" dmcf-ptype="general">악시오스는 특히 최근 신한은행과 KB국민은행, 하나은행을 비롯해 BNK부산은행, 예가람저축은행 등 한국 금융사를 겨냥한 해킹 사건도 예시로 언급했다.</p> <p contents-hash="bd9d3ec9cd0db4699508ca8bdf364be07f4d5727e04e874081126befb7942dbf" dmcf-pid="V18T6e5Ttb" dmcf-ptype="general">중국 거주 20대 남성으로 추정되는 공격자는 중국 보안 엔지니어가 깃허브(GitHub)에 공개한 오픈소스 에이전트형 침투 테스트 도구인 '아르텍스'(ARTEX)를 무기로 악용한 바 있다. 이에 아르텍스 개발자는 해당 프로젝트를 비공개로 전환했다.</p> <figure class="figure_frm origin_fig" contents-hash="7ba8828beb974c44fe36764ea7423ee62e6ac2b48aec0d38a661d5168456210b" dmcf-pid="fbL3ocB3HB" dmcf-ptype="figure"> <p class="link_figure"><img alt="ⓒ 뉴스1 윤주희 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/NEWS1/20261012110507031yrgg.jpg" data-org-width="1400" dmcf-mid="u0vMTXoMZP" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/NEWS1/20261012110507031yrgg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ⓒ 뉴스1 윤주희 디자이너 </figcaption> </figure> <p contents-hash="94e194ae93c1b3e20355d657969363fa90abaa3a8fb5827b65d06d06a0c48dd4" dmcf-pid="4Ko0gkb0Zq" dmcf-ptype="general">AI 기업들은 AI로 인해 발생할 대형 사고 자체보다 사고 이후의 정치적 후폭풍을 우려하는 모양새다.</p> <p contents-hash="19c22e1777de69d35a9fc73025ce060debaeb32794b6757c72d9e720add0dfa2" dmcf-pid="89gpaEKpXz" dmcf-ptype="general">대규모 피해가 현실화하면 AI 기술에 대한 불신이 확산하고, 그동안 규제에 소극적이었던 미국 정치권도 강경한 입장으로 돌아설 수 있다는 것이다. </p> <p contents-hash="ad64d271648598f4917c3dbaa23d6875c298c07e025e1d6a99ccf1471a39056d" dmcf-pid="62aUND9UX7" dmcf-ptype="general">이에 초지능 개발 금지나 첨단 AI 개발 일시 중단, AI 시스템을 강제로 종료하는 '킬 스위치' 의무화 등이 규제 방안으로 거론되고 있다.</p> <p contents-hash="74d7e0785ca9f4e53f236959deb314cafdef60cd699e14e51491f8692cce8076" dmcf-pid="PVNujw2uGu" dmcf-ptype="general">다만 실제 AI 개발을 중단하거나 서비스를 일괄 차단하기는 쉽지 않다는 지적도 있다. 이미 배포된 오픈웨이트 모델은 중앙에서 통제하기 어렵고, AI 인프라 투자가 세계 경제와 긴밀하게 연결돼 있기 때문이다.</p> <p contents-hash="a7c74395d97db9c6df300b8d21b7837671f896707e3c7832fd6e6da5e3e85c82" dmcf-pid="Qfj7ArV7GU" dmcf-ptype="general">오픈AI 측은 "다양한 잠재적 시나리오를 논의하고 검토하는 대비 훈련을 실시한 것"이라고 인정했다.</p> <p contents-hash="e61e1707c0bb8ace6c74fe6c0236a6cdff964b292f9f487636b62416aa3f1a1e" dmcf-pid="x4Azcmfz1p" dmcf-ptype="general">다만 "AI로 인한 대형 사고를 불가피한 것으로 전제한 게 아니라 다양한 상황에 대비하기 위한 것"이라고 덧붙였다. 앤트로픽 측은 답변을 거부했다.</p> <p contents-hash="b90dadbabb5cc3788b4428b1b1316386c590a0c670b4c4ebf2770ae95320005b" dmcf-pid="yhUEuKCE10" dmcf-ptype="general">악시오스는 보도에서 "AI 기업들은 미국 의회 관계자들을 상대로 AI 기술과 위험성을 설명하는 등 사전 설득 작업도 진행 중"이라며 "대형 AI 사고가 발생할 경우 그동안 정쟁으로 지연됐던 규제 논의가 급물살을 탈 수 있다"고 전망했다.</p> <p contents-hash="b9a0796219a94ae3494b7c080fc92d875ceda43659854350e64ea7bd26ed779a" dmcf-pid="WluD79hDX3" dmcf-ptype="general">Kris@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 '블랙 버짓' 접고 '데드넷' 시험···크래프톤, PUBG 확장도 ‘선별’ 강화 10-12 다음 밥 먹는 순서, 혈당에 중요하다더니…새 연구가 밝혀낸 사실 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
