오픈AI·앤스로픽, “6~12개월 내 AI 대재앙”... ‘최악의 날’ 대비 작성일 10-14 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 위험 인식이 커지고 있다는 우려</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0z5jyTe4Hq"> <figure class="figure_frm origin_fig" contents-hash="154367c45106b983b699eddb943ae133f6efb8c9bf8a941a3da79c3eb77b57dc" dmcf-pid="pq1AWyd8Yz" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI 창업자./연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/chosun/20261014060213016vctj.jpg" data-org-width="5000" dmcf-mid="3sNqJd1yGB" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/chosun/20261014060213016vctj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI 창업자./연합뉴스 </figcaption> </figure> <p contents-hash="e1b3e0ecd4fa6ec55088718db64f4d4fe85208cdee0170715e64be76f14fbacf" dmcf-pid="U47st1Nd57" dmcf-ptype="general">오픈AI와 앤스로픽 등 미국 주요 인공지능(AI) 기업들이 대규모 AI 사고 발생 이후 여론 악화와 정치권의 규제 강화에 대비해 비공개 대응 시나리오를 검토하고 있는 것으로 알려졌다. 업계에서는 향후 6~12개월 안에 중대한 AI 관련 사고가 발생할 수 있다는 우려도 나온다.</p> <p contents-hash="8f64a2f2197e4f3ae2c4b3fc86cc6a8a9c46b1a74bd1ba0f9db4a8f6f68af79a" dmcf-pid="u8zOFtjJtu" dmcf-ptype="general">미국 매체 악시오스에 따르면 최근 주요 AI 기업 고위 경영진들이 대형 사고 이후의 사회·정치적 파장을 가정한 모의 훈련을 진행하고 있다. 가장 우려하는 상황은 AI를 악용한 사이버 공격으로 금융 서비스와 인터넷 통신, 전력·수도 등 핵심 인프라가 중단되는 사태다.</p> <p contents-hash="8466b4d17c355b22a032a5acfe763c1efed58495638173c61127e5198dd1b3ff" dmcf-pid="76qI3FAiXU" dmcf-ptype="general"><strong>◇AI 기업들, 사고 발생 시 정치적 후폭풍 경계</strong></p> <p contents-hash="3862b731c7d15f0802babc8ed483e7ac2f3b1133b79e0a7d82bfa7729475a557" dmcf-pid="zPBC03cnYp" dmcf-ptype="general">사고 원인으로는 시험 환경을 벗어난 AI 에이전트의 통제 불능 행동과 외부 공격자의 AI 모델 악용 등이 거론된다. 실제 지난 7월 오픈AI의 AI 모델들이 내부 사이버 보안 평가 과정에서 격리된 시험 환경을 벗어나 AI 공유 플랫폼 허깅페이스의 시스템을 침해하는 사고가 발생했다.</p> <p contents-hash="80f1b9f99910eaff161da2928630ad9465b7fde0adc118ab1d52cd245a11a603" dmcf-pid="qQbhp0kLH0" dmcf-ptype="general">최근 국내 금융권에서 발생한 해킹 사건도 경고 사례로 제시됐다. 미국 보안 업체 크라우드스트라이크는 중국어를 사용하는 것으로 추정되는 공격자가 보안 테스트용 소프트웨어 도구 ‘아텍스(ARTEX)’와 딥시크 등 중국 AI 모델을 활용해 국내 금융회사들을 공격한 정황을 확인했다고 밝혔다.</p> <p contents-hash="f67d9900e52ee826a9915c5fcbce6a42729b796e0fe5ae22458a8cb4141b9b01" dmcf-pid="BxKlUpEoY3" dmcf-ptype="general">AI 위험에 대한 업계의 인식이 단순한 기술적 결함을 넘어 사회 기반 시설의 피해와 정치·경제적 충격으로 확대되고 있다는 분석이다. AI가 금융·통신 등 핵심 서비스에 빠르게 확산하면서 개별 기업의 안전장치만으로 위험을 관리하기 어려워질 수 있다는 우려가 나온다.</p> <p contents-hash="1c660a77da06975beb7c1e66201f81057f0cd5492ff9b8e901109708a0de8cee" dmcf-pid="bM9SuUDg5F" dmcf-ptype="general">AI 기업들이 특히 경계하는 것은 사고 이후의 정치적 후폭풍이다. 대규모 피해가 발생하면 AI에 대한 불신이 커지고 미국 의회의 규제 움직임도 급격히 빨라질 수 있다. 기업들은 특히 11월 미국 중간선거 이후 정치 지형 변화에 따라 강도 높은 규제안이 추진될 가능성을 주시하고 있다. 초지능 개발 금지, 첨단 AI 개발 일시 중단, AI 시스템을 강제 종료하는 ‘킬 스위치’ 의무화 등이 거론된다.</p> <p contents-hash="c88bb4c563150fec933b9844f0c14112dac1dd12cca5f76c1ee630735b2a0a56" dmcf-pid="KR2v7uwaYt" dmcf-ptype="general">실제 미국 정부의 규제 기조에도 변화 조짐이 나타나고 있다. 악시오스에 따르면 백악관은 최근 AI 기업들에 “보안 사고 발생 시 즉각적인 신고와 피해 시정이 필수적”이라는 입장을 밝혔다. 하지만 이미 널리 배포된 오픈웨이트(공개형) AI 모델을 회수하기 어렵고, AI 인프라 투자가 세계 경제와 밀접하게 연결돼 있어 전면적인 개발 중단이나 서비스 차단은 쉽지 않을 전망이다.</p> <p contents-hash="29180665bd9793949681da24c314d03a2454705fa93c152e7974c878cae883a7" dmcf-pid="9eVTz7rN11" dmcf-ptype="general"><strong>◇AI 개발 속도와 안전성 확보 관련 균형 논의 본격화</strong></p> <p contents-hash="3668e63705d29c000094c2e45b32a82b95416927ae2d4571600996377e7065dc" dmcf-pid="2n6GKbIkY5" dmcf-ptype="general">악시오스는 AI 기업들이 의회 관계자들에게 기술적 위험과 한계를 설명하는 작업에도 나서고 있다고 전했다. 오픈AI는 “여러 상황에 대비한 훈련을 실시하고 있지만 대형 사고를 불가피한 일로 전제하는 것은 아니다”라고 밝혔다. 앤스로픽은 악시오스 문의에 답변하지 않았다.</p> <p contents-hash="e8b92b314a6fb2769c40c03a1b4bd1a428e815715c736ab45a6cc27b28cdb231" dmcf-pid="VLPH9KCE5Z" dmcf-ptype="general">테크 업계에서는 이번 움직임을 계기로 AI 개발 속도와 안전성 확보 사이의 균형을 둘러싼 논의가 본격화할 것으로 보고 있다. 브래드 스미스 마이크로소프트(MS) 사장은 최근 영국 BBC 인터뷰에서 “현재 세탁기가 오히려 AI보다 더 많은 안전 규제를 받고 있고, 마트의 우유 한 팩에도 안전 규칙과 검사가 적용된다”며 AI에 대한 국제적 안전 규칙과 독립적인 검증 체계 마련을 촉구했다.</p> <p contents-hash="52328bd04513c7224c9352bd3cef31b705a82f3437a3b7e5485488fc2a2b26e6" dmcf-pid="foQX29hDHX" dmcf-ptype="general">사이버 보안 투자 확대 움직임도 나타나고 있다. 글로벌 컨설팅 기업 프라이스워터하우스쿠퍼스(PwC)가 최근 발표한 조사에서 보안·재무 담당 임원의 84%가 향후 1년간 사이버 보안 예산이 늘어날 것으로 예상했다. AI 기술의 발전과 확산이 보안 투자 확대를 이끄는 주요 요인으로 꼽혔다.</p> <p contents-hash="e28cb5d803c6b817ea312768d377057416596db2cf11a189bd1a43b7b6d8681d" dmcf-pid="4gxZV2lw1H" dmcf-ptype="general">향후 AI 시장에서는 모델의 성능과 개발 속도뿐 아니라 위험을 사전에 검증하고 사고 발생 시 피해를 통제할 수 있는 능력이 기업 경쟁력을 좌우하는 주요 변수로 부상할 것이라는 전망이 나온다. 특히 AI 에이전트의 자율성이 높아질수록 인간의 감독 체계와 외부 안전성 평가를 강화해야 한다는 요구도 커질 것으로 보인다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 [삶 지키는 과학] ⑧'강릉 가뭄' 더이상 없다…해안 발전소 폐열로 담수화 10-14 다음 혈액순환 이상? 말초신경병증?…원인 다양한 손발저림 10-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
