오픈AI, 차세대 AI '아스트라' 개발 연기..."보안 위험" 작성일 08-08 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">아스트라, 사람 지시 없이 공격코드 만들 가능성 <br>미국 행정부에도 아스트라 출시 연기 통보</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tF6ezBb0ko"> <p contents-hash="1525db555a060d1161cb5cd2dc6854b290dcf38d1e3b13a64c20666209639560" dmcf-pid="F3PdqbKpNL" dmcf-ptype="general"> [파이낸셜뉴스] 오픈AI, 앤트로픽 등 주요 인공지능(AI) 기업들의 최신 모델들이 사람의 지시없이 무단으로 해킹을 실행한 사실이 잇따라 드러나고 있는 가운데, 오픈AI가 보안 위험을 이유로 차세대 AI 모델 '아스트라(Astra)'의 내부 개발을 일부 중단하고 보안 절차를 강화하겠다고 공식 발표했다. </p> <p contents-hash="c74dbb38c6de011883fba666c5d6f3045e78b517d188c8e40f46f86e45d78a4e" dmcf-pid="30QJBK9Uan" dmcf-ptype="general">미국 내 AI '개발자들이 AI 개발 속도를 늦춰야 한다'고 공개서한을 낸 뒤 처음으로 오픈AI가 개발 일정을 조정한 것이어서 다른 AI기업들의 움직임에도 관심이 집중되고 있다. </p> <p contents-hash="6ee58deb3fc2c5cb4dc1eabaf671db13ac4038851817ffe307a5356124be2554" dmcf-pid="0pxib92uci" dmcf-ptype="general">7일(현지시간) 오픈AI는 공식 블로그를 통해 아스트라에 대한 내부 평가 결과 회사가 정한 '치명적(Critical) 사이버 위협 등급'에 해당할 가능성을 배제할 수 없다고 밝혔다. 이는 사람의 개입 없이도 스스로 취약점을 찾아내고 공격 코드를 만들어낼 수 있는 수준을 의미한다. </p> <figure class="figure_frm origin_fig" contents-hash="8b9ca60d607a8f3935513278446c995504b09aba1ce2bccfb1ba7d379bf050f3" dmcf-pid="pUMnK2V7kJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI, 앤트로픽 등 주요 인공지능(AI) 기업들의 최신 모델들이 사람의 지시없이 무단으로 해킹을 실행한 사실이 잇따라 드러나고 있는 가운데, 오픈AI가 보안 위험을 이유로 차세대 AI 모델 '아스트라(Astra)'의 내부 개발을 일부 중단하고 보안 절차를 강화하겠다고 공식 발표했다. /사진=뉴시스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/08/fnnewsi/20260808090441193lttn.jpg" data-org-width="800" dmcf-mid="1mqV5tFYag" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/08/fnnewsi/20260808090441193lttn.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI, 앤트로픽 등 주요 인공지능(AI) 기업들의 최신 모델들이 사람의 지시없이 무단으로 해킹을 실행한 사실이 잇따라 드러나고 있는 가운데, 오픈AI가 보안 위험을 이유로 차세대 AI 모델 '아스트라(Astra)'의 내부 개발을 일부 중단하고 보안 절차를 강화하겠다고 공식 발표했다. /사진=뉴시스 </figcaption> </figure> <div contents-hash="5b9e3bd5b2e54aab9e756be83cc34db15d9d89a6cdac5d91e97c41d98463ca77" dmcf-pid="UuRL9VfzNd" dmcf-ptype="general"> <br>오픈AI는 2023년 처음 공개한 자체 '준비 프레임워크'에 따라, '치명적 사이버 위협' 평가 결과가 나올 경우 더 엄격한 보안 요건을 충족하지 않는 내부 개발 활동을 일시 중단하도록 규정하고 있다. 이번 조치도 이 규정에 따른 것이다. </div> <p contents-hash="8524a92e0242bd7a8138b61471e9ce5b048a7952b502222dd77481031c105ff7" dmcf-pid="u7eo2f4qje" dmcf-ptype="general">오픈AI는 미국 행정부에도 아스트라 출시를 연기하겠다는 계획을 통보한 것으로 알려졌다. </p> <p contents-hash="a2e135c891fe3a54d578bf962c41b48340f173d70e1e0b758e629f16bef70810" dmcf-pid="7zdgV48BNR" dmcf-ptype="general">오픈AI는 이번 발표가 사이버 보안 및 안전 관련 커뮤니티와 투명하게 소통하기 위한 차원이라고 설명했다. 정확한 아스트라의 출시 일정은 아직 공개되지 않았다. </p> <p contents-hash="92b1a2c9a90871d3e55445ee9ae84ea5ab4d90f71d0d6d972e854073da896d32" dmcf-pid="zqJaf86bAM" dmcf-ptype="general">'아스트라'는 오픈AI가 지난 1일 공개한 최신 AI 모델로, 복잡한 수학 난제 10개를 해결하는 성과로 전세계의 주목을 받았다. 일각에서는 이를 차기 'GPT-6'으로 추정하기도 했다. </p> <p contents-hash="a63996e520161ec4ad24a636e9228dd2ff3d99b66fb068082a2ed5bf9957572f" dmcf-pid="qAW5mOIkjx" dmcf-ptype="general">이번 아스트라 출시 일정 연기는 그동안 AI 기업들이 경쟁적으로 최신 AI 모델 출시를 서둘렀던 관행을 뒤집고 AI 개발사가 AI 모델의 잠재적 위험을 이유로 스스로 개발 속도를 늦추겠다고 공식 발표한 첫 사례다. </p> <p contents-hash="cf71b0f905c6aff7518380662b47e69cb5b04e873faa187728a3f1a527602f07" dmcf-pid="BcY1sICEaQ" dmcf-ptype="general">한편 지난달 오픈AI의 GPT-5.6 SOL 등 최신 AI 모델이 사람의 통제를 벗어나 외부 기관 허깅페이스를 해킹한 사실이 드러난 이후 AI발 사이버 보안 우려가 커지고 있다. </p> <p contents-hash="54d195532c9302291fadc604fce0da5db3635824bc2a41b68c058e937e17c369" dmcf-pid="bkGtOChDAP" dmcf-ptype="general">오픈AI 외에도 앤트로픽의 클로드, 메타의 뮤즈 스파크, 중국 문샷AI의 키미 등 AI 모델이 인간의 명시적인 지시가 없었는데도 격리 환경을 벗어나 외부 기관에 접속하거나, 사이버 공격을 가한 사례가 최근 잇따라 드러나고 있다. </p> <p contents-hash="bba1bdfe8b9f55b900d3a3663d07e804a68db7193c9583615930b2f9336c82cc" dmcf-pid="KEHFIhlwc6" dmcf-ptype="general">그러나 오픈AI는 아스트라가 최근 발생한 허깅페이스 보안 침해 사건과는 관련이 없다고 선을 그었다.</p> <p contents-hash="00a36b1c4685aa7f50221fca4784bc50a686a8de6a553cfa5b3a2248ce4820d1" dmcf-pid="9DX3ClSrA8" dmcf-ptype="general">cafe9@fnnews.com 이구순 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p> 관련자료 이전 리센느 원이도 "갤럭시 야호~"⋯아이폰 세대의 '변심' [홍민성의 테토남] 08-08 다음 가벼워야 빠른 거 아니었나…‘패딩 브라’ 입는 여자 사이클, 왜 08-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
