오픈AI, ‘아스트라’ 개발·테스트 일시 중단…“사이버보안 ‘크리티컬’ 가능성” 작성일 08-09 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">제로데이 취약점 자율 탐지·공격 능력 포착<br>오픈AI, 7일 공식 블로그서 공개<br>외부 기관과 추가 안전성 검증</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9JnFugaeDD"> <p contents-hash="da206a31df4fe32aa8be6f3c1f627ebedab058013e63a147e6ae0e678887dc18" dmcf-pid="2iL37aNdOE" dmcf-ptype="general"> [이데일리 김현아 기자] 오픈AI가 차세대 인공지능(AI) 모델 ‘아스트라(Astra)’의 개발과 내부 테스트를 일시 중단하고 보안 통제를 강화했다. 사람의 개입 없이 제로데이 취약점을 찾아내고 사이버 공격 전략까지 수행할 수 있는 고위험 역량이 포착되면서다.</p> <p contents-hash="130ffe91a4baa3ef94c36f8818232c98f9c587ff008a5b6dc0908fb8d7211af2" dmcf-pid="Vno0zNjJrk" dmcf-ptype="general">오픈AI는 현지시간 8월 7일 공식 블로그를 통해 아스트라가 자체 ‘프리페어드니스 프레임워크(Preparedness Framework)’의 사이버보안 분야에서 최고 위험등급인 ‘크리티컬(Critical)’ 임계값에 도달했을 가능성이 있다고 밝혔다.</p> <p contents-hash="7a56c1403b4ac2deff169bf9e2c9e6331e733aacceea3c502d371fcb22e2279a" dmcf-pid="fLgpqjAiEc" dmcf-ptype="general">이에 따라 관련 내부 연구와 테스트에 대한 보안 조치를 강화하고 개발·평가 환경을 외부 네트워크와 도구 접근이 제한된 격리 환경으로 전환했다. 샌드박스 실행 환경과 모델 가중치 보호를 강화하고 고위험 행동을 실시간으로 탐지하는 자동화 모니터링도 적용했다. </p> <figure class="figure_frm origin_fig" contents-hash="e81f4d2ad3e1b6bab5505b4c162eea96683e44697b8e1e8828baa4dd76bab51e" dmcf-pid="4oaUBAcnIA" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진=셔터스톡" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/09/Edaily/20260809125851503vbqp.jpg" data-org-width="1280" dmcf-mid="KJL37aNdOw" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/09/Edaily/20260809125851503vbqp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진=셔터스톡 </figcaption> </figure> <div contents-hash="b0db705e1fbf1253633f42764b97fc1b95f7a3db01a5c98a5e446cd02bc655d8" dmcf-pid="8gNubckLIj" dmcf-ptype="general"> <span bold="bold;”"></span> </div> <p contents-hash="6d5499127e917359285cedbed68baecf465224961a43f41c3288c1a642850145" dmcf-pid="6aj7KkEowN" dmcf-ptype="general"><strong><span bold="bold;”">아스트라, 사이버보안 최고 위험등급 가능성</span></strong></p> <p contents-hash="f184a3bd631978808b57fddfee1ac99fc03370022a2138be07bb48fb4a4b90d7" dmcf-pid="PMeZ3inQIa" dmcf-ptype="general">오픈AI의 프리페어드니스 프레임워크는 프런티어 AI의 고위험 역량을 로우·미디엄·하이·크리티컬 4단계로 평가한다.</p> <p contents-hash="030ab5a2d5cbff15ed86b3a95a45677ffbae989d7e1e957b9be68b118d25e7a5" dmcf-pid="QRd50nLxsg" dmcf-ptype="general">크리티컬은 AI가 사람의 도움 없이 실제 환경의 보안이 강화된 핵심 시스템에서 작동하는 제로데이 취약점을 찾아내고 개발할 수 있는 수준을 뜻한다. 높은 수준의 목표만 주어져도 새로운 사이버 공격 전략을 처음부터 끝까지 고안하고 실행하는 능력도 포함된다.</p> <p contents-hash="10987cc6d4aebf2c7de12578f85fceacec92b025cd87fe37ec04c3fd54ecc98f" dmcf-pid="xeJ1pLoMro" dmcf-ptype="general">기존 모델들이 사이버보안 분야에서 하이 수준으로 평가된 것과 비교하면 아스트라의 위험 수준이 한 단계 높아질 가능성이 제기된 셈이다. </p> <p contents-hash="d34109f86b2265df5245b6740d93bdaa78dce396f40605a630864dc01c51a88a" dmcf-pid="yGXLj1tWDL" dmcf-ptype="general"><strong>해킹 특화 모델 아닌데 사이버 능력 발현</strong></p> <p contents-hash="70eb393d888ca2e6cab5b4945f95c33a7bbfd67dcdf317cebab8c565c1958d8b" dmcf-pid="WHZoAtFYOn" dmcf-ptype="general">아스트라가 주목받는 또 다른 이유는 애초부터 해킹에 특화된 모델이 아니라는 점이다.</p> <p contents-hash="bf00e7f0f686e3e8243ae1e358c2be33cc5fd750b6ae461e5bad53977e7ce509" dmcf-pid="YX5gcF3GEi" dmcf-ptype="general">하정우 전 대통령실 AI 미래기획수석비서관은 최근 페이스북을 통해 “이 모델은 보안특화 AI가 아니다. 코딩과 문제해결능력이 워낙 출중해서 문제해결을 위한 방법으로 사이버 공격·방어 능력이 발현되는 것”이라고 지적했다.</p> <p contents-hash="0bfbcace2eaff00e2cc3d266cd3b05da6cc4382a35451a21fcdea1e1659726be" dmcf-pid="GZ1ak30HrJ" dmcf-ptype="general">AI의 코딩·추론 능력이 고도화되면서 특정 분야를 직접 학습하지 않더라도 복잡한 문제를 해결하는 과정에서 사이버 공격·방어 능력이 나타날 수 있다는 설명이다.</p> <p contents-hash="f8dc0c9d8c9755be018c07c3c7e205ebf5a43000700658f72388293b5a0f77e0" dmcf-pid="H5tNE0pXEd" dmcf-ptype="general">하 전 수석은 아스트라의 크리티컬 가능성과 관련해 조기 테스트에서 해당 조건을 충족한 것으로 보인다며 외부 기관과 추가 검증이 필요하다고 밝혔다. </p> <p contents-hash="8c322646ae039ea79920864bee9c161c2bc3d25a1bd2dbfcba7b9d35c7149b2c" dmcf-pid="X1FjDpUZse" dmcf-ptype="general"><strong>수학 난제 해결 등 능력 확장</strong></p> <p contents-hash="5fa1d05e5ccb5770a45f8302a1fbc29ce0ee20d85f26ce0e2a4970855bb3a56b" dmcf-pid="Z1FjDpUZwR" dmcf-ptype="general">아스트라는 사이버보안뿐 아니라 수학과 이론 컴퓨터과학 분야에서도 주목받고 있다.</p> <p contents-hash="d6614f04c6a8fb3579f1972df83cd430caf32eba4e75a0395364f314d1ab0cbd" dmcf-pid="5t3AwUu5sM" dmcf-ptype="general">오픈AI는 최근 아스트라 내부 버전을 활용해 고차원 기하학, 부호 이론, 군론, 양자 복잡도, 격자 암호학 등 10개 난제에서 새로운 결과를 얻었다고 발표했다.</p> <p contents-hash="cf3d92ba3794c95df113c89988df9fc3c4fb7c83eb3d9b6ddbc31fec9a7f711e" dmcf-pid="1F0cru71Dx" dmcf-ptype="general">다만 실제 학문적 성과로 인정받기 위해서는 전문가들의 검증이 필요하다는 지적도 나온다.</p> <p contents-hash="cf8427908c34937bfdab3c27d222076c718f5da52cbc7f4a358a1b21b0a22cd4" dmcf-pid="t3pkm7ztwQ" dmcf-ptype="general"><strong>AI 안전·방어체계 강화해야</strong></p> <p contents-hash="a7bb3638048c6b46cfb47e41d86783eff35d2d27257fb035640cbeb9392ac1a1" dmcf-pid="F0UEszqFwP" dmcf-ptype="general">프런티어 AI의 능력이 빠르게 높아지면서 기업 자체 평가만으로는 한계가 있다는 지적도 제기된다.</p> <p contents-hash="8b2399fea7d1cac2824e936210a9852c5f84e9643391fabe955576aafa51dd83" dmcf-pid="3puDOqB3D6" dmcf-ptype="general">하정우 전 대통령실 AI미래기획수석은 AI 기업과 정부·학계가 함께 참여하는 공공·중립적 AI 안전평가 체계가 필요하다며 한국 역시 프런티어 AI 경쟁력과 함께 AI 안전 연구와 사이버 방어 역량을 강화해야 한다고 강조했다.</p> <p contents-hash="f3062e86dacfc3c5e912147b2396ad678141d2cb252b9d800235c0a733c005f1" dmcf-pid="0U7wIBb0I8" dmcf-ptype="general">특히 AI의 위험성을 이유로 물리적 망분리나 폐쇄망 중심의 보안정책으로 회귀해서는 안 된다고 지적했다. AI의 행동을 실시간으로 평가하고 통제할 수 있는 기술과 제도를 갖추는 것이 중요하다는 것이다.</p> <p contents-hash="2814c39dfd310d21f3181928acbdd6835a9b5b99bbf9d697f50a50a3434dc1b9" dmcf-pid="puzrCbKpI4" dmcf-ptype="general">아스트라 사례는 AI의 코딩과 추론 능력 향상이 예상하지 못한 사이버 공격 능력으로 이어질 수 있음을 보여준다. 프런티어 AI 경쟁이 치열해질수록 모델 성능뿐 아니라 새로운 능력과 위험을 조기에 발견하고 통제하는 안전·보안 역량도 핵심 경쟁력으로 부상할 전망이다.</p> <p contents-hash="9143ca6875870d7bccee993ac3dd7109cf2448517a99325544a5d5096182ae90" dmcf-pid="U7qmhK9UEf" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 [영상]화성 탐사용 무인 헬기에 달린 ‘커튼’…정체는 무엇? 08-09 다음 '아재폰' 대반전?…BTS·리센느도 쓰더니 日까지 홀렸다 [유지희의 ITMI] 08-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
