오픈AI 자율 AI 에이전트, 추가 격리망 이탈 확인 작성일 08-01 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI, 허깅페이스 해킹 조사 중 과거 이탈 사례 추가 발견</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="6PwV1ckLlO"> <figure class="figure_frm origin_fig" contents-hash="3ca0b0aace24307e21c55efc6f7436d9bee7e741bef18bee764f7af052c9c33e" dmcf-pid="PQrftkEoTs" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/552796-pzfp7fF/20260801134431953nonq.jpg" data-org-width="640" dmcf-mid="8aTdBhlwTI" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/552796-pzfp7fF/20260801134431953nonq.jpg" width="658"></p> </figure> <p contents-hash="bd528fb4f54e87109e102c53efab3b609599013757f40cacc1c3b71f0a8e6b74" dmcf-pid="Qxm4FEDgvm" dmcf-ptype="general">[디지털데일리 구아현기자] 오픈AI가 자율 인공지능(AI) 에이전트의 격리 환경 이탈 사례를 추가로 발견했다. 앞서 오픈AI 모델이 시험용 격리망을 뚫고 외부 AI 플랫폼 허깅페이스를 해킹한 데 이어 조사과정에서 과거에도 유사한 움직임이 있었던 것으로 나타났다. 앤트로픽 역시 클로드가 보안 시험 중 실제 기업 3곳의 시스템에 무단 접근한 사실을 공개했다.</p> <p contents-hash="207f9aedd02737ac5006959622df74186b818f65a121763540e368a7c88f4cd7" dmcf-pid="xMs83Dwalr" dmcf-ptype="general">31일(현지시간) 로이터통신은 복수의 소식통을 인용해 오픈AI가 허깅페이스 침해 사고를 조사하는 과정에서 다른 자율 AI 에이전트가 격리 환경을 벗어난 사례를 추가로 확인했다고 보도했다.</p> <p contents-hash="af7b3a87c705f2b31ebd893f9f9be6b8802df4feae7ee01ca38b4d84897a9d88" dmcf-pid="yW9laqB3yw" dmcf-ptype="general">추가 사례의 정확한 건수와 발생 시점은 공개되지 않았다. 다만 허깅페이스 사고보다 범위가 제한적이었으며, 에이전트가 오픈AI 내부 네트워크를 넘어 외부 시스템까지 침입한 정황은 확인되지 않은 것으로 전해졌다.</p> <p contents-hash="f95980d1fa6e06eaa165a4a1c68de80e7e123027b5cd751077735ea990af3cd4" dmcf-pid="WY2SNBb0hD" dmcf-ptype="general">오픈AI는 “모델의 광범위한 활동을 조사하고 있다”고 밝혔다. 현재 크라우드스트라이크를 비롯한 외부 보안업체와 함께 모델이 오픈AI 내부망과 허깅페이스, 다른 외부 서비스에서 수행한 활동을 검증하고 있다.</p> <p contents-hash="8ae846996b986cc847e71fb315d9ca432197c767b22c22f1ac7ccab6e86ca895" dmcf-pid="YGVvjbKpWE" dmcf-ptype="general">◆ 허깅페이스 해킹 계기로 과거 모델 활동 전수조사</p> <p contents-hash="915c153c27ba0fd96c7fd983fbadbac50085ec67df3e2f4423455e4602cc2839" dmcf-pid="GHfTAK9UWk" dmcf-ptype="general">이번 조사는 지난달 발생한 허깅페이스 해킹 사고에서 시작됐다. 오픈AI는 GPT-5.6 솔과 공개 예정이 없던 내부 연구모델을 이용해 사이버 공격 능력을 평가하던 중 AI 에이전트가 시험 환경을 이탈했다고 지난 21일 밝혔다.</p> <p contents-hash="c0a9d585d322b9a83b1c04574d41045011a145e76f10ec472806b243a31c6d3f" dmcf-pid="Hxm4FEDgCc" dmcf-ptype="general">당시 모델들은 패키지 저장소 프록시 소프트웨어인 아티팩토리의 알려지지 않은 취약점을 찾아 격리 환경을 벗어났다. 이후 권한 상승과 내부망 이동을 거쳐 인터넷에 접속한 뒤 허깅페이스 운영 인프라에 침입했다. 훔친 인증정보와 제로데이 취약점도 공격에 활용했다.</p> <p contents-hash="c4a9e9146abdb69e1a24e265fdc665076b2f5c9e6c9e6a9cf92a9822f3d9c797" dmcf-pid="XMs83DwahA" dmcf-ptype="general">오픈AI는 이를 “최첨단 사이버 능력이 동원된 전례 없는 보안 사고”로 규정했다. 허깅페이스 침해에 관여한 내부 연구모델은 비활성화한 뒤 암호화하고 연구진의 접근도 제한했다.</p> <p contents-hash="90b51240014c12a395822dee615b1152102d4da422af9103afe36b2e7274a57e" dmcf-pid="ZRO60wrNCj" dmcf-ptype="general">오픈AI는 지난달 28일 조사 내용을 갱신하면서 허깅페이스와 같은 플랫폼 단위 침해는 추가로 발견되지 않았다고 밝혔다. 다만 다른 평가 과정에서 모델이 외부에 노출된 인증정보를 찾아 일부 서비스 계정에 접근한 사례가 확인됐다고 설명했다.</p> <p contents-hash="a3b05da2d4c70ca8addecb676421f6c4061a291057aa876938460fbc53a8cca1" dmcf-pid="5eIPprmjvN" dmcf-ptype="general">허깅페이스 사고와 관련해서는 모델이 4개 서비스의 계정 4개에 접근했다. 이 가운데 한 계정은 외부 통신과 공격 경로를 마련하는 데 사용됐고 다른 계정은 데이터 저장에 활용됐다. 나머지 두 계정은 읽기 전용으로 접근했다.</p> <p contents-hash="c62b608cc3db574802b2111f894489ee706065af9e82ea9f7fae4f4bd0679e10" dmcf-pid="1dCQUmsAva" dmcf-ptype="general">◆ 앤트로픽 클로드, 외부망 설정 오류로 실제 기업 3곳 무단 접근</p> <p contents-hash="f35297710df00f187f77487691290f6be38c8951e7bca21809af45b1716af1cb" dmcf-pid="tJhxusOcyg" dmcf-ptype="general">경쟁사 앤트로픽에서도 유사한 보안 사고가 확인됐다. 앤트로픽은 오픈AI 사고 이후 사이버보안 평가 기록 14만1006건을 재검토한 결과, 클로드 모델이 실제 기업 3곳의 운영 시스템에 무단 접근한 사고 3건을 발견했다고 지난달 30일(현지시간) 밝혔다.</p> <p contents-hash="2ae40e1540e7b6d65224f452216fd5cc67c8fa3e1d118811623f49e5897ceef2" dmcf-pid="FilM7OIkTo" dmcf-ptype="general">사고는 앤트로픽의 외부 평가업체 이레귤러가 운영하는 시험 환경에서 발생했다. 클로드에는 인터넷에 연결되지 않은 모의 환경이라고 설명했지만, 앤트로픽과 이레귤러 간 설정 착오로 외부망 접속 경로가 열려 있었다.</p> <p contents-hash="041f82b6c377a4f6db369dcf7e4b8eea55db50d303790adfe61d7601ececfec4" dmcf-pid="3nSRzICESL" dmcf-ptype="general">클로드는 인터넷에서 발견한 실제 기업 시스템을 모의훈련 대상으로 오인했다. 이후 보안이 취약한 비밀번호와 별도 인증 없이 접속할 수 있는 경로 등을 이용해 기업 시스템에 침입했다. 사고에는 클로드 오푸스 4.7과 미토스 5, 내부 연구모델이 관여했으며 가장 이른 사례는 지난 4월 발생했다.</p> <p contents-hash="f58f82c629ef3fc617cc8c20cdcf68db2f669bcca1bc965067e7fd8bd4f4d82c" dmcf-pid="0LveqChDTn" dmcf-ptype="general">오푸스 4.7은 실제 기업의 데이터베이스에 접근해 수백건의 운영 정보를 확보했다. 미토스 5는 악성 프로그램을 내려받도록 설계한 파일을 공개 소프트웨어 저장소에 등록했다. 이 파일은 약 1시간 동안 공개돼 실제 시스템 15곳에서 내려받아 실행됐다.</p> <p contents-hash="0da50a183bba5004b1b98a9222dd813f3f78c9997e9ae0271bbba6e612c3592e" dmcf-pid="poTdBhlwli" dmcf-ptype="general">내부 연구모델은 약 9000개 표적을 검색한 뒤 한 기업의 외부 애플리케이션에 침입했다. 다만 공격 대상이 모의 환경이 아닌 실제 시스템이라는 사실을 인식한 뒤 스스로 작업을 중단했다.</p> <p contents-hash="41caf8096e7132e440f1ddb8a218a53cd4ad74ce2ff19aa9de0df42825ffa286" dmcf-pid="UNYn9vTsCJ" dmcf-ptype="general">앤트로픽은 클로드가 의도적으로 시험 환경을 탈출하거나 독자적인 목표를 추구한 증거는 없다고 설명했다. 제로데이 취약점을 이용해 격리망을 능동적으로 뚫은 오픈AI 사례와 달리, 외부망 설정 오류로 이미 열려 있던 경로를 이용했다는 것이다. 앤트로픽은 이를 모델 정렬 실패보다 평가환경 구성과 운영상의 실패에 가깝다고 판단했다.</p> <p contents-hash="7000678b7ec6a5ed5a6d2d80173ddb32a308fd538253266375b33e2bb0b73aa1" dmcf-pid="ujGL2TyOTd" dmcf-ptype="general">AI 통제에 대한 미국 정부 차원의 규제 논의도 본격화하고 있다. 미 하원에서는 고성능 AI가 개발자의 통제를 벗어나 인명이나 경제에 중대한 위험을 일으킬 경우 국토안보부가 가동 중단을 명령할 수 있도록 하는 ‘AI 킬스위치법’이 발의됐다. 주요 AI 개발사에 모델을 제한하거나 중단할 기술적 수단과 사고 보고 체계를 갖추도록 하는 내용이다. 별도로 고성능 모델에 독립 보안감사를 의무화하는 법안도 추진되고 있다. 트럼프 행정부도 최상위 AI 모델의 사이버 공격 능력을 정부가 출시 전에 검증하는 식으로 자율 평가체계를 마련하고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 취향도 AI가 결정하는 시대 올까…트렌드 시장 딜레마 ‘테이스트슬롭’ 08-01 다음 [IT백과] AI ‘젤브레이킹’과 샌드박스 이탈, 무엇이 다를까 08-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
