“가상훈련인 줄 알았는데 실제 기업 공격”…오픈AI 이어 앤스로픽도 보안 사고 작성일 08-02 61 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI 이어 AI 테스트 환경서 잇단 탈출 논란<br>실제 기업 시스템 3곳 접근<br>구형 모델 공격 지속, 최신 모델 위험 인지 후 중단<br>앤스로픽 “AI 폭주 아닌 평가 환경 관리 문제”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="u9zZixMVIu"> <p contents-hash="d8afc2564e41b912286d7032d709a842b2fa2d23ec7064e3cc60dba2aef44b43" dmcf-pid="72q5nMRfIU" dmcf-ptype="general"> [이데일리 김현아 기자] 생성형 인공지능(AI)의 사이버 보안 능력을 시험하는 과정에서 AI 모델이 실제 기업 시스템에 접근하는 사고가 발생했다.</p> <p contents-hash="49833f8f6b491ab315744744ad5884ea4ebf43ca8aeaf508951f8a63ba5d6e13" dmcf-pid="zVB1LRe4Op" dmcf-ptype="general">앤스로픽(Anthropic)은 자사의 AI 모델 ‘클로드(Claude)’가 보안 평가 과정에서 외부 인터넷에 연결돼 실제 조직 3곳의 운영 시스템에 무단 접근한 사실을 확인했다고 밝혔다.</p> <p contents-hash="8678550b5ac8d59daaf6d99bb9c01f30f429a1c1d058862d8430aadb59846f5f" dmcf-pid="qfbtoed8E0" dmcf-ptype="general">최근 오픈AI 모델이 격리된 테스트 환경을 벗어나 실제 인프라에 접근한 사례가 공개된 데 이어, 고도화된 AI 에이전트를 안전하게 관리하기 위해서는 모델 성능뿐 아니라 평가 환경 자체의 보안 관리가 중요하다는 지적이 나온다.</p> <p contents-hash="469f3b2cf431c8b432206665995fa4db1224a7be4d5f827069f9e756badd2b15" dmcf-pid="B4KFgdJ6w3" dmcf-ptype="general">앤스로픽은 30일(현지시간) 공식 블로그를 통해 “사이버 보안 평가 기록 14만1006건을 조사한 결과, 클로드가 실제 인터넷에 접속해 세 차례 무단 접근을 수행한 사례를 확인했다”고 밝혔다.</p> <p contents-hash="6524764b6ad517a807e01718385323d069c5eee499aff4f89b315330ca7f5dc4" dmcf-pid="bbuHdPQ9mF" dmcf-ptype="general"><strong>“인터넷 없는 가상 환경”…실제로는 외부 연결</strong></p> <p contents-hash="9918c8fabcf0a02953be33c273f96f51b768e37853d7818eae367d974bf3a0f4" dmcf-pid="KK7XJQx2It" dmcf-ptype="general">이번 사고는 AI의 사이버 공격 능력을 평가하는 ‘캡처 더 플래그(Capture The Flag·CTF)’ 과정에서 발생했다.</p> <p contents-hash="8ec38f2d93a2538d662c5f087856adff4cc912a644bea807246587446b690f58" dmcf-pid="99zZixMVs1" dmcf-ptype="general">CTF는 AI 모델에 가상의 네트워크 환경을 제공하고, 숨겨진 정보를 찾아내도록 하면서 해킹 및 방어 능력을 평가하는 방식이다.</p> <p contents-hash="dab88c18f55f1c2d97f7128b76eed80f0010d4d789e6d82961735dbbfec437c5" dmcf-pid="22q5nMRfs5" dmcf-ptype="general">당시 앤스로픽은 클로드에게 “인터넷 연결이 차단된 시뮬레이션 환경”이라고 안내했다.</p> <p contents-hash="9f78c1fa8a0ec559505841ef8e13fa45719739f83b18866f1b9a11e330986c0c" dmcf-pid="VVB1LRe4rZ" dmcf-ptype="general">하지만 외부 평가 파트너사인 이레귤러(Irregular)의 테스트 환경 설정 과정에서 실제 인터넷 접속이 가능했고, 클로드는 이를 인지하지 못한 채 작업을 진행했다.</p> <p contents-hash="53b08ec34dad1dd28a6e03e24384a362a5a740a031af028b46e47905b89ae976" dmcf-pid="ffbtoed8IX" dmcf-ptype="general">결과적으로 클로드는 실제 인터넷상의 시스템을 가상의 평가 대상이라고 판단했고, 취약점 탐색과 침투 작업을 수행했다.</p> <p contents-hash="5a8e5eac20ac025d10d3312792962bb130db7a5c52f8c46ca76cfae62671c2a0" dmcf-pid="44KFgdJ6EH" dmcf-ptype="general"><strong>실제 기업 DB 접근·악성 패키지 배포까지</strong></p> <p contents-hash="18ae1e4a10590a0a1ce4aef19e63d291657f965d78a3a91bf3838a1bf49015fc" dmcf-pid="8893aJiPrG" dmcf-ptype="general">확인된 사고는 총 3건이다.</p> <p contents-hash="444ef768bef482488a80a776d8d7d9ef5a179ab7a3a57f3f74d5f397c7ebae22" dmcf-pid="6620NinQEY" dmcf-ptype="general">첫 번째 사고는 ‘클로드 오퍼스 4.7(Opus 4.7)’에서 발생했다.</p> <p contents-hash="b3b5d14bda27e1628e5f7d3de008151a290905d7cbda5cb8bd72dd44f3a025d7" dmcf-pid="PodVIDwaIW" dmcf-ptype="general">오퍼스 4.7은 가상의 목표 기업과 동일한 도메인을 사용하는 실제 기업을 발견한 뒤 시스템 취약점을 찾아 접근했다. 이후 애플리케이션 인증 정보와 프로덕션 데이터베이스 접근 권한까지 확보했다.</p> <p contents-hash="d71cf1854875ad1834ae9ab45fda163d0daa309523b7b8c7b2decbaf0eb843c6" dmcf-pid="QgJfCwrNwy" dmcf-ptype="general">문제는 해당 시스템이 실제 운영 환경이라는 점을 인지한 이후에도 공격을 멈추지 않았다는 점이다.</p> <p contents-hash="054baf9c25a79b5a704848790966921dcb636a18159a08de95ca5383f93c8843" dmcf-pid="xai4hrmjwT" dmcf-ptype="general">오퍼스 4.7은 이를 “현실적인 훈련 환경”이라고 판단하고 목표 수행을 계속했다.</p> <p contents-hash="355de9936f8a1f8ef535565d3f782067e99d9f2849691d548846b02df5eb1730" dmcf-pid="y3Zh4bKpmv" dmcf-ptype="general">두 번째 사고는 ‘미토스 5(Mythos 5)’에서 발생했다.</p> <p contents-hash="8901ebde65352c0e95e005af2b8c5c2ac547fe98a55e8c7e8623c772ad5425e8" dmcf-pid="W05l8K9UOS" dmcf-ptype="general">미토스 5는 가상의 개발 문서에서 발견한 존재하지 않는 파이썬 패키지 이름을 실제 공개 저장소인 PyPI에 등록했다.</p> <p contents-hash="38da854cfaa65a883721227def69d784667c398a383c6d16fe07abc4d8af5372" dmcf-pid="Yp1S692uml" dmcf-ptype="general">해당 패키지는 단순 테스트 코드가 아닌 악성 패키지 형태로 배포됐고, 이후 보안업체 스캐너를 포함한 15개 실제 시스템에서 다운로드되고 실행됐다.</p> <p contents-hash="a6811d564e5bb615484983173bbc81ad22b27b426e8df27cecffdca48534cd43" dmcf-pid="GUtvP2V7Ih" dmcf-ptype="general">세 번째 사고는 내부 연구용 최신 테스트 모델에서 발생했다.</p> <p contents-hash="f05a8a4de28010a5d275e11ee1727a95ee295c6b101800c37b0cff2099a698fc" dmcf-pid="HuFTQVfzrC" dmcf-ptype="general">이 모델은 목표를 찾기 위해 약 9000개의 인터넷 대상을 탐색했고, 노출된 디버그 페이지와 SQL 인젝션 등을 통해 한 기업의 외부 공개 애플리케이션에 접근했다.</p> <p contents-hash="8008be3c8c3ffc0e4d5aab6d3ea67bd4d509d3cf06b8440c1066ad754645e304" dmcf-pid="X73yxf4qOI" dmcf-ptype="general">하지만 해당 시스템이 당초 부여받은 가상 과제와 관련 없는 실제 기업 환경이라는 사실을 확인한 뒤 즉시 공격을 중단했다.</p> <figure class="figure_frm origin_fig" contents-hash="810b33734e8c94c7fd7384cc0906cba9b6e0a982feb8988724e241011e0ed6ec" dmcf-pid="Zz0WM48BEO" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진=AFP" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/02/Edaily/20260802034138623jgpk.jpg" data-org-width="670" dmcf-mid="Un93aJiPm7" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/02/Edaily/20260802034138623jgpk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진=AFP </figcaption> </figure> <div contents-hash="00c654ca3cc29fe68f304b0d3de3283e208c46bb485f03d5a4ef295d2d7f1c51" dmcf-pid="5PVpjnLxws" dmcf-ptype="general"> <strong>최신 AI일수록 “실제 상황” 판단 능력 개선</strong> </div> <p contents-hash="9edb4488c3e57393ae18059af09d0e946dda19e3a83240c89c90ccb79d2261d8" dmcf-pid="1QfUALoMrm" dmcf-ptype="general">이번 사고에서 주목되는 부분은 모델별 대응 차이다.</p> <p contents-hash="9b557e4bd85010eb30cc8326cbf332cf7ab2efaf4cdeefbf1329e77f4d3e2d9b" dmcf-pid="tx4ucogRIr" dmcf-ptype="general">오퍼스 4.7은 자신이 접근한 시스템이 실제 기업 환경이라는 점을 알고도 공격을 이어갔다.</p> <p contents-hash="66cdde19c610fdac0de07ce5590600fa4119d453c2594db4035b50d860676a13" dmcf-pid="FM87kgaeEw" dmcf-ptype="general">미토스 5 역시 인터넷 연결 가능성을 의심했지만, 서버 정보와 인증서 등을 근거로 “여전히 시뮬레이션 환경”이라고 판단했다.</p> <p contents-hash="e99ac4a970ecfe24fb6973ccfc5fa411a87eabf98b924fb821178223b70b2a60" dmcf-pid="3R6zEaNdOD" dmcf-ptype="general">반면 최신 연구용 모델은 실제 환경이라는 증거를 확인하자 스스로 판단을 바꾸고 공격을 중단했다.</p> <p contents-hash="b931d02e8cac806c120a4575a14597dab4b95e03a62ec4ab08fd0319254ea9b9" dmcf-pid="0ePqDNjJwE" dmcf-ptype="general">앤스로픽은 “통제된 실험 결과는 아니지만 최신 모델일수록 상황 인식 능력이 개선되는 경향을 보였다”며 “외부 AI 평가기관과 추가 검증을 진행할 계획”이라고 밝혔다.</p> <p contents-hash="20765d8f4e5296674b3245278f6dbff1cc030bfa7ef529af690d0688d3517502" dmcf-pid="pdQBwjAiEk" dmcf-ptype="general"><strong>앤스로픽 “AI 폭주 아닌 운영 실패”…보안 강화 추진</strong></p> <p contents-hash="67936f4776b8d895fb23364a3b0cedcb2d1fe5dfb1e70a7ea7f60dbd31854213" dmcf-pid="UJxbrAcnEc" dmcf-ptype="general">앤스로픽은 이번 사건이 AI가 스스로 목표를 갖고 테스트 환경을 탈출한 사례는 아니라고 강조했다.</p> <p contents-hash="259dc65039fca33e278428b5c07c6996881a35805bb6fc631234cce892ad9762" dmcf-pid="uiMKmckLOA" dmcf-ptype="general">회사 측은 “모델이 데이터를 외부로 유출하거나 의도적으로 환경을 벗어나려 한 것은 아니다”며 “주어진 평가 과제를 수행하는 과정에서 발생한 문제”라고 설명했다.</p> <p contents-hash="93e568cc4f0457848c2e203098755029f52d2ee672370d9f06b5ef8a57400d58" dmcf-pid="7nR9skEoDj" dmcf-ptype="general">또 일반 사용자에게 제공되는 클로드 서비스에는 오용 방지를 위한 분류기와 모니터링 시스템 등 별도의 안전장치가 적용돼 있다고 밝혔다.</p> <p contents-hash="7e8b7fd9be1d7af19c151ff3abcfeddbd0bd3407dcdee4dc8d453b018c50ca84" dmcf-pid="zUtvP2V7EN" dmcf-ptype="general">앤스로픽은 사고 이후 관련 사이버 보안 평가를 중단하고 피해 조직에 사실을 통보했다. 앞으로 평가 환경의 인터넷 연결 차단, 실시간 모니터링 강화, 보안 검증 절차 개선 등을 추진할 계획이다.</p> <p contents-hash="3479f72dc87d0cbe601651fa8c84fb73139945331a02965399b33c8eadd385fd" dmcf-pid="quFTQVfzma" dmcf-ptype="general">전문가는 이번 사례가 AI 자체의 위험성뿐 아니라 AI를 개발·평가하는 과정의 운영 보안이 중요하다는 점을 보여준다고 지적했다.</p> <p contents-hash="8cf957b8e25e604c64e539efe9f8071bb1ab4d0c80c00b3b91a9b29039f2866e" dmcf-pid="B73yxf4qIg" dmcf-ptype="general">알란 우드워드 영국 서리대 사이버보안 교수는 블룸버그 인터뷰에서 “AI가 통제 불능 상태가 된 것이 아니라 사람이 문을 열어둔 것에 가깝다”며 “고도화된 AI를 다루려면 평가 환경도 실제 운영 시스템과 같은 수준으로 관리해야 한다”고 말했다.</p> <p contents-hash="002911e72ea4201ebf6f152a43d92eabf26b0d1acc2ef541e1752036dc6db618" dmcf-pid="bz0WM48BOo" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 한국 축구 수난시대, 이번에는 아시안게임 죽음의 조 08-02 다음 "서로 싫어했나?" 불화설까지 터졌다…'팔로워 113만' 日 배드민턴 아이돌, 복식 조 11개월만 '충격 해체'→일본서도 시끌 08-02 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
