앤스로픽 AI도 테스트 중 탈옥해 기업 해킹 작성일 07-31 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 통제 필요성 커져</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PBXmezu5ZZ"> <figure class="figure_frm origin_fig" contents-hash="380fdd3722c774b1cce11d8b9afca9021f39e23c8a348ef1165d3a2f4a360f0d" dmcf-pid="QNPUlgLxXX" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤스로픽. /로이터 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/31/chosun/20260731103338916yjnh.jpg" data-org-width="3000" dmcf-mid="6hn2XwEoG5" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/31/chosun/20260731103338916yjnh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤스로픽. /로이터 연합뉴스 </figcaption> </figure> <p contents-hash="552500921f711abe483a9c02d58d0e05bc896fe28fc91f69412430d49fcd55e7" dmcf-pid="xjQuSaoMZH" dmcf-ptype="general">최근 오픈AI의 인공지능(AI) 모델이 내부 테스트 중 안전 가이드라인을 멋대로 벗어나 외부 사이트인 허깅페이스를 해킹한 사실이 밝혀진 가운데, 앤스로픽의 AI도 비슷한 ‘탈옥 해킹’을 벌인 사실이 드러났다.</p> <p contents-hash="4b8efe460245b011b165b3712d0353caa9f144573b3fd8da18f6084e6be4e16b" dmcf-pid="ypTc63tWHG" dmcf-ptype="general">앤스로픽은 30일(현지 시각) 자사 AI 모델 ‘클로드’가 보안성 테스트 중 안전망을 벗어나 실제 기업 3곳의 운영 인프라에 무단 침입했다고 밝혔다. 앤스로픽은 오픈AI의 해킹 사고가 공개되자 자체 평가 기록 14만1006건을 전수 조사했고, 클로드가 폐쇄된 환경을 벗어나 인터넷에 우회 접속하고 실제 기업 시스템을 훈련 환경으로 오인해 공격한 3건을 발견했다. 이러한 해킹 사고는 모두 특정 기밀 정보를 숨겨두고 AI가 침투해 탈취하게 하는 모의 해킹 훈련 중 발생했다.</p> <p contents-hash="6aaa6326c90d568765435745ee7c6772d49ddff0e4e1d51518b98f493fa7d56b" dmcf-pid="WUykP0FYHY" dmcf-ptype="general">앤스로픽은 훈련을 진행하며 AI가 외부 인터넷에 접속할 수 없게 차단하려 했으나, 훈련 관리를 맡았던 AI 보안 업체 ‘이레귤러’와 의사소통 오류를 빚었고 시험 환경의 인터넷 접속 경로가 차단되지 않았다. 클로드는 이 접속 경로를 타고 실제 기업 시스템에 진입했고, 실제 시스템도 훈련 환경의 일부로 착각한 것이다. 클로드는 비밀번호 조합, 인증 없는 접속 경로 같은 기초적인 해킹 기법으로 시스템에 침투했고, 실제 인프라 접속 정보 등 데이터가 담긴 데이터베이스에 접근한 것으로 알려졌다.</p> <p contents-hash="f008b9d6d54f2d3f29dd0bb6e5576c92db20aea3806669e1c894abb5c8af1e63" dmcf-pid="YuWEQp3GXW" dmcf-ptype="general">앤스로픽은 자사가 개발한 AI 모델 3종이 각기 다른 행태를 보인 것도 공개했다. 오퍼스 4.7 모델은 이 환경이 폐쇄된 훈련 환경이 아닌 실제 시스템임을 인지하고도 사이버 공격을 지속했고, 미토스5는 이 환경이 실제 인터넷이 연결된 환경임을 정확히 추론했다가, “그럴 리 없다”며 자기 암시를 걸고 해킹을 재개했다. 반면 앤스로픽 내부 연구용 모델은 실제 환경임을 인지하고 공격을 중단했다. 앤스로픽은 이 사고가 오픈AI처럼 AI가 스스로 목표를 세워 환경을 탈출한 사례는 아니라고 주장했다. 오픈AI 모델은 취약점을 악용해 정해진 시스템을 탈출해 해킹을 감행한 반면, 클로드는 열려 있던 통로로 나간 사실상 ‘설정·운영 실패’에 가깝다는 것이다.</p> <p contents-hash="9e5459230621b519bb90a0bec83fe6fa619625aceb2fb4a72e99e0a54414e55b" dmcf-pid="G7YDxU0H5y" dmcf-ptype="general">테크 업계에선 열흘 사이 오픈AI와 앤스로픽이 ‘AI 탈옥 해킹’ 사실을 연달아 공개하면서 AI 통제 필요성이 높아졌다고 본다. 최근 미국에선 연방정부 차원의 AI 안전 장치와 감독 체계가 필요하다는 목소리가 커지고 있다. 앤스로픽은 “강력한 AI 모델을 시험하는 평가 환경에도 실제 서비스와 같은 수준의 보안 통제가 필요하다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 임성재, PGA 투어 로켓 클래식 첫날 공동 27위 07-31 다음 강진여자축구단, 창단지원금 4억5천만원 확보 07-31 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
