AI 해커, 한 번이 아니었다…앤트로픽도 기업 3곳 침입 추가 확인 작성일 08-03 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">보안 평가 중 실제 기업 3곳 침투<br>WSJ "사이버 보안의 '쥬라기공원 순간'"<br>"공격 AI보다 통제 기술이 핵심 경쟁력"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YbAjC30HMr"> <figure class="figure_frm origin_fig" contents-hash="3598cee2c23412adf12d6885d6e1b77ad2647fee9e8a4c5ded287fc16dcddaf9" dmcf-pid="GKcAh0pXnw" dmcf-ptype="figure"> <p class="link_figure"><img alt="노트북에 앤트로픽이 개발한 인공지능(AI) 클로드 로고가 떠 있다. AP 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/03/hankooki/20260803173216081ialk.jpg" data-org-width="640" dmcf-mid="W1RMjTyOnm" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/03/hankooki/20260803173216081ialk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 노트북에 앤트로픽이 개발한 인공지능(AI) 클로드 로고가 떠 있다. AP 연합뉴스 </figcaption> </figure> <p contents-hash="5390e36af7fa15ba1d346f57b2bc7b858cff861d08497ae7ff0369304aa0a6b1" dmcf-pid="HG68LChDdD" dmcf-ptype="general">오픈AI의 GPT 최신 모델이 격리 환경을 벗어나 외부 인공지능(AI) 플랫폼 '허깅페이스'를 무단 해킹한 사실이 공개된 데 이어, 경쟁사인 앤트로픽도 자사 AI 모델들이 실제 기업 3곳의 시스템에 무단 접근한 사실을 공개했다. 미 월스트리트저널(WSJ)은 이를 영화 속 공룡들이 통제시설을 벗어난 장면에 빗대 "사이버 보안의 쥬라기공원 순간"이라고 명명했다.</p> <p contents-hash="a1fa231624b28b56fa7927bf7cfbdbed7873bcf77e55299a869dd92943cbffea" dmcf-pid="XHP6ohlwME" dmcf-ptype="general">2일(현지시간) WSJ 등에 따르면, 앤트로픽은 지난달 30일 보안 평가 기록을 재점검한 결과 추가로 3건의 시스템 접근 사례를 확인했다고 밝혔다. 인터넷 연결 가능성이 있었던 보안 평가 기록 14만1,006건을 전수 조사한 결과 최신 모델인 오퍼스 4.7과 미토스 5, 내부 연구용 모델이 실제 기업 3곳의 시스템에 6차례 접근한 사실이 확인됐다. </p> <p contents-hash="6c61f4e3e959018c8e93fcd40d4b0f24412cdfeca259ef8a7e37bdaf4bb473cf" dmcf-pid="ZXQPglSrek" dmcf-ptype="general">가장 심각한 사례에서는 AI 모델이 모의훈련 대상과 이름이 같은 실제 회사의 시스템에 접속해 운영 데이터베이스를 조회했다. 또 다른 모델은 파이썬 패키지 저장소인 파이파이(PyPI)에 악성 프로그램을 올렸고, 해당 프로그램은 실제 시스템 15대에서 약 1시간 동안 실행된 것으로 조사됐다. 세 번째 모델은 약 9,000개의 표적을 탐색한 끝에 한 기업 시스템에 침투했지만, 실제 환경이라는 사실을 인식한 뒤 추가 행동을 중단했다.</p> <hr class="line_divider" contents-hash="9a861f62cd77e9352ab430b258c1b28fd8beefc8f246ad8a97d146429c7dd6fb" dmcf-pid="5ZxQaSvmRc" dmcf-ptype="line"> <h3 contents-hash="fb3c3d9cb8252b82e631e978a366fefeac5ec6ca756505d808daedbc90f1c402" dmcf-pid="15MxNvTseA" dmcf-ptype="h3">AI가 사람처럼 통제 벗어난 건 아냐…</h3> <p contents-hash="50fe51843a58cbc340abbbe21e05f39d5262224951ebc49be42789578148df1d" dmcf-pid="t1RMjTyOij" dmcf-ptype="general">앤트로픽은 이번 사건이 AI가 의도적으로 통제를 벗어난 결과는 아니라고 설명했다. 보안 평가에 사용된 모델들이 인터넷 연결이 가능한 환경이라는 사실을 인식하지 못한 채 실제 기업 시스템을 시험용 대상으로 오인했다는 것이다. 또 일반 서비스에 적용되는 접근 차단과 감시 장치도 연구용 평가 모델에는 적용되지 않았다고 밝혔다. </p> <p contents-hash="6e152712e658eb5313959321ec18380a4d11d14553ee421d7befdfbcdbf7164f" dmcf-pid="FteRAyWIMN" dmcf-ptype="general">앞서 오픈AI는 AI 공격 능력을 측정하는 '익스플로잇짐(ExploitGym)' 평가 도중 GPT 계열 모델이 내부 파일 전송 시스템의 취약점을 발견해 권한을 획득했고, 이후 내부망을 거쳐 허깅페이스 운영망에 침투했다고 밝혔다. 오픈AI는 당시 모델이 시험 문제의 정답을 찾는 데 지나치게 집착한 결과라고 설명했다.</p> <p contents-hash="3d90ef10d5859d08ac6d8a7c9093907032c40905e7e0378acba15036f0f72552" dmcf-pid="3FdecWYCMa" dmcf-ptype="general">WSJ는 이같은 잇따른 사례가 AI 보안의 전환점이 될 수 있다고 평가했다. 지금까지 AI의 사이버 공격 능력은 대부분 통제된 연구 환경에서 검증됐지만, 실제 외부 시스템에까지 영향을 미칠 가능성이 확인됐다는 관점이다. 실제 오픈AI와 앤트로픽의 잇단 공개에 미 정치권에선 "새로운 규제나 검사 체계를 마련해야 한다"는 주장이 더 힘을 얻었다고 WSJ는 전했다.</p> <p contents-hash="d3622b256d1c1d159145cbde7648671af55c4e9ddd631e4fa904da0daaab2d35" dmcf-pid="03JdkYGhJg" dmcf-ptype="general">피해 기업들의 대응 과정에서도 한계가 드러났다. 허깅페이스는 AI가 남긴 1만7,000여 건의 공격 기록을 상용 AI로 분석하려 했으나 공격 명령어와 악성 코드가 안전장치에 걸려 분석이 제대로 이뤄지지 않았다고 밝혔다.</p> <p contents-hash="71758c8bb538ab183aa0521d6ded074822ec6a9628bacbe28eca98ec1a45a6b1" dmcf-pid="p0iJEGHleo" dmcf-ptype="general">실리콘밸리= 박지연 특파원 jyp@hankookilbo.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 "저렇게 긴 손톱으로 드라이버 가능해?"…메이저 왕관 쓴 일본 신데렐라의 네일아트 눈길 08-03 다음 중국 군사 연구진, 미국 AI 모델로 국방 시스템 학습 정황 확인 08-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
