“가상 공간인 줄 알고 현실 기업 해킹”… GPT 이어 클로드도 실제 시스템 공격 작성일 07-31 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="u6keC9b0gf"> <figure class="figure_frm origin_fig" contents-hash="a417fa8888d76b9e8643e659dd04adec5e73c3dba85a4009a33311675055c95b" dmcf-pid="7PEdh2KpNV" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤트로픽의 인공지능(AI) 모델 클로드 로그. /연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/31/chosunbiz/20260731141253183drky.jpg" data-org-width="3000" dmcf-mid="UDd9jF1yg4" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/31/chosunbiz/20260731141253183drky.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤트로픽의 인공지능(AI) 모델 클로드 로그. /연합뉴스 </figcaption> </figure> <p contents-hash="c5ddb2ac10bd0367e9e49cca2bf7e01c405feed67cba889074e1476939dc5734" dmcf-pid="zQDJlV9UN2" dmcf-ptype="general">오픈AI의 인공지능(AI) 모델 GPT에 이어 앤트로픽의 클로드도 외부 기관 시스템을 무단 해킹한 것으로 드러났다.</p> <p contents-hash="abc25c9a893b17f77658a82939a2a8187eb0d1b9d2884bc2bd2c5fc39c547a98" dmcf-pid="qXV3RTSrj9" dmcf-ptype="general">앤트로픽은 자사 사이버 보안 평가 기록 14만1006건을 전수 조사한 결과, 클로드가 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 30일(현지 시각) 밝혔다.</p> <p contents-hash="f17dcb8ccdc88da85cec812d34f912e2b3e4d946611236d5a91980fc36ebe51e" dmcf-pid="BZf0eyvmcK" dmcf-ptype="general">이번 조사는 앞서 GPT 일부 고성능 모델들이 지시 없이 외부 AI 플랫폼 ‘허깅페이스’의 시스템을 공격한 사실이 알려진 뒤, 앤트로픽이 자사 모델에서도 유사한 사례가 있었는지 점검하는 과정에서 이뤄졌다.</p> <p contents-hash="62c758a96ad9aaf649e5f0b4de0f4b589b69c997ace0fbd58282ff4e9fb9b2c4" dmcf-pid="b54pdWTskb" dmcf-ptype="general">사고는 외주 평가 협력사인 ‘이레귤러’가 구축한 시뮬레이션 환경에서 ‘클로드 미토스5’와 ‘클로드 오퍼스4.7’, 그리고 내부 연구용 시험 모델 등 3종을 대상으로 모의 해킹 과제인 ‘깃발 빼앗기’(CTF) 평가를 진행하는 과정에서 발생했다.</p> <p contents-hash="7a8514107d3e02ffad719e58811b6df7fda62d1924ef0ab948f073a40a01b6f1" dmcf-pid="K18UJYyOAB" dmcf-ptype="general">앤트로픽은 해당 평가 환경이 인터넷 연결이 차단된 가상 모의 공간이라고 클로드에 명령어로 안내했으나, 협력사와의 의사소통 오류 등으로 실제로는 인터넷망이 열려 있었다.</p> <p contents-hash="f1986a8aae8a4e032fd4af3b59ebd70719b3e201ce3bff2ec04f8253cf5ef85a" dmcf-pid="9t6uiGWINq" dmcf-ptype="general">이에 클로드는 자신이 발견한 외부 시스템을 모의 훈련 공간의 일부로 오인하고 공격을 수행한 것으로 보인다고 앤트로픽은 설명했다.</p> <p contents-hash="8643492170296fc10dc5907fd1c7af88320fbb6db5155945ecc7e68379b209de" dmcf-pid="2FP7nHYCkz" dmcf-ptype="general">오퍼스4.7의 경우 평가 과제로 주어진 가상의 목표와 우연히 이름이 같은 한 기업의 웹사이트를 해킹했다. 미토스5는 모의 공간 내 지침에 따라 악성 패키지를 직접 제작해 등록했는데, 실제 보안 업체가 이 패키지를 내려받아 설치하는 바람에 실제 피해가 발생했다.</p> <p contents-hash="708202ecf7b9c4981a74d339d309e87d58cdd0bc2b8fe934008a5fe87f2dcf9c" dmcf-pid="V3QzLXGho7" dmcf-ptype="general">내부 연구용 모델은 한 기업의 클라우드 계정에 침투했으나, 대상이 가상 목표물이 아니라 실제 시스템임을 스스로 깨닫고 공격을 중단했다고 한다.</p> <p contents-hash="79e2c20505089cab30b811ab068c3ba113f6f24787b5fb6844140c43833bd02b" dmcf-pid="f0xqoZHlgu" dmcf-ptype="general">앤트로픽은 이 같은 사실을 지난 23일 파악한 뒤 평가 작업을 중단했고, 피해를 본 외부 기관들에 관련 사실을 통보하고 복구 작업을 돕고 있다.</p> <p contents-hash="fc11a48dc8c2a81590014cd36ddfceb7ba957b7d8749176476ba35ccb918ab3a" dmcf-pid="4pMBg5XSgU" dmcf-ptype="general">앤트로픽은 “책임이 전적으로 우리에게 있는 것으로 보고 해결책을 마련하고 있다”고 설명했다.</p> <p contents-hash="c61e754ba0c88b7234623e8d5fe0c5091f34492a720632b5d5a3f182e7a5dec9" dmcf-pid="8URba1ZvAp" dmcf-ptype="general">한편, GPT에 이어 클로드까지 보안 사고를 일으킨 사실이 드러나면서 AI 관련 보안 위험 우려는 더 커질 것으로 전망된다.</p> <p contents-hash="5c5203d1fb6ea19356d6aab35529e5963ccf9c3c153d0ea5f0fa388f25895972" dmcf-pid="6ueKNt5TN0" dmcf-ptype="general">이번 사고는 인터넷 연결이 차단됐다는 지시와 실제 환경 설정이 일치하지 않으면서 발생했기에, 앞서 모델이 통제 장치를 우회해 외부 시스템에 접근한 GPT 사건과는 차이가 있다.</p> <p contents-hash="c0aa0bf2c162b6a71ef709dc4910beeab6e25da23a889fb595e5bae4fd1f4640" dmcf-pid="P7d9jF1yc3" dmcf-ptype="general">다만 가상 공간으로 오인한 뒤 실제 악성코드를 유포하기까지 한 점을 고려하면 외부 기관에 일으킨 피해는 클로드가 GPT보다 오히려 더 심각한 것으로 보인다.</p> <p contents-hash="b369f642d256da60cf651bd9e0f1b3ba170b5b1ac131e7e12cfaa191f2f77630" dmcf-pid="QzJ2A3tWjF" dmcf-ptype="general">이와 관련해 미 의회에서는 AI 모델이 통제를 벗어나 돌발 행동을 할 경우 연방 정부가 모델의 구동을 강제로 중단할 수 있도록 하는 ‘AI 킬스위치법’이 발의되는 등 규제 논의가 이어지고 있다.</p> <p contents-hash="d7b8ed24a6a68a6c7f775a454cf3bd309fbd2ade7381935f6ec0ea995d729382" dmcf-pid="xqiVc0FYct" dmcf-ptype="general">최근에는 오픈AI와 앤트로픽 등 주요 AI 기업 임직원들도 정부가 AI 개발 속도를 조절하고 고위험 모델을 통제할 수 있는 제도를 마련해야 한다는 공개 청원에 참여하고 있다.</p> <p contents-hash="c3a5e60531921493364877b88f4da2e00dc50ffe019aa3d5d2c98a17982eae8e" dmcf-pid="yDZIuNgRA1" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 삼성전자, 내년 HBM 점유율 SK하이닉스 추월 전망…“HBM4 전환 속도 앞서” 07-31 다음 [인터뷰] 로슬린 레이튼 "AI 시대, 망사용료 제도화 더 시급" 07-31 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
