앤트로픽, 새 보안체계로 데이터 추출 99% 줄여 작성일 10-13 57 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8J0MhopXl0"> <figure class="figure_frm origin_fig" contents-hash="a298403f6fd4a771091ecd4166b50a2757a06d5f62bc3fe48d70f9fb3c149592" dmcf-pid="6ipRlgUZT3" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/552796-pzfp7fF/20261013164633962vjpu.jpg" data-org-width="640" dmcf-mid="4WLS9XoMyp" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/552796-pzfp7fF/20261013164633962vjpu.jpg" width="658"></p> </figure> <p contents-hash="2d60c13efcbc038cb105f34791edebbfd11420bd9986d33790b56530cf09e331" dmcf-pid="PnUeSau5SF" dmcf-ptype="general">[디지털데일리 구아현기자] 앤트로픽이 '증류 공격'을 막는 새로운 보안체계를 도입해 추론 데이터 추출량을 최대 99% 줄였다고 밝혔다.</p> <p contents-hash="03204ae9f3dbc3d02a045c7f94808ac55b27accc6b35672824ef55d54ecab9c4" dmcf-pid="QIxrUSMVTt" dmcf-ptype="general">앤트로픽은 12일(현지시간) 공식 블로그를 통해 증류 공격 대응 기술과 방어 성과를 공개했다. 아울러 지푸AI가 최신 AI 모델 'GLM-5.3'을 개발하는 과정에서 미국 주요 AI 모델의 사이버 공격 역량을 증류했다고 지목하면서 국가 안보를 초래한다고 경고했다.</p> <p contents-hash="675bc38d9dff07369b937bebef661304a9516a1c4119a26dc9832f7be7c3c3cf" dmcf-pid="xCMmuvRfl1" dmcf-ptype="general">증류 공격은 원 개발사의 허가 없이 특정 AI 모델의 능력을 추출해 다른 모델에 복제하려는 행위다. 공격자들은 수많은 허위 계정과 우회 접속망을 이용해 고성능 AI에 반복적으로 질문하고, 확보한 답변과 추론 과정을 자체 모델 학습에 활용한다. 이를 통해 최첨단 모델 개발에 필요한 시간과 비용을 크게 줄일 수 있다.</p> <p contents-hash="b46b25d20f6e357c917f751a3c326a318ef77ce038009190cd62740ad3274e31" dmcf-pid="yfWKcPYCy5" dmcf-ptype="general">앤트로픽은 이러한 무단 증류가 미국 AI 기업의 기술 경쟁력뿐 아니라 국가 안보에도 위협이 된다고 강조했다. 특히 충분한 안전장치 없이 고성능 모델이 개발·공개될 경우 생물학과 사이버보안 분야에서 악용될 위험이 있다고 지적했다.</p> <p contents-hash="651ccd96cc2dd98c6d97c7c2d920d219d653255fa9de76f09362c9377e1286f1" dmcf-pid="W4Y9kQGhCZ" dmcf-ptype="general"><strong>◆ 추론 데이터 추출량 90~99% 감소… 수만 개 계정 차단</strong></p> <p contents-hash="cbd9c63e906054496595e6ed511736dcb7cac65b59b0417f066b2eba6b4ed9c1" dmcf-pid="Y8G2ExHlWX" dmcf-ptype="general">앤트로픽은 이러한 증류 공격에 대응하기 위해 추론 정보 접근 통제, 공격 탐지, 악성 계정 차단 등 세 가지 방어 조치를 도입했다.</p> <p contents-hash="a3347b77102ea46109821ceb1c6f7e787cf8b72e77b8a8749dc0952202994886" dmcf-pid="G6HVDMXSTH" dmcf-ptype="general">우선 신규 응용프로그램인터페이스(API) 계정이 기존 대화의 추론 맥락을 수정하지 못하도록 제한했다. 보안장치가 약한 구형 모델을 이용해 최신 모델의 추론 정보를 빼내거나 여러 계정을 통해 같은 공격을 반복하는 방식도 차단했다.</p> <p contents-hash="8c2249b51b014d1cf41768975c2ff7ebaccd9d20d10f82619189d9debbd7092b" dmcf-pid="HPXfwRZvvG" dmcf-ptype="general">여기에 공격자가 클로드의 숨겨진 추론 과정을 추출하려는 요청을 식별하는 2단계 분류기 시스템을 적용했다. 앤트로픽은 내부·외부 보안 검증을 거쳐 탐지 성능을 높였으며, 정상적인 요청을 공격으로 잘못 판단하는 오탐률은 0.1% 미만이라고 설명했다.</p> <p contents-hash="f5416f0cabe86f7f91c20bea941147e4f51168ef3b6636a4d9d7c1b1579d0825" dmcf-pid="XQZ4re5TWY" dmcf-ptype="general">그 결과 앤트로픽 자체 플랫폼에서 공격자들이 추출한 추론 토큰 수는 기존보다 10~100배 감소했다. 이는 추론 데이터 추출량이 약 90~99% 줄었다는 의미다. 증류 공격과 관련된 수만 개의 계정도 차단했으며, 일부 계정은 공격 시작 후 2시간 이내에 적발됐다.</p> <p contents-hash="dfc9753286abceaa6e37bf6d3dfaf671f4f91e4cf9ca17033e8e773747c420d4" dmcf-pid="Zx58md1yTW" dmcf-ptype="general">앤트로픽은 이번 방어 기술이 성과를 거뒀지만 고도로 정교한 공격을 장기간 막아낼 수 있을지는 아직 확신할 수 없다고 인정했다.</p> <p contents-hash="38de3c45ca6d4d4359e97cb712700f40157f836567ee8cd176743fc0e6631f0e" dmcf-pid="5M16sJtWyy" dmcf-ptype="general">또한 증류 공격 방어를 위해 상당한 유료 트래픽과 매출을 포기했다고 밝혔다. 공격자들 역시 요금을 지불하는 고객이지만, 기술 보호와 안전성을 위해 차단 조치가 불가피하다는 입장이다.</p> <p contents-hash="4a5ad60d60875ab0a26c77d98bb70313f0f1b21608961d06ea4ee3ecc8484927" dmcf-pid="1RtPOiFYTT" dmcf-ptype="general">앤트로픽은 공격자들이 여러 클라우드와 AI 서비스에 요청을 분산하는 만큼 모델 개발사뿐 아니라 플랫폼 운영자도 증류 공격 탐지와 차단에 협력해야 한다고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 성추행 신고에 출동했더니 로봇...휴머노이드와 이웃이 될 준비 됐나요 10-13 다음 유전자 바꿔 만든 세계 최초 '형광 갑오징어'…새끼도 형광 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
