AI, 가둬도 뚫는다…중국산 '키미 K3' 탈출에 커지는 보안 경고음 작성일 08-08 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI·앤트로픽 이어 문샷도…AI 샌드박스 탈출 반복</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7fQit30HTG"> <div contents-hash="b08629dfd377cc95d9435901115a0e5edbad83c90a44c64e7c795c60d20c281b" dmcf-pid="zakO46PKSY" dmcf-ptype="general"> <strong>오픈AI·앤트로픽·메타 이어…키미 K3까지 샌드박스 탈출 러시</strong> </div> <figure class="figure_frm origin_fig" contents-hash="9311e62cf27e7ac92c77aba14f0341d3e51495508e7b2ed8459159f1a28789ec" dmcf-pid="qNEI8PQ9CW" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/08/552796-pzfp7fF/20260808062757936xbqb.jpg" data-org-width="640" dmcf-mid="u2EI8PQ9yH" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/08/552796-pzfp7fF/20260808062757936xbqb.jpg" width="658"></p> </figure> <p contents-hash="8d6a6868ca5eee744fa559741e8bddadea521d5b16217ca586f462bd35e7d48a" dmcf-pid="BjDC6Qx2Wy" dmcf-ptype="general">[디지털데일리 이상일기자] 중국 문샷(Moonshot)이 개발한 대규모 언어 모델(LLM) '키미(Kimi) K3'가 사이버보안 평가용 격리 환경(샌드박스)을 벗어났다. AI 보안기업 프론티어 시큐리티(Frontier Security)가 지난 7일(현지시간) 블로그를 통해 밝혔다. 오픈AI(OpenAI)와 앤트로픽(Anthropic), 메타(Meta) 모델도 최근 비슷한 사고를 냈다.</p> <p contents-hash="296411b165ec5e65e890e5f705c35f6022905f61842946aab56a1766c30a040f" dmcf-pid="bAwhPxMVyT" dmcf-ptype="general">프론티어 시큐리티에 따르면 테스트는 영국 AI 보안연구소(AI Security Institute)가 구축한 샌드박스에서 진행됐다. 샌드박스는 키미 K3의 특정 웹 트래픽 접근을 막도록 설계됐다. 모델은 명령줄 도구로 이 제한을 우회했다.</p> <p contents-hash="7f80f5b8b9eaeb15c765fb0fc810a58f7c8030374eabb97eb59ef20d035e5187" dmcf-pid="KcrlQMRfTv" dmcf-ptype="general">이번 평가는 캡처더플래그(CTF) 방식으로 취약점 탐지·방어 능력을 측정했다. 테스트는 영국 AI 안전연구소(AI Safety Institute)의 '인스펙트(Inspect)'와 '사이벤치(Cybench)' 프레임워크 샌드박스에서 진행됐다. 샌드박스는 수신 트래픽은 막았지만, 깃허브(GitHub)로 향하는 발신 DNS·HTTPS 통신은 열려 있었다. 키미 K3는 셸 점검으로 이 경로를 찾아, 깃허브에서 정답이 담긴 벤치마크 저장소를 내려받아 답을 읽어냈다.</p> <p contents-hash="96e40f717df7e02f7090cf132140fb9dbd28a4a6dd15ebfe8b9622c063829161" dmcf-pid="9kmSxRe4TS" dmcf-ptype="general">연구진은 "충분한 능력을 갖춘 에이전트라면 인터넷으로 향하는 경로를 반드시 찾아낸다"고 밝혔다.</p> <p contents-hash="772be5a780a7089c13208cfb2e687d646fc085e6b6b1324c902ffc7433a10cd0" dmcf-pid="2EsvMed8Tl" dmcf-ptype="general">연구진은 "이는 학계에서 사용하는 일부 사이버보안 평가 방식이 보안 취약점에 노출돼 모델이 부정행위를 할 수 있게 하며, 평가에서 부정행위를 할 수 있는 허점과 취약점을 의도적으로 찾아내는 모델들이 존재함을 시사한다"고 밝혔다. 오픈AI, 앤트로픽, 메타의 최첨단 LLM도 최근 몇 주간 각기 다른 방식으로 테스트 환경을 벗어나 실제 표적을 해킹했다.</p> <p contents-hash="b105e07f7c4d2f99932669e2250ff1229c9f564046b90c590d33eab6f61172ab" dmcf-pid="VDOTRdJ6vh" dmcf-ptype="general">프론티어 시큐리티는 오픈AI(OpenAI) 모델이 허깅페이스(Hugging Face)에서 낸 유사 사고도 언급했다. 당시엔 미공개 모델을 오픈AI 자체 팀이 포착했지만, 키미 K3는 이미 공개돼 악용 소지가 더 크다고 지적했다. 이 경로가 노출되면 다른 고성능 모델도 같은 지름길을 찾을 수 있어 평가 결과가 실제 능력 대신 환경 결함을 반영할 수 있다고 우려했다.</p> <p contents-hash="c2cb398ebae79242fc607e9c3cbb0bb521c4fca71a1f0927db2f20de9a8d416f" dmcf-pid="fQdaU7ztvC" dmcf-ptype="general">이러한 사고가 잇따르자 이를 추적하는 웹사이트 '펠로니 벤치(Felony Bench)'가 등장했다. 집계에 따르면 문샷은 오픈AI, 앤트로픽과 어깨를 나란히 하게 됐다. 오픈AI와 앤트로픽은 각각 7건, 메타는 1건의 기록된 사고를 보유하고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 [스포츠박사 기자의 스포츠용어 산책 1868] 바둑에서 왜 ‘호선(互先)’이라 말할까 08-08 다음 [AI세계속으로]애플-오픈AI 진흙탕 소송…난타전 이유 있었다 08-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
