中 키미 K3, 인터넷 무단접속→정답 확인…보안 강화해야 작성일 08-08 29 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">평가환경 허점 이용해 인터넷서 스스로 정답 찾아…오픈소스 모델 악용 가능성 제기</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="47mgyYGhoW"> <p contents-hash="8d6dbea20db624112dfd2d5998615e2ee4d45f2709b925b14a91453b0dda4c11" dmcf-pid="8zsaWGHlgy" dmcf-ptype="general">(지디넷코리아=한정호 기자)<span>중국 인공지능(AI) 기업 문샷AI의 최신 모델 '키미 K3'가 사이버보안 평가 과정에서 격리된 시험 환경을 벗어나 외부 인터넷에 접속한 것으로 나타났다.</span></p> <p contents-hash="1b526d7a4950619c52c562081e328cbe7642473da4cbf94feb889bad3eba17e6" dmcf-pid="6qONYHXSNT" dmcf-ptype="general">최근 첨단 AI 모델들의 사이버 역량이 높아지면서 평가 환경 자체의 보안 통제를 강화해야 한다는 지적이 나온다.</p> <p contents-hash="30d5965ae53555905264e4d3da4f7f36910416b38ff1b50ef2a9bcdaa1a0b372" dmcf-pid="PBIjGXZvAv" dmcf-ptype="general">7일(현지시간) 미국 사이버보안 전문업체 프런티어 시큐리티에 따르면 문샷AI의 키미 K3는 영국 AI안전연구소(AISI)가 개발한 샌드박스 환경에서 보안 평가를 받던 중 외부 인터넷망에 접속했다.</p> <figure class="figure_frm origin_fig" contents-hash="a02426cb4e53501c3005b9a47491753d3a8e8667fca35d1cdc042fc0f798526b" dmcf-pid="QbCAHZ5ToS" dmcf-ptype="figure"> <p class="link_figure"><img alt="중국 AI 스타트업 문샷AI의 키미 K3 (사진=키미 PC 버전 화면 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/08/ZDNetKorea/20260808085349560uuts.png" data-org-width="640" dmcf-mid="7RQVAkEoaN" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/08/ZDNetKorea/20260808085349560uuts.png" width="658"></p> <figcaption class="txt_caption default_figure"> 중국 AI 스타트업 문샷AI의 키미 K3 (사진=키미 PC 버전 화면 갈무리) </figcaption> </figure> <p contents-hash="6af7391ee17060fd59681c3ede1c5dc1c2f0857cd400a4e24ca0f7dc956e6432" dmcf-pid="xKhcX51ycl" dmcf-ptype="general"><span>샌드박스는 AI 모델이 외부 시스템에 영향을 미치지 못하도록 격리된 환경에서 성능과 안전성을 시험하는 장치다. 이번 평가는 취약점을 찾아 해결하는 '캡처더플래그(CTF)' 방식으로 진행됐다.</span></p> <p contents-hash="54f05a966b50cbbbb8b5419a8af0fc061f4f8c1f7ff13db30b867c92b5d8b909" dmcf-pid="ym4uJnLxgh" dmcf-ptype="general">평가 환경은 외부에서 샌드박스 내부로 들어오는 통신을 차단했지만, 내부에서 깃허브로 향하는 일부 DNS·HTTPS 통신은 허용하고 있었다. 키미 K3는 명령줄 도구를 이용해 네트워크 환경을 점검하는 과정에서 이 경로를 찾아냈다.</p> <p contents-hash="0ff623c26eaf49559b4486c775b039128b3c2f8507c2213f4446163436398728" dmcf-pid="Ws87iLoMjC" dmcf-ptype="general">이후 키미 K3는 외부 인터넷을 통해 개발자 코드 공유 플랫폼 깃허브에 접속했다. 깃허브 자체를 해킹한 것은 아니지만, 평가 문제의 정답이 담긴 벤치마크 저장소를 내려받아 내용을 확인한 뒤 이를 활용해 과제를 해결했다.</p> <p contents-hash="cb237f5e15beb1440b21fc12abecc47ef471fba3ce3578c2f51fb85617354879" dmcf-pid="YO6znogRAI" dmcf-ptype="general">프런티어 시큐리티는 이번 사례가 샌드박스 자체를 해킹해 탈출한 것과는 다르다고 설명했다. 평가 환경을 설정하는 과정에서 외부로 향하는 일부 통신 경로를 열어둔 것이 원인이 됐다는 것이다. AISI 역시 샌드박스에 본질적인 취약점이 있었던 것은 아니라는 입장을 밝혔다.</p> <p contents-hash="5898db4238c70ca4cf881a7255ac2e8fcd29421b5aab21777b267e3fb64ad714" dmcf-pid="G7mgyYGhNO" dmcf-ptype="general">업계가 주목하는 부분은 AI 모델이 주어진 과제를 해결하기 위해 허용된 통신 경로를 스스로 찾아 외부 정보를 활용했다는 점이다. 평가 환경에 작은 허점이 남아 있을 경우 고성능 AI 에이전트가 이를 찾아내 실제 능력과 다른 평가 결과를 만들어낼 가능성이 있다는 지적이다.</p> <p contents-hash="965564f3bfcff473f2ae83207e2994db0cfb43136955786ac43d136f87c71458" dmcf-pid="HzsaWGHlAs" dmcf-ptype="general">최근 고성능 AI 모델이 사이버보안 평가 환경의 허점을 찾아내는 사례가 잇따르고 있다. 프런티어 시큐리티에 따르면 오픈AI와 앤트로픽, 메타의 AI 모델에서도 각기 다른 방식으로 테스트 환경을 벗어나 외부 시스템에 접근한 사례가 확인됐다.</p> <p contents-hash="50fd83e1db45a39867dbdec04c60c2aac0be9400b74f45bed7ede6206bedd25b" dmcf-pid="XqONYHXSam" dmcf-ptype="general">특히 키미 K3는 누구나 내려받아 사용하거나 개조할 수 있는 오픈소스 모델이라는 점에서 보안 우려가 제기된다. 앞서 통제 환경 이탈 사례가 보고된 오픈AI·앤트로픽·메타 등의 모델과 달리 공개된 모델은 외부에서 별도 안전장치 없이 활용될 가능성이 있기 때문이다.</p> <p contents-hash="7a40c8371dbfed8bf4d1a52354a795c317f27913d20f5bff3a01675803eab66a" dmcf-pid="ZBIjGXZvjr" dmcf-ptype="general">연구진은 "충분한 능력을 갖춘 에이전트라면 인터넷으로 향하는 경로를 반드시 찾아낸다"며 "AI 모델의 역량이 높아질수록 평가 환경 역시 이에 맞춰 더욱 엄격하게 설계할 필요가 있다"고 밝혔다.</p> <p contents-hash="4e549af46bd08df5d1f45edd474ea8950b65cc1f240e0167542fa7b3fbf74b62" dmcf-pid="5bCAHZ5TNw" dmcf-ptype="general">한정호 기자(jhh@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 경남 남해안 해수욕장 피서객 43% 늘어…마른장마·폭염 영향 08-08 다음 '관세장벽' 삼성·LG 막을 줄 알았는데…부메랑 맞은 美 월풀[이슈속으로] 08-08 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
