中 오픈웨이트 AI의 딜레마…문샷AI, 키미 해킹 능력 낮췄다 작성일 10-25 47 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">외부 이용자 모델 수정·악용에도 개발사 통제 한계<br>사이버 공격 관련 학습 데이터 제거해 해킹 역량 제한</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BTHvqtAiWO"> <figure class="figure_frm origin_fig" contents-hash="f27cd2446a7ced44640d349cc46269b556f8422606313b89ab45593fc1bee147" dmcf-pid="byXTBFcnTs" dmcf-ptype="figure"> <p class="link_figure"><img alt="문샷AI. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/25/dt/20261025162242610quby.jpg" data-org-width="640" dmcf-mid="q5M4ci3GlI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/25/dt/20261025162242610quby.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 문샷AI. 로이터=연합뉴스 </figcaption> </figure> <p contents-hash="8c759dfed775f21e888fbbb597316b20a701685eb267ddeb421bc76f191f0d2c" dmcf-pid="KWZyb3kLvm" dmcf-ptype="general"><br> 중국 인공지능(AI) 기업들이 미국 빅테크에 맞서기 위해 추진해 온 오픈웨이트 전략이 개방성과 안전성 사이에서 딜레마에 직면했다. 이들 기업은 누구나 자유롭게 AI 모델을 활용할 수 있는 오픈웨이트 모델의 장점을 앞세워 빠르게 시장 영향력을 확대해 왔다. 하지만 외부 이용자가 모델을 수정해 사이버 공격 등에 악용할 수 있는 데다, 개발사가 이를 통제할 수단도 마땅치 않아 안전성에 대한 우려가 커지고 있다.</p> <p contents-hash="6c42ae73cad60673c9abd1bb59294406c42b5459dc59324eaa0cfca57499e525" dmcf-pid="9Y5WK0EoSr" dmcf-ptype="general">25일 중국 AI 스타트업 문샷AI에 따르면, 이 회사는 최근 공개한 오픈웨이트 모델 ‘키미 K3.1 프로’의 사이버 공격 역량을 의도적으로 제한했다. 일반 학습 데이터에서 사이버 공격 관련 내용을 걸러내고 강화학습 과정에서도 관련 과제를 제외한 결과, 취약점 탐지·악용 과제의 수행률은 이러한 조치를 적용하지 않은 모델의 90.5%에서 81%로 낮아졌다.</p> <p contents-hash="e7240618551b5464929617fa42e743ef76809425720be55ae0523b88fe0667db" dmcf-pid="2G1Y9pDgWw" dmcf-ptype="general">키미 K3.1 프로는 최대 100만 토큰의 문맥을 처리할 수 있으며, 코딩과 복잡한 추론을 비롯해 장시간 이어지는 작업을 수행하도록 설계된 오픈웨이트 모델이다. 문제는 코딩·추론 능력이 높아질수록 소프트웨어의 작동 구조를 분석하고 오류의 원인을 찾아내는 능력도 향상될 수 있다는 점이다. 일반적인 개발 작업에 쓰이는 능력이 보안 취약점을 발견하고 공격 방법을 설계하는 데 활용된다면 더 적은 비용과 노력으로 사이버 공격을 시도할 수 있는 가능성도 커지는 것이다.</p> <p contents-hash="93ca7845d2061aefa8e3ae6db47325ae14c6461bacf1173f63e9732cbafd1414" dmcf-pid="VHtG2UwavD" dmcf-ptype="general">특히 중국 AI 기업들이 주로 내놓는 오픈웨이트 모델은 이러한 악용 위험에 더욱 취약하다. 오픈웨이트 모델은 AI가 답변 방식과 성능을 결정하는 가중치를 외부에 공개해 이용자가 직접 모델을 수정하거나 추가 학습할 수 있도록 한 형태다. 폐쇄형 모델을 주로 제공하는 미국 빅테크와 달리 중국 AI 기업들은 자사 모델을 개방해 진입 장벽을 낮추고 시장 경쟁력을 키워왔다. 하지만 오픈웨이트 모델은 이용자가 모델을 직접 수정하고 재학습할 수 있어 사이버 공격 등에 악용되더라도 이를 통제하기 어렵다는 한계가 있다. 개발사가 이용자의 접근과 위험한 요청을 통제할 수 있는 폐쇄형 모델과 대비되는 점이다.</p> <p contents-hash="5ae1c650069840f6e8a4a9353ad72488be3a7d2be16dfb6b0cfe0f4c99e5c8d5" dmcf-pid="fXFHVurNWE" dmcf-ptype="general">이에 문샷AI는 사이버 공격 역량을 제한하는 방식으로 모델의 안전성을 확보하려 했지만, 일반적인 코딩·추론 능력도 사이버 공격에 활용될 수 있는 데다 추가 학습을 통해 제한된 능력을 다시 강화할 수 있어 악용 위험을 완전히 차단하기는 어렵다는 지적이 나온다.</p> <p contents-hash="7e9a26378706357f516903b912019689ce15c2d213e297a81c13fd6b1e8bbf13" dmcf-pid="4Z3Xf7mjCk" dmcf-ptype="general">문샷AI는 이 같은 한계를 고려해 사이버 공격에 악용될 위험이 큰 고성능 모델은 가중치를 공개하지 않겠다는 방침을 세웠다. 모델의 안전성을 확보하기 위해 일부 모델의 공개를 제한하겠다는 것으로, 그동안 경쟁력으로 내세워 온 오픈웨이트 전략에도 일정 부분 제약이 불가피해진 셈이다.</p> <p contents-hash="710f749402cbc9dc211cafb6e47fc8a360b512504a512ce832e09a7488fad440" dmcf-pid="850Z4zsAyc" dmcf-ptype="general">다만 오픈웨이트 모델로 공개하는 사이버 보안 관련 역량은 점진적으로 높여 나가겠다는 방침이다. 문샷AI는 “키미 K3.1 프로를 누구나 이용할 수 있도록 공개하면 사이버 공격과 방어에 필요한 AI 기술을 더 많은 사람이 활용할 수 있다”며 “이러한 기술을 소수 기업이 독점하기보다 점진적으로 확산하는 것이 궁극적으로 소프트웨어 전반의 보안 수준을 높이는 데 도움이 될 것”이라고 밝혔다.</p> <p contents-hash="e73a5bd2a610f4a6f4a072fb583f3dd8d3faf5cf81f3be79b2a25d19c3271356" dmcf-pid="61p58qOcyA" dmcf-ptype="general">이혜선 기자 hslee@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 [단독] “메모리를 ‘기억기’라 해”…北의심 PHP해커 찾은 사이퍼마 대표 인터뷰 10-25 다음 [AI세계속으로]메타 기대·우려 공존…앤스로픽 IPO에 쏠린 눈 10-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
