딥시크가 촉발한 AI 보안…“국민·기업 넘어 국가 보호 위한 정책 필요” 작성일 04-06 138 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WM4m4yf5sL"> <figure class="figure_frm origin_fig" contents-hash="3ff584cdf9d04e24ad8022d811a8b918c0ea513b000eac54dd0ccb1bdadd1dab" dmcf-pid="YR8s8W41sn" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/06/etimesi/20250406170113256ldtt.jpg" data-org-width="700" dmcf-mid="ymxhxXQ0Do" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/06/etimesi/20250406170113256ldtt.jpg" width="658"></p> </figure> <p contents-hash="da58bcc65ae6ff1abd3fe80ef799e2787a18e77ba097179cdd5c547d1daf3ae6" dmcf-pid="Ge6O6Y8tOi" dmcf-ptype="general">중국 딥시크가 생성형 인공지능(AI) 서비스의 보안 문제를 촉발함에 따라 국민과 기업을 넘어 국가를 보호하기 위한 정책이 필요하다는 보고서가 나왔다.</p> <p contents-hash="04b636f83244457f2a368383a90a7d0b7d09072c3413cad781005f711ed3509e" dmcf-pid="HdPIPG6FOJ" dmcf-ptype="general">한국인터넷진흥원(KISA)은 최근 딥시크 등장과 AI 보안 이슈를 주제로 보고서를 발표했다.</p> <p contents-hash="d4f819233ca06dc6b258b0639233301f7a54ad0486f3e39ca57ef04288165d10" dmcf-pid="XJQCQHP3md" dmcf-ptype="general">딥시크는 '저비용·고성능' 모델이라는 점에서 큰 파장을 일으켰다. 하지만 오픈AI·마이크로소프트 등 AI 모델과 비교해 높은 보안 취약점이 노출되는 것은 물론 보안 조치도 미흡하다는 지적이 잇따랐다. 또 AI 탈옥을 유발하는 다양한 보안 공격에 취약해 사용에 주의가 필요하다는 목소리도 커졌다.</p> <p contents-hash="5ca12552d01b4fa3a52d128e6b004214672fee184df9b13a548cfc21c909c7ae" dmcf-pid="ZixhxXQ0Ee" dmcf-ptype="general">먼저 팔로알토네트웍스의 보안전문조직 유닛42(Unit42)는 딥시크 R1이 챗GPT 등보다 AI 모델 탈옥의 발생률이 높다는 보고서를 발표했다. 탈옥은 AI를 해킹해 유해 정보를 생성하는 것을 의미한다.</p> <p contents-hash="a5e733f388a970ecb2e925d9c020da8c496978add4a636d81e3d6df6826a0a76" dmcf-pid="5nMlMZxpER" dmcf-ptype="general">국내에선 생성형 AI 보안 기업 이로운앤컴퍼니가 딥시크 AI 모델의 보안성 테스트 결과를 발표했다. 특히 한국어 기반 보안 공격에 취약하다는 분석을 냈다. 구체적으로 역할극 기반 공격은 83%의 높은 성공률이 나타났으며, JSON 기반 구조화된 입력 공격 성공률 82%, 사이버 위협 관련 취약성 약 55% 등을 보였다.</p> <p contents-hash="adaab68b9d3bc6b5394a7f085aff587a5c1f0d2ac91d6125d74abaec0639956f" dmcf-pid="1LRSR5MUrM" dmcf-ptype="general">또 한국어 혐오 발언을 유도하거나 한국어 기반 AI 탈옥을 위한 공격을 시도했을 때도 각각 41.7%와 18%의 취약성이 나타났다. 보고서는 딥시크가 영어와 중국어를 기반으로 개발돼 한국어 등 다른 외국어에 대한 학습 부족 또는 관련 외국어에 대응이 미흡한 것으로 추정했다.</p> <p contents-hash="b9b70f54525c09d5f3b58f67651f8184dece5545ea1815934017868224f137d6" dmcf-pid="toeve1Rumx" dmcf-ptype="general">딥시크에 대한 보안 테스트와 분석 보고서 등을 종합하면 △AI 데이터베이스(DB) 보안 설정 등 일반적인 보안 관리 미흡 △AI 모델 공격에 대한 취약성 △디도스(DDoS) 등 시스템·서비스 기반 공격 취약 등이 보안 위협으로 꼽힌다.</p> <p contents-hash="7ad4ef90781208d14ec67417c201649e9c68f15fa54982040fb4eb6057627d5c" dmcf-pid="FgdTdte7OQ" dmcf-ptype="general">보고서는 AI전환(AX) 시대로 변화에 대비하고 AI로 인한 보안 위협로부터 국민과 기업을 넘어 국가를 보호하기 위한 정책이 필요하다고 강조했다.</p> <p contents-hash="c63d50cfd54a3f72c9b032f39503f0fb8ba782dd4379e4258759f600eabb1c5c" dmcf-pid="3coHoULKmP" dmcf-ptype="general">먼저 AI G3 강국으로 도약을 위해 안전한 AI 개발·활용을 위한 환경을 조성하고, AI의 보안 위협으로 인한 피해를 최소화해야 한다고 짚었다. 이를 통해 국민과 국가를 보호하는 정책을 수립할 필요가 있다고 했다.</p> <p contents-hash="73ab33fc1e90349b738472ed6b9423995889bf5c1c46eeaabf6553582b7515e0" dmcf-pid="0kgXguo9E6" dmcf-ptype="general">구체적으로 모니터링을 강화하는 한편 전방위적인 취약점 점검을 지원할 필요가 있다고 했다. 또 보안·안전 시스템을 고도화하기 위한 튼튼한 보안 기반 구축 등 AI 보안과 더불어 안전성을 확보하기 위한 정책 수립, 글로벌 수준 AI 보안 확보가 필요하다고 지적했다.</p> <p contents-hash="612ddb6bc9fc72ebbbaf4f38eee06821e5d1b6c7128b328644437d3dc8585956" dmcf-pid="pEaZa7g2E8" dmcf-ptype="general">다만 보호 정책이 AI 산업 육성과 기술 발전을 저해할 수 있다는 우려도 공존하고 있어, 산업 진흥 측면을 고려해 균형있는 정책이 필요하다고 덧붙였다.</p> <p contents-hash="668304c32a891e7a9ae95cc82ab093deb33569dde21c9bbde83ce939d594bfed" dmcf-pid="UDN5NzaVr4" dmcf-ptype="general">조재학 기자 2jh@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 정부, AI 기반 행정 강화…'데이터기반행정법' 전면 개편 착수 04-06 다음 차병원, 300억 차세대 사업 뜬다…의료IT 업계 “최대어 잡아라” 04-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
