윤두식 보안TF 위원 "한국, 제로데이 방어 환경 아냐" 작성일 04-18 45 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'제32회 정보통신망 정보보호 컨퍼런스'서 발표...국가AI전략위 핵심 보안 과제 소개</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Ziup47waky"> <p contents-hash="57a150bd167f242e9fb2c528975b478ab50eb3bd94f6a62e81d6fbc1db7cbcee" dmcf-pid="5abqxKIkkT" dmcf-ptype="general">(지디넷코리아=김기찬 기자)"AI 3대 강국 목표를 세웠지만, 실행이 되려면 AI 기본 사회 기본을 갖춰 놔야만 하는데 AI 기본 사회 밑에는 보안이 깔려 있습니다."</p> <p contents-hash="cafe02547aeda14eb7968f986970d3a3fbcad67056469f8be38a02670ac30557" dmcf-pid="1NKBM9CEjv" dmcf-ptype="general">국가인공지능전략위원회 보안TF 위원인 윤두식 이로운앤컴퍼니 대표는 지난 17일 한국정보보호학회가 주관해 코엑스에서 열린 '제32회 정보통신망 정보보호 컨퍼런스'에서 'AI 시대의 국가 AI 보안 전략과 기본 방향'을 주제로 발표했다.</p> <p contents-hash="f45014c070fe0e8fb067d024ef33b2fa04938b7293bbd806d262d66f3c0b3a9d" dmcf-pid="tj9bR2hDjS" dmcf-ptype="general">윤 대표는 "국내에는 매년 15% 이상씩 한국인터넷진흥원(KISA)에 침해사고 신고 접수가 늘어나고 있다. 올해가 지나면 이 비율이 더욱 늘어날 것이다"라며 "제로데이(취약점 공개 후 보안 업데이트 전 0일 만에 이뤄지는 공격) 방어를 할 수 있어야 하는데 우리나라는 제로데이를 제대로 패치할 수 있는 환경이 갖춰져 있지 않다"고 진단했다.</p> <p contents-hash="ca4d22dcbc52788a319c643dffd99d59c59ca9a104b8fd550809b945857c53d6" dmcf-pid="FA2KeVlwcl" dmcf-ptype="general">이날 그는 국가AI전략위의 AI 3대 강국 도약을 위한 3대 축, 12대 전략 분야 중 보안 관련 핵심 과제에 대해 세부적으로 소개하는 시간을 가졌다.</p> <p contents-hash="561e5e69da1852dc5fed12b9244b76d4bfaa7219a5327105cc50159b2aba55f8" dmcf-pid="3cV9dfSrNh" dmcf-ptype="general">윤 대표는 "지난 2월 국가AI전략위가 전체회의를 거쳐 확정한 AI 행동계획을 보면 핵심은 ▲AI 혁신 생태계 조성 ▲범국가 AI 기반 대전환 ▲글로벌 AI기본사회 기여 등 3가지 축이다"라며 "3대 정책축과 12대 전략을 통해 AI를 새로운 도약의 발판으로 삼아 AI 기본사회를 이루는 것이 목표"라고 소개했다.</p> <figure class="figure_frm origin_fig" contents-hash="7d28e9a3463ba83a0086baf84b57e1cb7cacba3434cec3a78db000177b56602a" dmcf-pid="0kf2J4vmAC" dmcf-ptype="figure"> <p class="link_figure"><img alt="국가인공지능전략위원회 보안TF 위원으로 활동하고 있는 윤두식 이로운앤컴퍼니 대표가 17일 '정보통신망 정보보호 컨퍼런스'에서 발표하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/18/ZDNetKorea/20260418215709739wkof.jpg" data-org-width="640" dmcf-mid="Ghx6gxGhgG" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/18/ZDNetKorea/20260418215709739wkof.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 국가인공지능전략위원회 보안TF 위원으로 활동하고 있는 윤두식 이로운앤컴퍼니 대표가 17일 '정보통신망 정보보호 컨퍼런스'에서 발표하고 있다. </figcaption> </figure> <p contents-hash="f5694777af3228d7c696431aaa3aec3050d34bd548694ce485f4404a09588345" dmcf-pid="pE4Vi8TscI" dmcf-ptype="general">윤 대표가 핵심으로 짚은 보안 관련 과제는 ▲민간·공공 AI 보안 생태계 활성화(ISMS-P 개편, CVD/VDP, 화이트해서 및 보안산업 육성) ▲AI 기반 사이버보안 체계 구축(K-사이버보안 LLM, AI-ISAC, 보안 내재화) ▲AI 안보 위협 대응 및 협력 강화(사이버 안보 플랫폼, CBRN 대비, 기술유출 방지 등이다.</p> <p contents-hash="ecb8fe47c5b1b11803a166e33343229c10f721ee622e2a1003c6fb758a88a20b" dmcf-pid="UD8fn6yOgO" dmcf-ptype="general">우선 윤 대표는 "체크리스트 기반의 ISMS-P(정보보호 및 개인정보보호 관리체계 인증)에 '공격 표면 관리 점검' 방법을 반영하는 등 기업이 IT 자산에 대한 취약점 파악 및 관리가 가능하도록 개선할 예정이고, 올해 2분기 시행할 목표"라며 "서류에서 실전 기반의 인증 체계로 개편하는 것"이라고 강조했다.</p> <p contents-hash="cc0f30d839c8be5667491de3408249f9c78986dcfd4ae166de598f68bf599a33" dmcf-pid="uw64LPWIos" dmcf-ptype="general">국가AI전략위가 내세운 AI 시대 보안의 '게임 체인저'는 'CVD(Coordinated Vulnerability Disclosure)/VDP(Vulnerability Disclosure Policy)'다. 이는 보안 취약점을 발견한 자가 이를 체계적으로 신고하고, 해당 기업·기관이 조치한 뒤 공개하는 협력적 프로세스를 말한다. 윤 대표는 미국과 유럽연합 등 국가는 이런 프로세스를 제도적으로 마련해놨으나, 아직 한국은 제도화가 미비돼 있으며 로드맵을 마련해 추진할 계획이라고 설명했다.</p> <p contents-hash="09191a38f3b5bd34644fd8276520569d19e93b779b546c8aeb4315b7784b0a8f" dmcf-pid="7rP8oQYCcm" dmcf-ptype="general">국가AI전략위에 따르면 CVD/VDP 운영 체계는 먼저, 화이트해커 또는 보안연구자가 정보통신망·디지털 제품의 취약점을 사전에 발굴한다. 이어 CVD/VDP 전문 기관에 체계적으로 신고하는데, 이 때 합법적인 활동이 보장될 수 있도록 법령을 손질할 예정이다. 아울러 해당 기업 및 기관이 취약점을 조치하면, 패치 이후 협력적 가이드라인에 따라 취약점 정보를 공개하는 과정이다.</p> <p contents-hash="55dcabda9b5f889f662d56c69919b2acadda66e65b61a93803460ea7addf3d2c" dmcf-pid="zmQ6gxGhor" dmcf-ptype="general">이 외에도 ▲글로벌 빅테크 거대 언어 모델(LLM) 종속 탈피를 위한 국내 위협 특화 분석 LLM 운영 ▲사고 사전 예측·예방 ▲민간 주도 AI 정보 공유 분석 센터(ISAC) 설립 ▲AI 보안 전문 인재 양성 ▲국산 AI 보안 솔루션 육성 및 해외 의존도 탈피 등 과제를 소개했다.</p> <p contents-hash="d1ef6886014a5ed9bb670bf99818a824793d3a0faed91e81c571f7623ce7e73b" dmcf-pid="qw64LPWIaw" dmcf-ptype="general"><strong>전종홍 ETRI 책임연구원 "AI 수명주기 전반에 걸친 지속적인 레드티밍 필요"</strong></p> <p contents-hash="ba1a5112b84e40d80121e8509f82914d98df61534f645945d100c5cf2e04c71b" dmcf-pid="BrP8oQYCcD" dmcf-ptype="general">이날 윤 대표 외에도 전종홍 한국전자통신연구원(ETRI) 책임연구원, 권현 육군사관학교 교수 등이 각각 'AI 레드팀 테스팅 동향과 전망', '적대적 공격 연구 동향 및 최신 트렌드 분석' 등을 주제로 발표했다.</p> <figure class="figure_frm origin_fig" contents-hash="48703abca8fc5a183fa8a825bc8839cc96e0f11994ff3bc688839228ed0c4c93" dmcf-pid="bmQ6gxGhAE" dmcf-ptype="figure"> <p class="link_figure"><img alt="전종홍 한국전자통신연구원 책임연구원이 'AI 레드팀 테스팅 동향과 전망'을 주제로 발표하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/18/ZDNetKorea/20260418215710998qdvw.jpg" data-org-width="640" dmcf-mid="HD42J4vmkY" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/18/ZDNetKorea/20260418215710998qdvw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 전종홍 한국전자통신연구원 책임연구원이 'AI 레드팀 테스팅 동향과 전망'을 주제로 발표하고 있다. </figcaption> </figure> <p contents-hash="2b235f9573c7f0b6c41aefcbfb794386ea5ec49fb0f570d05a48cf5d96d9c6e2" dmcf-pid="KsxPaMHljk" dmcf-ptype="general">먼저 전 연구원은 AI 레드팀 테스팅 국제표준인 ISO/IEC 42119-7에 대해 소개하며, AI 수명주기 전반에 걸친 지속적인 레드티밍의 중요성에 대해 강조했다. AI레드티밍은 모델을 배포하기 전 단 한 번 수행하는 감사의 개념이 아니라는 지적이다.</p> <p contents-hash="1f9da802f7a5c0e52de7ed053ec5ab41eb489eaba69f3a9022ee3c324a3998ea" dmcf-pid="9OMQNRXSkc" dmcf-ptype="general">전 연구원은 "지속가능한 AI 신뢰성의 완성, 회복탄력성을 갖춰야 한다"며 "자율형 에이전트가 통제를 벗어났을 때 어떻게 중단시킬 것인지 등 다학제적 검증 통제 센터로서의 AI 레드팀이 필요하다"고 강조했다.</p> <figure class="figure_frm origin_fig" contents-hash="32391cbb104f6a3b98ea21d01db0cf883129d05fe4430c1c4404f047d8096f45" dmcf-pid="2IRxjeZvNA" dmcf-ptype="figure"> <p class="link_figure"><img alt="권현 육군사관학교 교수가 적대적 공격에 대해 설명하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/18/ZDNetKorea/20260418215712277jbvf.jpg" data-org-width="640" dmcf-mid="XghIZlQ9cW" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/18/ZDNetKorea/20260418215712277jbvf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 권현 육군사관학교 교수가 적대적 공격에 대해 설명하고 있다. </figcaption> </figure> <p contents-hash="c696aa7ab0b55f414ea842bbd79bb8a5b0ed5adf8a18cc7d4dc25d19a85a232f" dmcf-pid="VCeMAd5Tgj" dmcf-ptype="general">이날 권 교수는 적대적 공격의 트렌드에 대해 소개했다. 적대적 공격은 머신러닝 모델의 입력에 인간이 감지하기 어려운 미세한 변형을 가해 모델이 잘못된 출력을 생성하도록 의도적으로 유도하는 공격을 말한다.</p> <p contents-hash="a77712684c54bba9e2b3f92af4ae224640d054ef7d45b7810d50b0ec46a88103" dmcf-pid="fhdRcJ1yAN" dmcf-ptype="general">권 교수는 "공격이 항상 방어보다 앞서가고 있으며 완벽한 방어는 아직 존재하지 않는다"며 "새로운 AI 모델이 나올 때마다 적대적 공격은 계속해서 나올 것"이라고 강조했다.</p> <p contents-hash="585644aed47cfe7f38ac15d351fb7fee0ff6c095152d0d276c156f24f4b571c7" dmcf-pid="4lJekitWca" dmcf-ptype="general">김기찬 기자(71chan@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 박서진, '분량제조기' 여동생 데려오기 대작전 "추혁진 팔아서라도" (살림남) 04-18 다음 '작년엔 19연승에서 멈췄는데' SK, 이번엔 21전 전승...H리그 사상 첫 전승 우승 달성 04-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.