"LLM, 보안 취약점 탐지 아직 사람한테 안돼" 작성일 04-17 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">국보연 선임연구원들 'NetSec-KR 2026'서 발표…"AI로 가짜뉴스 생성 13원밖에 안돼"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bIm8bXnQNJ"> <p contents-hash="7f195a84a49722781bb7a1c842701226b07729ec6920fcdcb2b4e3024b3e9edb" dmcf-pid="KCs6KZLxad" dmcf-ptype="general">(지디넷코리아=김기찬 기자)"AI로 가짜 뉴스를 생성하는데 평균 4초, 13원밖에 들지 않습니다. AI 에이전트가 우리 삶 가까이에 다가오면서 생성형 AI 기능 및 역량을 악용하는 전술이 활개를 치고 있습니다. 이같은 AI 악용은 여론 및 의견 조작에 가장 많은 것으로 나타났습니다."</p> <p contents-hash="a0d28ee448673a3559dfa34cbb9be0b14ed5329bd65ee1d451243bd549591333" dmcf-pid="9hOP95oMae" dmcf-ptype="general">고우영 국가보안기술연구소(국보연) 선임연구원은 지난 16일 정보보호학회 주관으로 서울 코엑스에서 열린 '제32회 정보통신망 정보보호 컨퍼런스(NetSec-KR 2026)'에서 국가·공공사이버안보를 위한 AI 보안 기술 세션에서 'AI시대, 보안의 명암과 우리의 대응: AI 허위 정보 중심으로'를 주제로 발표했다.</p> <p contents-hash="be057c18a68c3161c90ef2bf7dcf9a5bbf05fd0cce7dcf8f5c03b5a255e3f794" dmcf-pid="2lIQ21gRkR" dmcf-ptype="general">이날 고 연구원은 생성형 AI를 악용한 허위 정보들이 우리 사회에 범람하고 있으며, 가짜 여론을 형성하기 위한 악성 댓글 생성 등의 공격이 늘어나고 있다고 강조했다.</p> <figure class="figure_frm origin_fig" contents-hash="12a221fe9452aaf9d91ef82c45189ceda5707013ec46a19c4d258ae5d5135cc8" dmcf-pid="VSCxVtaegM" dmcf-ptype="figure"> <p class="link_figure"><img alt="고우영 국가보안기술연구소(국보연) 선임연구원이 AI가 생성한 가짜뉴스의 위험성에 대해 밝히고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/17/ZDNetKorea/20260417065411347mwfq.jpg" data-org-width="640" dmcf-mid="t98STcztkz" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/17/ZDNetKorea/20260417065411347mwfq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 고우영 국가보안기술연구소(국보연) 선임연구원이 AI가 생성한 가짜뉴스의 위험성에 대해 밝히고 있다. </figcaption> </figure> <p contents-hash="d8befa48678fd4a805aee28a0f69f9b7bd0a1a1ee013208be04885230366cf72" dmcf-pid="fvhMfFNdgx" dmcf-ptype="general">그는 "12개의 가짜 뉴스를 만드는 데 평균 155원, 46초가 소요됐다"며 "가짜 뉴즈나 가짜 댓글을 생성하는 비용이 너무나 낮고, 그 양이 점차 많아지다 보니 참과 거짓을 구분하기 힘든 수준까지 치달았다"고 진단했다.</p> <p contents-hash="9e04ec084737d054489de416a42d2f4ac57035d80e57a52435fef92939418210" dmcf-pid="4TlR43jJgQ" dmcf-ptype="general">고 연구원은 이처럼 가짜 정보가 넘쳐나기 시작하면 우리 사회 구성원들은 가짜 정보에 지쳐 현실에 무관심해지기 시작하고, 진짜 정보까지도 하나하나 의심하기 시작한다고 강조했다.</p> <p contents-hash="e5fb035da11e7432e18eb3acdd03affbef98df7cb59e9ba10be15ac736740ee8" dmcf-pid="8ySe80AigP" dmcf-ptype="general">그는 "가짜뉴스에 대한 처벌은 금전적인 이익으로 이어진 경우가 아니라면 법적으로 처벌하기 어렵다"면서 "생성형 AI 기술이 너무나 빠르게 진화하고 있는데 제도 개선이 필요하다"고 강조했다.</p> <p contents-hash="d138db7a063b1ea84ab12314fc31bf8a331835067ee0cc1a14db52f949ca52b2" dmcf-pid="6Wvd6pcno6" dmcf-ptype="general">이날 국가·공공사이버안보를 위한 AI 보안 기술 세션에서는 고 연구원에 이어 최석우 국보연 실장, 지현석 국보연 책임연구원 등 연구진이 각각 한 가지씩 발제했다.</p> <figure class="figure_frm origin_fig" contents-hash="785349ae94212123ccf5f50c69a823fcefdd2dff8f27a7cfb3afd592f0f7f010" dmcf-pid="PTlR43jJa8" dmcf-ptype="figure"> <p class="link_figure"><img alt="최석우 국보연 실장이 AI 기반 악성코드 분석 기술의 필요성에 대해 발표하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/17/ZDNetKorea/20260417065412623opan.jpg" data-org-width="640" dmcf-mid="Fvrf80Aig7" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/17/ZDNetKorea/20260417065412623opan.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 최석우 국보연 실장이 AI 기반 악성코드 분석 기술의 필요성에 대해 발표하고 있다. </figcaption> </figure> <p contents-hash="0cf218a882e62a973b2387da05e7a309ee5795726e4274397bfea16716594e78" dmcf-pid="QySe80Aig4" dmcf-ptype="general">최 실장은 'AI 기반 악성코드 분석기술'에 대해 발표했다. 최 실장 발표에 따르면 AI가 악성코드를 생성하는 데 쓰이기 시작하면서 매일 약 45만 건 이상의 신규 악성코드가 생겨나는 것으로 조사됐다. 이로써 누적된 악성코드는 10억 건을 돌파했다.</p> <p contents-hash="5555f06066060cc2ee4d6b12e1a1a2af1f1801b7c2d73a42e8438a65ed724235" dmcf-pid="xWvd6pcnaf" dmcf-ptype="general">이에 최 실장은 ▲AI 기반 분석 보조 시스템 ▲거대 언어 모델(LLM) 기반 자율 분석 에이전트 ▲난동화 자동 해제 등 AI를 활용한 대안 마련이 필요하다고 역설했다.</p> <figure class="figure_frm origin_fig" contents-hash="5a13fbdeddaefe07c2190d819adb5202285f3d3a04ffa25f6e65b7d834de215b" dmcf-pid="yMPHSju5jV" dmcf-ptype="figure"> <p class="link_figure"><img alt="지현석 국보연 책임연구원이 LLM 기반 취약점 탐지 관련 발표를 시작하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/17/ZDNetKorea/20260417065413884xvkm.jpg" data-org-width="640" dmcf-mid="3LLpuyRfcu" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/17/ZDNetKorea/20260417065413884xvkm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 지현석 국보연 책임연구원이 LLM 기반 취약점 탐지 관련 발표를 시작하고 있다. </figcaption> </figure> <p contents-hash="1b551df9141d7af777a01dc834caa0407db693642d27a68f0fd0f2309f06930f" dmcf-pid="WRQXvA71c2" dmcf-ptype="general">이어 지 연구원은 'LLM 기반 소프트웨어 보안 취약점 탐지의 시대'를 주제로 발표했다. 그는 LLM이 어떻게 취약점을 탐지하는지에 대해 집중적으로 탐구한 결과를 소개했다.</p> <p contents-hash="1f34d005c7a5f8a338dbb8ee5778b1d4802c77d72a3d38bc8b38fc5f2e1886b4" dmcf-pid="YexZTcztN9" dmcf-ptype="general">지 연구원은 "최근 사례를 보면 AI가 수많은 취약점을 찾아냈지만, 분석 결과를 보면 실상은 그렇지 않다"면서 "AI 모델이나 LLM에 취약점 탐지 도구를 쥐어 줬을 때에만 효과적인 취약점 탐지가 가능했다"고 진단했다.</p> <p contents-hash="ee86ae614f7861a0419e437a8559663140b18ffb5fa2ec7cd6f2012be60979e7" dmcf-pid="GdM5ykqFgK" dmcf-ptype="general">이에 지 연구원은 보안 취약점을 직접 찾을 수 있는 실력 있는 분석가가 LLM을 활용할 수 있을 때 시너지가 극대화될 것으로 전망했다. 아직은 LLM이 대규모 코드베이스 처리 한계, 데이터 의존, 불성실한 추론 등 한계를 갖고 있다고 봤다.</p> <p contents-hash="6179bcecee19196ab274ec381f2037f1d541edc81b42428d36ec0d6868450bf1" dmcf-pid="HJR1WEB3Ab" dmcf-ptype="general">그는 "LLM의 취약점 탐지는 현재까지는 아직 완벽하지 않다. 더 취약점을 잘 찾을 수 있는 방법을 탐색해야 한다"고 강조했다.</p> <p contents-hash="ef2ecac708fb2580ed021ae5bef15ce24093916b4272e79d49bf3b18ad9bfc49" dmcf-pid="XietYDb0NB" dmcf-ptype="general">김기찬 기자(71chan@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 직스테크놀로지·아이디어·두아즈·빔스온탑, 공공·민간 건설 데이터 기반 'AI 생태계 구축' 본격화 04-17 다음 데이터 분석이 경기 승패까지 좌우하는 시대가 도래...ATP Tennis IQ가 무엇? 04-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
