[흔들린 보안시계]AI가 해킹 찾아도 대응은 사람 몫…'완전 자동화' 한계 작성일 10-13 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI, 위협 탐지 성과에도 대응 우선순위·취약점 패치 오류<br>"중요한 결정은 사람이"…금융당국도 위험도별 자동화 권고</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zmWi1PYCYL"> <p contents-hash="e43edb67abdaff6d3acfb5ae8966a0954156d12bcc4cac3a92d0fd6b2509d0a1" dmcf-pid="qsYntQGhGn" dmcf-ptype="general"> [편집자주] 인공지능(AI)이 해킹을 더 빠르고 광범위하게 만들고 공격에 필요한 비용과 전문성의 문턱까지 낮추고 있다. 뉴스1은 AI가 사이버 공격의 수법과 위협을 어떻게 바꾸고 있는지 짚고, 금융권 등 주요 시스템을 지키기 위한 보안 체계가 어떻게 달라져야 하는지 살펴본다. [편집자 주]</p> <figure class="figure_frm origin_fig" contents-hash="e450d657526e443bf1e53e20969a366406afcd2ab087e415bdf6fed50916ecf7" dmcf-pid="BOGLFxHl1i" dmcf-ptype="figure"> <p class="link_figure"><img alt="인공지능을 뜻하는 'AI' 문자 일러스트 2023.6.23 ⓒ 로이터=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/NEWS1/20261013064557330ettx.jpg" data-org-width="1400" dmcf-mid="uNKh6D9UGg" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/NEWS1/20261013064557330ettx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인공지능을 뜻하는 'AI' 문자 일러스트 2023.6.23 ⓒ 로이터=뉴스1 </figcaption> </figure> <p contents-hash="839e1ae7d93cda6f6571cc6742d19cfaab0bdf3158b8e4ff020b1de56b39f937" dmcf-pid="bIHo3MXSYJ" dmcf-ptype="general">(서울=뉴스1) 한수민 기자 = 인공지능(AI)이 해킹 위협을 찾아내는 데 성과를 내고 있지만, 실제 대응까지 AI에 맡기는 데는 한계가 있는 것으로 나타났다. AI가 보안 경보의 위험도를 잘못 판단하거나 취약점을 수정하면서 새로운 문제를 일으키는 사례가 확인됐기 때문이다.</p> <p contents-hash="0a16c55d8554dea684936bf90264601fd28d94eee4d813ce4c8d3a17f92936f6" dmcf-pid="KsYntQGhHd" dmcf-ptype="general">특히 최근 금융권 연쇄 해킹에 AI 활용 가능성이 제기되면서 AI를 이용한 방어 체계 구축이 중요해졌지만, 위험도가 높은 보안 조치에는 사람의 판단과 승인이 필요하다는 지적이 나온다.</p> <h3 contents-hash="c3aa7f072f7de6341402461f794e4f209235c975de9d7d7823feeec0356daabf" dmcf-pid="9OGLFxHl1e" dmcf-ptype="h3">취약점·위협 탐지는 '척척'…우선순위 판단·자율 패치는 아직 한계</h3> <p contents-hash="710b72235f4bda6c298f8959fd2a7360bad4b53be4fe03980e77f9ced5c5dc31" dmcf-pid="2IHo3MXSZR" dmcf-ptype="general">취약점 한 곳만 파고들면 되는 공격자와 달리 방어 쪽은 모든 취약점을 메우면서 위험도에 따라 조치 순서를 정하고 기존 시스템의 정상 작동 여부까지 검증해야 한다. 무작위로 공격해 한 번만 성공하면 되는 공격과 달리 방어에 더 정교한 설계가 필요한 셈이다.</p> <p contents-hash="5c50f644f79209b04e163c2372cd2510bd9461f22274cbb83a7cb4ad96e09e12" dmcf-pid="VCXg0RZvHM" dmcf-ptype="general">AI는 취약점과 위협을 탐지하는 데에는 일정한 성능을 입증했다.</p> <p contents-hash="68faa579a60d1ecf168112dbfdcb1c9ed05b9fa944a95a3a6c179d181d09b742" dmcf-pid="fhZape5T1x" dmcf-ptype="general">과학기술정보통신부와 한국인터넷진흥원(KISA)이 지난 6월 29일부터 9월 25일까지 민간 주요정보통신기반시설 16개사를 대상으로 취약점 점검을 실시한 결과, 총 304건의 취약점이 무더기로 발견했다. 이 과정에는 오픈AI의 보안 특화 모델인 'GPT-5.5 사이버'가 활용됐다.</p> <p contents-hash="0574b4fa7d6d431cecc7c21969974fdfc8fdd9f56cda9c78bfb20bf6d677958b" dmcf-pid="4l5NUd1yHQ" dmcf-ptype="general">위협 탐지에서도 성과가 확인됐다. 'Expert System with Applications'에 실린 연구에 따르면, 8개 LLM(대규모 언어모델)을 대상으로 178개 보안관제센터(SOC)의 경보를 분석한 결과, 대부분의 모델이 실제 위협인 보안 경보를 90% 이상 찾아냈다.</p> <p contents-hash="ef1479e39ed7e81eba3f8bfa41eddaa79aea89df43df0cb406b2281743c096bb" dmcf-pid="8S1juJtWtP" dmcf-ptype="general">연구진은 LLM이 SOC의 초기 경보 분류, 즉 위협 탐지·초기 선별에 활용될 가능성이 있다고 평가했다.</p> <p contents-hash="dbf272edd979de6d6597d377b4beb57e5adf9bc002ca102d22320792e7d48aac" dmcf-pid="6vtA7iFYX6" dmcf-ptype="general">그러나 대응 우선순위를 판단하는 데에는 한계를 보였다. 낮은 단계의 경보를 더 높은 우선순위 수준으로 잘못 상향하거나, '높음'과 '심각' 수준의 경보 70%가량을 하향된 단계로 지정하는 등 경보의 위험도를 잘못 분류했다.</p> <p contents-hash="00bdf82a1bc0879b3ab9beb60ce294cc82c08372b35dcaa445103d7ef3ad13f4" dmcf-pid="PGUwKau518" dmcf-ptype="general">이에 연구진은 "경보의 우선순위를 지정하는 작업은 LLM에 여전히 어려운 과제"라고 분석했다.</p> <p contents-hash="99af81a4a892de62d589a1cd2a2df245232d1ba9e42170877d39e6e85b7cec36" dmcf-pid="QHur9N71H4" dmcf-ptype="general">AI가 광범위한 취약점 발견에는 성과를 보이지만, 실제 서비스의 기능을 훼손하지 않으면서 찾아낸 취약점을 해결하는 건 어렵다는 지적도 나온다.</p> <p contents-hash="d10e9e8a75123ad95df504cf685537524f67e99ee183dd0ae7bdad51706f8db2" dmcf-pid="xX7m2jztXf" dmcf-ptype="general">미국 보안업체 1Password의 보안연구팀이 공개한 연구에 따르면, 취약점 6건을 대상으로 AI가 생성한 패치 6080개를 분석한 결과 취약점을 완전히 해결하면서 기존 기능까지 유지한 패치는 26%에 그쳤다.</p> <p contents-hash="6b6bcc047122ae26b8d73da6498e9fd07e5734b5f494c01012bd9a81b61badd5" dmcf-pid="yJkKOpEoZV" dmcf-ptype="general">반면 53.9%의 패치는 취약점을 해결하지 못했거나 새로운 취약점을 추가하는 등의 문제를 일으켰다. 취약점을 성공적으로 해결했지만 그 과정에서 애플리케이션의 동작을 변경한 패치도 20.1%에 달했다.</p> <p contents-hash="e1d7f596114685dcd8b862a74eeb02b30027173c77c5ccfd21815d5fd0b17f14" dmcf-pid="WiE9IUDg12" dmcf-ptype="general">연구진은 "LLM이 만든 패치가 원하는 취약점 완화 효과를 실제로 달성하면서 애플리케이션의 동작까지 변경하지 않는지를 확인하려면 해당 분야의 전문 지식을 갖춘 엔지니어의 검토가 여전히 필요하다"고 지적했다.</p> <p contents-hash="1984eb327d6958966cdd5925c9ca3980655c0d8deae157e5054bb256cbfe6470" dmcf-pid="YnD2Cuwa19" dmcf-ptype="general">최병호 고려대 AI 연구원 교수는 "AI 자율 패치로 파생되는 문제까지 AI가 탐지하지 못한다"며 "인간이 함께 협력해야 한다"고 전했다.</p> <figure class="figure_frm origin_fig" contents-hash="1f375dc5be7846323d4a71b7e36b1a43800230345118ecd784fa1eac3ae3424b" dmcf-pid="GLwVh7rN5K" dmcf-ptype="figure"> <p class="link_figure"><img alt="금융감독원은 금융권에서 시작된 인공지능(AI) 해킹과 관련해 공격 IP 28개를 금융회사에 공유했다고 밝혔다. 보안업계는 IP 차단과 과거 접속 기록 점검은 물론 지속적인 위협 감시 및 대응이 필요하다고 강조했다. 사진은 7일 서울 시내 한 시중은행 현금자동입출금기(ATM)의 모습. 2026.10.7 ⓒ 뉴스1 김진환 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/NEWS1/20261013064557686hcce.jpg" data-org-width="1400" dmcf-mid="788WeI6bZo" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/NEWS1/20261013064557686hcce.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 금융감독원은 금융권에서 시작된 인공지능(AI) 해킹과 관련해 공격 IP 28개를 금융회사에 공유했다고 밝혔다. 보안업계는 IP 차단과 과거 접속 기록 점검은 물론 지속적인 위협 감시 및 대응이 필요하다고 강조했다. 사진은 7일 서울 시내 한 시중은행 현금자동입출금기(ATM)의 모습. 2026.10.7 ⓒ 뉴스1 김진환 기자 </figcaption> </figure> <h3 contents-hash="d86c39834c564b731a5cc35fe29a44e762b5ed875b4739e996ac24d255c88867" dmcf-pid="HorflzmjYb" dmcf-ptype="h3">보안 AI 자동화 어디까지?…AI는 탐지, 사람은 판단</h3> <p contents-hash="50b168598439b929c08bad8e569b36f2d2db5553031456aaec89000fe9083b77" dmcf-pid="Xgm4SqsAGB" dmcf-ptype="general">AI가 취약점 발견부터 패치 및 이후 서비스 검토까지 모든 과정을 독자적으로 수행하는 데는 한계가 있는 만큼, AI가 상시로 취약점을 점검하고 위협을 탐지하더라도 이후 중요 패치와 서비스 정상 작동 여부 등은 인간이 점검하는 방식이 현실적인 AI 방어 체계로 거론된다.</p> <p contents-hash="30c6b7b00bde1b0e0c25fe4af0ad35c0a0086d4badc7e509df97cc8220c13635" dmcf-pid="Z78WeI6bYq" dmcf-ptype="general">문종현 지니언스 시큐리티센터장은 AI나 자동화 시스템이 위험도가 높은 작업을 수행할 경우 인간의 개입을 필수로 거치는 '휴먼인 더 루프'(Human-in-the-Loop) 개념을 언급하며 "AI가 동작할 때 사람이 중간에 개입해 검토하고, 잘못된 방향을 바로잡고, 최종 결정을 내리는 등의 안전장치가 필요하다"고 말했다.</p> <p contents-hash="b77084a43b439be52f75f722645e5479600bb96cae388971ee5982144149fd1c" dmcf-pid="5z6YdCPKXz" dmcf-ptype="general">AI 보안기업 안랩 관계자는 안랩이 복수의 AI 에이전트가 탐지·분석·조사·대응 과정에서 협업하는 보안 운영 체계를 강화하고 있다고 밝히며 "이 과정에서 AI의 실행 범위를 정책과 권한으로 제한하고 중요하거나 영향도가 큰 조치는 사람의 승인을 거치도록 하는 '통제된 자율성'이 중요하다"고 밝혔다. </p> <p contents-hash="ba7356e6d7594cbd21e702a725414875b1f710c4ec6d2589d17be2be1a2e9622" dmcf-pid="1qPGJhQ9G7" dmcf-ptype="general">오픈AI는 자사 보안 체계를 설명하며 '영향이 가장 큰 결정'은 사람이 계속 책임지도록 하고 있다고 강조했다.</p> <p contents-hash="24287e5e80fd74f034e277272f91679ace0bef30b639cd91369848162ea12cf8" dmcf-pid="tBQHilx2Zu" dmcf-ptype="general">오픈AI는 AI모델을 활용해 인프라를 상시 방어하고 있다고 밝히며 "현재 초기 보안 알림은 거의 모두 AI가 우선 분류한 뒤 사람에게 전달해 방어 인력의 반복 업무를 줄이고 대응 시간을 단축해 사람의 분별력과 판단력, 실무 전문성이 필요한 업무에 집중할 수 있게 했다"고 전했다.</p> <p contents-hash="279c0ef0dceb061fd7a738a75eca9885e6165df467e56fe8d90a1b076e3f20f2" dmcf-pid="FbxXnSMV1U" dmcf-ptype="general">영향이 큰 대응은 사람이 최종 판단하도록 하되, 위험이 제한적인 대응부터 AI 자동화 범위를 확대하고 있다는 설명이다.</p> <p contents-hash="2c0e37f46dbad3a177b3512f46cfd96ddfaa6066e60a650ecfeb3fb8bc044c46" dmcf-pid="3KMZLvRfGp" dmcf-ptype="general">국내에서도 'AI 완전 자동화'보단 자동화 수준을 차등화해 최종 승인 및 관리·감독은 인간이 수행하는 움직임이 나타나고 있다.</p> <p contents-hash="32aedbf263d6c19767371f89f82c2676ed83d355b3c1e1b42a622542bc8a76f6" dmcf-pid="09R5oTe450" dmcf-ptype="general">금융위원회는 지난 7월 금융회사가 AI 보안 위협에 적극적으로 대응할 수 있는 가이드라인을 배포하며 "AI 기반 공격에 대비해 보안시스템 자동화 체계를 마련할 수 있다"면서도 "오탐지, 과잉 대응, 서비스 장애 가능성에 대비하기 위해 업무 위험도 등을 고려해 자동화 수준을 차등화할 필요가 있다"고 밝혔다.</p> <p contents-hash="c8d470ac11d937d92539a78c35a73e2e69de2ca83a3507ba099e823d27fa073e" dmcf-pid="p2e1gyd853" dmcf-ptype="general">금융위는 피싱 메일 수신과 같은 저위험 업무는 완전히 자동화해 조치하고 인간이 조치 결과 로그만 모니터링해도 되지만, 인증 DB 등 고위험 업무는 AI가 권고 및 대안 제시만 하도록 하고 보안 담당자가 최종 승인 후 차단 실행하도록 안내했다.</p> <p contents-hash="ad4d091eb0cfcee121d737839301862d12edb0cd0f8b3f9a97f0f129a356a469" dmcf-pid="UVdtaWJ6GF" dmcf-ptype="general">sumin02@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 스페이스X 품 안긴 ‘커서’, 韓 AI 코딩 시장 정조준 10-13 다음 연대 AI반도체 혁신연구소, WEEF 2026서 미래 공학 교육 모델 발표 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
