KISA, 에이전틱·피지컬AI 보안 기준 만든다…안내서 2.0 개발 작성일 04-03 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PHqdytDgSc"> <figure class="figure_frm origin_fig" contents-hash="11024b6c1047398ac132e4609fc99e73049286070917a800f9aaf81241c97aad" dmcf-pid="Q4oh9xtWSA" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/03/552796-pzfp7fF/20260403093707030hcsx.jpg" data-org-width="640" dmcf-mid="64UxlXAihk" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/03/552796-pzfp7fF/20260403093707030hcsx.jpg" width="658"></p> </figure> <p contents-hash="03b7dd96add0f6052cb31faf7b5a382fd369e721b0502e7b578c22205d5e4724" dmcf-pid="x8gl2MFYlj" dmcf-ptype="general">[디지털데일리 김보민기자] 인공지능(AI) 기술 흐름이 '에이전틱'과 '피지컬'로 전환되는 가운데 안전한 개발 및 활용법을 소개할 안내서가 나온다. 기존 생성형 AI 보안 논의에서 한발 더 나아가, AI가 스스로 권한을 행사하고 외부 시스템이나 물리 장치를 움직이는 단계의 위험을 제도권 의제로 끌어올린다는 점에서 주목된다.</p> <p contents-hash="7f6f9954311ca527bdb62e4ba1a719a228d1d8ef929c280b15f6a7772854612f" dmcf-pid="ylF8OWgRTN" dmcf-ptype="general">3일 국가종합전자조달 나라장터에 따르면 한국인터넷진흥원(KISA)은 '차세대 AI의 안전한 개발 및 이용을 위한 보안 연구'를 주제로 입찰 공고를 게시했다.</p> <p contents-hash="51665e9af659a3891a6b4876ab58a2c044fdd977348dcd44220e18cda4e342dc" dmcf-pid="WS36IYaeWa" dmcf-ptype="general">이번 사업은 AI 기술이 전 산업으로 확산되며 자율적 실행과 물리적 행위를 수반하는 차세대 보안 위협에 대응하기 위해 추진된다. 에이전틱 AI는 스스로 의사결정을 내리고 행동을 실행할 수 있지만 그만큼 예상하지 못한 취약점이 발생할 수 있다는 우려가 제기되고 있다. 로봇, 사물인터넷(IoT) 등 물리적 환경과 연결돼 실제 기기를 작동시키는 피지컬 AI도 마찬가지다.</p> <p contents-hash="0641fc948f2293b1ec8cd73c07ab3c2dfdbfcd7c7baf4500015830e4e7c586db" dmcf-pid="Yv0PCGNdTg" dmcf-ptype="general">글로벌 보안업계에서도 이러한 우려가 피어오르기 시작했다. 지난 3월 스페인 바르셀로나에서 열린 '모바일월드콩스레스(MWC) 2026'에서도 유사한 경고가 이어졌다. 현장에서는 AI가 단순 기능을 넘어 네트워크, 디바이스, 산업 인프라 전반에 내재되는 단계로 진입했다는 평가와 함께 보안, 정책, 신뢰 체계가 핵심 과제로 부상했다는 경고가 나왔다. 특히 AI가 센서, 기기, 산업 시스템과 결합될수록 물리적 환경까지 영향을 미칠 수 있어 통제와 거버넌스를 확보해야 한다는 의견이 이어졌다.</p> <p contents-hash="0b9898cb01300e0c8065075343c333a96931e847aef2e6dac8cee0d4bc4e7c7b" dmcf-pid="GTpQhHjJWo" dmcf-ptype="general">미국 NIST 산하 CAISI는 올해 1월 AI 에이전트 시스템 보안에 대한 의견수렴을 진행하며, 간접 프롬프트 인젝션, 불안전한 모델 사용, 명세 회피처럼 AI가 소프트웨어 기능과 결합할 때 나타나는 고유 위험을 별도로 짚었다. 이어 2월에는 에이전트가 사용자 대신 안전하게 행동하고 디지털 자원과 상호운용될 수 있도록 보안·신원·표준 연구를 확대하겠다고 밝혔다. </p> <p contents-hash="63d8d184f57d7df2ab31928107dc59577178a04eb7d6d850d59551eada6c7668" dmcf-pid="HyUxlXAivL" dmcf-ptype="general">KISA의 이번 사업도 한국형 에이전틱 AI 보안 기준의 초석을 놓는 한편 이러한 위험을 예방할 수 있는 방법을 도출하는 데 초점을 뒀다. 선정 사업자는 에이전틱 AI와 피지컬 AI를 아우르는 통합 보안 프레임워크와 생명주기 기반 공통 보안 기준을 수립하고 AI 실행 권한 오남용, 센서 교란, 물리적 오작동 등 차세대 AI 특화 위협을 도출하는 역할을 맡는다.</p> <p contents-hash="5859ecc8ce07366a405be761156a7023f49bdc6dd17e071b2dd7afc3e5f79c16" dmcf-pid="XWuMSZcnln" dmcf-ptype="general">아울러 자율 의사결정에 대한 정책 검증과 물리적 위험 통제 기능을 핵심 보안 요건으로 정의하는 작업을 수행해야 한다. 여기에 산업별 특화 보안 요구사항을 도출하고 실제 위협 시나리오 기반 개념검증(PoC)을 통해 기술적 실현 가능성을 살펴보는 작업을 수행한다.</p> <p contents-hash="cc46d0d8abd4e688cc7f14a2e64839de8116d61f1374e5cf63c23443cfef7a7b" dmcf-pid="ZY7Rv5kLSi" dmcf-ptype="general">이번 사업 주요 결과물 중 하나는 'AI 보안 안내서 2.0'다. KISA는 지난해 12월 'AI 보안 안내서'를 공개한 데 이어 이번 연구를 통해 개발자부터 서비스 이용자까지 참고할 만한 보안 요구사항을 체계화할 예정이다. 개발자 대상에는 권한 분리, 샌드박싱, 입력값 검증, 의사결정 로깅 등 기술적 지침이 포함된다. 이용자에게는 권한 설정과 고위험 행동 승인 절차 등 실질적인 보안 수칙이 제공될 전망이다.</p> <p contents-hash="0d86518ae01cba2a939078832de978e025ed5e49815de8809326d363be174d26" dmcf-pid="5GzeT1EolJ" dmcf-ptype="general">KISA는 산·학·연 연구반을 운영해 보안 프레임워크와 기준, 안내서 실효성과 산업 적용성을 검증할 계획이다. 이를 통해 차세대 AI 환경에서 발생 가능한 보안 위협을 파악하고 안전한 AI 활용 기반을 마련한다는 목표다.</p> <p contents-hash="ac85daf6cc747db3dd6df04b0e5d9f3fdc229d7cec9dc9a0e48ccf1558850f93" dmcf-pid="1HqdytDgCd" dmcf-ptype="general">KISA AI보안기술팀은 "이번 연구는 AI 자율적 의사결정과 외부 시스템 연계가 확대되는 환경을 반영해 AI가 생성한 결과가 실제 업무나 시스템 행위로 이어지는 과정에서 발생할 수 있는 보안 위험 관리에 중점을 두고 있다"고 말했다. 이어 "에이전틱 AI와 물리적 환경과 연계된 AI까지 고려해 현실 환경에서 활용 시 발생할 수 있는 보안 이슈를 다루고 기업이 참고할 수 있는 형태의 대조표(체크리스트)를 제시할 계획"이라고 설명했다.</p> <p contents-hash="c759dd371587910682a892383921380a653cc5d1f0ffcd1da2ebf6ee3f72f437" dmcf-pid="tXBJWFwale" dmcf-ptype="general">이번 안내서가 향후 인증 및 규제와 연계될 가능성에 대해서는 "연구 결과물은 향후 AI 서비스 보안성 확보를 위한 참고 자료로 활용될 것으로 기대하고 있다"고 답했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 아르테미스 2호, 달 향한 40만km 비행 시작 04-03 다음 '九단 최강' 신진서도, 박정환도 아니었다…변상일의 반란 04-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
