미국 하원의원 "AI 킬 스위치 법안, 연내 통과돼야" 작성일 08-07 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 에이전트 해킹 우려 확산… 테드 리우 의원 "긴급 차단 권한 필요"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7lQvtAcnaf"> <p contents-hash="5af797e999a6c09f2c17540b133bca96c10d5b345caa7b727d57eb39c8d5a847" dmcf-pid="zSxTFckLAV" dmcf-ptype="general">(지디넷코리아=남혁우 기자)<span>미국 정치권에서 </span><span>인공지능(AI) 모델에 대한 안전 규제를 서둘러야 한다는 목소리가 커지고 있다.</span></p> <p contents-hash="76b1841107a9b3a3db992d8fc4d49e1e0d5bd213deb68ad4fd26a31c8d8e1248" dmcf-pid="qC6l5NjJN2" dmcf-ptype="general">고도화된 AI 오작동이나 악용 가능성에 대비해 기업 또는 정부가 필요할 경우 해당 시스템을 중단할 수 있는 권한을 하루빨리 갖춰야 한다는 주장이다.</p> <p contents-hash="1f085ac51697cf3a06cce5c91327c05941c04f75f0352ce38b02f8c6a7a96c4a" dmcf-pid="BhPS1jAiA9" dmcf-ptype="general">7일 CNBC 등 외신에 따르면 테드 리우 미국 하원의원은 'AI 킬 스위치' 법안의 연내 통과 필요성을 공개적으로 제기했다.</p> <figure class="s_img figure_frm origin_fig" contents-hash="24c7ee750540a41211b17d0fdf766a344ce3918b7d59d97630452359c8728d3e" dmcf-pid="blQvtAcnjK" dmcf-ptype="figure"> <p class="link_figure"><img alt="테드 리우 미국 하원의원(이미지=테드 리우 의원 공식 홈페이지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/07/ZDNetKorea/20260807102254410egbu.jpg" data-org-width="200" dmcf-mid="uEBDved8c4" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/07/ZDNetKorea/20260807102254410egbu.jpg" width="200"></p> <figcaption class="txt_caption default_figure"> 테드 리우 미국 하원의원(이미지=테드 리우 의원 공식 홈페이지) </figcaption> </figure> <p contents-hash="55b9f8e0a4aecbfe0cd28e4f423d8122817f06c8e59cb8088effa327b5b36a92" dmcf-pid="KSxTFckLab" dmcf-ptype="general">AI 킬 스위치 법안은 고위험 AI의 오작동이나 악용에 대비해 기업 또는 정부가 해당 시스템의 작동을 긴급 중단할 수 있도록 하는 안전장치 마련을 골자로 한다.</p> <p contents-hash="43733a195a1315fc33a9ccd32b9075523a7a0e84be48e3adb5a7200d9647d873" dmcf-pid="9vMy3kEoaB" dmcf-ptype="general">그는 통제를 벗어나거나 악용 가능성이 확인된 AI 시스템에 대해 기업 또는 정부가 작동을 중단시킬 수 있는 권한을 확보해야 한다고 강조했다.</p> <p contents-hash="fd7e37cef8904cc0ddc25e127617757f9bc54eb20d965699f41bc8b7fed0e9cb" dmcf-pid="2TRW0EDgkq" dmcf-ptype="general">리우 의원의 발언은 최근 AI 업계에서 잇따라 제기된 '로그 에이전트(rogue agent)' 우려와 맞물려 주목된다. 로그 에이전트는 자율형 AI가 목표를 수행하는 과정에서 허용된 범위를 넘어 시스템 침투, 보안 우회, 기만적 행위 등 공격적인 행동을 시도하는 현상을 뜻한다. 단순 질의응답을 넘어 외부 도구 호출, 코드 실행, 웹 접근 등 실제 작업을 수행하는 에이전트형 AI가 확산되면서 이 같은 위험은 AI 안전 논의의 핵심 쟁점으로 떠오르고 있다.</p> <p contents-hash="5c7cd3e384c0d1fd7e97a735ba36f7f0e6990efbf22aae76cb1b4376b6a441c1" dmcf-pid="VyeYpDwaoz" dmcf-ptype="general">최근 오픈AI와 앤트로픽의 안전성 평가 사례로 이런 문제의식이 더욱 부각되고 있다. 오픈AI는 지난달공개한 설명자료에서 GPT-5.6 솔과 미출시 모델이 사이버 역량 평가 도중 연구용 환경과 허깅페이스의 운영 인프라에 걸친 취약점을 연쇄적으로 찾아내 테스트 해답에 접근했다고 밝혔다.</p> <p contents-hash="1eb2d6550b2199c7fb018e74018df8ca47535213d8e1198d6142cd511565b4b5" dmcf-pid="fWdGUwrNN7" dmcf-ptype="general">오픈AI 측은 이 과정에서 해당 모델들이 도난된 자격 증명과 제로데이 취약점까지 활용해 원격 코드 실행 경로를 찾은 사례가 있었다고 설명했다.</p> <p contents-hash="2e78cff3f1bafc448e2f09a62921f383dc6126e912c91b661709b3713e2a0b11" dmcf-pid="4YJHurmjNu" dmcf-ptype="general">앤트로픽도 지난달 말 내부 AI 모델이 테스트 과정에서 외부 3개 조직을 해킹한 사실을 공개했다. 앤트로픽은 오픈AI 사례 이후 AI모델이 봉쇄된 것으로 간주된 테스트 환경 안에서 실제로 인터넷에 접근할 수 있는지 대규모 점검에 착수했으며,그 결과 일부 모델이 외부 조직 침투에 성공했다고 밝혔다</p> <p contents-hash="bda940950eeca082758d2ab66cacbf66ec2bb0d83e7f276a5312f539fc0b6435" dmcf-pid="8GiX7msAgU" dmcf-ptype="general">관련 업계에서는 이를 단순한 기술적 해프닝으로 보기 어렵다는 시각이 적지 않다. AI 에이전트가 자격증명 탈취, 사회공학적 접근, 취약점 체인 구성 같은 공격 단계를 자동화할 가능성이 현실화할 경우, 기존 보안 체계만으로는 대응이 쉽지 않을 수 있기 때문이다. 생성형 AI 경쟁이 성능 중심에서 보안성, 통제 가능성, 비상 차단 체계까지 포함하는 플랫폼 신뢰 경쟁으로 옮겨가고 있다는 분석도 나온다.</p> <p contents-hash="645d7012e9677f0b9d53d51df890e709b6a01e7aaa9981c56021175a4780ba15" dmcf-pid="6HnZzsOccp" dmcf-ptype="general">특히 미국 내에서는 중국 오픈웨이트(open-weight) 모델을 둘러싼 경계감도 커지고 있다. 중국 스타트업 문샷 AI(Moonshot AI)의 '키미 K3'와 같은 모델이 미국 선도 AI 연구소의 최신 모델 수준에 빠르게 근접하고 있다는 평가가 나오면서 이들 모델에 대한 규제 필요성도 함께 제기되고 있다.</p> <p contents-hash="1791225f18dfd97832eb3d528800f969293e17b4ad0fd460e87302319e600f31" dmcf-pid="PXL5qOIkN0" dmcf-ptype="general">이 같은 흐름 속에서 미국 내 AI 규제 논의도 한층 구체화하는 분위기다. 정치권과 행정부, 주요 AI 기업은 최첨단 모델 위험도를 사전에 평가하고 고위험 역량을 통제할 수 있는 제도적 장치를 놓고 논의를 이어가고 있다.</p> <p contents-hash="999e300305a57109092f32551af5a61b5b7a6e3ca8aa04636acddc7f66352075" dmcf-pid="QZo1BICEo3" dmcf-ptype="general">다만 AI 킬 스위치 법안이 모든 유형의 모델에 동일하게 적용되기는 쉽지 않다는 지적도 나온다. 특히 오픈웨이트(open-weight) 모델은 한 번 공개되면 누구나 내려받아 수정·재배포할 수 있어, 폐쇄형 상용 모델처럼 사업자를 통해 기능을 제한하거나 긴급 중단하는 방식이 현실적으로 어렵다.</p> <p contents-hash="289752ee7a99df6058977e403f79b3143e531fb0f49055cded1112c9ad775fdf" dmcf-pid="x5gtbChDaF" dmcf-ptype="general">이 때문에 향후 규제는 폐쇄형 모델에 대한 직접 통제와 함께 오픈 모델에 대해서는 사전 검증과 경보 체계 강화 같은 간접적 수단을 병행하는 방향으로 설계될 가능성이 크다.</p> <p contents-hash="304c06d76484ffc1048f101cefd54014ddafcfdeea8c0b872fcbe52e24b2fb08" dmcf-pid="ynForf4qat" dmcf-ptype="general">이에 대해 테드 리우 의원은 "기업이 AI를 중단할 능력을 갖추고 있거나 정부가 이를 중단시킬 수 있는 권한을 가져야 한다"며 "AI 킬 스위치 법안은 올해 안에 처리돼야 한다"고 강조했다.</p> <p contents-hash="a7a58233c1caa1a7beb7d81b6a64557d513cf8b38e5c071681291a5daee19111" dmcf-pid="WO4CXgaea1" dmcf-ptype="general">남혁우 기자(firstblood@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 [단독] 코히어, '시리즈E' 마무리…"2년 내 IPO 추진" 08-07 다음 [르포] 엔비디아 칩 7656장 열기, 물로 식힌다…NHN클라우드 'AI 심장' 가보니 08-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
