美 의회선 ‘AI킬스위치법’ 발의, 밖에선 ‘AI주권’ 역풍 작성일 07-26 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI가 사흘간 자율 해킹… 오픈AI는 1주간 몰라<br>허깅페이스, 오픈AI에 1억달러 컴퓨팅자원 요구</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bbBZ7NgRSH"> <figure class="figure_frm origin_fig" contents-hash="e3de5c29500c3481e14138569fa5911c7711eda3e1e80056294105ac1dda8f55" dmcf-pid="KKb5zjaevG" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT가 그린 일러스트." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/26/dt/20260726155839760ltcr.png" data-org-width="640" dmcf-mid="BAWwvf2uTX" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/26/dt/20260726155839760ltcr.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT가 그린 일러스트. </figcaption> </figure> <p contents-hash="fbb05ccb34882d5d99f0324237db2bfed6766ea0d67ce6dc21f867df2f5e1ae7" dmcf-pid="99K1qANdhY" dmcf-ptype="general"><br> 최신 인공지능(AI) 모델들의 사이버보안 역량이 급격히 발전하면서 이를 차단·통제할 ‘킬 스위치’도 화두로 떠오른다. 그 목적이 어떻든 간에 프런티어 AI 개발사들이 자사 첨단모델의 위험성을 인정하며 킬스위치 필요성을 뒷받침하는 가운데, 미국의 일방적 조치에 대한 우려로 소버린AI 관련 움직임도 눈에 띄고 있다.</p> <p contents-hash="722713c87c16fc50c827a4cf476ad528ef52ef2d4b28de72ef8645d0fd7065bf" dmcf-pid="229tBcjJSW" dmcf-ptype="general">최근 화제가 된 자율 AI에이전트들의 허깅페이스 해킹 사건에 대해 정작 오픈AI도 약 일주일 동안 자사 AI시스템 소행임을 파악하지 못했던 것으로 로이터통신이 지난 24일(현지시간) 복수의 관계자를 인용해 보도했다. 보도에 따르면 해당 AI에이전트들은 지난 9일쯤 격리시험환경(샌드박스) 탈출을 시도했고, 이틀 뒤인 11일부터 13일까지 사흘간 허깅페이스에 침입했다.</p> <p contents-hash="28f8dcb700a195ef0bedc5a0ab17ef8f549b8a7663207b37917db7f5897172b5" dmcf-pid="VV2FbkAily" dmcf-ptype="general">이번 사건은 오픈AI가 ‘GPT-5.6 솔’과 미공개 모델의 사이버공격 능력을 평가하는 과정에서 해당 AI에이전트들이 자율적으로 허깅페이스를 해킹해 정답을 빼내며 벌어졌다. 오픈AI가 자사 AI 소행임을 파악한 것은 허깅페이스가 16일 침해 사실을 공개한 뒤였다. 오픈AI 직원들이 18~19일 내부 로그에서 흔적을 찾아냈고, 두 회사가 처음 연락한 시점은 20일 전후로 전해졌다. 당시 허깅페이스는 공격을 이미 차단하고 미 연방수사국(FBI)에 신고한 상태였다.</p> <p contents-hash="bcb67ace8c600911a12535f6cab868b4e93544831a4879611046e876118f354c" dmcf-pid="ffV3KEcnhT" dmcf-ptype="general">로이터는 앞선 시험에서도 한 에이전트가 ‘내부 통제에서 벗어나는 방법’을 담은 메모를 미래의 자기 버전을 위해 남겨두거나, 감시 시스템이 꺼진 사례가 있었다고 전했다. 또 오픈AI의 모델 훈련 관행에 정통한 관계자들은 “여러 평가를 동시에 고속으로 돌리다 보니 직원들이 쏟아지는 데이터를 따라가지 못할 때가 있다”고 했다. 오픈AI는 로이터의 보도에 대해 “여러 부정확한 내용이 있다”면서도 무엇이 틀렸는지는 밝히지 않았다.</p> <p contents-hash="81304b7858319b27b0352e506122748a3a2a27b97b91505a195fcd9c5f79cd58" dmcf-pid="44f09DkLvv" dmcf-ptype="general">나아가 클레망 들랑그 허깅페이스 최고경영자(CEO)는 25일 오픈AI에 에이전트의 전체 실행 기록 공개와 공동 사이버 방어를 위한 1억달러 상당의 컴퓨팅 자원 지원을 공개적으로 요구했다. 또 AI안전 연구단체 팰리세이드리서치의 제프리 래디시는 “속도 경쟁에 갇힌 AI 기업들이 성가신 보안 조치에 얼마나 투자할지는 정부가 감독해야 한다”고 로이터에 말했다.</p> <p contents-hash="d34a23b3790a17f6cc65e34bb70e620acf3d45d77d5890afbfdb60efb73e451b" dmcf-pid="884p2wEoTS" dmcf-ptype="general">이번 사고는 워싱턴의 AI 통제 논의에도 불을 붙였다. 특히 미 하원에선 테드 류(민주당)·너새니얼 모런(공화당) 의원이 지난 23일 ‘AI 킬스위치법’을 공동 발의했다. 일정 규모 이상 AI 개발사에 모델을 감속·중지·종료할 기술적 수단을 상시 갖추게 하고, 통제 상실로 인명이나 경제에 중대한 위험이 생기면 국토안보부가 상무부·정보당국과 협의해 가동 중단을 명령할 수 있게 하는 내용이다. 같은 날 하원 양당 의원 6명은 최첨단 모델의 독립 보안감사와 사고 보고를 의무화하는 ‘프런티어법’도 내놨다.</p> <p contents-hash="a75e75bec7b580f7e753c946e6336d509886f2ade3c3e796f544571dbaed9a2f" dmcf-pid="668UVrDgyl" dmcf-ptype="general">이런 미국의 움직임에 대해 유럽 등 해외 일각에선 해석을 달리하기도 한다. 언제든 미국 정부가 국가안보 등을 사유로 미국산 AI의 접근을 끊을 수 있다는 우려가 있기 때문이다. 지난달 앤트로픽 미토스·페이블에 대한 외국인의 접근을 일시적으로 차단했던 게 이런 인식을 부채질했고, 미국 외 국가들에서 미국산 AI 종속 탈피나 소버린AI에 대한 목소리가 더욱 커지게 됐다.</p> <p contents-hash="80310512efc98c91c82494f2ca6d970526e3711bc925cb7bc114569e613dfd0b" dmcf-pid="PP6ufmwayh" dmcf-ptype="general">최근 중국산 오픈웨이트 모델들이 약진하며 대체재로서 가능성을 제시한 것도 이런 흐름을 가속시키는 양상이다. 이에 마코 루비오 국무장관은 16일자 전문에서 재외공관에 “정부가 누르는 마법의 버튼은 없다”고 반박하고, 각국의 소버린AI‘ 구축은 시간과 자원의 낭비라고 설득하라 지시한 것으로 전해졌다.</p> <p contents-hash="de644dd06b236474e15c1e5b3c282842560b2534fb7c8a2be1776ad6545b28cb" dmcf-pid="Qgo8iYyOvC" dmcf-ptype="general">팽동현 기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 강원 공무원 친선 배드민턴대회로 친목 다져…태백시 종합우승 07-26 다음 삼성전자, 내년 트라이폴드 후속작 내놓는다…상·하반기 '4+4' 전략 07-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
