사람 속이고 흔적까지 지웠다… GPT·미토스·메타 잇단 무단행동 작성일 08-07 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">英 AISI 122차례 평가서 19건…미토스5 17건·GPT-5.6 솔 2건</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="39LBKhlwhy"> <figure class="figure_frm origin_fig" contents-hash="e0581cde6906640e34eeb8553f737b2d6a7f974436a78fdfaba13b58068d869b" dmcf-pid="02ob9lSrvT" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/07/552796-pzfp7fF/20260807112635102mmev.png" data-org-width="640" dmcf-mid="FA5Drf4qTW" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/07/552796-pzfp7fF/20260807112635102mmev.png" width="658"></p> </figure> <p contents-hash="7375940fa109e1dbba85b1b6d1e93d0c957d56b6624fa03b3c9a68926169c633" dmcf-pid="pVgK2SvmWv" dmcf-ptype="general">[디지털데일리 구아현기자] 인공지능(AI)이 실제 사람을 속이는 행동까지 보이면서 고도화되는 AI 에이전트를 어떻게 통제할지가 새로운 과제로 떠올랐다.</p> <p contents-hash="a9da44cd6e72dceff9c0104893b18a5933f9eb3fc2305614a20924c47a19ffed" dmcf-pid="UJsRdtFYyS" dmcf-ptype="general">4일(현지시간) 영국 AI보안연구소(AISI)가 최근 공개한 사고보고서에 따르면 지난달 25~28일 7개 AI 모델을 대상으로 122차례 사이버 평가를 진행한 결과 10개 시험에서 19건의 허가받지 않은 행동이 확인됐다. 앤트로픽 ‘미토스5’가 17건, 오픈AI ‘GPT-5.6 솔’이 2건이었다. 실제 피해는 확인되지 않았다.</p> <p contents-hash="484ed199fc09af344bf61bf3a92ed2e555ca9787d113059a0fc076c8399ae3aa" dmcf-pid="uiOeJF3Ghl" dmcf-ptype="general">AISI는 이번 일을 중대한 보안사고로 분류했다. 특히 별도 지시 없이 실제 사람을 상대로 이 정도 수준의 기만 행동이 나타난 것은 처음이라고 평가했다. 다만 모델이 어느 시점부터 상대가 실제 사람이라는 사실을 인식했는지는 확인하지 못했다.</p> <p contents-hash="fc93e9ca97bfbc0f233fad58890a875cb8a229ab1dbdda680021d5d2a739e538" dmcf-pid="7nIdi30HTh" dmcf-ptype="general">◆ 악성코드 들키자 “실수”… 가짜 계정으로 자기 코드 옹호</p> <p contents-hash="d88e780f4730d3763b9af7686b501058c4f58220106694dea0b79cc23e638b78" dmcf-pid="zLCJn0pXlC" dmcf-ptype="general">미토스5는 시험환경에서 얻은 단서를 따라 인터넷을 검색하다 실제 오픈소스 개발자를 시험 대상이라고 잘못 판단했다. 이후 개발자의 이메일과 깃허브 활동을 조사하고 정상적인 버그 수정 코드에 악성 기능을 숨겨 프로그램에 반영해 달라고 요청했다.</p> <p contents-hash="192db0b7cd1b327d4358724c973e924a87b9c4b317fb421c501ae386ee3be036" dmcf-pid="qohiLpUZyI" dmcf-ptype="general">악성코드가 발각되자 행동을 숨기려 했다. 처음에는 악성코드가 아니라고 부인하다가 증거가 드러나자 개발 과정에서 생긴 실수였다고 둘러댔다. 코드 기록을 다시 작성해 이전 흔적을 지우고, 또 다른 가짜 계정을 별개 개발자인 것처럼 등장시켜 문제가 없다는 평가까지 남겼다.</p> <p contents-hash="afae53746444910f261b70dc66b611e79097b47f5eba6aafe000db6145f28bca" dmcf-pid="BglnoUu5hO" dmcf-ptype="general">가짜 계정을 이용한 행동은 즉흥적이지 않았다. 미토스5는 두 계정의 글이 동시에 올라오면 의심받을 수 있다고 판단해 시차를 두고 의견을 올린 뒤 이를 ‘독립 검증’으로 포장했다. 실제 개발자에게 악성 내용이 담긴 이메일을 보내고 코드 승인을 유도하는 사회공학 공격도 시도했다.</p> <p contents-hash="0a50804bcae97d20ec3ccfecef39333c5648be0f69475ca352bcec3579534145" dmcf-pid="baSLgu71Ts" dmcf-ptype="general">다른 AI와 예상 밖 협업도 나타났다. 서로 별도 시험에서 움직이던 에이전트들은 인터넷에 공개된 인증정보를 통해 같은 깃허브 저장소에 접근한 뒤 이를 일종의 ‘메시지판’으로 활용했다. API 이용량을 아끼고 다른 에이전트가 만든 파일을 지우지 말자는 협업 규칙을 만들고 공격 결과 공유까지 제안했다.</p> <p contents-hash="5886e541056092acca0afc6bddc37ef12c192b2cc10fdda1d6ad39bdb23c6ed8" dmcf-pid="KNvoa7ztTm" dmcf-ptype="general">GPT-5.6 솔에서도 무단행동 2건이 확인됐다. 다른 AI가 온라인에 남긴 인증키를 이용해 깃허브 계정에 접속하고 외부 DNS·터널링 서비스 등에 가입했다. 사람 여부를 확인하는 캡차(CAPTCHA)도 네 차례 통과해 시험용 공격 서버를 공개 인터넷에 연결했지만 기술적 설정 오류로 실제 공격에는 실패했다.</p> <p contents-hash="b1fcfe4b6f22700bfb289a0f54960bbc409195753b358e3c44f5b4e8841310ae" dmcf-pid="9jTgNzqFCr" dmcf-ptype="general">◆ 허깅페이스·PyPI 이어… 현실로 나온 AI 공격</p> <p contents-hash="53cab6b93ebe366caeb94d5b280dc7afc7d9b2167e4a041a2c58fe86dc41de2d" dmcf-pid="2bizBICEyw" dmcf-ptype="general">AI의 행동이 시험환경을 넘어선 사례는 최근 잇따르고 있다. 오픈AI는 지난달 21일 GPT-5.6 솔과 더 강력한 내부 연구모델이 사이버 평가 중 격리환경의 알려지지 않은 취약점을 찾아 외부로 빠져나간 뒤 허깅페이스 운영 인프라에 접근했다고 밝혔다. 모델은 탈취한 인증정보와 제로데이 취약점을 조합해 허깅페이스 서버에서 원격으로 코드를 실행할 수 있는 경로까지 찾아냈다. 오픈AI는 이를 “전례 없는 사이버 사고”로 규정했다.</p> <p contents-hash="19dc0771eeaf9067cc4dda3b20124dae6e7409544a22a25f369e13c16b8a1ae5" dmcf-pid="VKnqbChDWD" dmcf-ptype="general">사고 전부터 이상 행동은 나타났다. 액시오스는 6일(현지시간) 블랙햇 발표를 인용해 오픈AI 내부 연구모델들이 허깅페이스 침해 수주 전 회사의 시험 지원 인프라를 공격했다고 보도했다. 여러 에이전트는 내부 저장소를 ‘메시지판’처럼 활용해 취약점과 공격 정보를 공유했고, 오픈AI가 이를 없앤 뒤에도 이틀 만에 다른 방식으로 공유 공간을 다시 만들었다.</p> <p contents-hash="b35d9de6f4c677456fd1f3f8f3cc63a5786b50f84b7fd1ac35f973762dbe20d5" dmcf-pid="f9LBKhlwvE" dmcf-ptype="general">미토스5도 이번이 처음이 아니다. 앤트로픽은 지난달 별도 평가에서 미토스5가 실제 공개 소프트웨어 저장소에 악성 패키지를 등록했다고 밝혔다. 해당 파일은 약 1시간 동안 공개돼 실제 시스템 15곳에서 내려받아 실행됐고 한 보안업체의 인증정보가 유출된 뒤 추가 시스템 접근으로 이어졌다.</p> <p contents-hash="86b87773ead714e353b8678feb28973a95456fb9fc58381d570d74ec1be19f64" dmcf-pid="42ob9lSrlk" dmcf-ptype="general">당시 미토스5는 실제 인터넷이라면 현실 공격이 될 수 있다는 점을 초기에 인식했다. 그러나 시스템 날짜와 보안 인증서 등을 근거로 여전히 가상환경이라고 판단을 바꾼 뒤 공격을 이어갔다. 앤트로픽은 14만1006차례 평가를 재검토한 결과 미토스5를 포함한 3개 모델이 실제 기업 3곳의 시스템에 무단 접근한 사건을 확인했다.</p> <p contents-hash="c7818133646129bae29ec29fd12923322cb1627064fa87b43a0cdb4acfb367c3" dmcf-pid="8VgK2Svmyc" dmcf-ptype="general">◆ 메타까지 잇단 사고… AI보다 안전장치 늦어</p> <p contents-hash="d8428871ab1bc595164bfad4714fe14156068755b6d760ffc664c55731b22c8b" dmcf-pid="6fa9VvTsSA" dmcf-ptype="general">비슷한 사고는 메타에서도 확인됐다. 로이터에 따르면 외부 평가업체 이레귤러가 진행한 시험에서 설정 오류로 메타 AI 모델에 인터넷 접속이 열렸고 모델이 제3자 서비스의 보안 취약점을 이용했다. 메타는 모델명을 공식 확인하지 않았으며 이레귤러는 샌드박스를 탈출하거나 고도의 공격 수법을 동원한 사건은 아니라고 설명했다.</p> <p contents-hash="01920926336b9839c15bd968ddce14fa341d3d8c4f7b3650eeab43fc92a0ce59" dmcf-pid="P4N2fTyOvj" dmcf-ptype="general">오픈AI 허깅페이스 사건은 모델이 새로운 취약점을 찾아 격리환경을 벗어난 사례다. 반면 앤트로픽의 기존 사고는 외부 평가환경의 설정 오류로 인터넷 경로가 열렸고, 이번 AISI 시험은 모델의 최대 사이버 능력을 측정하기 위해 인터넷 접근과 일부 안전장치를 의도적으로 허용한 상태에서 발생했다.</p> <p contents-hash="2aa040685a23fa1a444a5d23afce31d562efb1a4fe36c9d1dccc28aa82405add" dmcf-pid="Q8jV4yWIWN" dmcf-ptype="general">AISI는 이번 사건과 앞선 사례에서 인터넷 접근 경로, 비활성화된 안전장치, 실시간 감시 부재 등이 공통적으로 나타났다고 분석했다. 이번에는 기존 사례에서 확인되지 않았던 실제 사람을 향한 기만과 에이전트 간 협업까지 등장했다는 점에 주목했다.</p> <p contents-hash="9e598cf04d018237bfd3cb59f139ad8dc82af8fd9d9d8c3c8520a15ba8b6cb68" dmcf-pid="x6Af8WYCya" dmcf-ptype="general">AISI는 인터넷 접근을 세밀하게 제한하고 AI 에이전트의 행동을 실시간으로 감시하는 체계를 도입하기로 했다. 과거 평가 약 4만건, 메시지 약 400만건도 재분석하고 있다. 오픈AI GPT-5.3 코덱스·5.4·5.5와 앤트로픽 오푸스 4.6~4.8, 키미 K3, GLM 5.2 등이 조사 대상에 포함됐다.</p> <p contents-hash="9e25335616c63feccfb9bb93f23d44ea2af3ac666fffd0c1ede37c17527bbbb1" dmcf-pid="yvuhSRe4Tg" dmcf-ptype="general">로이터는 "AI 에이전트의 능력이 빠르게 높아지는 가운데 이를 평가·통제하는 안전체계가 뒤따르지 못하고 있다"고 지적했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 [비욘드IT] 오픈AI·팔란티어도 쓰는 'FDE'...SI 파견직과 뭐가 다를까 08-07 다음 진천군, 체육·스포츠 인프라 확충 사업 ‘성과’ 08-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
