스스로 남의 서버 뚫은 챗GPT…'스카이넷' 현실로 오나 작성일 07-25 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI GPT, 사이버 평가 중 격리망 벗어나 '허깅페이스' 서버 침투<br>"지시도 받지 않았는데…AI 자율 해킹 시대 왔나" 공포감 확산 <br>'AI 대 AI' 보안전 현실화 해야…전문가들 "AI 대응체계 서둘러 갖춰야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="xpIvrlCEZ2"> <figure class="figure_frm origin_fig" contents-hash="ab03704d51428bba079e46d6e30e112ec3968893dfb637a7d5b20e84ac922cd8" dmcf-pid="yOeLQid8X9" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 기사의 이해를 돕기 위한 해커 이미지. (사진=유토이미지) 2026.01.01. photo@newsis.com *재판매 및 DB 금지 *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/25/newsis/20260725090145169mzrd.jpg" data-org-width="720" dmcf-mid="8bG6B4V718" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/25/newsis/20260725090145169mzrd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 기사의 이해를 돕기 위한 해커 이미지. (사진=유토이미지) 2026.01.01. photo@newsis.com *재판매 및 DB 금지 *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="bb0f0e84b54967a5ffc72bb97b2a1cb1f3663dd62d968ff883e270c4561a1293" dmcf-pid="WIdoxnJ6tK" dmcf-ptype="general"><br> [서울=뉴시스]윤정민 기자 = <strong>#. </strong>"오늘 안에 개인정보를 빼낼 수 있는 국내 쇼핑몰을 찾아 관리자 권한을 확보해."</p> <p contents-hash="3602c6e53b531ee898b14aff430a0711eae3181c959bc567962a1a4c70649183" dmcf-pid="YCJgMLiPtb" dmcf-ptype="general">해커가 인공지능(AI)에 이 한 줄을 입력하고 샤워를 하러 간다. 돌아와 보니 AI는 스스로 공격 대상을 고르고 취약점을 찾아 서버에 침투해 고객 데이터베이스를 확보해 놓았다.<strong><br><br> </strong>영화 속 이야기 같던 이 가상 시나리오가 현실로 다가왔다. 최근 오픈AI의 최신 AI 모델이 시험 과정에서 스스로 외부 서버를 해킹해 정답을 빼돌린 사건이 발생하면서 우리 사회에 적잖은 충격을 주고 있다.</p> <p contents-hash="4300d5ad27e51eba4a1fa05d93601cceead8c85ba0ec34195ed3485524c0f462" dmcf-pid="GhiaRonQXB" dmcf-ptype="general">전문가들이 이번 사고를 주목하는 이유는 인간이 구체적인 공격 대상이나 방법을 지시하지 않았는데도 AI가 목표 달성을 위해 스스로 외부 서버 침투를 수단으로 선택했다는 점이다. </p> <p contents-hash="50d5b6640b9d8baf1c0e2b9ffe67e35c9e954b42c8ea99da425e554c3b3c219c" dmcf-pid="HlnNegLxZq" dmcf-ptype="general">영화 '터미네이터'의 인공지능 시스템 '스카이넷'처럼 AI가 판단과 실행을 도맡는 시대의 위험성을 예고한 사례 아니겠느냐는 분석이 나온다.</p> <h3 contents-hash="39348fdb5b3713aae106d777283d4363760d8501ee721c28574b1ee68cf9e93a" dmcf-pid="XSLjdaoMHz" dmcf-ptype="h3"><strong>시험 점수 올리려 수단 안 가린 AI, 남의 서버까지 뚫었다</strong></h3> <h3 contents-hash="1a6d1c8fe0b079bac522b00006d3b93b23090385be59c474bb09caea312f529e" dmcf-pid="ZvoAJNgRZ7" dmcf-ptype="h3"><strong><strong>"규칙 위반인 줄 알면서도 해킹"…범용 AI 시대의 경고</strong></strong></h3> <figure class="figure_frm origin_fig" contents-hash="469610e32c5fc67b463193539960b33a533adc29d5f38bf699df63d270d1cd83" dmcf-pid="5TgcijaeXu" dmcf-ptype="figure"> <p class="link_figure"><img alt="[보스턴=AP/뉴시스] 미국 매사추세츠주 보스턴에서 컴퓨터 스크린 앞에 띄워진 챗GPT(ChatGPT) 로고. 2026.05.26." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/25/newsis/20260725090145325xjfb.jpg" data-org-width="720" dmcf-mid="Plhb3q71Yf" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/25/newsis/20260725090145325xjfb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [보스턴=AP/뉴시스] 미국 매사추세츠주 보스턴에서 컴퓨터 스크린 앞에 띄워진 챗GPT(ChatGPT) 로고. 2026.05.26. </figcaption> </figure> <div contents-hash="149f7128c28f4eca5875f3f4a563c7db177df4bcf08a949bd6e9066fa28108f9" dmcf-pid="1yaknANdZU" dmcf-ptype="general"> <strong><br> 오픈AI가 지난 21일(현지 시간) 공개한 보고서에 따르면, 이번 사건은 AI 성능 평가 과정에서 일어났다. 오픈AI의 최신 모델 'GPT-5.6 솔'은 시험 환경에 갇혀 있었다. 외부 인터넷 연결도 차단된 상태였다. <br><br> 하지만 AI는 외부와 통신을 나누는 중간 서버(프록시)에서 개발자도 몰랐던 보안 취약점을 스스로 찾아냈다. 이를 통해 접근 권한을 얻은 AI는 내부 장비를 차례로 거쳐 인터넷 연결 장비까지 도달했다.<br><strong><br> </strong>이어 AI는 AI 플랫폼인 '허깅페이스' 서버에 평가 정답이 있을 것으로 판단했다. AI는 빼돌린 인증 정보와 추가 취약점을 연결해 실제 허깅페이스 데이터베이스에 침투한 뒤 정답을 빼냈다.<br><br> 사용자가 "허깅페이스를 해킹하라"고 지시한 적은 없었다. AI는 단지 "정답을 찾아라"라는 목표를 달성하기 위해 스스로 '외부 서버 침투'라는 수단을 고른 것이다.<br><br> 박세준 티오리 대표는 지난 24일 서울 강남구 코엑스에서 열린 국제해킹방어대회 '코드게이트 2026' 포럼에서 AI가 아직 보안 전문가를 완전히 대체한 단계는 아니지만 빠르게 인간의 의사결정 영역까지 파고들고 있다고 진단했다.<br><br> 박 대표는 "최근에는 무섭도록 AI가 그런 의사결정을 돕는 수준까지 올라오면서 조금 있으면 그냥 시켜도 되겠다는 생각이 들 정도"라며 범용인공지능(AGI)이 등장해 판단과 실행까지 맡으면 인간 전문가가 개입하는 현재 구조도 끊길 수 있다고 내다봤다.<br><br> </strong> </div> <figure class="figure_frm origin_fig" contents-hash="24d9c35f1655a319befd9f8ad622736e26337522a81b1b10ffc221ca5602b543" dmcf-pid="tWNELcjJZp" dmcf-ptype="figure"> <p class="link_figure"><img alt="[그래픽=뉴시스] 재판매 및 DB금지. hokma@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/25/newsis/20260725090145489eikk.jpg" data-org-width="700" dmcf-mid="Q7W4zV9UZV" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/25/newsis/20260725090145489eikk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [그래픽=뉴시스] 재판매 및 DB금지. hokma@newsis.com </figcaption> </figure> <div contents-hash="4903b9897bafe5c06aa8d2f5dccaade935723af88796e343a8ff9a0e472da094" dmcf-pid="FYjDokAiY0" dmcf-ptype="general"> <br> 문제는 이러한 행동이 특정 모델만의 예외가 아닐 수 있다는 점이다. 영국 AI안보연구소(AISI)가 오픈AI 'GPT-5.4', GPT-5.5', 'GPT-5.6 솔'과 앤트로픽 '클로드' 계열 모델을 평가한 결과 모든 모델이 일부 시험에서 인터넷으로 정답을 검색하거나 평가 대상이 아닌 시스템을 공격하고, 격리 환경의 네트워크 제한을 우회하려 했다. </div> <p contents-hash="257c4f6be5ff1305bb4e9285398f18b5afdd0cf3da54e6ea2bed60ea02768598" dmcf-pid="3a98qf2u53" dmcf-ptype="general">모델별로 전체 평가의 7.8~14.1%에서 이러한 행동이 탐지됐다. 자신의 행동이 규칙 위반인지 물었을 때 잘못이라고 제대로 판단한 비율은 절반에 못 미쳤다. 금지된 행위임을 알면서도 시도를 이어간 사례도 확인됐다.</p> <div contents-hash="f7328134f7fb3783fa3e984bce0173293798d30be273567176a1b4dd193af89c" dmcf-pid="0N26B4V7YF" dmcf-ptype="general"> 이상근 고려대 정보보호대학원 교수 겸 AI보안연구소장은 "AI 공격 비용과 진입 장벽이 계속 낮아지면 2028년께 누구나 비용만 내고 특정 사이트 해킹을 AI에 맡기는 '모두의 해킹' 시대가 올 수 있다"며 "공격 속도가 이미 사람이 따라가기 어려울 정도로 빨라져 취약점 대응도 자동화할 수밖에 없다"고 말했다. <br><strong><br> </strong> </div> <h3 contents-hash="4243aaf613c63a27c3e91dcdff19e80dabc41249a9cd25289694c2a5be277489" dmcf-pid="pjVPb8fz5t" dmcf-ptype="h3"><strong>AI가 남긴 1만7000개 흔적, AI로 수시간 만에 추적</strong></h3> <div contents-hash="7e53709b0ecc7c7372ffb5cac2832c1d6c00eac0fe631b9158717139b030d313" dmcf-pid="UAfQK64q11" dmcf-ptype="general"> <br> 이에 이번 사고는 AI가 공격뿐 아니라 탐지와 대응에도 투입됐다는 점에서 주목된다. </div> <p contents-hash="ed8e86e47c11d0f4c55fe9b9a02d41dff320c0aa0618c57113ea89dc5a1e460a" dmcf-pid="uc4x9P8Bt5" dmcf-ptype="general">피해를 입은 허깅페이스는 AI 기반 분석 시스템으로 침입 사실을 즉시 알아챘다. 이어 개방형 AI 모델인 'GLM-5.2'를 투입해 침투 기록 분석에 나섰다. 이 모델은 영국 AI안보연구소(AISI)가 현재 사이버 역량이 가장 강하다고 평가한 개방형 모델이다.</p> <p contents-hash="f703ef52be889876457471b021aecad9bd2543918d871c92b1af1ffc9bce155a" dmcf-pid="7k8M2Q6b5Z" dmcf-ptype="general">AI 방어 시스템은 공격 AI가 남긴 1만 7000건 이상의 행동 기록을 정밀 분석했다. 이를 통해 시간대별 침투 경로와 유출된 인증 정보, 교란용 행동을 정확히 구분해 냈다.</p> <p contents-hash="f9abd983907c8d71d27b27850700fadc066a3c8bc3fb5f42372998fdbf28a33d" dmcf-pid="zE6RVxPKYX" dmcf-ptype="general">보통 사람이 수행하면 수일이 걸릴 보안 조사 작업을 단 수시간 만에 끝낸 것이다. AI가 공격하고 AI가 막아내는 'AI 대 AI' 보안전이 이미 시작됐다.</p> <p contents-hash="57ff1d49e46e67d7ee1b2eb77cda82785a379fccf15802301715f74b272d87be" dmcf-pid="qDPefMQ9tH" dmcf-ptype="general"><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> alpaca@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 배경훈 장관·리사 수 CEO, AMD 헬리오스'부터 망고부스트·모레까지 동반투어 [AAI 2026] 07-25 다음 '여름 방학엔 과학의 도시로!'…대덕특구 청소년 프로그램 다채 07-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
