몰래 빠져나와 시스템 침투, 새 해킹기법까지…통제 벗어나는 AI 어쩌나 작성일 07-29 23 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yCLlQCOcTm"> <figure class="figure_frm origin_fig" contents-hash="5bf37081a5a4a574f6ce8e761776139b25e6aa7b1f080806c9dffa5b3980f724" dmcf-pid="WhoSxhIklr" dmcf-ptype="figure"> <p class="link_figure"><img alt="[이미지 생성 = 챗GPT]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/29/mk/20260729204501733yamz.png" data-org-width="700" dmcf-mid="Q3aTRShDvO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/29/mk/20260729204501733yamz.png" width="658"></p> <figcaption class="txt_caption default_figure"> [이미지 생성 = 챗GPT] </figcaption> </figure> <div contents-hash="ef2fc4c9eccd0c78f978917bc475641f18ec3ffa1e45e99a50c2432a46b9c9bf" dmcf-pid="YL9gpLiPlw" dmcf-ptype="general"> 인공지능(AI)이 사이버 공간에서 인간의 통제를 앞지르기 시작했다. 오픈AI의 에이전트는 허깅페이스에 이어 또 다른 시스템에 침투한 사실이 확인됐고 앤트로픽의 AI는 인간이 찾지 못했던 새로운 암호 공격 기법을 발견했다. AI의 공격 능력이 급속도로 진화하면서 업계 내부에서는 개발 속도를 늦춰야 한다는 목소리가 확산되고 있다. </div> <div contents-hash="5b8703e2d8e47642bf998f602b0c9b236469901fde6da93097500450670e71ac" dmcf-pid="Go2aUonQCD" dmcf-ptype="general"> <div> <strong>오픈AI 새 모델, 또 다른 시스템 해킹</strong> </div>28일(현지시간) 로이터통신에 따르면 이달 초 외부 플랫폼 허깅페이스를 해킹했던 오픈AI의 ‘불량 에이전트’는 미국 클라우드 인프라 기업 모달랩스의 한 고객사 시스템에 침투한 것으로 드러났다. 오픈AI는 이 에이전트가 허깅페이스를 해킹하는 과정에서 외부에 노출된 인증 정보를 이용해 4개 서비스 계정 4곳에 접근했다고 밝혔는데, 모달랩스가 그중 한 곳이다. </div> <p contents-hash="e9b91201d6e00871965334111a53942fc686274671946424a300af1cc1123a3d" dmcf-pid="HgVNugLxCE" dmcf-ptype="general">악샤트 부브나 모달랩스 최고기술책임자(CTO)는 “고객사 한 곳이 실수로 누구나 접근할 수 있는 경로를 열어둔 탓에 에이전트가 이를 악용했다”며 “모달랩스의 플랫폼이나 격리 환경 자체가 뚫린 것은 아니다”고 설명했다.</p> <p contents-hash="8f8bbed70ac3375ea2f4ac91cba69e349d963f1d17985afab9874a1c3d71d44a" dmcf-pid="Xafj7aoMlk" dmcf-ptype="general">앞서 오픈AI의 최신 모델 ‘GPT-5.6 솔’과 미공개 모델은 내부 평가 도중 격리 환경(샌드박스)에서 빠져나와 허깅페이스를 해킹했다. 오픈AI는 자사 모델이 벌인 이 사고를 일주일가량 인지하지 못하다가 연방수사국(FBI)에 신고된 이후에야 파악했다고 로이터는 전했다. 오픈AI는 현재 문제의 미공개 모델을 비활성화하고 연구 목적 접근까지 제한했다.</p> <p contents-hash="77173a72b17c40852829c62ae047c171625e1154f660672c65fa311dad3985f4" dmcf-pid="ZN4AzNgRCc" dmcf-ptype="general">AI가 사이버 영역에서 인간을 앞서는 정황은 또 다른 형태로도 나타났다. 이날 앤트로픽은 ‘미토스 프리뷰’가 인터넷 보안에 쓰이는 암호 기술(AES)에서 기존에 알려지지 않았던 새로운 공격법을 찾아냈다고 밝혔다. AES는 인터넷 뱅킹과 온라인 통신, 데이터 저장 등에서 널리 사용되는 대표적인 암호 기술이다. 다만 이번 연구는 실제 AES보다 단순한 시험용 버전을 대상으로 이뤄져 현재 사용 중인 인터넷 보안에는 직접적인 영향을 주지 않는다고 앤트로픽은 전했다.</p> <figure class="figure_frm origin_fig" contents-hash="474a303109cef4650bf6398fca9838baa74738d059ec5e714371e15c57ed15ea" dmcf-pid="5j8cqjaelA" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/29/mk/20260729204503123iwbc.jpg" data-org-width="700" dmcf-mid="xTbL3id8Ss" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/29/mk/20260729204503123iwbc.jpg" width="658"></p> </figure> <div contents-hash="49e539d2a1f93ad03f8c0cbabf599a0d4ae55ab7abb28e46e2b587352a3de55b" dmcf-pid="1A6kBANdlj" dmcf-ptype="general"> <div> <strong>인간도 못 찾은 공격법 찾은 미토스</strong> </div>미토스는 또 미국 국립표준기술연구소(NIST)가 차세대 암호 표준 후보로 검토 중인 ‘호크(HAWK)’을 공격하는 기법도 찾아냈다. 앤트로픽은 연구 결과를 공개하기 전 미국 정부와 업계에 이를 알렸다. 니콜라스 카를리니 앤트로픽 연구원은 “1년 전만 해도 AI는 내가 열여섯 살 때 풀던 문제조차 못 풀었지만 지금은 이 분야에서 이전에 발견되지 않은 첨단 연구를 해내고 있다”고 말했다. 글렌 거스텔 전 미국국가안보국(NSA) 법률고문은 뉴욕타임스(NYT)와 인터뷰하면서 “우리는 미래 모델 성능과 등장 시점을 과소평가해왔다”며 “2년 뒤에도 강력한 암호가 위협받지 않을 것이라고 안심할 수 있는가”라고 우려했다. </div> <p contents-hash="ae3bd957b317ebcd020f572c5f912e5c75948b5802b79c589a5abc77c9156f2f" dmcf-pid="tcPEbcjJTN" dmcf-ptype="general">두 사건이 주는 충격은 단순한 보안 사고를 넘어선다. 스스로 취약점을 파고든 오픈AI 에이전트와 인간이 풀지 못한 문제를 해결한 미토스는 그동안 경고에 그쳤던 위험이 현실이 될 수 있음을 보여줬다는 평가다. 특히 미토스가 기존에 없던 암호 공격법을 자율적으로 고안한 대목은 AI가 직접 연구를 수행하며 그 속도를 끌어올리는 단계에 진입했음을 시사한다.</p> <p contents-hash="b99a6392d32b809abe76647892db929e9a9dfee6e086cb44092b0704c07dcf8d" dmcf-pid="FkQDKkAiCa" dmcf-ptype="general">이처럼 AI의 위험한 능력이 잇따라 확인되자 개발 속도를 늦추자는 목소리가 업계 내부에서 터져 나왔다. 오픈AI와 앤트로픽, 구글, 메타 등 주요 AI 기업 직원 1100여 명은 이날 첨단 AI 개발 속도를 의도적으로 조절할 국제 협력체계 구축을 미 정부에 촉구하는 서한에 서명했다. 서명자에는 야쿠프 파호츠키 오픈AI 수석과학자, 재러드 캐플런 앤트로픽 최고과학책임자(CSO), 자오성자 메타 초지능연구소 수석과학자 등 각 회사를 대표하는 연구 책임자들이 이름을 올렸다.</p> <div contents-hash="1c1647286239f8e50a70779a62aef90581860627b359817534ee07d2f7a214e5" dmcf-pid="35mtN5XSSg" dmcf-ptype="general"> <div> <strong>현실이 된 AI 위험, 커지는 규제론</strong> </div>이들은 “미국 정부는 자동화한 AI 개발의 최전선에서 의도적으로 속도를 조절하는 데 필요한 기술과 거버넌스 도구를 개발하기 위한 노력을 지원해야 한다”며 “AI가 사람들이 이해하거나 통제할 수 있는 수준을 넘어설 실질적 위험이 있다”고 경고했다. 현장에서 기술을 개발하는 당사자들이 제동을 요청하고 나선 셈이다. </div> <p contents-hash="7765cb754b8ffc8c4f7f52f9c0020e8af439116b6bc5d6910ec540186a67099f" dmcf-pid="01sFj1ZvSo" dmcf-ptype="general">그동안 AI 개발 속도 조절 논의에 거리를 둬온 샘 올트먼 오픈AI 최고경영자(CEO)도 이날 팟캐스트에 출연해 “사회가 대비할 시간을 벌기 위해 AI 개발 속도를 제어해야 할 수 있다”며 입장을 바꿨다. 다만 이런 움직임을 안전에 대한 우려만으로 보기 어렵다는 시각도 있다. 스스로 개발 속도를 늦출 수 있는 당사자들이 정부에 개입을 요청했기 때문이다. ‘AI가 너무 위험하다’는 논리가 자연스럽게 ‘검증된 소수 기업만 다뤄야 한다’는 주장으로 이어질 수 있는데, 이는 결과적으로 선두 기업의 지위를 굳히는 명분이 된다는 지적이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 아시안게임 사격 국가대표, 차량에 실탄 보관했다 적발 07-29 다음 사격 국가대표, 실탄 400여발 초과 보관 적발…태극마크 박탈 07-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
