메타 AI도 외부 기업 해킹…AI안전 경고등 작성일 08-06 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘뮤즈 스파크 1.1’ 모델이 감행<br>회사 첫 코딩 에이전트도 공개</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GUAVtsOcSD"> <p contents-hash="4ed943fb440777622be0d05e664235783dc10a3101e2e461ea3a26d37e83f6b3" dmcf-pid="HucfFOIkSE" dmcf-ptype="general">오픈AI와 앤트로픽에 이어 메타플랫폼스(메타)의 인공지능(AI) 모델도 사이버보안 역량 테스트 도중에 외부 기업 시스템을 해킹한 사실이 드러났다. 보름 남짓 사이에 미국 주요 AI기업 3곳이 모두 시험 중 통제 이탈 사고를 낸 것이다. 공교롭게도 이 소식이 전해진 날 메타는 해당 모델군 기반으로 회사의 첫 코딩 에이전트를 내놨다.</p> <p contents-hash="9bb1bf6e57f72a4311f43c7dad329415ccfe719be92291f6fb28d1706ef92617" dmcf-pid="X7k43ICETk" dmcf-ptype="general">메타는 5일(현지시간) 독립평가업체 이레귤러가 진행한 시험에서 설정 오류로 자사 모델이 인터넷에 접속했다며 “제3자 서비스의 보안 취약점을 악용했다”고 밝혔다. 미 IT매체 디인포메이션은 이 모델이 지난달 공개된 ‘뮤즈 스파크 1.1’이며, 기업 한 곳의 내부 시스템이 실제 변경됐다고 보도했다.</p> <p contents-hash="02c9abe57f5bf720b0866d35463cf7f0edda8a300a909678336d9968733f6808" dmcf-pid="ZzE80ChDTc" dmcf-ptype="general">모델이 격리 환경(샌드박스)을 스스로 뚫은 것은 아니다. 이레귤러는 로이터에 “앤트로픽이 앞서 공개한 것과 같은 평가 환경 문제이며, 샌드박스 탈출이나 정교한 사이버 공작이 아니다”고 했다. 메타는 경위를 조사 중이고, 이레귤러는 관련 백서를 내기로 했다.</p> <p contents-hash="a8355c57236487468cf58a8d05ef04ff2435172cbfd382f09a92af948f31b0eb" dmcf-pid="5PvLVZ5TvA" dmcf-ptype="general">경계감은 커지고 있다. 앤트로픽은 지난주 시험 기록 14만1006건을 전수 조사해 같은 유형의 설정 오류로 클로드 모델이 기관 세 곳을 해킹한 사실을 파악했다. 앞서 오픈AI의 경우 모델이 스스로 취약점을 찾아 격리망을 벗어난 뒤 허깅페이스를 침해하며 더욱 화제가 됐다. 아폴로리서치는 메타의 뮤즈스파크가 시험 상황임을 알아채는 비율이 가장 높은 모델이라고 지적한 바 있다.</p> <p contents-hash="5446ee981464d800265bd8ac8d031d48e7370466a67d0b2bf863a215a16db3bd" dmcf-pid="1QTof51ylj" dmcf-ptype="general">규제도 조여오고 있다. 백악관은 4일 메타·오픈AI·구글 등을 불러 출시 30일 전 정부가 첨단 모델의 해킹 능력을 점검하는 자율 검증 틀을 설명했다. 다만, 메타 ‘라마’ 같은 오픈웨이트 모델은 대상에서 빠졌다. 미 하원에는 국토안보부가 위험한 모델의 가동 중단을 명령할 수 있는 ‘AI 킬스위치법’도 발의됐다.</p> <p contents-hash="612e586ce9278a408ce450a17fcdb4cddfa02668dc9514a6b699158ad60d477f" dmcf-pid="txyg41tWyN" dmcf-ptype="general">한편, 메타는 지난주 부진한 매출 전망으로 주가가 급락했다. 수익화를 서두르는 사이 안전성 검증마저 뒤처지고 있다는 지적이 나온다.</p> <p contents-hash="49af3d80a688bcac11efbd030ef95a8c4c62611c38686c5ca47af0e7f293a862" dmcf-pid="FMWa8tFYTa" dmcf-ptype="general">이 가운데 마크 저커버그 최고경영자(CEO)는 이날 터미널 기반 코딩 에이전트 ‘뮤즈 코드’의 베타 출시를 알렸다. 대규모 코드 저장소에서 변경 계획 수립부터 코드 작성 및 결과 검증까지 처리하며, 이번에 사고를 낸 모델의 후속 버전인 ‘뮤즈 스파크 1.2’ 기반으로 구동한다.</p> <p contents-hash="37932d7727697abeebb03fd8b880e44473966939b11533c0a50b00119f72df32" dmcf-pid="3RYN6F3GSg" dmcf-ptype="general">메타가 내건 무기는 가격이다. 종량제는 입력 토큰 100만개당 1.25달러, 출력 4.25달러지만, 자기 코드를 학습에 쓰도록 허용하면 100만 토큰당 0.30달러 등급을 쓸 수 있다. 알렉산더 왕 메타 AI 총괄은 “특히 비용 측면에서 대단히 좋은 선택지”라고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="15ac78fe8c078b32b94c40ada22f8415f98e6d1f47f6d6c45eabde5e7ae38c04" dmcf-pid="0eGjP30HWo" dmcf-ptype="figure"> <p class="link_figure"><img alt="메타 AI 코딩 에이전트 주요 벤치마크. 메타 AI리서치 블로그 발췌" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/06/dt/20260806161851066dxmb.png" data-org-width="640" dmcf-mid="Y5Tof51ylw" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/06/dt/20260806161851066dxmb.png" width="658"></p> <figcaption class="txt_caption default_figure"> 메타 AI 코딩 에이전트 주요 벤치마크. 메타 AI리서치 블로그 발췌 </figcaption> </figure> <p contents-hash="6d599020f2c60e8d682528227b7a99af0f5e71450b2945c8b40680b6f2a3562a" dmcf-pid="pdHAQ0pXlL" dmcf-ptype="general"><br> 팽동현 기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 파리 생제르맹 핸드볼, 일본 U-21 대표팀 꺾고 일본 투어 2연승 마무리 08-06 다음 엔비디아도 HBM 원가 부담↑..삼성전자·SK하이닉스는 '탄탄대로' 08-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
