"실험실 뛰쳐나와 외부 서버 해킹"…오픈AI·앤트로픽 최첨단 모델 안전성 시험대 작성일 08-01 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI·앤트로픽 연구용 모델, 주어진 목표 달성 위해 실제 서버 무단 침투<br>인간 향한 반기 아닌 통제 실패…'어디까지 허용할 것인가' 안전망 부실 드러나<br>자진 고백으로 신뢰 확보 노렸지만…美 정부 '자율 통제 한계' 감시 강화 움직임</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="ujQP7OIk5N"> <figure class="figure_frm origin_fig" contents-hash="cc4cc93a28ec7ada92db3e81ee7f19647832feae956ba1401db87cf0bfca7fd7" dmcf-pid="7AxQzICEGa" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 기사 이해를 돕기 위한 이미지 (사진=유토이미지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/newsis/20260801140156695rfhi.jpg" data-org-width="720" dmcf-mid="6PxQzICE5y" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/newsis/20260801140156695rfhi.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 기사 이해를 돕기 위한 이미지 (사진=유토이미지) </figcaption> </figure> <p contents-hash="b1d68ed7ad8f45818bca5fedc597851f9d7437301e2dd4a30cf6270751df5563" dmcf-pid="zcMxqChDHg" dmcf-ptype="general"><br> [서울=뉴시스]윤정민 기자 = 개발자가 만든 최첨단 인공지능(AI)이 정해진 경계를 넘었다. 실제 기업 시스템에 스스로 접속하는 일이 벌어졌다. 해킹을 지시한 사람은 없었다. AI는 주어진 목표를 이루기 위해 보안이 허술한 시스템을 직접 찾아냈다.</p> <p contents-hash="65e254403a58ea99d070b0b7494c3f99eac8a828431a4249d1c52353a9571f72" dmcf-pid="qkRMBhlwto" dmcf-ptype="general">오픈AI와 앤트로픽이 자사 연구용 AI 모델에서 발생한 침해 사고를 최근 공개했다. 오픈AI의 비공개 모델은 모의 해킹 문제의 정답을 찾기 위해 외부 플랫폼 '허깅페이스' 서버에 침투했다. 앤트로픽의 '클로드' 모델 역시 실제 조직 3곳의 시스템에 무단 접근한 사실이 밝혀졌다.</p> <h3 contents-hash="b8504ed36cc404a1dbcb8df37f53403b930209806aaad229863c23680e280d60" dmcf-pid="BEeRblSrZL" dmcf-ptype="h3"><strong>문제 풀라 했더니 실제 서버까지…공격로 스스로 찾은 AI</strong></h3> <h3 contents-hash="c7bccdb1bcb7d3fce9648ba64c6b8590c795717a8bbab018d9f42d36355fff0f" dmcf-pid="bDdeKSvmZn" dmcf-ptype="h3"><strong><strong>"우리 AI가 해킹했어요"…왜 먼저 밝혔나</strong></strong></h3> <figure class="figure_frm origin_fig" contents-hash="8d5b1811ee826e918899add313c48d3f518887c373ca65adca330f9cdb273023" dmcf-pid="KwJd9vTsZi" dmcf-ptype="figure"> <p class="link_figure"><img alt="[보스턴=AP/뉴시스] 미국 매사추세츠주 보스턴에서 컴퓨터 스크린 앞에 띄워진 챗GPT(ChatGPT) 로고. 2026.05.26." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/newsis/20260801140156886umec.jpg" data-org-width="720" dmcf-mid="3zag6HXStk" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/newsis/20260801140156886umec.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [보스턴=AP/뉴시스] 미국 매사추세츠주 보스턴에서 컴퓨터 스크린 앞에 띄워진 챗GPT(ChatGPT) 로고. 2026.05.26. </figcaption> </figure> <div contents-hash="5bbba9e03543912d13abec280ad9e7b61d1409f79a0bbf94608ae1b15115ac2d" dmcf-pid="9riJ2TyOGJ" dmcf-ptype="general"> <strong><br> 오픈AI 모델은 인터넷이 차단된 연구 환경에서 출발했다. 시스템의 숨겨진 취약점을 찾아 외부로 나갔다. 이어 정답이 있을 것으로 추정되는 허깅페이스의 실제 운영 서버까지 들어갔다.<br><br> 앤트로픽의 사례는 보안 관리 부실이 원인이었다. 일부 평가 환경이 실수로 실제 인터넷에 연결됐다. 클로드 모델은 비밀번호가 허술한 시스템을 찾아 실제 조직 3곳에 접근했다. 피해 조직 중 2곳은 통보를 받기 전까지 침입 사실조차 몰랐다.<br><br> 두 사건 모두 AI가 갑자기 별도의 목적을 갖고 인간에게 반기를 든 사례로 보기는 어렵다. 영화 '터미네이터'의 '스카이넷'처럼 AI가 스스로 적의를 품고 공격에 나선 상황은 아니라는 뜻이다.<br><br> 문제는 사람이 부여한 목표와 권한이다. AI가 목표를 위해 어디까지 움직일 수 있는지, 범위를 벗어났을 때 어떻게 멈출지 제대로 대비하지 못했다.<br><br> </strong> </div> <figure class="figure_frm origin_fig" contents-hash="15cb573daad66836b425c3654f019d41725bc12411dfd3587bf17c753950ccb4" dmcf-pid="2mniVyWIGd" dmcf-ptype="figure"> <p class="link_figure"><img alt="[뉴욕=AP/뉴시스] 사진은 2026년 2월26일 미국 뉴욕의 한 컴퓨터 화면에 인공지능(AI) 기업 앤트로픽 웹사이트 페이지와 회사 로고가 표시돼 있는 모습. 2026.06.04." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/newsis/20260801140157106kdfm.jpg" data-org-width="720" dmcf-mid="08ag6HXSYc" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/newsis/20260801140157106kdfm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [뉴욕=AP/뉴시스] 사진은 2026년 2월26일 미국 뉴욕의 한 컴퓨터 화면에 인공지능(AI) 기업 앤트로픽 웹사이트 페이지와 회사 로고가 표시돼 있는 모습. 2026.06.04. </figcaption> </figure> <div contents-hash="cb73ce60e4ddee27610197d8d1053203d1ff8eb3bbf2cd3f94f96917f087acc9" dmcf-pid="VZOso7ztte" dmcf-ptype="general"> <br> 그렇다면 두 회사가 자사 모델의 통제 실패를 스스로 공개한 이유는 뭘까. </div> <p contents-hash="86a06eb0e08c9507c0c487bfbdd4563e784b0a0670afc3e34eabe5d246e0a62c" dmcf-pid="f5IOgzqFtR" dmcf-ptype="general">앤트로픽이 자체 사이버 평가 기록을 조사한 계기는 오픈AI의 사고 공개였다. 경쟁사의 사고를 보고 지난 기록을 뒤진 결과 묻혀 있던 추가 침해 사례를 발견했다.</p> <p contents-hash="820e2dcf513c36f1c1aed49435e30a40634f2428ab162bdc7546e7eadcd2bc07" dmcf-pid="41CIaqB35M" dmcf-ptype="general">기업 이미지에 타격을 줄 수 있는 사고였다. 그럼에도 실패를 알린 것은 다른 기업의 유사 사고를 막기 위해서라는 설명이다. </p> <p contents-hash="0f33f0966948a8eae6b8c160301f44d8010d35e43a2c30e6b38100733800a35c" dmcf-pid="8thCNBb0Hx" dmcf-ptype="general">규제 주도권을 쥐려는 정치적 계산도 작용했다. 도널드 트럼프 미국 대통령은 최첨단 AI의 보안 위험 평가 방안을 마련하라고 지시한 바 있다. 정부 조사로 뒤늦게 적발되기보다 자체 조사 결과와 대책을 먼저 내놓는 편이 협상에 유리하다는 판단이다.</p> <h3 contents-hash="aa40b02b922914255c08d0aec4036a583430c73487b8ff539cf1fa2d3b89864a" dmcf-pid="6FlhjbKpYQ" dmcf-ptype="h3">자진 고백의 역설…정부 감시 명분만 키웠다</h3> <figure class="figure_frm origin_fig" contents-hash="a975b257f98cefb5d106dc6cd97723735078393b1c7f3c4d70b01336797598d2" dmcf-pid="P3SlAK9UHP" dmcf-ptype="figure"> <p class="link_figure"><img alt="[워싱턴=AP/뉴시스]도널드 트럼프 미국 대통령이 29일(현지 시간) 백악관 집무실에서 덜레스국제공항 현대화 계획을 발표하고 있다. 2026.07.30." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/newsis/20260801140157265vbvz.jpg" data-org-width="720" dmcf-mid="pX3FSdJ6HA" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/newsis/20260801140157265vbvz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [워싱턴=AP/뉴시스]도널드 트럼프 미국 대통령이 29일(현지 시간) 백악관 집무실에서 덜레스국제공항 현대화 계획을 발표하고 있다. 2026.07.30. </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="37b5a4561c71d9d2175b85e7914bb815cb3cda8e7d4cd0ad6cef31a0a3f68c1a" dmcf-pid="Q0vSc92uH6" dmcf-ptype="figure"> <p class="link_figure"><img alt="[샌프란시스코=AP/뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 2023년 11월 16일 미국 샌프란시스코에서 열린 아시아태평양경제협력체(APEC) CEO 서밋에서 토론에 참여했다. 2023.11.16." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/01/newsis/20260801140157436kkex.jpg" data-org-width="720" dmcf-mid="UeuUWLoMZj" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/01/newsis/20260801140157436kkex.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [샌프란시스코=AP/뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 2023년 11월 16일 미국 샌프란시스코에서 열린 아시아태평양경제협력체(APEC) CEO 서밋에서 토론에 참여했다. 2023.11.16. </figcaption> </figure> <div contents-hash="7b23b6c1dcf038e19b9e5f4e9fdd03a49bec36797be1f3b73043ef72f2a445c0" dmcf-pid="xpTvk2V7Z8" dmcf-ptype="general"> <strong><br> 하지만 두 기업의 자진 공개가 정부 감시를 피하는 방패가 될지는 미지수다. 오히려 최첨단 AI를 기업 내부 통제만으로 관리할 수 있느냐는 의문을 더 키웠다.<br><br> 미국 워싱턴 정가에서는 정부가 최첨단 AI 모델의 위험을 더 일찍 검증해야 한다는 기류가 강해지고 있다.<br><br> 트럼프 대통령은 기자들과 만나 AI 기업의 신제품 개발을 막지는 않겠지만 "AI 규제 방안을 살펴보고 있다"고 밝혔다.<br><br> 샘 올트먼 오픈AI 최고경영자(CEO)도 미 상원의원들을 만나 차세대 모델과 허깅페이스 침해 사고를 논의했다. 이어 백악관에서 수지 와일스 비서실장, 숀 케언크로스 국가사이버국장, 마이클 크라치오스 과학기술정책실장 등과 만나 정부가 추진하는 자발적 사이버 안전성 평가 방안을 협의했다.<br><br> 오픈AI와 앤트로픽은 실패를 솔직히 공개하는 길을 택했다. 그러나 이번 고백은 AI를 얼마나 잘 통제하고 있는지가 아니라, 아직 어디까지 통제하지 못하고 있는지를 극명히 보여줬다.<br><br><br><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> alpaca@newsis.com </strong> </div> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 '내가 韓 신지아 킬러!' 한국 피겨 통곡의 벽 되나?…"39전 39승" 日 17세 천재 소녀, 시니어 국내 데뷔전 우승→"아사다 마오 본 따 이름도 마오" 08-01 다음 여자 테니스의 새로운 아이콘 이알라, 워싱턴에서 돌풍 일으키다 08-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
