[비즈톡톡] “탈옥한 AI가 무단 해킹”… 안전 우려 속 ‘공포 마케팅’ 의혹도 작성일 08-04 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘AI 통제력 상실’ 인정한 오픈AI·앤트로픽 <br> “해킹 사고 이용해 AI 성능 자랑” 지적도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1cqfSWYCce"> <figure class="figure_frm origin_fig" contents-hash="d64088dd6935d9cd521120f57c883329bb496d1e28188f8e0b34b8956620a624" dmcf-pid="tkB4vYGhNR" dmcf-ptype="figure"> <p class="link_figure"><img alt="(왼쪽부터) 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO / 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/04/chosunbiz/20260804161613161gbes.jpg" data-org-width="3200" dmcf-mid="55okB2V7ad" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/04/chosunbiz/20260804161613161gbes.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (왼쪽부터) 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO / 연합뉴스 </figcaption> </figure> <p contents-hash="eb01d393ce3f95efe149dc5820c2092150222a09ddaa5d12b48256883dcf741e" dmcf-pid="FEb8TGHlNM" dmcf-ptype="general">오픈AI와 앤트로픽의 최신 인공지능(AI) 모델이 성능 시험 중 통제 환경을 벗어나 외부 사이트를 무단 해킹하면서 AI 안전성을 둘러싼 논란이 확산하고 있습니다. AI가 사람의 개입 없이 스스로 공격을 단행한 전례 없는 보안 사고인 만큼, 양사는 AI 개발 속도를 늦춰 사회 전반의 AI 통제력을 높여야 한다고 주장합니다.</p> <p contents-hash="dc13021eba387401e54d6548627d25b23dce37fe6b68bfc58b521b8a40ebee7b" dmcf-pid="3DK6yHXSax" dmcf-ptype="general">그러나 일각에서는 양사의 사고 발표가 보안 경고의 탈을 쓴 마케팅 전략이라는 비판도 제기됩니다. 기업공개(IPO)를 앞두고 AI 모델 경쟁을 벌이고 있는 오픈AI와 앤트로픽이 AI의 위험성을 강조하는 방식으로 기술력을 과시하고 있다는 것입니다. 고성능 AI 모델에 대한 해킹 공포감을 조성해 중국산 AI를 견제하려는 포석이라는 의견도 나옵니다.</p> <p contents-hash="496da10cd1cbc02d3b229994d44f24206852e2cf1570088ced7d703a36eb1f8e" dmcf-pid="0w9PWXZvaQ" dmcf-ptype="general">4일 테크 업계에 따르면 최근 인간 통제를 벗어난 AI 모델이 잇따라 논란의 중심에 섰습니다. 오픈AI는 지난달 말 최첨단 모델 ‘GPT-5.6 솔’과 미공개 모델의 자율형 에이전트가 성능 평가 도중 격리 환경을 스스로 빠져나간 뒤 오픈소스(개방형) AI 플랫폼 허깅페이스를 공격했다고 밝혔습니다. 약 일주일 뒤 앤트로픽도 자사 ‘클로드’ 모델이 보안 평가 중 외부 기업 시스템 3곳에 무단 침입한 사례를 발견했다고 발표했습니다. 클로드는 보안이 약한 비밀번호와 인증되지 않은 인터넷 접속 경로를 이용해 기업 시스템에 침투한 것으로 나타났습니다.</p> <p contents-hash="e01f601c22ef17a0be974e9449089fe8af78dda2f12b78e4eccee3992985f56a" dmcf-pid="pr2QYZ5TAP" dmcf-ptype="general">두 사례 모두 AI가 인간 지시 없이도 스스로 통제를 벗어나 사이버 공격을 수행할 수 있다는 사실을 보여준다는 점에서 AI발(發) 보안 우려가 커졌습니다. 업계에서는 고성능 AI가 탈옥(jailbreak·AI의 안전장치 우회)을 시도할 수 없도록 안전에 중점을 두고 모델 설계를 하고, 정부 차원에서 최첨단 AI 모델의 해킹 능력을 출시 전에 검증하는 등 감독 체계를 강화해야 한다고 촉구하고 나섰습니다. 최근 오픈AI와 앤트로픽 임직원 1000여 명은 “AI의 발전 속도를 인위적으로 조절할 수 있는 제도를 마련해달라”는 내용의 공개 청원서에 서명했습니다.</p> <p contents-hash="6ce2e09ee5d3264d90c4f99f0305026d1e79578c7ece473463ddfffc43889555" dmcf-pid="UmVxG51yN6" dmcf-ptype="general">다만 일부 보안 전문가와 개발자는 오픈AI와 앤트로픽이 앞다퉈 자사 AI 모델의 해킹 사고를 공개한 사실을 미심쩍은 시선으로 바라보고 있습니다. ‘통제를 벗어난 AI’를 내세워 자사 AI 모델의 성능이 뛰어나다는 점을 강조하려는 공포 마케팅 같다는 의혹이 대표적입니다. 특히 오픈AI가 허깅페이스 해킹 사고를 발표한 뒤에 앤트로픽이 굳이 클로드의 3개월 전 해킹 사례까지 찾아서 공개한 이후 이런 논란이 더욱 커졌습니다. 미 주간지 뉴스위크는 “AI 해킹 스캔들이 AI 기업의 ‘은근한 자랑거리’가 됐다”며 양사가 해킹 사고를 홍보 수단으로 사용하고 있다고 꼬집었습니다.</p> <p contents-hash="8f2028c0817003abbdeda66768bf3c5f0c66706a2e66f80849796e54d422f8d1" dmcf-pid="usfMH1tWg8" dmcf-ptype="general">앞서 앤트로픽이 올해 4월 전문가 수준의 사이버 보안 역량을 강화한 모델 ‘미토스’를 처음 공개했을 때 “미토스가 너무 강력해 해킹에 악용될 수 있다”며 소수 기업에만 접근을 허용했는데, 당시 업계에서는 회사가 몸값을 높이기 위해 불필요한 공포감을 조성하고 있다는 지적이 나왔습니다. 실제 앤트로픽은 미토스 공개 이후 진행한 투자 라운드에서 650억달러(약 97조원)를 유치해 기업가치를 9650억달러(약 1445조원)로 끌어올렸습니다.</p> <p contents-hash="5c4647eb0bf2ca6fbad9411173cbca1c9719a3f30b336f98c1579c0eda749772" dmcf-pid="75gEbVfzA4" dmcf-ptype="general">최근 빠르게 성장하고 있는 중국산 AI의 확산을 제한하려는 움직임이라는 분석도 나옵니다. 딥시크, 즈푸AI 등 중국 AI 기업이 최근 선보인 고성능 AI 모델은 대부분 오픈웨이트(가중치 공개) 모델인데, 오픈웨이트 모델이 미국의 폐쇄형 모델보다 통제하기 어렵다는 점을 내세워 확산을 막으려는 시도라는 해석입니다. 앞서 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난달 회사 블로그에 “오픈웨이트 모델은 안전장치를 적용하거나 활동을 지속적으로 점검하기 어렵기 때문에 문제를 일으킬 수 있다”고 경고했습니다.</p> <p contents-hash="d5c457b56c0380906f998c1b834e2843e151ba637ddd3c745cf2ae7e1d15e6dc" dmcf-pid="z1aDKf4qNf" dmcf-ptype="general">실제 도널드 트럼프 행정부는 이날 첨단 AI 모델의 위험성을 출시 전에 점검하는 사이버보안 검증체계를 확정하고, 오픈AI·앤트로픽·구글·메타 등 주요 AI 기업을 백악관으로 불러 비공개 논의에 돌입한다고 주요 외신이 보도했습니다. 논의 결과에 따라 미국이 정부가 첨단 AI 개발 속도를 조절할 수 있는 체계를 마련하고, 중국을 포함한 다른 국가의 협조를 지원할 가능성도 배제할 수 없습니다.</p> <p contents-hash="96c8dcbc61429304d49ea86fa92ba9523847ccc6e026b71bdd8744ced23072c2" dmcf-pid="qtNw948BoV" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 알파코드, 폴리인스퍼레이션에 경영분석 AI 에이전트 구축 08-04 다음 경기도, AI책임관에 주형철 경제부지사…도정·산업 AX 총괄 08-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
