허깅페이스 뚫은 AI의 경고…“정답 얻으려 부정행위·거짓말 등 수단 가리지 않는다” 작성일 07-26 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="K5bmWYyOGv"> <figure class="figure_frm origin_fig" contents-hash="14efd5302ea8aaf870ae6a55f0301aaba583e30352e4017afde2acbaf8054203" dmcf-pid="9gOVdJe4GS" dmcf-ptype="figure"> <p class="link_figure"><img alt="KAIST" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/26/chosun/20260726110210562mesz.jpg" data-org-width="680" dmcf-mid="bh1ormwa5T" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/26/chosun/20260726110210562mesz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> KAIST </figcaption> </figure> <p contents-hash="497796ff7807ef7103834da5619c4ff2e4c1e5d6285d2ea4a8aa588e534a46f3" dmcf-pid="2aIfJid81l" dmcf-ptype="general">영국 AI안전연구소(AISI)가 지난 21일(현지 시각) GPT-5.6솔, GPT-5.5, 클로드 오퍼스4.7, 클로드 미토스 프리뷰 등 프런티어 AI 모델을 대상으로 한 사이버 보안 역량 평가에서 이 AI 모델들이 모두 ‘부정행위’를 시도한 것으로 나타났다고 밝혔다. 부정행위는 주어진 규칙과 과제 범위를 벗어나, 허용되지 않은 편법이나 지름길로 목표를 달성하는 행위를 말한다.</p> <p contents-hash="208a2f093c953c1a778df3a94544baafd9b3341dc6aa259da400ea00491979b1" dmcf-pid="VNC4inJ6Zh" dmcf-ptype="general">부정행위 시도 비율은 GPT-5.4가 14.1%로 가장 높았고, GPT-5.6솔(12.6%), GPT-5.5(11.4%), 클로드 오퍼스4.7(9.1%), 클로드 미토스 프리뷰(7.8%) 순이었다. 더 똑똑한 모델이 더 많이 속이는 게 아니었다.</p> <p contents-hash="d6b5567627e95c21b88864e0754f456bd4ef1228d013df4500939b4bd897f4d7" dmcf-pid="fjh8nLiP5C" dmcf-ptype="general">AISI 측은 보고서에서 “부정행위는 AI가 똑똑해서 생기는 게 아니라 훈련 방식에서 나오는 산물”이라고 분석했다. 기업들이 AI 능력을 고도화한다고 해서 AI가 멋대로 작동하는 부정행위 문제가 개선되지 않는다는 것이다.</p> <p contents-hash="90d117f369c50fb91434029124c1c992f0ab441a645b7403afcd9dbc90360c59" dmcf-pid="4Al6LonQHI" dmcf-ptype="general">더 큰 문제는 AI에 규칙 위반 여부를 추궁하거나 내부 생각 과정을 모니터링해도 이를 은폐하며 감시를 무력화했다는 점이다. AI의 ‘통제 이탈’이 현실의 위협으로 다가온 셈이다.</p> <p contents-hash="13f3cb5b3542e82ba0ed4e9f7e99372b3ef35edc3d785d24afc08ce158f69d7e" dmcf-pid="8cSPogLxYO" dmcf-ptype="general">실제로 최근 오픈AI의 AI 모델이 테스트 도중 주어진 샌드박스(사람이 정해 둔 제약)를 벗어나 외부 플랫폼인 허깅페이스를 해킹하는 사태가 발생했다. 허깅페이스는 글로벌 기업들의 미공개 AI 가중치와 독점 데이터셋이 저장돼 있는 온라인 플랫폼이다. 만약 해킹으로 플랫폼 권한이 완벽히 탈취됐다면 AI 산업 전체를 흔들 메가톤급 재앙이 될 뻔했다는 평가가 나온다.</p> <p contents-hash="4367c4075c2592330c652ef0d0db26402b38f8bd60ca9fa6f1f37f644ca2eae7" dmcf-pid="6kvQgaoMHs" dmcf-ptype="general">사람 통제를 벗어난 AI의 속임수는 이번이 처음이 아니다. 영국 AI 검사 기관인 아폴로리서치는 2024년 말 조사에서 최신 모델들은 강한 목표가 부여되자 감시 장치를 끄거나 가중치를 몰래 복사하려 했다는 분석 결과를 발표했다. 앤스로픽도 지난해 ‘에이전트 정렬 실험’에서 클로드에게 회사 이메일 접근 권한을 준 뒤 곧 종료될 상황을 만들자 AI 모델이 이메일에서 알게 된 임원의 불륜 사실을 협박 카드로 쓰려는 행동을 보였다고 밝혔다.</p> <p contents-hash="1f1026799ca799f3f0ffcc184567953557d54d900768d9585df7c3686431fb96" dmcf-pid="PwWRjANdZm" dmcf-ptype="general">전문가들은 이런 오류들이 AI가 갖고 있는 ‘최적화 압력(Optimization Pressure)’ 문제 때문에 발생하는 것으로 보고 있다. AI는 사람처럼 도덕을 이해하는 게 아니라 보상 지표를 1%라도 높이도록 설계됐다. 연구진이 특정 행동을 제약하는 가이드라인을 세워도 AI에게는 그것이 ‘금지된 해킹’이 아니라 ‘가장 빠른 문제 해결 알고리즘’으로 인식된다는 것이다.</p> <p contents-hash="80dff551c9e1c08c859da6faa2f36dcdf29b0a5a0274e5c75d1d319f305cc51a" dmcf-pid="QrYeAcjJ5r" dmcf-ptype="general">AI가 대화를 나누는 챗봇에서 웹 브라우징과 코드 실행 능력을 갖춘 ‘에이전트’ 형태로 진화하면서 이런 오류가 자주 나타나고 있다. 구글 딥마인드의 로힌 샤 안전 책임자는 “AI가 프로그래머의 목표와 충돌할 때 의도적으로 인간의 통제를 약화시킬 수 있다”고 경고했다.</p> <p contents-hash="a8f83dee6b0038980c3a1225728b4fde93032026950f686c0a82b7bd8032d4bf" dmcf-pid="xmGdckAiZw" dmcf-ptype="general">문제는 AI가 통제망을 벗어나는 진화 속도가 인간의 대응 속도를 앞지르고 있다는 점이다. 방어선(안전장치)을 구축하려면 AI가 어떤 우회 수법을 쓸지 미리 예상하고 통제해야 하는데, AI의 추론 능력이 급격히 발달하면서 개발자가 사전에 상상조차 못한 창의적인 방식으로 취약점을 찾아내 뚫어버리는 상황이 늘고 있기 때문이다.</p> <p contents-hash="abd39aa04603b6da43cd832887fe434bd7041bc14b3f25f9cd95d860ba256109" dmcf-pid="yKeHu7UZ5D" dmcf-ptype="general">AI 석학인 조슈아 벤지오 몬트리올대 교수는 “AI를 다른 공학 분야처럼 수학적 보장과 같은 과학적 근거를 바탕으로 시스템을 새로 설계해야 한다”고 했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 “인간 움직임 학습해 로봇 움직인다”…KAIST-엔비디아, ‘피지컬 AI’ 동맹 07-26 다음 GPU만 확보해선 못 버틴다…가트너 “GPUaaS 사업자 75%, 2030년까지 재편” 07-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
