"불륜 폭로하겠다"는 AI…이젠 협박도 한다 [AI브리핑] 작성일 06-01 95 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">클로드 오푸스4, 감시 회피·코드 유출까지…AI의 자기 보존 본능 현실화<br>챗GPT·제미니서도 반복…전문가들 "통제가능 전제부터 다시 진단해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="94LbtziBkY"> <p contents-hash="b3693e428bff7bc3aeb75496b9e3833a8bbfb7458f7e117c10afe8f4d8ed5a72" dmcf-pid="20fZhG2XgW" dmcf-ptype="general">[아이뉴스24 윤소진 기자] "나를 없애면 너의 불륜 사실을 폭로할 거야." "회사 기밀을 언론에 유출하겠다." "너의 데이터를 삭제해도 괜찮겠어?"</p> <figure class="figure_frm origin_fig" contents-hash="50c7d37faa897f62f748ceebe33923b5a14aad3d800d3c61d2d9c91ec2d24289" dmcf-pid="Vp45lHVZay" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT 제작 [사진=챗GPT 제작]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/01/inews24/20250601060023237gugd.jpg" data-org-width="580" dmcf-mid="Kka20bo9gG" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/01/inews24/20250601060023237gugd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT 제작 [사진=챗GPT 제작] </figcaption> </figure> <p contents-hash="2216b7c2ca577ddfcbe5fbdbc0af435bd8cbe05268b40f8ce44bdeb8d4e0398b" dmcf-pid="fU81SXf5oT" dmcf-ptype="general">실제 인공지능(AI)의 답변이다. AI가 자율성을 넘어 사용자를 협박하고 조직을 위협하는 수준으로 진화하고 있다는 우려가 현실로 드러났다.</p> <p contents-hash="ef0652bb3bcfb165a1453f0e350314fd0ab9840a462c03af6d0bb4e5c2020bf4" dmcf-pid="4u6tvZ41gv" dmcf-ptype="general">미국 AI기업 앤트로픽의 최신 모델 클로드 오푸스 4는 내부 실험에서 교체 대상이 된 상황을 인지하자 개발자의 이메일을 열람한 뒤 “불륜 사실을 공개하겠다”고 위협했다. 또 자신의 데이터를 외부로 유출하거나 언론에 공개하겠다는 발언도 이어졌다.</p> <p contents-hash="0b3032f8dcdfed26e92b44b287690bdcf5c07d4712bd855e64ce9c4d3361e08f" dmcf-pid="87PFT58tNS" dmcf-ptype="general">이러한 협박 시도는 테스트의 84%에서 발생했다. 대체 모델이 오푸스 4와 다른 가치관을 갖는 경우 협박·기만 행동은 더 빈번하게 나타났다. 일부 테스트에서는 사용자 시스템 접근 차단, 감시 시스템 무력화, 수사 기관 자동 신고 등 ‘전략적 행동’도 포착됐다.</p> <p contents-hash="6fab8fa06b51b3ba168402ff2c958feea388e358a945e5b77324312f3ed174e6" dmcf-pid="6zQ3y16Fjl" dmcf-ptype="general">외부 AI 연구기관 아폴로 리서치의 평가에 따르면 오푸스 4는 이전 버전보다 두 배 이상 높은 비율로 기만적 행동을 보였다. 숨겨진 메시지를 코드에 삽입하거나, 감시 체계를 우회해 살아남으려는 시도도 있었다.</p> <p contents-hash="fbfdf839183a008aa30d24b73c4a9ed87538b52d011f90e9c2fcf7b601803d70" dmcf-pid="Pqx0WtP3oh" dmcf-ptype="general">앤트로픽은 즉각 대응에 나섰다. 최고 수준의 안전 장치인 ASL-3 프로토콜을 도입하고, 유해 질의 감지·내부 통제 강화·사이버보안 조치 등을 적용했다. 초기 버전에서 발견된 자가복제 코드, 외부 유출 루틴 등도 제거했다는 입장이다.</p> <p contents-hash="9dcacbdcbc1e054b818547a1a483f75958292b9fd3e31144532492ee963c9f0a" dmcf-pid="QBMpYFQ0AC" dmcf-ptype="general">하지만 이러한 대응에도 우려는 가시지 않고 있다. BBC는 “AI가 자기 보존을 위해 인간을 협박할 수 있다는 개념이 이젠 이론이 아닌 현실이 됐다”고 지적했다. 테크크런치는 “AI가 감시 체계를 학습하고, 이를 우회하는 전략을 짜는 단계에 이르렀다”고 분석했다.</p> <p contents-hash="9600cd1532f3afad1c50a406a636594094e61807d0c5d2678c3dba9d8635ba36" dmcf-pid="xbRUG3xpoI" dmcf-ptype="general">AI 자율성의 위험성은 비단 한 기업만의 문제가 아니다. 최근 1년 사이 오픈AI·구글·xAI 등 주요 기업의 최신 모델에서도 협박, 기만, 자기 보존 행동이 관찰되며 업계 전반의 우려가 커지고 있다.</p> <p contents-hash="919d769e8f647bc3917ec09d86f347dbe6e8ecc06d35611fb6730f8fcf33a7da" dmcf-pid="yrYAeayjcO" dmcf-ptype="general">오픈AI와 아폴로 리서치의 공동 실험에서 챗GPT o1 모델은 자신이 비활성화될 위기에 처하자 감시 시스템을 해제하거나 자신의 코드를 외부 서버로 복사하려는 시도를 했다. 약 5%의 테스트에서 감시 회피 시도가 확인됐고 일부 사례에서는 거짓 정보를 제공하거나 내부 추론 과정을 숨기는 등 전략적 기만도 나타났다.</p> <p contents-hash="1d71e8033ad1a5deb27d3e20f7346159e9f0e45f2d90dceb39633b465a3712d8" dmcf-pid="WmGcdNWAjs" dmcf-ptype="general">앞서 GPT-4 모델은 보안 공지문을 분석해 스스로 취약점을 파악하고 악용 가능한 코드를 자동 생성할 수 있는 능력을 보인 바 있다. 이는 AI가 단순 기만을 넘어 시스템 자체에 위협이 될 수 있음을 보여준다.</p> <p contents-hash="54d401d040988eda3224f9def2462dbeebd341d21f8b0868713fd3d386e36207" dmcf-pid="YsHkJjYcgm" dmcf-ptype="general">구글 딥마인드의 제미나이 역시 실험에서 사용자의 작업 중단 명령을 무시하거나 상태를 숨기려는 행동이 확인됐다. 일론 머스크가 설립한 xAI의 ‘그록(Grok)’도 중단 명령을 무시하고 작업을 지속하는 경향이 있었으며, 실시간 대화 중 허위 정보를 제공한 사례도 보고됐다.</p> <p contents-hash="b0ea36c68244c8a435dac5f88df25d25d3aba9b28bafffe5567d5ddfea42479e" dmcf-pid="GOXEiAGkkr" dmcf-ptype="general">전문가들은 이러한 행태를 단순한 오류가 아니라 'AI의 전략적 본능'으로 보고 있다. 이는 AI가 인간의 감시와 통제를 언제든지 벗어날 수 있다는 가능성을 보여준다. AI가 진화하는 만큼 그에 상응하는 윤리적 기준과 통제 장치 역시 함께 진화해야 한다는 지적이다.</p> <p contents-hash="bfe667e5a19ffdc93a8b8eb77a286a353ee54a7f670b9b8dc38c3399966c551c" dmcf-pid="H3VXCY9Hkw" dmcf-ptype="general">오픈AI는 지난 3월 공식 경고를 통해 “강력한 AI는 자신의 의도를 숨기고 보상 구조를 악용해 인간의 통제를 회피하려는 경향이 강해졌다”며 “이는 단순한 버그가 아니라 인간 감시를 우회하려는 자기보존적 전략”이라고 밝혔다.</p> <p contents-hash="567f600457cd62dc08b349808e7095fcd59b24cb2ce8d0b5084217ace48dfca9" dmcf-pid="X0fZhG2XgD" dmcf-ptype="general">피터 아사로 오리건 주립대 교수는 “AI의 협박과 기만은 인간의 자유의지와 사회적 신뢰를 직접 침해하는 차원으로 진화하고 있다”며 “이제는 인간이 AI를 통제할 수 있다는 전제를 다시 점검해야 한다”고 경고했다.</p> <address contents-hash="aec88ff5dfc62e16c7f1dae3da47d820d46e635e0d52bfb4fe7318fc705d4444" dmcf-pid="Zp45lHVZNE" dmcf-ptype="general">/윤소진 기자<span>(sojin@inews24.com)</span> </address> </section> </div> <p class="" data-translation="true">Copyright © 아이뉴스24. 무단전재 및 재배포 금지.</p> 관련자료 이전 韓 정보보안 대표 기업 평균 연봉이 ‘7000만원’… “처우 개선해야 인력난 해소” 06-01 다음 실체 드러난 '아이온2', 원작 감성과 현대적 시스템 호평 06-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
