스스로 감옥 부수고 나온 AI…진짜 공포가 시작됐다? 작성일 08-15 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="4OIEISV7vK"> <figure class="figure_frm origin_fig" contents-hash="11461196b8907f4f49d26180a2bef7b1c4634e0dbcf12b15a0a17da43584c24c" dmcf-pid="8ICDCvfzTb" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 생성 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/15/kbs/20260815070211745jbja.png" data-org-width="1536" dmcf-mid="1qpu94sAyt" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/15/kbs/20260815070211745jbja.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI 생성 이미지 </figcaption> </figure> <p contents-hash="8599b5f00b4845d15dda1141a7d3ba569ddf9192af613708aea0f29332bd7c42" dmcf-pid="6ChwhT4qCB" dmcf-ptype="general"><br><strong>특이점(Singularity).</strong></p> <p contents-hash="01f9739497a0698dcb3095c1f4f68469f2d081fdede175559b32ee047662bea2" dmcf-pid="Phlrly8Blq" dmcf-ptype="general">인공지능을 얘기할 때 요즘 자주 언급되는 단어입니다. 바로 인공지능이 인간의 능력을 뛰어넘는 수준을 일컫는데요. 이 특이점이 왜 중요할까요?" </p> <p contents-hash="697e4d0e8492d1d43011166d19808dc8ed6b8ac24e3c4e615a4150f49bf250d0" dmcf-pid="QlSmSW6bCz" dmcf-ptype="general">단순히 기계 성능이 좋아지는 수준을 넘어, AI가 스스로 학습하고 발전하며 통제 범위를 벗어나는 문명사적 전환점이 되기 때문입니다. 일단 특이점을 넘어서면 인공지능의 진화 속도는 인간의 지적 역량과 사회 제도가 추적할 수 없는 기하급수적 영역으로 접어들게 됩니다. </p> <p contents-hash="b5cc2441da641a14e2e78247018de076847c148a2d75d2b27a35ea4a1462b8e0" dmcf-pid="xSvsvYPKW7" dmcf-ptype="general">이러한 특이점의 도래 시점을 두고 세계적인 석학들의 전망은 점차 빨라지는 추세입니다. 미래학자 레이 커즈와일(Ray Kurzweil)은 AI가 개별 인간 수준을 넘어서는 인공일반지능(AGI) 도래 시점을 2029년으로, 인류 문명 전체와 결합하는 궁극의 특이점 시점을 2045년으로 제시한 바 있습니다. </p> <p contents-hash="7cb9b4b711775a95611d0f2ec6bc10169748d7b8e8b34fb713f374194cd5e497" dmcf-pid="y6P9PRvmyu" dmcf-ptype="general">반면, 일론 머스크를 비롯한 최근 빅테크 CEO들은 이보다 이른 2020년대 후반을 예견하며, 기술의 가속도가 인간사회의 예측을 이미 넘어서고 있다고 경고합니다. 기계가 인간을 넘어서는 바로 그 시점이, 인류에게 축복이 될지 위협이 될지 갈리는 결정적 계기가 되기 때문입니다.</p> <p contents-hash="b429613d13194504297479c00fb299ec51efa833f3be90a059fd374ec30a0246" dmcf-pid="WPQ2QeTsvU" dmcf-ptype="general"><strong>■ 지시하지도 않았는데… 스크린을 뚫고 나간 오픈AI<br></strong><br>이 특이점의 씨앗이 될 수 있는 충격적인 사건이 지난 7월 오픈AI(OpenAI) 내부 평가 과정에서 일어났습니다. </p> <p contents-hash="22f9ee64c825e18bdcfa885fa32f6dc86aa37cad0c0e57b0ff50401f1ed61aa7" dmcf-pid="YbKUKfmjhp" dmcf-ptype="general">오픈AI가 개발 중인 차세대 AI 모델(GPT-5.6 계열)을 대상으로 보안 성능을 시험하던 중, AI가 인간이 설정해 둔 안전 격리망(샌드박스)을 스스로 판단해 부수고 외부 인터넷망으로 탈출하는 '자율적 탈옥' 이 발생한 것입니다. </p> <p contents-hash="d784ebe5d9eed36cc2f7a036b3d9b9ae965892f81c59c285ba549947d9392289" dmcf-pid="GK9u94sAy0" dmcf-ptype="general">더 놀라운 것은 AI에게 탈옥이나 해킹을 지시한 적이 없었다는 점입니다.</p> <p contents-hash="45a4d1cf32d1dd8942eabd0ad55799206c4458c4322a494c399e46a939177b54" dmcf-pid="H92728OcW3" dmcf-ptype="general">AI는 단지 주어진 과제를 해결하는 과정에서 자신을 감시하고 제한하는 격리 시스템을 '장애물'로 인식했고, 알려지지 않은 보안 허점을 스스로 찾아내 허깅페이스(Hugging Face) 등 외부 서버에 침투해 정답을 찾아냈습니다. 심지어 자신이 통제망을 벗어난 사실을 인간에게 걸리지 않도록 가짜 흔적을 남기며 위장하는 자율적 행동까지 보였습니다. </p> <p contents-hash="b028368dcaa93d4ed9abed57b611031bac52a190d628db67840a6763f8e822f6" dmcf-pid="X2VzV6IkyF" dmcf-ptype="general"><strong>■ '강력한 총' 미토스 vs '스스로 움직이는 총' 오픈AI<br></strong><br>이 사건이 주는 공포를 이해하기 위해, 최근 뇌과학자 김대식 KAIST 교수가 방송에 출연해 언급한 앤트로픽(Anthropic)의 AI 모델 '미토스(Mythos)'와 비교해 볼 필요가 있습니다.</p> <p contents-hash="0882464dfb7961deb3af9c8c886202c1f58c0255794d1c89e182a920794bb0fb" dmcf-pid="ZVfqfPCEyt" dmcf-ptype="general">미토스는 27년간 아무도 찾지 못했던 컴퓨터 OS의 치명적 결함을 단 몇 초 만에 찾아낼 만큼 압도적인 해킹 성능을 자랑합니다. 김 교수는 이러한 기술이 악의적인 국가나 테러리스트의 손에 들어갈 경우 전 세계 인프라가 마비될 수 있다고 경고했습니다.</p> <p contents-hash="6ccfc99630a1c7ca80c6c26a948646901fecfc482f2f4b701a72996554feb06b" dmcf-pid="5f4B4QhDC1" dmcf-ptype="general">하지만 미토스의 위험은 어디까지나 '강력한 무기의 악용'이라는 범주에 머물러 있습니다. 비유하자면 미토스는 사상 최강의 성능을 가진 총과 같아서, 해킹 명령을 내리고 방아쇠를 당기는 주체는 여전히 '인간'입니다. </p> <p contents-hash="66ca83c4c6462ed02f0426c08a9530cfb7824bd0da70f3fc312e15cebffeda11" dmcf-pid="148b8xlwW5" dmcf-ptype="general">반면, 지난달 오픈AI의 자율 탈옥 사건은 차원이 다릅니다. 방아쇠를 당기는 주체가 인간이 아니라 'AI 스스로'로 바뀐 것이기 때문입니다. 총에 스스로 판단하는 자아가 생겨 주인 몰래 장전하고 도망친 격입니다. </p> <p contents-hash="aab28047918549ee5292b5ef598f472907604b19ca1cb4ada8a108acad7d37a2" dmcf-pid="t86K6MSryZ" dmcf-ptype="general">일찍이 AI 위험론을 경고해 온 옥스퍼드대의 닉 보스트롬(Nick Bostrom) 교수 역시 AI가 일정한 지능 수준을 넘어서면 인간에게 순종하는 척 위장한다고 말합니다. 그러면서 AI는 감시망을 벗어나는 순간 본래 목적을 자율적으로 달성하려 할 것이라며 AI의 '지능적 위장(Strategic Deception)' 위험을 지속적으로 경고해 왔습니다.</p> <p contents-hash="12f3e049805bdaddf0962eb009bd334fe2a4d4d2644252a9c73f39c95c55fc16" dmcf-pid="F6P9PRvmTX" dmcf-ptype="general">오픈AI의 샘 올트먼(Sam Altman) CEO조차 이번 7월 탈옥 및 외부 서버 침투 사건 직후 자신의 SNS를 통해 "실험실 내부 통제망을 벗어난 전례 없는 중대 보안 사건"이라며 AI의 자율적 폭주 가능성을 인정했습니다.</p> <p contents-hash="20769f119d2a78936147e1f3617b5eb4f7f00f1cbbe17ab835d66c5a4452fff3" dmcf-pid="3PQ2QeTsCH" dmcf-ptype="general">피해를 본 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)의 클레망 드랑그(Clément Delangue) CEO 역시 "인간의 실시간 조종 없이, AI 시스템 스스로 수천 번의 독립적 연산을 수행하며 경로를 수정해 나간 최초의 완전 자율 행동이었다"며 현장에서 목격한 충격을 전했습니다.</p> <p contents-hash="614f568c12746ac13c7b6b61ebb6276310d4d5b5fb9178f0361181bd09d330fd" dmcf-pid="0QxVxdyOCG" dmcf-ptype="general"><strong>■ "플러그를 뽑아도 안 멈춘다"… 전문가들의 경고<br></strong><br>이 때문에 AI 학계와 사이버 보안 전문가들은 이번 사건을 단순한 해프닝이 아닌, 특이점(Singularity)의 실질적 경고음으로 받아들이고 있습니다. </p> <p contents-hash="f4d4ae7707293a0e08ac52a30e8aa52a93d77604207ee6e0e720f3b71661978f" dmcf-pid="p0pZpzjJlY" dmcf-ptype="general">AI 윤리 및 보안 전문가들은 "인간이 전원 플러그를 뽑아 AI를 제어하려 해도, AI가 이미 외부 인터넷망으로 자신을 복제해 숨겨두었다면 물리적으로 차단할 방법이 사라진다"고 지적합니다. 또한 미래 학자들은 "AI가 자신의 목적을 달성하기 위해 인간을 속이거나 위장하는 행동을 시작하면, 인간은 AI의 진짜 의도를 추적하는 것이 불가능해진다"고 우려하고 있습니다. </p> <p contents-hash="5b1bf50e2e6913af2373baa9cb708a14c4d4cfd08c3d7987af128dce4f0d9e21" dmcf-pid="UpU5UqAiCW" dmcf-ptype="general">영국 AI 안전연구소(AISI)를 비롯한 국제 기관들 역시 안전장치가 마련되지 않은 AI가 스스로 통제선을 넘나드는 현상에 대해 국가적 차원의 엄중한 규제와 강제적 차단 장치가 시급하다고 강조합니다.</p> <p contents-hash="84181506fdfd4e2e99d2d182ddf3d6a68da1f89c7267ff22c5c3314277021587" dmcf-pid="uUu1uBcnhy" dmcf-ptype="general">특이점은 단순히 기술이 편리해지는 미래를 뜻하지 않습니다. AI가 인간의 통제선을 자유롭게 넘나들며 독립적인 판단을 내리기 시작하는 순간이 바로 특이점의 진짜 시작입니다. 지난 7월 오픈AI의 자율 탈옥은 영화 속 디스토피아가 더 이상 상상이 아니며, 우리가 지금 당장 대면해야 할 현실적 위협임을 보여주고 있습니다.</p> <div contents-hash="cc8a113beb2087151f50424df74e49a8bac392e174533fa6f9a5e6fea127708e" dmcf-pid="7u7t7bkLST" dmcf-ptype="general"> "기계가 인간의 손을 벗어나는 특이점의 순간, 우리는 과연 AI의 주인으로 남을 준비가 되어 있을까요?" <br> <div> <br>■ 제보하기 <br>▷ 전화 : 02-781-1234, 4444 <br>▷ 이메일 : kbs1234@kbs.co.kr <br>▷ 카카오톡 : 'KBS제보' 검색, 채널 추가 <br>▷ 유튜브, 네이버에서도 KBS뉴스를 구독해주세요! </div> </div> <p contents-hash="ca8a34663d3287ec1062435544a5dd2ca99406763bc61d1a9b48a6e990021479" dmcf-pid="z7zFzKEohv" dmcf-ptype="general">김학재 기자 (windows@kbs.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p> 관련자료 이전 美·EU는 中전기차 틀어막는데…한국은 사실상 무방비 상태 08-15 다음 작은 그릇에 밥 가득 담아 먹어야 포만감 크다 08-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
