터미네이터 공포 현실로?…“5년 내 ‘AI 재앙적 결과’ 확률 20% 이상” 작성일 07-29 12 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">미 MIT·호주 퀸즐랜드대 연구 결과<br>24개 항목 중 18개 항목에서 10% 이상 평가<br>미토스는 인터넷표준 암호체계서 취약점 발견</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QiPqeDkLSQ"> <figure class="figure_frm origin_fig" contents-hash="e00953fe3736586c70af159ee8ab9ec08443cf4a58b99d2b9bdd62b0e50d20a5" dmcf-pid="xnQBdwEovP" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 그린 일러스트." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/29/dt/20260729162443437qcfz.png" data-org-width="640" dmcf-mid="PNfUQANdWx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/29/dt/20260729162443437qcfz.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 그린 일러스트. </figcaption> </figure> <p contents-hash="9a379be340f67fd7594793da13ff5e4da5ec72d13777931674e900f333e08647" dmcf-pid="y5TwHBztT6" dmcf-ptype="general"><br><span>영화 ‘터미네이터’에 등장한 ‘스카이넷’이 인류를 멸망시킨 것처럼 인공지능(AI)이 5년 내에 수백만명을 사망케 하거나 수백조원에 육박하는 경제적 손실을 야기할 수 있다는 예상이 제기됐다.</span></p> <p contents-hash="be90e13de6e229bb2f85c0645dd93615e93bd888ae34c02695af1334bb665a9f" dmcf-pid="W1yrXbqFl8" dmcf-ptype="general">27일(현지시간) 미 인터넷 매체인 악시오스에 따르면 미 매사추세츠공과대(MIT)의 학제간 연구그룹 ‘퓨처테크’와 호주 퀸즐랜드대 연구진이 전 세계 AI 전문가 272명을 상대로 지난해 말 실시한 델파이 기법 조사에서 AI가 재앙적 결과를 초래할 확률이 20% 이상이라는 결과가 나왔다.</p> <p contents-hash="5b8ea895a4100781f6b342383499159633a125d01e6bfe3015b55c73f162354d" dmcf-pid="YtWmZKB3T4" dmcf-ptype="general">연구진은 전문가들에게 AI 위험을 24개 유형으로 나누고 기업들이 현재 경로를 계속 유지한다는 가정 하에 각 유형별 위험에 대한 발생 확률, 심각성, 분야와 행위자 취약성, 행위자 책임성, 전체적 우려 등을 평가해달라고 요청했다.<span></span></p> <p contents-hash="7f7cb42bb763db71c88a3a2112ed549993ebf6753c14be33578316a164f3359c" dmcf-pid="GFYs59b0hf" dmcf-ptype="general"><span>이번 연구에서는 </span>△<span>100만명을 초과하는 사망자를 발생시키는 경우 </span>△<span>경제적 손실 금액이 1000억달러(145조5000억원)를 초과하는 경우 </span>△<span>예를 들어 민주주의 규범 붕괴 등 문명 규모의 무형적 영향을 초래하는 경우를 ‘재앙적 결과’로 정의했다.</span></p> <p contents-hash="4affebc59f63844d409a73e956c5eb2c976f0180a8f6e80f4e3a5e65c4429c87" dmcf-pid="H3GO12KpSV" dmcf-ptype="general">연구 결과에 따르면 2025년부터 2030년까지 재앙적 결과가 발생할 확률이 10% 이상으로 평가된 항목이 24개 항목 중 18개였다. 그 중<span> </span>△<span>위험한 능력을 보유한 AI(21.5%) </span>△<span>사이버 공격, 무기 개발 또는 사용 </span>△<span>대규모 피해(21.0%) </span>△<span>권력 집중 및 혜택의 불공정한 분배(18.0%) </span>△<span>경쟁적 역학 관계(16.6%) </span>△<span>허위 정보 또는 오해를 불러일으키는 정보(12.8%)가 특히 높은 위험으로 꼽혔다.</span></p> <p contents-hash="bead983570a917c7d1df17855a87f106fcb0c5094386044fb068cef668a034a4" dmcf-pid="XXSEYzu5h2" dmcf-ptype="general">최근 글로벌 AI 모델들이 보안 이슈를 일으키면서 이 같은 우려가 더욱 확산할 것으로 전망된다.</p> <p contents-hash="01b36e89f33bff13e2e96ecd1c2a9ee943881c819dc15dd0c51780e91b68faa3" dmcf-pid="ZZvDGq71S9" dmcf-ptype="general">실제 앤트로픽의 최신 모델인 ‘미토스’가 인터넷 표준 암호 체계를 무력화할 가능성이 있다는 연구 결과가 나왔다. 회사는 28일(현지시간) 미토스 프리뷰 버전이 고급 암호화 표준(AES)의 열화 버전을 공격하도록 실험한 결과, 취약점을 찾아냈다고 밝혔다.</p> <p contents-hash="6ea6e9b8e0adae6392574fd9507881d1976117039c8d8d66744fe864323731f5" dmcf-pid="55TwHBztyK" dmcf-ptype="general">AES는 금융거래, 메신저 보안, 국가 기밀 보호 등 여러 영역에서 해킹을 막는 안전 표준으로 이번 열화 버전은 실험을 위해 보안 강도를 낮춘 모의 버전이다. 미토스는 AES 열화 버전을 상대로 인간 전문가보다 200배에서 최대 1000배까지 더 빠르게 공격 취약점을 파악했다고 전해졌다.</p> <p contents-hash="6ecbcabee7e862eb91f656c5349779e493e6864cb0154719d20b5e14340bc23d" dmcf-pid="11yrXbqFlb" dmcf-ptype="general">앤트로픽은 이번 결과로 AI가 인터넷 서비스 운영 환경에 미치는 영향은 없을 것이라고 설명했지만, 고성능의 AI가 AES를 공략할 수 있다는 가능성이 발견됐다는 의미가 있다.</p> <p contents-hash="06b913dab2ed776d05d9c7c3ce880216ad00665b389b223523f3e058ad44c3a9" dmcf-pid="ttWmZKB3hB" dmcf-ptype="general">뉴욕타임스(NYT)는 과거 연구에서는 대형언어모델(LLM)들이 암호학 분야에서 인간을 앞지르지 못하는 것으로 알려졌지만, 이제 이런 인식이 틀렸다는 사실이 드러나면서 중장기적으로 큰 논란이 예상된다고 밝혔다.</p> <p contents-hash="f63f9cc4dbeacef7994e4e9af6cf354723dcd6566e89699c3a52fa67a424b739" dmcf-pid="FFYs59b0Tq" dmcf-ptype="general">AI의 가파른 발전 속도를 고려하면 향후에는 AI 모델들이 인터넷 생태계의 보안을 쉽게 무너뜨릴 수 있다는 것이다.</p> <p contents-hash="0af92b7cef668654f31a2e1a721f130994678b1298f6c8058cf125a146d0b317" dmcf-pid="33GO12Kphz" dmcf-ptype="general"><span>아울러 미토스는 양자컴퓨팅 시대의 차세대 암호 체계로 거론되는 ‘호크’(HAWK) 알고리즘의 보안상 결점도 탐지해 냈다.</span></p> <p contents-hash="a994ce37e851c55a2865d9dc835518162b4e23d7bdf656a5d4758b49e8d96bca" dmcf-pid="00HItV9US7" dmcf-ptype="general">실험에 참여한 니콜라스 칼리니 앤트로픽 연구원은 NYT와의 인터뷰에서 “지난해만 해도 AI는 내가 16살 때 풀 수 있었던 수준의 암호 문제도 해결하지 못했다”며 “하지만 지금 AI는 학계에서 발견된 적이 없는 첨단 연구를 직접 수행하는 수준이 됐다”고 설명했다.</p> <p contents-hash="0c3fd0787e28110e095d00858946c7fb518bba85eae5a00ace1b38d0116aea4b" dmcf-pid="ppXCFf2uCu" dmcf-ptype="general">AI 해킹 위협은 지속적으로 대두되고 있다. 오픈AI의 모델들은 최근 회사의 격리·통제를 벗어나 수일간 허깅페이스를 공격했고, 여기서 확보한 취약 코드를 악용해 모달랩스의 고객 시스템에도 침입했다.</p> <p contents-hash="298b0a4832c530d4a971bfb31df5210ee167ec918f81edcadd12a2ce08b05b10" dmcf-pid="UUZh34V7lU" dmcf-ptype="general">악시오스는 “AI의 행동 방식과 그에 대한 여론은 시장을 뒤흔들고 담론을 순식간에 바꿔놓을 수 있으며 심지어는 재앙적인 시나리오로 이어질 수도 있다”고 설명했다.</p> <p contents-hash="a4635968d5d107cefb88451b2d90673b92d0db8108dea17d4adba8c14ecc5c14" dmcf-pid="uu5l08fzyp" dmcf-ptype="general">김영욱 기자 wook95@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 코오롱베니트, 경영·재무·제조 아우른다…자체 솔루션 강화 07-29 다음 NASA “달 기지 건설서 한국과 통신·착륙선·모빌리티 분야 협력할 것” 07-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
