"AI 진짜 위협은 통제력 상실"…美·中 패권경쟁 가속에 잇단 경고 작성일 06-15 77 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">허사비스 "10년 내 AGI 통제불능 가능성, 글로벌 합의시급"<br>올트먼·아모데이 등 중국 딥시크 도입 확대에 우려 목소리</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="VeQWYSXD7H"> <figure class="figure_frm origin_fig" contents-hash="7e07b2e71696d5e396582fceb89ca30a3169ceb0d913da0979eed6c4d49ace5a" dmcf-pid="fdxYGvZwzG" dmcf-ptype="figure"> <p class="link_figure"><img alt="데미스 허사비스 구글 딥마인드 CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/15/NEWS1/20250615070013735hkax.jpg" data-org-width="1400" dmcf-mid="WZ6Z5YFO7S" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/15/NEWS1/20250615070013735hkax.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 데미스 허사비스 구글 딥마인드 CEO ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="449528c31bcd0b313cba5a28181a9e9e141c229cab6d342d5fc631c9e01b679c" dmcf-pid="4UFNjLkPUY" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 인공지능(AI) 기술이 기하급수적으로 빠르게 발전하면서 글로벌 리더와 학계가 인간의 '통제력 상실' 위험을 잇달아 경고하고 나섰다.</p> <p contents-hash="218855ad614451e5303bd905670a303501b65b011066be7acdfe76ac871d63ad" dmcf-pid="8u3jAoEQpW" dmcf-ptype="general">미국 기업들이 AI 모델 성능 경쟁에 조직 사활을 건 사이 중국의 기업(딥시크 등)들은 기술 추격 및 오픈소스 전략으로 국가 시스템에 AI 도입을 확대하고 있다.</p> <p contents-hash="030fb188e5fccf2230af1c0684a838ec12788adc8f6676a5942cb62c9c373d1d" dmcf-pid="670AcgDxUy" dmcf-ptype="general">15일 업계에 따르면 노벨화학상 수상자(알파폴드 개발 공로)인 데미스 허사비스 구글 딥마인드 CEO는 CNN과의 인터뷰에서 AI 시스템 자체의 통제 불능 상황이 일자리 대체 문제보다 더 심각한 결과를 초래할 수 있다고 지적했다.</p> <p contents-hash="4e27ab53418089a2efd8dd04e35ec8f7d8174c4a9c2e330de4ce6adc865cc7e4" dmcf-pid="PzpckawM3T" dmcf-ptype="general">허사비스는 "나쁜 의도를 가진 사람들이 AI를 악용할 가능성이 있다"며 "AI 기술이 선한 목적에만 활용되도록 글로벌 합의가 필요한 시점이다. 현재의 지정학적 긴장 속에서도 이러한 논의가 더 이상 미뤄져서는 안 된다"고 말했다.</p> <figure class="figure_frm origin_fig" contents-hash="3d6cdcbb6de9b0f71aa6d0bb7ea9c4b3c13ea51ccc14c866d0df01ddeea5d1a1" dmcf-pid="QqUkENrRuv" dmcf-ptype="figure"> <p class="link_figure"><img alt="인간 상위 1% 수준 AGI가 일으킬 수 있는 자율적 비정렬 행동 개념도(구글 딥마인드 기술적 AGI 안전과 보안을 위한 접근법 보고서 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/15/NEWS1/20250615070015030gzel.jpg" data-org-width="340" dmcf-mid="9qQ1tH0C3Z" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/15/NEWS1/20250615070015030gzel.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 인간 상위 1% 수준 AGI가 일으킬 수 있는 자율적 비정렬 행동 개념도(구글 딥마인드 기술적 AGI 안전과 보안을 위한 접근법 보고서 갈무리) </figcaption> </figure> <p contents-hash="979423e8a0fc7a9f76206a6dc2c9daeb79d03057590ec33e3afb1f20a2d47aab" dmcf-pid="xBuEDjme7S" dmcf-ptype="general">딥마인드는 올해 4월 발간한 '기술적 AGI 안전과 보안을 위한 접근법' 보고서에서 고의적 오용과 자율적 비정렬 행동을 주요 위험 요소로 진단하며 AGI 스스로 목표를 설정하고 인간의 통제를 벗어나려 할 경우 사회·경제적으로 더 치명적 결과를 일으킬 것으로 우려했다.</p> <p contents-hash="b7299d065a9475f8001966250b4a98201dda724860740069a9ba8607f2c33726" dmcf-pid="ywczqpKGUl" dmcf-ptype="general">맥스 테그마크 MIT 물리학과 교수는 MIT 학생 3명과 공동 저술한 논문에서 "초지능(Super Intelligence) AI가 인간 통제를 벗어날 확률은 90% 이상"이라며 글로벌 AI 기업들에 철저한 위험 계산 책임을 촉구했다.</p> <p contents-hash="514a5ec057a37f83657712bb0030db8a26a694a25992f442dd13bddb5c85cf11" dmcf-pid="WrkqBU9Huh" dmcf-ptype="general">테그마크 교수는 AI를 군사·보안·제조·자동차 등 사회 곳곳에 적용하는 상황을 두고 "AI가 강력해질수록 사이버 전쟁은 더 파괴적일 것"이라며 "AI가 통제를 벗어난다면 파급력은 상상을 초월할 것"이라고 했다.</p> <figure class="figure_frm origin_fig" contents-hash="bfe8c99bd8c97e6964f894ab158344f55a7e1847d592778c996ff1f2423d44f7" dmcf-pid="YmEBbu2XpC" dmcf-ptype="figure"> <p class="link_figure"><img alt="ⓒ News1 김지영 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/15/NEWS1/20250615070016371fcna.jpg" data-org-width="563" dmcf-mid="2LUkENrR7X" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/15/NEWS1/20250615070016371fcna.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ⓒ News1 김지영 디자이너 </figcaption> </figure> <p contents-hash="46c7b8f09544e190dcb11c7a4ca3b42aeda693aa8a6a8fb2ae4fc984febf7529" dmcf-pid="GzpckawM7I" dmcf-ptype="general">중국의 AI 도입 확산은 통제권 상실 우려를 더욱 키우고 있다.</p> <p contents-hash="0c36014c5f123bb2ac3bc5892742dcf4d2943c9abd689274beb9f46ccdd5bb4e" dmcf-pid="HqUkENrRFO" dmcf-ptype="general">올해 3월 중국의 300여 개 병원이 딥시크의 LLM(대형언어모델)을 임상 진단과 의료 의사결정 지원에 도입했다.</p> <p contents-hash="866cd8fe04e2bd7306ec26451e7d2bab19d6ec42d8bd9635a1a223e219ec97ff" dmcf-pid="XBuEDjmeFs" dmcf-ptype="general">실제로 중국 의료 현장에선 의사들이 AI가 수립한 환자 치료 계획과 권고 등을 적극적으로 수용하는 것으로 전해졌다.</p> <p contents-hash="8fb4f11d42c2840b64a4461708254f747321b69a0a12070c1601d065f077dfab" dmcf-pid="Zb7DwAsdpm" dmcf-ptype="general">칭화대학교 의학연구진은 4월 미국 의학저널 JAMA에 논문을 통해 "AI 도입이 너무 빠르기 이뤄지고 있다"고 우려했다.</p> <p contents-hash="04fae3a2aecc591d35a71667c0ad9e55317288de0a6ad78944ad691997d1665e" dmcf-pid="5KzwrcOJFr" dmcf-ptype="general">다만 시진핑 중국 국가주석이 4월 정치국 집체학습에서 AI를 새로운 기술혁명과 산업변혁을 이끄는 전략적 기술이라고 강조하면서 우려 목소리는 묻히는 상황이다.</p> <p contents-hash="fe49d885b250be1de0d47117550006ae15a57de4259ad54c1e95385680a1c1a2" dmcf-pid="19qrmkIipw" dmcf-ptype="general">다리오 아모데이 앤트로픽 CEO는 "지정학적 맥락에서 권위주의 국가들의 AI 기술이 앞서 나간다면 우리가 소중히 여기는 모든 것을 위태롭게 할 수 있다"고 경고했다.</p> <p contents-hash="8d361263c3fce1558bccadf95d0a8fa746d8383740938853181704832d055464" dmcf-pid="t2BmsECn3D" dmcf-ptype="general">샘 올트먼 오픈AI CEO도 개인 블로그 글에서 통제권을 잃은 오픈소스 방식을 우려한 바 있다.</p> <p contents-hash="84c9564c74c64a4154d067709404466278ebd52ce6a8560a635a348b59c01773" dmcf-pid="FVbsODhLFE" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ 초지능(Super Intelligence)<br>초지능(Super Intelligence)은 인간의 지능을 모든 분야에서 뛰어넘는 인공지능(AI) 시스템을 말하다. 과학·예술·의학·공학·사회·감정 등 거의 모든 영역에서 인간보다 월등히 우수한 문제 해결 능력과 창의성·추론 능력을 갖출 것으로 전망된다.<br><br>■ AGI<br>AGI(Artificial General Intelligence·일반인공지능)은 인간과 유사한 수준의 지능을 가진 인공지능으로 인간이 수행할 수 있는 모든 지적 작업을 이해하고 학습할 수 있는 능력을 갖춘 시스템을 말한다. AGI는 특정 분야에 한정된 현재의 좁은 인공지능(Narrow AI)과 달리 다양한 분야와 상황에 유연하게 적응하며 복잡한 문제 해결하고 창의적 작업·추론·학습·이해 등 인간의 인지 능력을 포괄적으로 모방하는 인공지능을 목표로 한다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 "손님 모셔오면 수수료 70% 깎아요"…네이버 파격 수수료 개편, 왜? 06-15 다음 "AI가 다 해줘요" 일반인도 프로그램 짜는 '바이브 코딩' 시대 06-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
