‘인간 초월’ 초지능 AI 패권 경쟁 격화… “통제 실패 땐 인류 위기” 우려도 작성일 11-07 78 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">초지능 선점 나선 빅테크<br>‘AI 대부’ 힌튼 교수 위험성 경고</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fGgGthRfjR"> <figure class="figure_frm origin_fig" contents-hash="03141cf0f1cfa1035a2c43f32651c85f74a4e57acc6a99de31142d9359be2c91" dmcf-pid="4HaHFle4oM" dmcf-ptype="figure"> <p class="link_figure"><img alt="일러스트=챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/07/chosunbiz/20251107171849435kobc.jpg" data-org-width="1536" dmcf-mid="Vykeo4YCje" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/07/chosunbiz/20251107171849435kobc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 일러스트=챗GPT </figcaption> </figure> <p contents-hash="9af39ffe7608d3985da492e25189f926cd2f399eca781f2f672f5a6c3ce8bb48" dmcf-pid="8XNX3Sd8kx" dmcf-ptype="general">인간 수준의 지능을 갖춘 범용인공지능(AGI) 시대가 빠르면 수년 내 열릴 것이란 전망이 나오는 가운데, AGI를 넘어선 초지능 인공지능(AI)의 위험을 경고하는 목소리가 커지고 있다. 이미 AI가 일자리를 뺏어가면서 기업들이 대규모 감원에 나서는 상황에서 인간 지능을 능가하는 초지능 AI가 등장하면 인류의 존립 자체가 위협받을 수 있다는 게 비관론자들의 주장이다.</p> <p contents-hash="e055f564f9cdbcf89402e91e0fbf59cd502367a4c69d43c22bba79b1134a9ec7" dmcf-pid="6ZjZ0vJ6cQ" dmcf-ptype="general">AI 석학들의 경고에도 오픈AI, 마이크로소프트(MS), 메타, 앤트로픽 등 AI 기업들은 초지능 개발 속도를 내고 있다. 이들은 초지능 AI에 먼저 도달하는 기업이 빠르게 팽창하는 AI 산업 주도권을 쥘 것이라고 보고, 관련 연구에 천문학적인 자금을 투입하고 있다.</p> <p contents-hash="644edcc099e0fd480acdfe88e763dca1f0df4a2e7c2038e23215effdea0ed0f9" dmcf-pid="P5A5pTiPAP" dmcf-ptype="general"><strong>◇ 메타 이어 MS까지 초지능 전담 팀 설립</strong></p> <p contents-hash="e4d28adfca7ab8cb8b371f17d3fbb035a6662aaac1ccd75cdc14d31e2396f1f9" dmcf-pid="Q1c1UynQa6" dmcf-ptype="general">7일 MS는 초지능 연구를 전담할 팀을 신설한다고 밝혔다. 무스타파 술레이만 MS AI 최고경영자(CEO)는 이날 공식 블로그를 통해 ‘MAI 슈퍼인텔리전스 팀’의 설립을 발표하면서 “모호하고 비현실적인 초지능이 아니라 인류를 위해 봉사하도록 명확히 설계된 실용적인 기술을 만들겠다”고 말했다. 그는 “MS는 인간 중심의 초지능(Humanist Superintelligence·HSI) 지향한다”며 세계에서 가장 뛰어난 AI 연구소를 만들겠다고 선언했다. 인간을 돕는 HSI의 예시로는 ‘AI 동반자’와 ‘의료 초지능’, ‘청정에너지 AI’ 등을 꼽았다.</p> <p contents-hash="74b6013abf8c6caa228a3b1020c6c21ab2685e5889208e5a800fd2a14655f000" dmcf-pid="xtktuWLxg8" dmcf-ptype="general">이번 결정은 인스타그램·페이스북 모회사 메타가 지난 7월 초지능 연구소를 세운 뒤 약 4개월 만에 나온 것으로, AI 패권 경쟁이 심화되는 양상이다. 메타는 구글, 오픈AI 등과의 경쟁에서 뒤처지자, 초지능을 개발하겠다는 승부수를 던졌다. 이를 위해 유망 AI 스타트업 스케일AI를 143억달러에 인수하고 업계 최고 AI 인재를 수억달러에 달하는 보상 조건을 내세워 잇따라 영입했다.</p> <p contents-hash="4acf15cba08f616d9a9141cfce960a192487a17c3530abbe825d75a4029868db" dmcf-pid="yo7ocM1yj4" dmcf-ptype="general">챗GPT 개발사 오픈AI는 회사의 본질을 ‘초지능 연구 회사’로 명명했다. 샘 올트먼 오픈AI CEO는 6일(현지시각) 자신의 X(옛 트위터)에 올린 장문의 글에서 “우리의 목표는 AI를 통해 치명적 질병을 치료하는 등 어려운 문제를 해결하는 데 시간이 더 지체되지 않도록 하는 것이며, 가능한 한 빨리 AGI의 혜택을 인류에 제공하는 것”이라고 했다. 그는 오픈AI가 앞으로 8년간 인프라 투자에만 1조4000억달러(약 2000조원)를 투입할 것이라고 했다.</p> <p contents-hash="b9f3679977e97de074c60ac43c4ec473dfe19fa6089f5eb48186138e399cdeb7" dmcf-pid="WgzgkRtWcf" dmcf-ptype="general">구글과 오픈AI 경쟁사인 앤트로픽도 관련 연구를 지속하고 있다. 데미스 허사비즈 구글 딥마인드 CEO는 “5~10년 안에 AI가 인간 수준의 지능에 도달할 것”이라고 했고, 다리오 아모데이 앤트로픽 CEO는 빠르면 내년 AGI 달성이 가능할 것이라고 전망했다.</p> <p contents-hash="29671a9df9da63d0ec45b16c6f391fc93876cd9775b7dfc895af8ea08f781c5b" dmcf-pid="Yd3dg8GhgV" dmcf-ptype="general">알리바바, 딥시크 등 중국 AI 기업들도 “AGI를 최우선 목표”로 두고 있다고 발표했다. 에디 우 알리바바 CEO는 “가장 중요한 목표는 AGI에 도달하는 것”이라며 “지능의 한계를 확장하는 모델을 계속 개발하겠다”고 말했다.</p> <p contents-hash="f06d30106b46cb7b909e145b6f7d460ee530dd252b3275ea07452e094bdd7177" dmcf-pid="GJ0Ja6Hlo2" dmcf-ptype="general"><strong>◇ AI 석학들도 “AGI 시대 임박”… 통제 벗어난 초지능 위험도 경고</strong></p> <p contents-hash="f4a3d841f15143eb58fd9c322bba846ed8068d07d1402bda4ab112f779a8c5e6" dmcf-pid="HipiNPXSc9" dmcf-ptype="general">AI 연구에 앞장서온 ‘AI 대부’들도 “AI는 이미 많은 업무에서 인간과 동등하거나 능가하는 수준에 도달했다”고 평가했다. 6일(현지시각) 영국 런던에서 열린 파이낸셜타임스(FT) 주최 ‘AI의 미래 정상회의’에 모인 제프리 힌튼 캐나다 토론토대 석좌교수, 요슈아 벤지오 캐나다 몬트리올대 교수, 얀 르쿤 메타 AI 최고과학자, 페이페이 리 미국 스탠퍼드대 교수 등 AI 석학들은 빠르면 수년 내, 늦어도 20년 뒤에는 AGI 시대가 열릴 것이란 전망을 내놓았다.</p> <p contents-hash="467f3ffb2cbb69db30eba3a4e35154ce057b63597305b7fe430df63f6d60cdbe" dmcf-pid="XnUnjQZvkK" dmcf-ptype="general">다만 AI 석학들도 AGI를 넘어선 초지능에 대해서는 우려 섞인 시선을 보내고 있다. 인간 지능을 뛰어넘는 초지능을 통제할 수 없으면 인류의 안전과 존엄성이 위협받을 수 있기 때문에 관련 연구를 제한해야 한다는 주장도 나온다.</p> <p contents-hash="6f8080d59c8e4ddcf02d07ce7dfc61f6292eeeb1e4c1a7cb1183aeaea75be2d9" dmcf-pid="ZLuLAx5TNb" dmcf-ptype="general">머신러닝 연구로 지난해 노벨물리학상을 수상한 힌튼 교수와 벤지오 교수, 애플 공동창업자 스티브 워즈니악, 경제학자 대런 아세모글루 등 저명 인사 3700여명은 지난달 ‘초지능 AI 개발 제한’ 성명을 발표했다. 비영리 단체 미래생명연구소(Future Life Institute)가 주도하는 이 움직임은 초지능 개발 과정에서 발생할 수 있는 잠재적 위험에 대한 경각심을 키우기 위해 시작됐다.</p> <p contents-hash="e02c537c9d6518905eea801767a8a7eabf54807a4faa8dc09496831572d8b303" dmcf-pid="5o7ocM1yNB" dmcf-ptype="general">성명은 “초지능으로 인한 경제권 박탈, 인간의 자유·존엄·통제력 상실, 국가안보 위험, 심지어 인류 멸종 가능성까지 다양한 우려가 제기된다”며 “초지능이 안전하고 통제 가능하다는 광범위한 과학적 합의가 이뤄질 때까지 개발을 중단해야 한다”고 했다. 현재까지 이 성명에 8만8000명 이상이 참여했다.</p> <p contents-hash="c1350165cb50f9c765e753f0240c644cc53c5d314464e680510b22db29134723" dmcf-pid="1gzgkRtWNq" dmcf-ptype="general">실제 미래생명연구소가 주요 AI 모델을 대상으로 자체 안전 평가를 진행한 결과 앤트로픽이 C+로 가장 높은 등급을 받았고, 오픈AI와 구글 딥마인드가 각가 C와 C-를 받았다. 연구소는 “기업들은 10년 안에 AGI를 개발하겠다고 하지만 위험 관리나 안전에는 크게 신경쓰지 않는 모습”이라고 지적했다.</p> <p contents-hash="0e7396f6ecb52ff38f38ce8380e1c17c824cbf3777e25eb37ca06ebdc97c5c59" dmcf-pid="taqaEeFYoz" dmcf-ptype="general">미래생명연구소의 설립자인 맥스 테그마크 MIT 교수는 현재 기업들의 행보에 대해 “마치 누군가 뉴욕 한복판에 초대형 원자력 발전소를 짓고 있고 다음 주에 가동 예정인데 노심용융(원자로 노심이 과열로 녹아내리는 현상)을 막기 위한 계획이 전혀 없는 것과 같다”고 비판했다.</p> <p contents-hash="eca89da326d11763353a1ab3ea35bd606b883f8704f4426c1c1aecdc35fd5692" dmcf-pid="FNBNDd3Gj7" dmcf-ptype="general">힌튼 교수는 “내 직감일 뿐이지만, 나는 인공지능(AI)이 인류를 멸망시킬 가능성이 10%에서 20% 정도 된다고 본다”고 했다.</p> <p contents-hash="68c6d5ed713a4e43ccaeed10f2bae19005ce2c05a4264a05baa05213fb168063" dmcf-pid="3jbjwJ0Hou" dmcf-ptype="general">- Copyright ⓒ 조선비즈 & Chosun.com -</p> </section> </div> <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p> 관련자료 이전 김민종 주연 ‘피렌체’ 티저 릴스 6천만 뷰 돌파… 관련 릴스 총합 1억 1천만으로 화제 11-07 다음 진보하는 AI 개발자를 위한 자리, '데이원컴퍼니 젠콘 2025' 가보니 11-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
