"10년 뒤 인류 멸망할 수 있다"…국내 1세대 AI 연구자, 섬뜩한 발언한 이유는 작성일 03-20 105 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">美 트럼프 2기 행정부 출범 후 AI 안전보다 '발전' 초점…"韓 국방AI, 갈 길 멀어"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="P3OEYMf5Nz"> <p contents-hash="8b7fb731ba6658fcad48e6b3d1dc0940d5fae0943cd901a7d648fcbc6bb94ef7" dmcf-pid="Q0IDGR41j7" dmcf-ptype="general">(지디넷코리아=장유미 기자)"미국 트럼프 행정부가 들어서면서 인공지능(AI) 안전보다 발전에 더 주안점을 두기 시작했다는 점이 우려됩니다. 이렇게 되면 10년 뒤에 인류는 멸망할 수 있습니다."</p> <p contents-hash="e8d5e98baf2a91ffbfd2d1251b5ca96145e2695b3cdc38f4a15692a7398918f4" dmcf-pid="xpCwHe8tNu" dmcf-ptype="general">한상기 테크프론티어 대표는 최근 서울 강남구 모두의연구소 강남캠퍼스에서 진행된 '국방 인공지능 혁신 네트워크' 행사에 연사로 참석해 이처럼 강조했다. 한 대표는 서울대 컴퓨터공학과를 졸업하고 카이스트에서 전산학 석·박사를 마친 국내 1세대 AI 연구자다.</p> <p contents-hash="70696c4e2f771b61f76161e37ccd8a8961c06e99dc11121236cdd8161280b77b" dmcf-pid="yjfBdGlocU" dmcf-ptype="general">이날 'AI 안전 : 주요 토픽과 해결할 문제들'이란 주제로 발표에 나선 한 대표는 최근 범용인공지능(AGI)의 능력이 향상되면서 추가적인 리스크들이 점진적으로 나타나는 것에 대해 우려를 표했다. </p> <p contents-hash="49fb7fc61bf9dbe78f1f2fb88969817826bee37a7e772dccc00996488bcffa96" dmcf-pid="WA4bJHSgop" dmcf-ptype="general">20일 업계에 따르면 AI는 고도화 수준에 따라 '제한적 인공지능(ANI)', 'AGI', 'ASI'로 구분한다. 이 중 AGI는 ANI인 오픈AI '챗GPT'나 구글 '제미나이'와 달리 사전 학습된 데이터와 알고리즘에 의존하지 않고도 새로운 문제를 분석하고 해결책을 제시할 수 있는 AI다. 인간 수준의 일반 지능을 갖추고 논리력과 창의적 추론 능력을 보유한 AI로 설명된다. 추론 능력이 향상된 오픈AI의 최신 모델 'o1', 'o3' 등은 ANI에서 AGI로 이행하는 단계에 있다는 평가를 받는다.</p> <p contents-hash="09d8e724499dd2eaa3f31e7940da494a4b04636118c025f2ffeb4eb1903d9331" dmcf-pid="Yc8KiXvaa0" dmcf-ptype="general">그 다음 단계인 ASI는 인간을 뛰어넘는 지적 능력을 갖춘 AI를 의미한다. 스스로 목표를 설정하고 개선하는 능력이 탁월해 인간이 상상할 수 없는 수준의 복잡한 문제를 창의적으로 해결할 수 있다. AI 간의 자발적 소통이 가능해 인류가 전유물로 여겨온 '집단 지성'도 구현할 수 있다.</p> <p contents-hash="5b75a3cdc4c279ed648f532ae6e29562cb944186963ff6d74cb21bbdc09ed7ca" dmcf-pid="GhnME7tsa3" dmcf-ptype="general">한 대표는 "데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 5년, 다리오 아모데이 앤트로피 CEO는 2~3년 안에 AGI 시대가 올 것이라고 얘기하고 있다"며 "적어도 10년 안에 온다고 보면 이에 대한 (안전성과 관련해) 대비를 해 나갈 필요가 있다"고 강조했다.</p> <figure class="figure_frm origin_fig" contents-hash="58aeb4074f266ef7be70d06933036b20087fcc7e7cf1621e4f10561651dc4999" dmcf-pid="HlLRDzFOAF" dmcf-ptype="figure"> <p class="link_figure"><img alt="한상범 테크프론티어 대표 (사진=장유미 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/ZDNetKorea/20250320171405902lysr.jpg" data-org-width="639" dmcf-mid="4mcoCVzTab" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/ZDNetKorea/20250320171405902lysr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 한상범 테크프론티어 대표 (사진=장유미 기자) </figcaption> </figure> <p contents-hash="f803fff34cfb3631f7db941cfcfb9f713bbe8692fe7dc4fb06789e204d1450fa" dmcf-pid="XSoewq3Ikt" dmcf-ptype="general">또 한 대표는 AI를 '핵무기' 수준으로 봐야 한다고 강조하며 AI 발전과 함께 안전성도 같이 고려해 나가야 한다고 주장했다.</p> <p contents-hash="fd084a399f7ab353b656e8192688d5b83f643fbe78a98388033d2bc8c7495de3" dmcf-pid="ZvgdrB0CA1" dmcf-ptype="general">그는 "최근 앤트로픽 클로드 3.7이나 오픈AI o3 같은 모델들이 출시되면서 인터넷에 존재하지 않는 정보를 추론 능력으로 답변을 만들어지는 사례들이 늘어나고 있다"며 "생화학 무기, 핵무기 등에 이 같은 AI가 사용되기 시작할 경우 안전성이 확보되지 않으면 큰 문제가 될 것"이라고 지적했다.</p> <p contents-hash="4df9ffb6b2474d50ad90287b37d868c5484237946f62bdacb41710a2de480408" dmcf-pid="5TaJmbpho5" dmcf-ptype="general">그러면서 "이제는 AI 모델뿐 아니라 시스템, 애플리케이션까지 확대해 AI와 관련된 범죄 가능성에 대해 고민해봐야 할 시점"이라며 "영국 등에선 이미 안전성뿐 아니라 국가안보적인 관점에서 AI를 들여다 보기 시작했다는 점에서 우리나라도 함께 고민해 봐야 할 것"이라고 덧붙였다.</p> <figure class="figure_frm origin_fig" contents-hash="3dc6bbbd1d20c6c4ba159c6757a0b9d514213dbbd4bc7c77de97b1e84e27c2d8" dmcf-pid="1yNisKUlAZ" dmcf-ptype="figure"> <p class="link_figure"><img alt="이진원 하이퍼엑셀 CTO (사진=장유미 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/ZDNetKorea/20250320171407417mlhl.jpg" data-org-width="639" dmcf-mid="8l2zRWCnNB" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/ZDNetKorea/20250320171407417mlhl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이진원 하이퍼엑셀 CTO (사진=장유미 기자) </figcaption> </figure> <p contents-hash="2aff04beff969115526c8e7c216e8a7db2764e0af2969793697e90bb9be23f3b" dmcf-pid="tWjnO9uSjX" dmcf-ptype="general">이날 '딥시크를 포함한 추론형 AI에 대한 이해'를 주제로 강연에 나선 이진원 하이퍼엑셀 CTO는 AI가 점차 발전하면서 인간이 통제할 수 있는 영역을 점차 벗어나고 있다는 점을 주목했다. 또 앞으로는 AI가 AI를 컨트롤하는 방향으로 기술 발전을 해 나가야 하지만 데이터가 AI 발전 속도를 따라가지 못하고 있다는 점에서 우려를 표했다. </p> <p contents-hash="59abe9644647d067e608b9faf331b12b6a3a426ee412c5448e0debc49c326c84" dmcf-pid="FYALI27vgH" dmcf-ptype="general">더불어 이 CTO는 오픈AI가 생각하는 AI 5단계를 소개하며 현재 AI가 ANI에서 AGI로 넘어가는 과정에서 데이터 학습량을 더 늘리기 위해 엔비디아가 그래픽처리장치(GPU)를 더 크게 만들 필요가 있다는 점도 강조했다. </p> <p contents-hash="7f954a2173644d81ffd833edf51dcaba606ed5dc33f8454b9d098957a91400a9" dmcf-pid="3GcoCVzTjG" dmcf-ptype="general">이 CTO는 "딥시크처럼 저렴한 모델들이 나오면서 앞으로 AI가 실제 산업에 더 다양하게 활용될 것으로 보인다"며 "GPU 수요는 앞으로 더 폭발적으로 늘어날 것으로 보인다"고 관측했다. </p> <p contents-hash="fb7d478929f226216be34d8e7ea6ce631b9bfac5964ed1828018b15d2717ac3e" dmcf-pid="0HkghfqyaY" dmcf-ptype="general">이어 "딥시크 같은 기업들이 속속 나오고 있지만 오픈AI, 구글 등 빅테크의 AI 기술력을 따라가기에는 쉽지 않을 것"이라며 "다만 우리나라가 AI 경쟁력을 키우기 위해선 중국 딥시크 같은 모델을 벤치마킹해야 한다"고 주장했다.</p> <p contents-hash="11bf59701fc4dd1bf581ed615fbfab36b2c344d5899e76a99e6e84c09778796c" dmcf-pid="pXEal4BWcW" dmcf-ptype="general">이날 행사에선 국방기술진흥연구소 박삼준 AI PD와 김일환 삼성SDS 그룹장, 권현 육군사관학교 교수, 최민석 ETRI AI 안전연구소 박사 등이 참여한 패널 토의도 '국방분야 생성형 AI 도입 및 활용 방향'을 주제로 진행됐다. 각 패널들은 AI의 통제력 상실을 막지 않으면 국방분야에 생성형 AI를 도입하는 것이 쉽지 않을 것으로 봤다.</p> <p contents-hash="fc9e81df3b0a77e9d44f1f01013cb333bc67cf636518e27f66af8d04b1180aad" dmcf-pid="UZDNS8bYgy" dmcf-ptype="general">최 박사는 "무기 체계가 알고리즘으로 움직여지는 상황에서 사람 통제를 벗어나 (AI를 통해) 자의적으로 움직여질 경우 상대뿐 아니라 우리에게도 그 피해가 발생할 것이란 점이 우려된다"며 "이를 막기 위해 여러 단계의 안전장치를 고려해야 하지 않을까 싶다"고 강조했다.</p> <p contents-hash="a5f8ec04a92356826d2e518000137590ac914775998b6e8154365331941ef12b" dmcf-pid="u5wjv6KGgT" dmcf-ptype="general">권 교수도 "만약 AI 기반으로 잘못 판단해 우리 체계가 오용되면 문제가 심각해진다"며<span> </span><span>"AI </span><span>모델 </span><span>자체가 </span><span>예측 </span><span>확률 </span><span>기반이란 </span><span>점에서 </span><span>잘못된 </span><span>판단을 </span><span>막기 </span><span>위해 </span><span>안전 </span><span>장치를 </span><span>갖춰야 </span><span>할 </span><span>필요가 </span><span>있다"고 지적했다.</span></p> <p contents-hash="d0cb119eb67f9c94dfccba418bf30ec831d6cd28443789058dd435b7db903cf9" dmcf-pid="7k69nZTNav" dmcf-ptype="general">이어 "우리나라에서 아직 AI를 기반으로 무기 체계가 개발되는 것은 한참 먼 얘기"라면서도 "최근 국방부에서 국방 '챗GPT' 같은 것을 만들어 테스트하며 인사 등 군사 업무 관련 주요 태스크마다 파인 튜닝해 활용하는 것을 시작으로 AI를 도입하기 위한 움직임에 나서고 있다"고 덧붙였다. </p> <figure class="figure_frm origin_fig" contents-hash="c4a9cc187c4a05cb6c04a381bdfca211849e257da79ae1b90ab6cb8a3ba20d56" dmcf-pid="zEP2L5yjgS" dmcf-ptype="figure"> <p class="link_figure"><img alt="(왼쪽부터) 박삼준 국방기술진흥연구소 AI PD, 김일환 삼성SDS 그룹장, 권현 육군사관학교 교수, 최민석 ETRI AI 안전연구소 박사 (사진=장유미 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/20/ZDNetKorea/20250320171408714xlig.jpg" data-org-width="639" dmcf-mid="6X3XKrj4gq" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/20/ZDNetKorea/20250320171408714xlig.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (왼쪽부터) 박삼준 국방기술진흥연구소 AI PD, 김일환 삼성SDS 그룹장, 권현 육군사관학교 교수, 최민석 ETRI AI 안전연구소 박사 (사진=장유미 기자) </figcaption> </figure> <p contents-hash="2a394d5e061c1d1dda40f138021242f2998608036834d884d757e758f5930506" dmcf-pid="qDQVo1WAgl" dmcf-ptype="general">김 그룹장은 우리나라가 국방 분야에서 AI를 활용하기 위해선 양질의 데이터를 안전하게 확보하는 동시에 클라우드로 전환하는 것이 가장 중요하다고 주장했다. 또 미군이 팔란티어와 손잡고 국방 전 분야를 클라우드로 전환해 활용하는 사례를 들어 우리나라도 클라우드로 점차 전환해 나갈 필요가 있다고 지적했다. 현재 미군은 팔란티어의 SaaS(클라우드 기반 서비스형 SW)를 구독해 매일 시스템을 업데이트 하고 활용하고 있다.</p> <p contents-hash="a60315a8c31fd0272a12b2c46f576dcb03b4a2d80a5f811e7e1e2f6aa84ee745" dmcf-pid="BwxfgtYcAh" dmcf-ptype="general">김 그룹장은 "우리 군 역시 JADC2(합동 전 영역 동시통합지휘통제) 등을 추진하며 국방 AI에 대한 구체적인 계획을 가지고 있는 것으로 안다"며 "이를 실행하기 위해선 예산 확보가 필수적으로, 이 문제만 해결되면 우리나라군도 굉장히 빠르게 (미군 수준으로) 따라갈 수 있을 것이라고 생각한다"고 말했다.</p> <p contents-hash="703e163a4be285eb22f38330ba5fafe2bc3a94673402e638467b7089bad0a6af" dmcf-pid="brM4aFGkoC" dmcf-ptype="general">장유미 기자(sweet@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 서울대병원, EZH2 억제제로 듀센근이영양증 섬유화 감소 입증 03-20 다음 속초시, 보치아팀 창단…"장애인 체육 활성화 기대" 03-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
