[모두의AI④完] GPU 분배 딜레마…“多사업 확산vs선택과 집중” 작성일 07-19 26 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">정부 “모델 개발·서비스 확산 모두 중요”…전 국민 트래픽 감당 여부 과제</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="poh2oHWIhL"> <div contents-hash="a8dc88c70a4fb8ad3c09336f747d6105498fd179d18fd4c493ff4125767f3716" dmcf-pid="UglVgXYCWn" dmcf-ptype="general"> <strong>이재명 대통령이 후보 시절부터 지속적으로 강조하던 ‘모두의AI’ 사업이 본격 시작됐다. 국민 모두가 무료로 사용 가능한 AI 서비스를 마련하는 취지다. 업계에서도 다양한 기업이 도전장을 냈다. 통신사부터 포털 플랫폼 기업, AI 스타트업까지 다양한 기업이 참여할 것으로 전망된다. <디지털데일리>가 모두의AI의 허와 실을 전문가 및 업계관계자 목소리를 통해 들어봤다.<편집자></strong> </div> <figure class="figure_frm origin_fig" contents-hash="a785fbe5c518088c7d0f244de3157089e7f8284ba83a4195fac6b95e4ffd6faf" dmcf-pid="uaSfaZGhli" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/19/552796-pzfp7fF/20260719060029768mhtn.jpg" data-org-width="640" dmcf-mid="0zg5VwkLvo" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/19/552796-pzfp7fF/20260719060029768mhtn.jpg" width="658"></p> </figure> <p contents-hash="02692d7e7c51859c5290c865f5004dec68df3ef5e6bbaa852fad2c42d4aa18af" dmcf-pid="7Nv4N5HlhJ" dmcf-ptype="general">[디지털데일리 오병훈기자] 정부가 ‘모두의AI’ 사업에 투입하는 엔비디아 B200 그래픽처리장치(GPU) 512장을 두고 업계에서는 다양한 의견이 교차하고 있다. 정부 전체 AI 정책 차원에서는 독자 AI 파운데이션 모델과 산학연, 국가 프로젝트 등 여러 사업에 GPU를 나누면서 자원이 분산될 수 있다는 우려가 나온다. 반대로 모두의AI 사업만 놓고 보면 512장을 2~3개 사업자에게 나눠 전 국민 서비스를 운영하기에는 오히려 부족할 수 있다는 지적도 있다.</p> <p contents-hash="0373ada997ed6f76a7ad93dad647e493ebcdf8c2fdd410bf2bc5f050fec06661" dmcf-pid="zcWPcF5TTd" dmcf-ptype="general">정부가 공개한 모두의AI 개발사업 공모안내서에 따르면 정부는 올해 모두의AI 서비스 개발과 출시에 B200 최대 512장을 지원한다. 2개사가 선정되면 각각 최대 256장, 3개사가 선정되면 1개사에 256장, 나머지 2개사에 각각 128장을 제공하는 방식이 제시됐다.</p> <p contents-hash="81713211c259d6fdb644f191fbbb12a183c9b5f7479ecb96dbc81565a6e8fdf0" dmcf-pid="qkYQk31yTe" dmcf-ptype="general"><strong>◆GPU 한장이 아쉬운 상황…사업마다 ‘쪼개기 지원’ 우려</strong></p> <p contents-hash="4859b9d3ebd776b47f779ffa8c5032572287b583175628f80039978421317c02" dmcf-pid="BEGxE0tWSR" dmcf-ptype="general">GPU 분산 우려 배경에는 정부가 동시에 추진 중인 여러 대형 AI 사업이 있다. 정부는 독자 AI 파운데이션 모델을 비롯해 산학연 연구, 피지컬AI 등 국가 프로젝트에 GPU를 지원하고 있다. 여기에 모두의AI가 별도 서비스 사업으로 추가되면서 한정된 고성능 GPU를 어디에 우선 배치해야 하는지를 둘러싼 선택의 문제가 생겼다.</p> <p contents-hash="d347d011cede87b6292d90f23ba20f2e66f4fe08c51c73aba47a0ceb943243da" dmcf-pid="bDHMDpFYWM" dmcf-ptype="general">과기정통부에 따르면 정부가 확보한 물량은 기종별 성능을 B200 기준으로 환산할 경우 약 3만5000장이다. 이 가운데 지난해 추가경정예산을 통해 확보해 실제 활용 중인 물량은 약 1만1600장으로 독자 AI 파운데이션 모델과 산학연, 주요 국가 프로젝트 등에 배분되고 있다. 정부는 민간 21만장과 정부 5만장을 합쳐 2030년까지 총 26만장의 GPU를 공급한다는 목표다.</p> <p contents-hash="161c16a73c57f339d2026a47108664198b6bfbbc399528d3480290bde019e238" dmcf-pid="KwXRwU3GCx" dmcf-ptype="general">일각에서는 국내 파운데이션 모델이 글로벌 최상위권을 빠르게 추격해야 하는 상황인 만큼 학습 자원을 소수 경쟁력 있는 모델에 집중해야 한다고 지적한다. ‘독자 AI 파운데이션모델(독파모) 프로젝트’에서 진행 중인 모델 개발도 끝나지 않은 상태에서 서비스 개발사업에 GPU를 별도로 투입하면 독파모 참여기업과 정부 모두의 역량이 분산될 수 있다는 것이다.</p> <p contents-hash="aaf8abe0cb67127881296d035f7debc033f2d4bf1835fba1cec7c2efc8b831c4" dmcf-pid="9rZeru0HhQ" dmcf-ptype="general">익명의 과학기술정책 전문가는 “자체 모델을 확보하기 위한 지원과 이를 활용하는 서비스 지원이 서로 다른 정책 단계라는 설명은 가능하다”면서도 “두 사업 역할 분담과 연계구조, 중복지원 방지, 정부지원 성과를 국민에게 환원하는 방식이 명확하게 제시돼야 한다”고 말했다.</p> <p contents-hash="d1497f079843b6ea28a4e8e90dceefbbe406c61bca1ee8a39bc98e39e3eee142" dmcf-pid="2m5dm7pXvP" dmcf-ptype="general">정부는 모델 개발과 서비스 확산을 양자택일 관계로 봐서는 안 된다는 입장이다. 독파모가 자체 파운데이션 모델을 확보해 기술주권과 협상력을 높이는 사업이라면, 모두의AI는 개발된 모델을 실제 국민 서비스에 적용해 이용자 데이터와 운영 경험을 축적하는 후속 단계라는 설명이다.</p> <p contents-hash="ea50658fb4edd3d72f2ba38727ba4abf70dfc00a1145188102f3fa6065bee770" dmcf-pid="Vs1JszUZT6" dmcf-ptype="general">최동원 과기정통부 인공지능인프라정책관은 지난 15일 열린 대통령 업무보고 사전 브리핑에서 “독자 AI 파운데이션 모델 1차 개발을 통해 국내 모델 경쟁력이 글로벌 평가에서 상위권으로 올라왔지만 새로운 모델이 계속 등장하고 있다”며 “제한된 자원을 얼마나 집중하고 빠르게 추격할 수 있을지 고민하고 있다”고 말했다.</p> <p contents-hash="8ed4100e4b6798083f2c4c1f3573f343a8c875009c024170a1ced1e9e17b5fd6" dmcf-pid="fOtiOqu5C8" dmcf-ptype="general">이어 “정부 확보 GPU는 독파모뿐 아니라 산학연과 국가 프로젝트에 공급되고 있다”며 “AI 시대에 반드시 필요한 자원인 만큼 향후 도입 물량까지 포함해 효과적이고 효율적인 활용계획을 마련하고 있다”고 설명했다.</p> <p contents-hash="ecf27c7f55a45e1203400a150400a180e0f6754d625fdc04075196957125628c" dmcf-pid="4IFnIB71S4" dmcf-ptype="general"><strong>◆B200 512장, 충분할까 부족할까…관건은 ‘최대 트래픽 수요’</strong></p> <p contents-hash="c2ac14d1f577447b56430adc5334ce6ecf71085e496f41d4625964af209850fa" dmcf-pid="8t4OtdMVCf" dmcf-ptype="general">모두의AI에 배정되는 512장이 적정한지를 두고도 의견이 갈린다. 충분하다는 쪽에서는 모두의AI가 파운데이션 모델을 처음부터 학습하는 사업이 아니라 이미 개발된 모델을 활용해 서비스를 구축하는 사업이라는 점을 근거로 든다.</p> <p contents-hash="d165d8b136e5bacb4df28f65354a3396480a7a63df04c1a885d61f720d39ac66" dmcf-pid="6F8IFJRfCV" dmcf-ptype="general">대규모 사전학습에는 수천장 이상의 GPU를 사용해야 하지만, 모두의AI에서는 기존 모델의 파인튜닝과 추론·서빙이 주된 작업이다. 참여 기업도 정부 GPU에만 의존하는 것이 아니라 자체 인프라와 현금·현물 자부담을 함께 투입해야 한다. 정부가 제공하는 B200은 서비스 전체 용량을 책임지는 자원이라기보다 연내 출시를 촉진하기 위한 초기 지원이라는 해석이다.</p> <p contents-hash="6812684a591e9eca7e61df34398abae7e240e9d4eb2f5b586d1bbbfdfd12e457" dmcf-pid="P36C3ie4y2" dmcf-ptype="general">공진호 과기정통부 인공지능정책기획과장은 업무보고 사전브리핑에서 “모두의AI는 새로운 모델을 개발하는 것이 아니라 서비스를 개발하는 사업”이라며 “30차례 이상 기업 의견을 들은 결과 연내 서비스가 가능하다고 판단했다”고 설명했다.</p> <p contents-hash="9741875b4e0a76d87ef6e0ae7ed1d05a39c019632be3398dac8b020db1ca18fd" dmcf-pid="Q0Ph0nd8v9" dmcf-ptype="general">실제 GPU 물량도 처음부터 기업별로 확정된 것은 아니다. 기업은 월간활성이용자 수와 토큰 사용량, 모델 크기, 대규모 트래픽 대응계획 등을 바탕으로 필요한 물량을 제시해야 한다. 정부는 평가와 사업비 심의를 거쳐 적정 물량을 정하고 월별 사용률을 확인해 임차 물량을 변경할 수 있다. GPU는 기업에 장비 자체를 넘기는 것이 아니라 클라우드·원격접속 방식으로 제공된다. 스토리지 등 추가 자원 비용은 기업이 별도로 부담한다.</p> <p contents-hash="7a7f3b84052e5601cf44cdd86b45eccf65a5e8ed4c4950944bdae99e5004287d" dmcf-pid="xpQlpLJ6lK" dmcf-ptype="general">반면 사업 목표를 말 그대로 ‘전 국민 서비스’로 적용하면 512장도 충분하지 않을 수 있다. 사업자 1곳이 받는 물량은 최대 256장으로, 3개사가 선정될 경우 2곳은 128장만 지원받는다. 서비스 이용자가 수백만명 이상으로 늘거나 특정 시간대에 요청이 몰리면 모델이 초당 처리할 수 있는 질의 수와 응답속도가 급격히 떨어질 수 있다는 분석이다.</p> <p contents-hash="fe281e926c4807d43fe525c0cf95112dbe318ecba6d7141905fd678bbb70f636" dmcf-pid="yjT8j1XSWb" dmcf-ptype="general">특히 모두의AI는 단일 챗봇만 운영하는 사업이 아니다. 범용 챗봇과 공공 AI 에이전트, 기업별 특화 서비스에 복수의 국산 모델을 연결해야 한다. 장문 문서와 이미지·음성 등 멀티모달 요청, 복잡한 추론, 행정 시스템 연동까지 처리하면 질의 1건당 필요한 GPU 자원이 커진다.</p> <p contents-hash="15ffccba2a1902d1223be883638b9fc5946e9e6bd060c92b6a2b753437c74edf" dmcf-pid="WAy6AtZvWB" dmcf-ptype="general">결국 B200 512장이 많거나 적다는 판단은 장수만으로 내리기 어렵다는 것이 업계 분석이다. 정부 관점에서는 재원 분산을 막을 통합 배분 원칙이 필요하고, 모두의AI 사업 안에서는 전 국민의 피크 수요를 견딜 처리량 산정이 선행돼야 한다는 의견이 나온다. GPU를 몇 장 지원했는지가 아니라 제한된 자원으로 얼마나 많은 국민에게 안정적인 서비스를 제공했는지가 사업 성패를 가를 것이란 설명이다.</p> <p contents-hash="da7fdf87370a253bb9043a85fd233009b878bc59ec5076563bab84287c9cff65" dmcf-pid="YcWPcF5Tvq" dmcf-ptype="general">한 AI 기업 대표는 “B200 512장을 2~3개 사업자에게 나누면 전 국민 대상 서비스 최대 트래픽을 감당하기에는 부족할 가능성이 크다”며 “정부가 기업과 논의해 예상 동시접속자 수와 초당 처리 요청량, 모델별 스루풋을 어떤 기준으로 계산해 지원 규모를 면밀히 살펴서 지원해야 한다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 “진짜 자동화는 ‘루프’를 짜는 것부터 시작”…AI 코딩 새 화두 ‘루프 엔지니어링’ 07-19 다음 [AI스택플레이션⑤] 메모리 쇼크, AI기업까지… “서버 구매비 70%↑” 07-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
