"AIDC 핵심은 전력당 처리 토큰량…GPUaaS로 최신 가속기 공급" 작성일 10-29 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[SEP 2026 - AI 인프라 프런티어 컨퍼런스] 최정진 삼성SDS 에반젤리스트그룹장</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="GDbujgu5Xz"> <figure class="figure_frm origin_fig" contents-hash="81a93f3f0a189976f9aa2d93f7a47edc1ce393e4a3ce34e04a1227d6a617ddb4" dmcf-pid="HTM8Cs8B57" dmcf-ptype="figure"> <p class="link_figure"><img alt="최정진 삼성SDS 에반젤리스트그룹장이 29일 서울 강남구 코엑스에서 열린 '스마트에너지플러스 2026' 오픈 스테이지 '2026 AI 인프라 프런티어 컨퍼런스'에서 '삼성 클라우드 플랫폼(SCP)의 기업 AI 인프라'에 대해 발표하고 있다. /사진=김창현 chmt@" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/29/moneytoday/20261029133143703yzct.jpg" data-org-width="1200" dmcf-mid="YxtHRQHlHq" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/29/moneytoday/20261029133143703yzct.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 최정진 삼성SDS 에반젤리스트그룹장이 29일 서울 강남구 코엑스에서 열린 '스마트에너지플러스 2026' 오픈 스테이지 '2026 AI 인프라 프런티어 컨퍼런스'에서 '삼성 클라우드 플랫폼(SCP)의 기업 AI 인프라'에 대해 발표하고 있다. /사진=김창현 chmt@ </figcaption> </figure> <p contents-hash="c86072c9934b38c3b10789111ccbda05795f5370b4b4f9dc9ba9bdd270d59fdf" dmcf-pid="XyR6hO6b5u" dmcf-ptype="general"><strong>"AIDC(AI 데이터센터)의 핵심은 전력당 처리 토큰량을 끌어올리는 겁니다. 그래서 최신 GPU(그래픽처리장치) 확보가 중요합니다."</strong></p> <p contents-hash="c6fa674c39c25b84c9d57041874c576767ba9cbe16eabc85ed8d3703537fd1ee" dmcf-pid="ZWePlIPKtU" dmcf-ptype="general">29일 최정진 삼성SDS(<span>삼성에스디에스</span>) 에반젤리스트그룹장은 서울 삼성동 코엑스 B홀에서 열린 '2026 AI 인프라 프런티어 컨퍼런스'에서 이같이 강조했다. 최 그룹장은 '삼성 클라우드 플랫폼(SCP)의 기업 AI 인프라'를 주제로 발표했다.</p> <p contents-hash="9a25ccf22e26491d648cde4b6fad91b5ce2acb40f3853a0fdc9c1c0b4c5b1fb4" dmcf-pid="5YdQSCQ95p" dmcf-ptype="general">전력당 처리 토크량을 높이기 위해선 최신 GPU가 필요하다. 최 그룹장은 "엔비디아 GPU는 한 세대가 올라갈수록 평균적으로 가격이 2배 비싸지면서 성능은 3배 정도 좋아진다"며 "전력당 성능도 좋아지는 만큼 최신 가속기를 빨리 도입하는 것이 효율적으로 운영하는 방법"이라고 말했다.</p> <p contents-hash="182e9766cf0b5358410678cf312e969ece111f6a8d991bf69e423549fe5aa143" dmcf-pid="1GJxvhx2X0" dmcf-ptype="general">삼성SDS는 GPUaaS(그래픽처리장치를 빌려주는 서비스), NPUaaS(신경망처리장치를 빌려주는 서비스) 등 서비스를 서버리스(Serverless)로 공급한다. GPU, NPU 등 가속기를 구매해서 쓰는 경우 최신 가속기가 나올 때마다 시간과 비용이 많이 드는 반면 서버리스 서비스는 삼성SDS가 확보한 최신 가속기를 쓰면 되기 때문에 경제적이다.</p> <p contents-hash="7139de6d96499499f663529c642b129ddfbfa168cfc6be86d99f9d24f3581598" dmcf-pid="tHiMTlMVG3" dmcf-ptype="general">삼성SDS는 지난 3월 국내 최초로 B300 GPUaaS를 출시하고, 지난 7월 퓨리오사AI의 2세대 NPU(신경망처리장치) '레니게이드(RNGD)' 기반 NPUaaS를 시작하는 등 서버리스 서비스를 확장 중이다. 삼성SDS는 SCP를 통해 서버리스 서비스를 제공한다.</p> <p contents-hash="7fcb4ceac8e6cb3f9032886b86af32569d5bf12ec79b427875dab9d65aa39a7f" dmcf-pid="FXnRySRfHF" dmcf-ptype="general">서버리스 서비스는 대규모 투자 이전에 AI 활용 방안과 가능성을 미리 확인해볼 수 있다는 장점도 있다. AI 학습에는 GPU를, 추론 등 작업에는 NPU를 사용하는 등 특성에 맞게 선택할 수도 있다. 최 그룹장은 "GPU를 처음부터 구매하기보단 서비리스로 먼저 활용 방법을 찾거나 PoC(기술검증)를 진행하면 더 효율적인 사업이 가능하다"며 "GPU를 전체 조직에 적용하고 싶다면 GPU로 클러스터를 만들고 NPU를 조합해 쓰면 더 효율적"이라고 설명했다.</p> <p contents-hash="b6c7ab28e8fab7e66c8314dce1ae9c0724a75c4131e6446516395bd891e8c8a1" dmcf-pid="3ZLeWve41t" dmcf-ptype="general">AIDC도 에너지 효율적으로 운영한다. △냉각·설비 설계 역량 △PUE(전력효율지수) 개선 △글로벌 수준 운영 인증 △안정적 전원·설비 구조 등이 장점이다.</p> <p contents-hash="ff3ec04c5857a18cc4bcfb0f394f6dfa91def43c0bb1589251c200dc33e9c954" dmcf-pid="05odYTd8t1" dmcf-ptype="general">삼성SDS는 초고밀도 전산 환경 내 냉각 기술 4건을 국내 특허 출원했다. 동탄 데이터센터는 PUE를 1.19까지 끌어내리며 국내 최고 수준을 달성했다. PUE는 1에 가까울수록 효율적이라는 뜻이다. 이외에도 진도 9에 대응되는 내진 설계, 냉방설비·인입 관로 이중화 등 전원·설비 구조를 갖췄고 ISO 27001·22301·50001, ISMS-P 등 인증을 취득했다. 또 삼성SDS는 엔비디아의 DSX와 자체 데이터센터 인프라 매니지먼트 프로그램(DCIM)을 결합해 AIDC를 설계·구축한다. DSX와 DCIM 간의 간극은 AI가 실시간 예측하고 선제 대응한다.</p> <p contents-hash="84608b7ea4ffb60ebc402b8fb89714663f39d160e6118eb4b25cdc753d951736" dmcf-pid="p1gJGyJ6Y5" dmcf-ptype="general">삼성SDS는 심플 AI 트레이닝·인퍼런스라는 간편한 상품도 제공한다. 심플 AI 트레이닝은 고객사가 인프라를 직접 구성하지 않고도 LLM을 학습시킬 수 있는 상품이다. 이를 통해 학습시킨 모델이나 삼성SDS가 미리 구축해 둔 오픈웨이트 모델은 심플 AI 인퍼런스로 쓸 수 있다.</p> <p contents-hash="4a5585948bd488c8ad05c3b40a960e9fdbbb5cf7f56c6bce67c0737acfdec4ce" dmcf-pid="UtaiHWiPtZ" dmcf-ptype="general">이찬종 기자 coldbell@mt.co.kr<br><a href="https://www.mt.co.kr/?utm_source=daum&utm_medium=article_text_ad&utm_campaign=mystocksolution" target="_blank">[내 주식이 궁금할땐 머니투데이]</a></p> </section> </div> <p class="" data-translation="true">Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 이상중 KISA 원장 해임…"중징계 정당성은 별개 문제" 반발 10-29 다음 “담배 유해성분 검사 확대·정보 제출 강화”…제1차 담배 유해성 관리 기본계획 10-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.