[AI픽] 삼성SDS, 국내 첫 B300 GPU 서비스…AI 추론 성능 강화 작성일 03-23 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">H100 대비 메모리 용량 3.6배…"LLM 병목 현상 완화"<br>3분기에 서버리스 추론·AI 학습 서비스도 도입 예정</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KlzVLalwXK"> <figure class="figure_frm origin_fig" contents-hash="ecbe3060aace9754142d7a1fc765679f734b01d70efa39e23f2d17f6ce931088" dmcf-pid="9SqfoNSrtb" dmcf-ptype="figure"> <p class="link_figure"><img alt="삼성SDS [삼성SDS 제공. 재판매 및 DB 금지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202603/23/yonhap/20260323080126859ookw.jpg" data-org-width="500" dmcf-mid="bYK6NcyOt9" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202603/23/yonhap/20260323080126859ookw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 삼성SDS [삼성SDS 제공. 재판매 및 DB 금지] </figcaption> </figure> <p contents-hash="4d2e96d883ae4828b571f9274a120dd5c0759df4fd7fa8a25665248373be9c85" dmcf-pid="2vB4gjvmGB" dmcf-ptype="general">(서울=연합뉴스) 한상용 기자 = 삼성SDS가 엔비디아의 최신 그래픽처리장치(GPU)인 'B300'을 기반으로 한 클라우드 서비스를 국내 처음 선보이며 기업용 AI 인프라 시장 공략에 나섰다.</p> <p contents-hash="f3968e207871c427425f4bc4fd5b4c68965d7a874ab17c40c456cda3024b3ee0" dmcf-pid="VTb8aATsHq" dmcf-ptype="general">삼성SDS는 자사 클라우드 플랫폼 'SCP(삼성 클라우드 플랫폼)'를 통해 B300 기반 GPUaaS(GPU 구독형 서비스)를 출시했다고 23일 밝혔다.</p> <p contents-hash="47ae73c009ec8685c223c0204ffd9bf3d6e4fef3a9ab642aaa9cf40fc4106da3" dmcf-pid="fKaDYXKpXz" dmcf-ptype="general">이번 출시는 기업들이 AI 모델 개발 단계를 넘어 실제 서비스 적용을 위한 '추론' 단계로 빠르게 이동하면서 증가하는 고성능 컴퓨팅 수요에 대응하기 위한 전략이다.</p> <p contents-hash="659bcc44d9b89f399486204e1b0acba4f4adf0aef3b7c9a1d2bdf0289b00c701" dmcf-pid="49NwGZ9U17" dmcf-ptype="general">B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288GB 메모리와 초당 8TB의 대역폭을 제공한다. </p> <p contents-hash="990dace781233a2c042f190d993077670aacba8615c8965bb0da8e59fbae1cd6" dmcf-pid="82jrH52u1u" dmcf-ptype="general">이는 기존 H100과 비교해 메모리 용량은 3.6배, 대역폭은 2.4배 향상된 수준이다.</p> <p contents-hash="bc4b9945a9f02b8ace39923bce96bd270da0b9b568cedb35386859b2b244a881" dmcf-pid="6VAmX1V7GU" dmcf-ptype="general">이를 통해 거대언어모델(LLM) 구동 시 연산 속도에 비해 메모리 전송 속도가 느려 발생하는 '데이터 병목 현상'이 크게 개선됐다고 삼성SDS는 전했다.</p> <p contents-hash="7dee0e53060525188624afd33ac23b71a97e0807e7ee4cb02bc3c6d4e636d2bf" dmcf-pid="PfcsZtfz1p" dmcf-ptype="general">삼성SDS는 2021년 A100, 2023년 H100 기반 GPUaaS를 선제적으로 도입한 데 이어 이번 B300 서비스까지 확대하며 GPU 중심 AI 인프라 생태계를 구축해 왔다.</p> <p contents-hash="84c2bb6a48b3ddf9a671c63cc37ae1fa2154c950e472e787a611d89f5e514f86" dmcf-pid="Q4kO5F4qH0" dmcf-ptype="general">기업 고객은 고용량 메모리를 기반으로 거대 AI 모델을 효율적으로 처리할 수 있으며 AI 에이전트와 이미지·영상·코드 생성 등 고성능 AI 서비스에서 지연 시간을 단축할 수 있다.</p> <p contents-hash="244322ee3b403572f3576af5cc3d2b6dad5c4e35a3a51274d08164b208d13b79" dmcf-pid="x8EI138BH3" dmcf-ptype="general">또한 구독형 방식으로 필요한 만큼만 사용하고 비용을 지불할 수 있다. GPU 수급이 어려운 상황에서도 최신 아키텍처를 신속하게 도입할 수 있는 점 역시 장점으로 꼽힌다.</p> <p contents-hash="8d8bb934967a9bab2e8001aa611bc9c30c9aa0d9f8937891fa7b72d3e6fd84bd" dmcf-pid="ylzVLalw5F" dmcf-ptype="general">이와 함께 삼성SDS는 보안 역량을 결합한 클라우드 환경을 통해 기업의 민감한 데이터를 안전하게 처리할 수 있다고 강조했다.</p> <p contents-hash="e14e7cedba6202b0e9238a21e9a3efc7f2b599c0d1c02b99571eac02277b2a8e" dmcf-pid="WSqfoNSr5t" dmcf-ptype="general">삼성SDS는 올해 3분기에 별도 인프라 비용 없이 사용한 만큼만 비용을 지불하는 '서버리스 추론 서비스'와 AI 모델을 자동으로 분산 학습시키는 'AI 학습 서비스'도 출시할 계획이다.</p> <p contents-hash="181fb9ac5ef5b05bf8ef8e3df5d9d1d2530b5f88a785ee13b5b6e9f432532524" dmcf-pid="YvB4gjvmZ1" dmcf-ptype="general">이호준 삼성SDS 클라우드서비스사업부장(부사장)은 "자원 최적화와 에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다"고 말했다.</p> <p contents-hash="b7cdcfd8feec04b6576cff3b52bb77eff37579604daf7f48823b805b48de0885" dmcf-pid="GTb8aATsZ5" dmcf-ptype="general">한편 삼성SDS는 민관협력형(PPP) 클라우드 사업자로서 대구센터에 H100 기반 GPUaaS를 도입하고 범정부 초거대 AI 공통기반 구축 등 정부 사업을 수행 중이다.</p> <p contents-hash="5efeba19a906f47d565164c8ef9f1d7d9fc6212fc9dce27d2d77bb42082a83d5" dmcf-pid="HyK6NcyOHZ" dmcf-ptype="general">gogo213@yna.co.kr</p> <p contents-hash="9e84dd9f2890bce57e48114fbc43a6569500763187bc90e89345946644b8b0a1" dmcf-pid="ZY2QAEYC1H" dmcf-ptype="general">▶제보는 카톡 okjebo</p> </section> </div> <p class="" data-translation="true">Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지</p> 관련자료 이전 ‘연기의 성’ 장항준 차기작은? 03-23 다음 에피유즈랩스, ERP 데이터로 AI 성과 높인다…선택적 전환 전략 전면에 03-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
