스티븐스 레드햇 AI CTO “RHEL·오픈시프트 잇는 세 번째 혁신은 AI 추론 플랫폼” 작성일 10-29 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XkZHyaqFIy"> <figure class="figure_frm origin_fig" contents-hash="8190bdb80818b6e39ab40225fcb270391c219c79b7ab0aa159d82eca0b04a38a" dmcf-pid="ZE5XWNB3ET" dmcf-ptype="figure"> <p class="link_figure"><img alt="브라이언 스티븐스 레드햇 AI CTO가 28일 서울 강남구 웨스틴 서울 파르나스에서 열린 '레드햇 서밋 커넥트 서울 2025'에서 전자신문과 만나 인터뷰하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/etimesi/20251029170248986bnqb.jpg" data-org-width="700" dmcf-mid="H5IsDPXSsW" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/etimesi/20251029170248986bnqb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 브라이언 스티븐스 레드햇 AI CTO가 28일 서울 강남구 웨스틴 서울 파르나스에서 열린 '레드햇 서밋 커넥트 서울 2025'에서 전자신문과 만나 인터뷰하고 있다. </figcaption> </figure> <p contents-hash="8ad9eb09b973639bf204c0225e93706d67d71790bd2a33771e2b58dddfd55fbe" dmcf-pid="5D1ZYjb0Ev" dmcf-ptype="general">레드햇이 인공지능(AI) 추론 단계 혁신을 위한 개방형 플랫폼 개발에 나서면서 새로운 혁신을 만든다.</p> <p contents-hash="cbc1f570204f63b42101e460e486bd998fab5dd674643bde9405662f1ff377a4" dmcf-pid="1wt5GAKpIS" dmcf-ptype="general">최근 방한한 브라이언 스티븐스 레드햇 AI 최고기술책임자(CTO)는 28일 전자신문과 인터뷰에서 “레드햇 엔터프라이즈 리눅스(RHEL)와 오픈시프트를 만든 레드햇이 AI 부문에서 세 번째 혁신의 장을 열 것”이라며 이 같이 강조했다.</p> <p contents-hash="e36de5f4519252051f88f302e28a27dfb62eb0818c162eae93dee1f8f2023a48" dmcf-pid="trF1Hc9Uml" dmcf-ptype="general">스티븐스 AI CTO는 2001년 레드햇에 합류, 2005년부터 9년간 CTO를 맡아 RHEL과 오픈시프트 등 주요 제품 출시를 주도한 인물이다. 그러나 2014년 돌연 사임 후 구글 클라우드 CTO, AI 스타트업 뉴럴매직의 최고경영자(CEO) 등을 역임했다.</p> <p contents-hash="62bb79f147f42a3320a8d25b2012fcae30004e1fef827a103a50df156768428c" dmcf-pid="Fm3tXk2urh" dmcf-ptype="general">그가 11년만에 레드햇에 돌아온 것은 지난 1월 레드햇이 AI 스타트업 '뉴럴매직'을 인수하면서다.</p> <p contents-hash="fea7ec836ca17f8bc64e38ec77558183123130ff20d3d459c2ec7963cdc6eba9" dmcf-pid="3s0FZEV7IC" dmcf-ptype="general">AI CTO라는 새 직함을 달고, AI 제품의 실행(추론) 단계를 혁신하기 위한 개방형 플랫폼 개발을 이끈다.</p> <p contents-hash="7cfe9b7e146adf05dd6ce2c7a09bc1af9498d20fc9cb6fd9dff42c9bbccee5be" dmcf-pid="0Op35DfzOI" dmcf-ptype="general">스티븐스 AI CTO는 “AI 시장이 AI 모델과 그래픽처리장치(GPU) 확보에 집중되고 있지만, AI 제품을 실제로 서비스하는 단계에서 효율성을 확보하지 못 하는 문제를 많은 기업이 현재 겪고 있다”며 “이를 위해 누구나 AI 제품을 원활하게 서비스할 수 있도록 하는 개방형 플랫폼을 만들었다”고 설명했다.</p> <p contents-hash="b3e2de2ccd2821ccace515b24475e2d6523956258cc67cce262f8911ec03dc72" dmcf-pid="pIU01w4qmO" dmcf-ptype="general">그는 네 가지 축을 기반으로 개방형 플랫폼을 설계했다.</p> <p contents-hash="923e2cbefe8756f3c12d688730aeb3380537aad87c6692faa0ce4da1b9b6744d" dmcf-pid="UCuptr8Bms" dmcf-ptype="general">우선 AI 추론 최적화 오픈소스 커뮤니티 'vLLM' 기반 기술을 적극 활용한다. vLLM은 페이지드 어텐션, 연속 배칭 등 핵심 기술을 바탕으로 그래픽처리장치(GPU) 메모리 사용을 최적화한다.</p> <p contents-hash="dfba6b5b09b1a02da00a457f75acd26382741426127454628e24db6b726ac8c7" dmcf-pid="us0FZEV7Dm" dmcf-ptype="general">오픈소스 프로젝트 'llm-d'는 vLLM의 성능을 극대화한다. AI 인식 라우팅과 동적 오토스케일링을 구현, 대규모 추론을 여러 컴퓨팅 자원에 분산 처리해 리소스 사용을 최적화한다. 구글 클라우드, 엔비디아 등 주요 AI 기업들이 프로젝트에 참여하며 생태계가 커지고 있다.</p> <p contents-hash="1f004ebc657cd3452a719e9f5db6f047171914be878d74dd5bd2d1f487d16dfb" dmcf-pid="7Op35Dfzsr" dmcf-ptype="general">이 외에도 LLM 추론 작업 분산·오케스트레이션을 위한 컨테이너 관리 플랫폼 '쿠버네티스', 프런티어급 LLM 모델의 추론 서빙 알고리즘을 결집한 '최적화된 모델'을 기반으로 한다.</p> <p contents-hash="5e318daf7c67bdbc2e6d759d7ac58a543b047fbbb34ef0448a22a163eeabbc01" dmcf-pid="zIU01w4qsw" dmcf-ptype="general">스티븐스 AI CTO는 “AI 추론 지원은 하나의 기업이 할 수 없기 때문에 AI 가속기 혁신, 데이터 캐싱 고도화 등 다양한 기술을 가진 기업과 함께하는 AI 추론 지원 생태계를 만들고 있다”며 “한국 기업 중에는 AI 반도체 기업 리벨리온과 협업하기도 했다”고 말했다.</p> <p contents-hash="fa443b4b54f1c5597ae06125765a9cc7dc1f07eb80aaf99f4fc1de71b43ced46" dmcf-pid="qCuptr8BOD" dmcf-ptype="general">레드햇은 개방형 플랫폼을 바탕으로 내년 AI 추론 지원을 본격화할 계획이다.</p> <p contents-hash="c5c1d91fb7f516a4863e5890945feb1a0413195c6e410a13df046cf1a8550277" dmcf-pid="Bh7UFm6bOE" dmcf-ptype="general">스티븐스 AI CTO는 “이번 방한 일정 동안 BC카드, 메가존클라우드 등 주요 기업이 레드햇 솔루션을 활용하는 모습을 보면서 레드햇의 역할은 고객 혁신을 이끄는 것이라는 것을 다시금 느꼈다”며 “고객들이 AI 기술 활용 역량을 키울 수 있도록 적극 지원할 것”이라고 강조했다.</p> <p contents-hash="c15a4e4e4dc9dec47e961ba1c83519042e08d8876caedbb09ecfafe9d1bda8f2" dmcf-pid="blzu3sPKsk" dmcf-ptype="general">현대인 기자 modernman@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 "전문직 대체할 AI 봇물…2040년 무료진료 시대 온다" 10-29 다음 AI 급변기 대응 최적화 '셀단위 데이터센터' 평택에 들어섰다 10-29 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
