[인터뷰] 에이전틱AI 이면엔 전력난·토큰비용 ‘이중고’…“고효율 AIDC 설계가 해법” 작성일 04-03 26 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="U6iUaXAiW3"> <figure class="figure_frm origin_fig" contents-hash="718107854f5720bcdcf48bd7b5f5fc652bdc3365fc21508ecc8102dd157c61c6" dmcf-pid="uq8HMhd8SF" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202604/03/552796-pzfp7fF/20260403154116606wjed.jpg" data-org-width="640" dmcf-mid="plr6CBSrl0" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202604/03/552796-pzfp7fF/20260403154116606wjed.jpg" width="658"></p> </figure> <p contents-hash="fe49fcd0b7d2139a8be064309ab8a7a9ba2f89f5aa2c7762c4bf5809e7a9f7cb" dmcf-pid="7B6XRlJ6Ct" dmcf-ptype="general">[디지털데일리 오병훈 기자] 인공지능(AI) 모델이 단순 ‘학습(Training)’ 단계를 넘어 스스로 추론하고 행동하는 에이전틱AI로 진화하게 되면서 글로벌 IT 인프라 시장은 거대한 전환점이자 위기를 맞았다.</p> <p contents-hash="da63797378c212b2cb7f271a599d1b21e37e6998b38b89987273fd28b7ea3119" dmcf-pid="zbPZeSiPh1" dmcf-ptype="general">데이터센터 내 전력 수요와 서버 발열은 폭발적으로 증가하고 있으며 이로 인한 글로벌 전력망 포화 및 비용 증가는 업계의 시급한 난제로 떠올랐다.</p> <p contents-hash="17234345390b36ddb13dbd6732b1076af58433b81c2def17d00d7e76f9869318" dmcf-pid="qKQ5dvnQh5" dmcf-ptype="general">심화되는 지정학적 긴장으로 데이터 주권 확보 경쟁도 치열해지면서 기업들이 요구하는 데이터 운영관리 수준도 높아지고 있다. 운영관리 난이도는 높아졌지만 동시에 재난이나 위기 상황에서도 서비스 장애를 최소화해야 하는 ‘비즈니스 연속성(Business Continuity)’도 보장해야 하는 상황이다.</p> <p contents-hash="7ca05f2b18ea1033cf0d9ee2c1a9cf30d1977385ad0437346392670a43b97cb9" dmcf-pid="B9x1JTLxSZ" dmcf-ptype="general">3일 서울 중구 서울파이낸스센터에서 국내 언론사들과 인터뷰를 진행한 스콧 밀스 디지털리얼티 수석부사장은 에이전틱AI 시대 인프라 운영관리 중요성을 강조하며 “디지털리얼티는 AI 비즈니스 연속성을 효과적으로 관리할 수 있도록 돕는 핵심 플랫폼 역할을 하고 있다”고 말했다.</p> <p contents-hash="78b1397249ce778964d3ea5754b84ffd0a9d54ee675bfe08750fa31f275e5323" dmcf-pid="b2MtiyoMvX" dmcf-ptype="general"><strong>◆AIDC 효율, GPU 공간·열관리가 핵심…DLC·CDU 혼합으로 유연한 대응</strong></p> <p contents-hash="290d843b95f9e049d3aa13aa8f84ea017aa510454dffd8ba937cd7b3ec16729c" dmcf-pid="KVRFnWgRCH" dmcf-ptype="general">밀스 부사장은 디지털리얼티의 가장 큰 강점으로 ‘고밀도 인프라 설계’와 ‘글로벌 전역에 세워진 데이터센터 네트워크’를 꼽았다.</p> <p contents-hash="0693af3f8db229bcd4527db9cbe23ef60050d4dfda8f68c8679ff78ac041e5d5" dmcf-pid="9fe3LYaeyG" dmcf-ptype="general">최근 AI를 구동하기 위한 그래픽처리장치(GPU) 수요가 폭증하고 있다. 이에 따라 GPU를 한데 한데 모은 인공지능 데이터센터(AIDC) 운영관리 중요성도 함께 높아졌다.</p> <p contents-hash="ae7c3e1d9e6e63ae2142517de7b99920fdafc7516ace70f44f536b27249d806f" dmcf-pid="24d0oGNdTY" dmcf-ptype="general">데이터센터 효율을 높이는 핵심은 ‘밀도’와 ‘열관리’다. 하나의 랙당 최대한 많은 GPU를 배치해 공간 효율을 확보하고 GPU에서 발생하는 열을 관리해 GPU의 오작동을 막고 수명을 최대로 끌어올려야 한다.</p> <p contents-hash="6272c3f2ca57c6027824ad01c29c4b00d0344d9ac171b744b3cb8c968a5eb383" dmcf-pid="V8JpgHjJWW" dmcf-ptype="general">밀스 부사장은 “디지털리얼티는 이미 오래전부터 GPU 고밀도 인프라 설계를 위한 연구를 이어왔다”며 “현재는 150킬로와트(kW) 이상의 인프라를 수용할 수 있는 코로케이션 서비스를 제공하고 있으며 향후 300kW 이상의 초고밀도 인프라까지 수용할 수 있도록 준비 중”이라고 강조했다.</p> <p contents-hash="60c87765484d975e3e009fdffc711fc0ca64dc997640abb0dc0d81759e5dc15d" dmcf-pid="f6iUaXAiTy" dmcf-ptype="general">그러면서 “열 관리 측면에서는 ‘후면 도어 열 교환기(Rear Door Heat Exchangers)’와 ‘다이렉트 칩 냉각(DLC)’, ‘고성능 냉각수 분배 장치(CDU)’ 등을 조합해 상황에 따라 발열 관리를 이어갈 수 있다”고 말했다.</p> <p contents-hash="630c269b0dd6da6c75dfe19d93af53585af4e96b4ed36cd6630e116a2965f85b" dmcf-pid="4PnuNZcnhT" dmcf-ptype="general">디지털리얼티는 한국의 상암디지털미디어시티(DMC)에 ‘ICN10’ 리전을 두고 있다. 올해 중 완공을 앞두고 있는 ‘ICN11’ 역시 철저히 AI 인프라 관점에서 위와 같은 기술이 적용됐다는 것이 밀스 부사장 설명이다.</p> <p contents-hash="ddc2f937fa87011842b165d416eb7053b20b2f53804f99d92dfdc4d445b095a9" dmcf-pid="8QL7j5kLWv" dmcf-ptype="general">재해복구(DR)도 AIDC 수준을 평가하는 중요한 지표가 됐다. 인프라가 거대하고 복잡해진 만큼 언제 어디서 발생할지 모르는 재난 변수에 대응하는 것이 핵심이다.</p> <p contents-hash="52e78c2e46fd4e6faff89e052179bfffa9d5a8c91800c0b93c83458f5d4c9544" dmcf-pid="6QL7j5kLlS" dmcf-ptype="general">이를 위해 디지털리얼티는 현재 글로벌 300개 이상 데이터센터를 하나로 묶는 ‘서비스 패브릭(Service Fabric)’을 운영 중이다. 개방형 데이터센터 생태계로 고객사는 온프레미스(구축형) 인프라와 퍼블릭 클라우드를 아우르는 하이브리드 환경에서 자유롭게 인프라를 활용할 수 있다.</p> <p contents-hash="f066271410d782655a54408923c5475b3d7c482159bdb961cb0de6c814b507f1" dmcf-pid="PxozA1EoTl" dmcf-ptype="general">밀스 부사장은 “이 방대한 글로벌 네트워크는 기업의 비즈니스 연속성을 보호하는 결정적인 역할을 한다”며 “예기치 못한 지정학적 위기나 물리적 타격이 발생하더라도 광범위한 데이터센터 네트워크 패브릭을 통해 즉시 데이터를 복제하고 다른 국가의 데이터센터에서 안정적으로 업무를 이어갈 수 있는 강력한 회복 탄력성을 보장한다”고 전했다.</p> <p contents-hash="54cc9946cb9276f294d7e5f5a0c7902b9426729e4ab76310a10e862732f46887" dmcf-pid="QMgqctDgCh" dmcf-ptype="general"><strong>◆AI 인프라 ‘토큰비용 폭증·전력난’ 이중고…종량제 요금으로 효율 증대</strong></p> <p contents-hash="142499f15d18a0ce2abec085951bf11014995f4380dd375df936d7c63a86c7d9" dmcf-pid="xRaBkFwalC" dmcf-ptype="general">밀스 부사장은 현재 AI 인프라 시장이 ‘토큰 비용 폭증’ ‘전력난’ 이중고에 직면해 있다고 판단했다. 업계는 AI 트렌드가 에이전틱AI 기반 구조로 전환되면서 AI의 토큰 생성량이 기존 대비 5배~15배까지 늘어날 것으로 전망하고 있다. AI 모델 개발 기업 입장에서 감당해야 하는 토큰 비용이 폭증하게 되면서 재무적 부담도 높아지고 있다는 설명이다.</p> <p contents-hash="8d6e16436a343ce0d5dd4c84663de4b00844dbf6602f0127e19d4ebdd1d38bc3" dmcf-pid="yY3w7gB3hI" dmcf-ptype="general">디지털리얼티는 데이터센터 단위의 ‘전력 사용 효율(PUE)’을 최저 수준으로 낮추고 고효율 운영 환경을 제공해 기업 토큰 비용 부담을 더는 데 집중하겠다는 전략이다. 낭비되는 전력 문제 해결책으로는 ‘제곱미터당 킬로와트(kW/㎡) 정밀 관리’를 제안했다. 이를 종합해 고객사가 원하는 만큼 사용하고 돈을 지불하는 효율적인 토크노믹스를 확보하는 것이 핵심이다.</p> <p contents-hash="c86a4337d600538aab41f53e42c28e915579fac0972422a0927844651268667a" dmcf-pid="WG0rzab0lO" dmcf-ptype="general">밀스 부사장은 디지털리얼티가 지역별 예민한 정책 규제 사항에도 기민하게 대응하고 있다고 강조했다. 국방·금융 등 국가 공공 인프라는 더 강력한 데이터 주권 및 안전성이 요구된다. 각국 규제에 상응하는 운영관리 전략으로 각국의 데이터 주권을 보장하는데 일조하겠다는 전략이다.</p> <p contents-hash="020dafd8bcfbaf986ec83ac5d13f5ad51d2db73eebccdd590ab93bdf110e115b" dmcf-pid="YHpmqNKpvs" dmcf-ptype="general">마지막으로 밀스 부사장은 “통신망 밀집도가 높은 한국은 강력한 상호 연결성을 지닌 IT 선도국가 중 하나”라며 “고객사 요구사항에 부합하는 AI 인프라 솔루션을 엣지 컴퓨팅 단계까지 안전하게 지원할 수 있다”고 강조했다.</p> <p contents-hash="c0402c421af40b383376555ab3ac77eec571640fbe930b81b9ffcf104d416491" dmcf-pid="GXUsBj9Uhm" dmcf-ptype="general">한편 디지털리얼티는 지난 2022년부터 서울 마포구 상암동에 위치한 ICN10 데이터센터를 운영하고 있다. 최대 IT 용량 12메가와트(MW) 규모인 ICN10은 망중립 데이터센터다. 고밀도 전력 설계와 안정적인 네트워크 인프라를 기반으로 인공지능(AI) 및 고성능컴퓨팅(HPC) 워크로드를 지원하는 엔터프라이즈급 인프라 환경을 제공하고 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 코로나19 장기 후유증, 심혈관 위험 높인다…여성은 최대 2배↑ 04-03 다음 TFT 세트 17 "그래서 정말 망한 시즌인가요?" 04-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
