“기밀 정보 유출 막고, 비용 절감” 자체 AI 서버 구축하는 기업들 작성일 10-15 85 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">美 515곳 중 64% “자체 AI 팩토리”<br>사용량 많으면 자체 모델 운영 유리</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="WntsqtgRtS"> <figure class="figure_frm origin_fig" contents-hash="cfb9906774f0ca10b373c7fa56046b66d3fd0c066e330f66cc50381b027133e6" dmcf-pid="YLFOBFaeXl" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 비용 상승, 기밀 정보 보호 등을 이유로 자체 AI서버를 두고 있는 기업들/챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/chosun/20261015003601418npfo.jpg" data-org-width="1448" dmcf-mid="y5kPCkzt1v" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/chosun/20261015003601418npfo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 비용 상승, 기밀 정보 보호 등을 이유로 자체 AI서버를 두고 있는 기업들/챗GPT </figcaption> </figure> <p contents-hash="3d510f0b232ad71672a04eb442a27099a7f403336a20952f5da9efe5c5e3ac69" dmcf-pid="Go3Ib3NdHh" dmcf-ptype="general">미국 2위 로펌 래섬앤드왓킨스는 최근 H200 등 엔비디아 그래픽 처리 장치(GPU)를 탑재한 인공지능(AI) 서버를 구입하고 서버를 둘 보안 데이터센터 공간까지 빌렸다. 이곳에서 엔비디아가 개발한 개방형(오픈 웨이트) AI 모델 ‘네모트론 3’를 회사 업무에 맞게 조정해 고객 문서 분석에 쓸 계획이다. 챗GPT·클로드 등 외부 AI도 쓰지만, 외부 클라우드에 맡기기 어려운 기밀 정보는 자체 AI 서버에서 처리하려는 것이다. 미국 대형 로펌이 자체 AI 하드웨어까지 확보한 것은 처음이다.</p> <p contents-hash="d8782f6ec2634631359f748a0a323c9741e520b98b6805ba26285b284cb49d33" dmcf-pid="Hg0CK0jJYC" dmcf-ptype="general">기업들이 클라우드에서 빌려 쓰던 AI를 넘어 GPU와 데이터센터, AI 모델을 직접 확보하기 시작했다. AI가 회사 전체의 상시 업무 인프라로 바뀌면서다. 딜로이트 조사에서 연매출 5억달러 이상 미국 기업 515곳 중 64%가 자체 ‘AI 팩토리’를 제한적 또는 본격적으로 구축 중이라고 답했다. 이 비율은 2028년 88%로 높아질 전망이다.</p> <p contents-hash="74b845356d8be6d5b6ffb2dfdde2b0a6c8f82c5629078f6ec3190025b2a656a0" dmcf-pid="Xaph9pAiXI" dmcf-ptype="general">가장 큰 이유는 비용이다. AI 에이전트는 업무 하나를 처리하면서 AI 모델을 반복 호출한다. 딜로이트 조사에서 기업 67%는 이미 월 10억개 이상의 토큰(AI가 정보를 처리하는 기본 단위)을 쓰고 있었다. AI 사용량이 일정 수준을 넘으면 매번 토큰 사용료를 내기보다 GPU 서버를 갖추고 자체 모델을 운영하는 편이 유리할 수 있다.</p> <p contents-hash="17f21d375b55b2e196749fb8b5c8c695d7c61ede6ae184f02f7461e60c3c30bb" dmcf-pid="ZYdzjdXSXO" dmcf-ptype="general">기밀 보호도 이유다. 방산업체 록히드마틴은 자체 ‘DGX 슈퍼팟’에서 매주 10억여 개 토큰을 처리한다. 군사·위성 등 민감 데이터는 승인된 내부 시설에서 AI로 처리한다. 제약사 일라이릴리는 올 2월 엔비디아 블랙웰 울트라 GPU 1016개를 단 AI 수퍼컴퓨터 ‘릴리팟’을 가동해 신약 연구 데이터로 유전체를 분석하고 수십억 화합물 후보를 탐색한다. 바이오 기업 로슈도 자체 시설과 클라우드를 합쳐 GPU 3500여 개를 운용 중이다.</p> <p contents-hash="16d22d825b3d741704c9d6acf2e1200d52246ab6447ac908da49f9acc1fc9b4d" dmcf-pid="5GJqAJZvGs" dmcf-ptype="general">다만 자체 AI에는 GPU뿐 아니라 데이터센터와 전력·네트워크, 이를 관리할 전문 인력도 필요해 이러한 흐름은 대기업부터 확산할 가능성이 크다. 국내에서 삼성SDS가 생성 AI를 도입했거나 검토 중인 기업 관계자 670명을 조사한 결과 대기업은 43%가 자체 AI 솔루션 구축을 선호한 반면 중견기업은 27%였다.</p> <p contents-hash="5cf732667e0aca9d8a4bda9f2b985c2255d4dd544c2ea1876cf24b0b8df5cfd1" dmcf-pid="1HiBci5TYm" dmcf-ptype="general">GPU와 고대역폭 메모리(HBM)뿐 아니라 서버용 D램·기업용 솔리드스테이트드라이브(SSD)의 수요처도 일반 기업 데이터센터로 넓어질 전망이다. 반면 클라우드 업체는 자사 데이터센터에서 처리하던 일부 AI 연산을 고객 기업의 서버에 내줄 가능성이 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 中 CXMT 반도체 신기술, 왜 삼전닉스 주가 흔들었나 10-15 다음 ‘건강 교육’ 받고 달라진 인간관계…친구·돈 빌릴 이웃까지 바뀌었다 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
