AI 키우는 카카오, 서버비 줄인다…트래픽 폭주 땐 클라우드 활용 작성일 10-14 59 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">‘if(kakao)2026’에서 클라우드 비용 관리 발표<br>자원 자동 조정으로 컴퓨팅 20~30% 절감 목표<br>선물하기 트래픽 최대 16배 대응</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UQEsAQGhrR"> <p contents-hash="e90163e454fecca7c47eb52a1c3927f4011ff1acedb2fd4033f2bc31e5b24028" dmcf-pid="uxDOcxHlOM" dmcf-ptype="general"> [이데일리 김현아 기자] 카카오(035720)가 인공지능(AI) 서비스 확대에 맞춰 서버 운영 방식부터 바꾸고 있다. 평소에는 자체 인프라의 활용률을 높이고, 수요가 급증할 때만 외부 클라우드를 추가로 쓰는 방식이다. AI 추론 비용을 줄이는 데 이어 서버 운영 효율까지 높여 이용자가 늘어도 비용 부담이 급격히 커지지 않는 구조를 만들겠다는 전략이다.</p> <p contents-hash="dc568c854b581335cb9ac21d66fa29dbe08e1e0f8f924c355781cd58f25c87ce" dmcf-pid="7MwIkMXSmx" dmcf-ptype="general">정신아 카카오 대표는 앞서 인적분할 발표 기자간담회에서 “온디바이스 우선 처리와 지능형 모델 라우팅으로 성능은 유지하되 서버 추론 비용은 최대 90%까지 절감하겠다”며 “이용자가 늘어도 추론 비용이 선형적으로 늘지 않는 서비스 구조를 구축하겠다”고 밝혔다. 모든 요청을 대형 AI 모델로 처리하기보다 기기에서 해결할 수 있는 요청은 경량 모델로 처리하고, 복잡한 요청만 서버의 AI 모델로 넘기겠다는 구상이다.</p> <figure class="figure_frm origin_fig" contents-hash="7dc20e7bc3c368e8bf21ba2833854fb5f5d7045966e32ef67f9875857173a570" dmcf-pid="zRrCERZvIQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="개발자 행사 ‘if(kakao)2026’ 둘째날" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/Edaily/20261014123000172rtjb.jpg" data-org-width="447" dmcf-mid="2VOztCPKOC" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/Edaily/20261014123000172rtjb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 개발자 행사 ‘if(kakao)2026’ 둘째날 </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="2fc508d9c66f034dbd1977130772341c2ffd18927cc208efabec8bd6b98a1560" dmcf-pid="qemhDe5TwP" dmcf-ptype="figure"> <p class="link_figure"><img alt="카카오는 모든 요청을 고성능 서버 AI로 처리하는 대신, 간단한 작업은 기기에서 해결하고 복잡한 요청만 서버로 보내는 방식으로 AI 서비스 확장에 따른 비용 부담을 낮추려는 하고 있다. 출처=카카오" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/Edaily/20261014123001392xbnl.jpg" data-org-width="998" dmcf-mid="faG1ykb0OO" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/Edaily/20261014123001392xbnl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 카카오는 모든 요청을 고성능 서버 AI로 처리하는 대신, 간단한 작업은 기기에서 해결하고 복잡한 요청만 서버로 보내는 방식으로 AI 서비스 확장에 따른 비용 부담을 낮추려는 하고 있다. 출처=카카오 </figcaption> </figure> <div contents-hash="85f0913c230b9e171ad917b470ffe8563a28b2216cb1de22e54b9da3a5c41502" dmcf-pid="BSub0SMVw6" dmcf-ptype="general"> 이번에는 AI 모델의 추론 방식뿐 아니라 이를 뒷받침하는 인프라 운영 체계까지 비용 효율화에 나섰다. 서버를 무조건 늘리기보다 기존 자원의 활용도를 높이고, 추가 자원이 필요한 순간에만 외부 컴퓨팅 자원을 활용하는 것이다. </div> <p contents-hash="0630a5849fab1a08a62dc325cbcc0fb6ae2846ff94aa5636aedc95ab8f5a74e1" dmcf-pid="bv7KpvRfw8" dmcf-ptype="general">백정태 카카오 발표자는 14일 개발자 행사 ‘if(kakao)2026’에서 클라우드 비용 관리 체계인 핀옵스(FinOps) 추진 방향을 소개했다. 정원천 발표자는 사내 쿠버네티스 플랫폼인 DKOS의 자원 자동 조정 기능과 하이브리드 클라우드 적용 사례를 설명했다.</p> <p contents-hash="f7aee5785d35eb2893bfac87ed005b93af38244887dfaad61a1af9f57e366d47" dmcf-pid="KTz9UTe4E4" dmcf-ptype="general"><strong>유휴 서버 줄이고, 서비스당 비용 따진다</strong></p> <p contents-hash="d23a6f8dfe4352a73d7e53ccf626dbe70b53b1999dfe2b2ccd20ff264efdd9bd" dmcf-pid="9yq2uyd8Ef" dmcf-ptype="general">카카오가 주목한 문제는 서버를 확보해 놓고도 실제로는 충분히 활용하지 못하는 경우가 적지 않다는 점이다. AI 기능과 서비스가 늘면 컴퓨팅 자원 수요도 커지지만, 필요한 서버를 모두 상시 보유하면 비용 부담이 커진다. 반대로 사용률이 낮다는 이유로 서버를 무조건 줄이면 장애나 트래픽 급증에 대응하기 어려워진다.</p> <p contents-hash="3722c49c816ef1ec19b8c6643c0de47e28532bf417988e175a4d6eca32a4426f" dmcf-pid="2WBV7WJ6sV" dmcf-ptype="general">카카오는 서비스별 자원 사용량과 비용을 연결해 필요한 자원과 과도하게 확보한 자원을 구분하기로 했다. 서버와 데이터베이스(DB), 공통 플랫폼을 서비스 카탈로그와 연계해 어떤 서비스가 자원을 얼마나 사용하고 비용을 얼마나 발생시키는지 파악한다.</p> <p contents-hash="c5e69f3c37380e9ec47067adfac2e02e96b65bcf413eab6e7c91c994495e7318" dmcf-pid="VYbfzYiPI2" dmcf-ptype="general">비용 관리 기준도 바꾼다. 전체 서버 비용이 얼마나 늘었는지만 보는 대신 정상 처리한 요청 1000건당 비용, 메시지 100만건 전달에 드는 비용 등 서비스 성과 대비 비용(Unit Economics)을 측정한다. AI 기능이 확대되더라도 실제 처리량과 비용을 함께 분석해 인프라 투자의 효율성을 판단하겠다는 취지다.</p> <figure class="figure_frm origin_fig" contents-hash="244300e923a972bc3b586c69ea7b57a9a8ce0d563843fed3fe37e83b438541bc" dmcf-pid="fGK4qGnQO9" dmcf-ptype="figure"> <p class="link_figure"><img alt="카카오가 컴퓨팅 자원을 20~30% 줄이는 것을 목표로, 개별 서버의 효율화와 전체 클러스터의 자원 재배치를 함께 추진하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/Edaily/20261014123002599apde.jpg" data-org-width="1258" dmcf-mid="4ceLx7rNss" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/Edaily/20261014123002599apde.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 카카오가 컴퓨팅 자원을 20~30% 줄이는 것을 목표로, 개별 서버의 효율화와 전체 클러스터의 자원 재배치를 함께 추진하고 있다. </figcaption> </figure> <div contents-hash="923a152fb5ba36694a00664e78db5d1066cc40836ed854ce43cfafc14fac65ab" dmcf-pid="4H98BHLxrK" dmcf-ptype="general"> <strong>컴퓨팅 자원 20~30% 절감 목표</strong> </div> <p contents-hash="05fa9198a08157308e8ffd9fd2a63e318ff35ef2d9b4561c1814fa7a7bc69f25" dmcf-pid="8X26bXoMDb" dmcf-ptype="general">실제 자원 절감 작업도 진행 중이다. 정원천 발표자는 카카오가 조사한 결과 워크로드에 실제 사용량보다 약 30% 많은 컴퓨팅 자원이 할당돼 있었다고 설명했다. 카카오는 실제 사용량에 맞춰 자원 요청량을 자동으로 줄이고, 남는 작업을 일부 서버에 모은 뒤 비어 있는 서버를 회수하는 기능을 도입하고 있다.</p> <p contents-hash="c79a2983537e19f727209dc4ecfc34520a42412d8c244205ec725e55aebbdaea" dmcf-pid="6ZVPKZgROB" dmcf-ptype="general">이를 통해 컴퓨팅 자원을 20~30% 절감하는 것이 목표다. 다만 이는 전체 서비스에서 달성한 실적이 아니라 기대치로, 적용 범위를 점진적으로 확대하고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="53eb3d771557ef351db52a189ccffb6853ac0e9704a2f92cc4f0dab406189341" dmcf-pid="Pyq2uyd8Eq" dmcf-ptype="figure"> <p class="link_figure"><img alt="백정태 카카오 발표자가 14일 개발자 행사 ‘if(kakao)2026’에서 클라우드 비용 관리 체계인 핀옵스(FinOps) 추진 방향을 설명하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/14/Edaily/20261014123003815tcyn.jpg" data-org-width="1244" dmcf-mid="py6RfFAire" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/14/Edaily/20261014123003815tcyn.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 백정태 카카오 발표자가 14일 개발자 행사 ‘if(kakao)2026’에서 클라우드 비용 관리 체계인 핀옵스(FinOps) 추진 방향을 설명하고 있다. </figcaption> </figure> <div contents-hash="3642331ce8e21ac72867834a29b8a36a4156dcbd720599601b376893cebd5099" dmcf-pid="QWBV7WJ6mz" dmcf-ptype="general"> <strong>평소엔 자체 서버, 트래픽 급증 땐 클라우드</strong> </div> <p contents-hash="b9a1724bb7bc5d75ad0706aea15e3d69e7c764cddcf16b2bc3fc4a73e5684609" dmcf-pid="xYbfzYiPm7" dmcf-ptype="general">서버를 확보하는 방식도 바꾼다. 카카오는 서비스별 여유 자원을 공용 자원 풀로 모아 공유하고, 여러 서비스의 수요가 동시에 늘어 이를 감당하기 어려울 때는 퍼블릭 클라우드에서 필요한 자원을 추가로 확보할 계획이다. 상시 수요는 자체 데이터센터에서 처리하고 일시적인 수요는 외부 자원으로 대응하는 하이브리드 클라우드 전략이다.</p> <p contents-hash="397bcf71483e5b54f732ce47ead769f491a4aa8aacf73c867d46a666c1df6644" dmcf-pid="yRrCERZvEu" dmcf-ptype="general">이를 위해 기존 쿠버네티스 클러스터에 퍼블릭 클라우드 노드를 연결했다. 개발자가 별도의 클라우드 환경에 서비스를 따로 배포하지 않고도 기존 방식 그대로 필요할 때 외부 컴퓨팅 자원을 활용할 수 있도록 한 것이다.</p> <p contents-hash="00d51ce693ba3dd0ea3e46925efd63912f906532ba1287eb474ffab011c6c2ee" dmcf-pid="WemhDe5TDU" dmcf-ptype="general">카카오는 트래픽 급증이 잦은 카카오톡 선물하기 대기열 서비스에서 하이브리드 구성을 검증했다. 명절이나 기념일에는 트래픽이 평소의 최대 16배까지 늘어날 수 있다. 이에 과거 데이터 기반 예측과 AI 기반 급등 패턴 감지, 실시간 임계치 경보 등을 활용해 대응한다.</p> <p contents-hash="4e2848767880981765d0a05e42d04cccd503519cc4b0d0a0183769966f9e8e72" dmcf-pid="Ydslwd1yIp" dmcf-ptype="general">현재 일부 기능을 수동으로 구성해 작동 여부를 확인했으며 자동화 작업을 진행하고 있다. 자동화 완료 목표 시점은 2026년 11월 말이다.</p> <p contents-hash="3f24ae290d303aeb0eedf15aee959986aa176f76f7b11a2ffd2155060e23ccc5" dmcf-pid="GJOSrJtWw0" dmcf-ptype="general">AI 경쟁이 모델 성능뿐 아니라 운영 비용과 수익성으로 확대되면서 인프라 효율화의 중요성도 커지고 있다. 카카오가 추론 비용과 서버 운영비를 함께 낮춰 AI 서비스 확대에 따른 비용 부담을 얼마나 줄일 수 있을지가 관건이다.</p> <p contents-hash="71951bf8e1ee90ad18359a565152e9ebfd852d5818a723449dfba15401eb64e2" dmcf-pid="HiIvmiFYr3" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 [AI프리즘] "AI 에이전트 똑똑해질수록 추론 인프라가 관건" 10-14 다음 SK하이닉스 안현 “AI는 이제 시작”…HBM 넘어 3D 적층 D램·HBF 개발 강조 10-14 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
