학습은 AWS, 서비스는 정부 GPU…카카오, '모두의 AI' 인프라 이원화 작성일 10-23 51 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">세이지메이커 하이퍼파드 활용…유연한 GPU 확보 및 중단 없는 학습 환경 구현</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QSgPTkztyN"> <figure class="figure_frm origin_fig" contents-hash="c981ccc3d87fc5099f3e176f71cf4374ddb37eca8fe6f3ec7bf012b39a3781a9" dmcf-pid="xvaQyEqFSa" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/23/552796-pzfp7fF/20261023141356000anzu.jpg" data-org-width="640" dmcf-mid="PwzXi2Ikvj" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/23/552796-pzfp7fF/20261023141356000anzu.jpg" width="658"></p> </figure> <p contents-hash="f183aec92b3c9a9f12d5cbd62224361e85e01977471f9a733839f526c5df50e4" dmcf-pid="yP3TxzDgWg" dmcf-ptype="general">[디지털데일리 박재현기자] 카카오가 정부 ‘모두의 AI’ 사업에 사용할 ‘카나나’ 모델 학습을 아마존웹서비스(AWS) 클라우드에서 진행한다. 학습은 '아마존 세이지메이커 하이퍼파드'로 하고, 완성된 모델은 정부 지원 그래픽처리장치(GPU)에 올려 서비스한다. 카카오는 유연한 GPU 확보와 중단 없는 학습 등을 AWS를 택한 이유로 꼽았다.</p> <p contents-hash="f6540001ecac5070c6aac9927677f4ef088da39316ac6f4e5572a9a7234ef4c5" dmcf-pid="WQ0yMqwaTo" dmcf-ptype="general">김세웅 카카오 AI커뮤니케이션 및 AI시너지 부사장은 23일 서울 파르나스에서 열린 ‘AWS AI 웨이브 2026’ 기조연설 무대에 올라 카카오의 하이브리드 AI 인프라 전략을 소개했다. 김 부사장은 카카오에서 모두의 AI 사업 총괄 PM을 맡고 있다.</p> <p contents-hash="850b3097b57faa26e5df4fd4016552ffaeeb16d7cb481b6f1bd661aaaac3a818" dmcf-pid="YxpWRBrNhL" dmcf-ptype="general">모두의 AI는 카카오가 정부, 컨소시엄 파트너와 함께 개발하는 AI 에이전트 플랫폼이다. 4900만명이 쓰는 카카오톡 안에서 국산 AI가 검색부터 신청, 예약, 발급까지 실제 업무를 끝까지 처리하도록 하는 것이 목표다. 핵심 모델은 카카오가 직접 만든 카나나다. 카나나는 요청 난이도에 맞춰 효율적인 모델을 골라 쓰는 모델 제품군이다. 크기와 목적이 다른 모델을 계속 학습해야 하는 구조다.</p> <p contents-hash="8025f3c8b5625819be8d4a5450a7a5f84823864d8e0afe0996d377e830546d51" dmcf-pid="GMUYebmjyn" dmcf-ptype="general">카카오는 학습 과정에서 세 가지 인프라 과제에 부딪혔다. GPU 수요는 들쭉날쭉했고 GPU 세대 교체는 빨랐다. 학습을 위한 온프레미스 클러스터를 갖추기 위해선 대규모 선투자도 필요한 상황이었다. 김 부사장은 "큰 모델과 작은 모델을 번갈아 만들고 학습이 끝나면 GPU를 다른 과제에 다시 배분해야 하는 데다, 개발자는 늘 최신 GPU를 원한다"고 설명했다.</p> <p contents-hash="3d10e035aeda11ca6bbf7420f7a3f866efd60d59569f6d869cb190202b52f5dd" dmcf-pid="HRuGdKsASi" dmcf-ptype="general">카카오는 학습과 추론을 나눈 하이브리드 구조로 대응했다. 수요 변동이 크고 최신 GPU가 필요한 학습은 AWS에서 탄력적으로 수행하고, 추론은 온프레미스에서 운영한다. 모두의 AI도 같은 구조를 따른다. AWS에서 학습한 카나나 모델을 정부 지원 GPU에 올려 모두의 AI 서비스에 쓴다.</p> <p contents-hash="fe2aa7896d9e64764e83ce604da2ff9b2c46bfdbd94535386e06bfd2fcb8f3f3" dmcf-pid="Xe7HJ9OclJ" dmcf-ptype="general">카카오는 AWS를 택한 이유로 먼저 유연한 GPU 확보를 들었다. 필요한 만큼 GPU를 늘리고 줄일 수 있고, 최신 GPU도 빠르게 확보할 수 있다. 연구 집중도 이유로 꼽았다. 서비스 회사인 카카오에 학습 플랫폼을 직접 유지·개발하는 일은 큰 부담이다. 카카오는 클러스터 운영을 하이퍼파드에 맡기고 연구팀은 모델 개발에 집중한다.</p> <p contents-hash="d8b3be4679f0188f4227310b3baedb3636efe72d1823ed7d675f865fe3a79281" dmcf-pid="ZwMbmn1yCd" dmcf-ptype="general">하이퍼파드를 고른 가장 큰 이유는 학습을 지속할 수 있다는 점이다. 김 부사장은 “GPU가 생각보다 잘 죽는다”며 "한 장이 죽으면 교체할 때까지 노드 전체를 못 쓴다"고 설명했다. 하이퍼파드는 장애가 난 노드를 자동으로 교체하고, 저장된 체크포인트에서 학습을 곧바로 재개한다. 그만큼 학습 시간을 줄일 수 있다.</p> <p contents-hash="722043ab9425058e0fbd1794f7471d13303075b544ae019e4a4c49879c7e4314" dmcf-pid="5rRKsLtWCe" dmcf-ptype="general">공정한 자원 운영도 선택 이유로 꼽았다. 한정된 GPU를 여러 팀이 나눠 쓰다 보면 경쟁과 갈등이 생긴다. 카카오는 하이퍼파드에서 팀과 과제별 GPU 우선순위와 할당을 투명하게 관리한다.</p> <p contents-hash="42df0efc61de3c27a4847fccfc416e96b475c11468900cfe6ab969f8b72130a7" dmcf-pid="1me9OoFYWR" dmcf-ptype="general">기술 외적인 협업 체계도 AWS를 파트너로 고른 배경이다. 카카오는 빠른 온보딩으로 도입 초기부터 곧바로 모델 학습에 들어갔다. 학습 과정에서는 AWS 글로벌 서비스팀의 지원을 받았다. 지식 공유도 협업의 한 축이다. 업계에서 사실상 표준으로 쓰이는 AWS의 활용 노하우가 개발자들에게 빠르게 전달되면서, 새 도구를 따로 익히지 않고 바로 모델 개발에 들어갈 수 있었다는 설명이다.</p> <p contents-hash="265fe91ffa92ccbb49be762e4f151a2b7cd74b5b044c37eab14b9c8c29b95b2b" dmcf-pid="tsd2Ig3GCM" dmcf-ptype="general">카나나는 카카오 밖으로도 확산한다. 아마존 세이지메이커 점프스타트에 카나나 모델이 올라가 있어, 기업은 서빙 인프라를 따로 구축하지 않고도 클릭 몇 번으로 AWS에서 배포하고 테스트할 수 있다. AI 에이전트 마켓플레이스를 통해서도 더 많은 기업과 개발자가 카나나를 쓰도록 하고 있다. 카카오 안에서는 모두의 AI와 ‘카나나 스페이스’ 등 서비스에 적용하고 있다.</p> <p contents-hash="e9a6a5eb41be95361aa0df5262db55d72dcb8002a232693a3931c048a98801af" dmcf-pid="FOJVCa0HCx" dmcf-ptype="general">카카오는 추론 인프라를 클라우드로 넓히는 방안도 검토한다. 김 부사장은 학습과 추론을 함께 하는 기업이라면 고민해볼 만한 구조라며, 추론 역시 클라우드로 확장하는 방안을 고려하고 있다고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 [MBF 2026] 이병철 카나프테라퓨틱스 대표 "ADC 성패는 페이로드···AZ 대비 안전성 3배 입증" 10-23 다음 콘센트릭스, ‘이커머스 최적화’ 전략 도입… Shopify 기반 해외 사이트에 적용 10-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
