값비싼 B300, 제값하려면…와탭랩스 “‘AI풀스택 관리’로 효율 극대화” 작성일 06-09 36 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="KymKlee4Cc"> <figure class="figure_frm origin_fig" contents-hash="1268fd042e18feb1ebce62293c1c91f9a035ce4967be3be7151a054992e58388" dmcf-pid="9Ws9Sdd8SA" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/09/552796-pzfp7fF/20260609131155215lbvg.jpg" data-org-width="640" dmcf-mid="1Ivm8GGhCS" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/09/552796-pzfp7fF/20260609131155215lbvg.jpg" width="658"></p> </figure> <p contents-hash="a208ae1b230586bd45c211cbdb8591c40f79453e062b42cce02e7743dba0225f" dmcf-pid="2z5nprrNSj" dmcf-ptype="general">[디지털데일리 오병훈기자] “그래픽처리장치(GPU)를 24시간 잘 활용하면 10만장으로 30만장의 효과를 낼 수도 있습니다. 문제는 GPU가 매우 비싼 자원임에도 실제 활용률이 높지 않다는 점입니다. 근무 시간을 제외한 나머지 시간에는 유휴 자원으로 쉬고 있는 경우가 많습니다.”</p> <p contents-hash="0c54aecd35eec6971958e6cf0914279b09a837bf3c8b646c9f9a4e47416dd524" dmcf-pid="Vq1LUmmjTN" dmcf-ptype="general">이동인 와탭랩스 대표는 9일 오전 서울 서초구에서 개최된 ‘LLM 옵저버빌리티 미디어 데이’에서 회사의 AI 시대 3대 핵심 성장 동력인 ‘그래픽처리장치(GPU)·거대언어모델(LLM)·인공지능(AI) 운영’ 통합 전략을 발표하며 이같이 강조했다.</p> <p contents-hash="6df02740b3488714bdb5d5bd3646c9f8e6913c9c35780f2b72257756802799a9" dmcf-pid="fBtoussAha" dmcf-ptype="general">와탭랩스는 애플리케이션(앱) 성능관리와 서버·데이터베이스 모니터링 역량을 바탕으로 AI 서비스 운영 영역으로 사업을 확장하고 있는 국내 옵저버빌리티 기업이다. 옵저버빌리티는 서비스 내부 상태를 실시간으로 관찰해 장애 원인과 비용 증가 요인을 분석하는 기술이다.</p> <p contents-hash="dc579b8cd26f958342eb57c951d11b56508390273167767f869059c26aef919e" dmcf-pid="4bFg7OOchg" dmcf-ptype="general">특히 인프라 비용이 크게 증가하면서 기업에서는 이를 효율적으로 활용하기 위한 방법론 연구에 몰두하기 시작했다. 이 대표는 엔비디아 최신칩 ‘블랙웰 300’을 예시로 들었다. 해당 칩을 기분으로 랙 1식당 구축 비용은 약 98억원 정도 소모된다. 기업 입장에서는 약 100억원에 육박하는 인프라를 샀다면 그 효용을 최대치로 끌어올리기 위한 체계를 구축하고자 하는 욕구도 크게 높아지고 있다는 설명이다.</p> <p contents-hash="a18f21cd7ac13de52b23b911b221980409a1f5dcda1cc10aa09bc20ff13c1d3b" dmcf-pid="8K3azIIkSo" dmcf-ptype="general">이 대표는 “GPU를 잘 쓰려면 누가, 얼마나, 어떤 이유로 GPU를 쓰고 있는지 보여야 한다”며 “GPU 자체에는 문제가 없어도 CPU나 메모리에 문제가 생기면 결국 해당 서버의 GPU도 제대로 동작하지 않는다”고 말했다.</p> <p contents-hash="00c1752ad858424ed6437db7266c317c4b8cf851839df2433cdb97d367172141" dmcf-pid="690NqCCESL" dmcf-ptype="general">생성형 AI 확산 이후 단순 서버 장애뿐 아니라 토큰 사용량, 모델 응답 속도, GPU 사용률, AI 답변 품질까지 함께 관리해야 하는 만큼 AI 옵저버빌리티 수요도 커지고 있다는 것이 이 대표 분석이다.</p> <p contents-hash="aa5230af477b0c71a023e954d8f8a77b7bb9cabb03a2f6c4ca5d2f0a789b5f7d" dmcf-pid="P2pjBhhDhn" dmcf-ptype="general">이 대표는 “LLM에 문제가 생겼다고 해서 그것이 LLM 하나만의 문제는 아니다”라며 “GPU 인프라, LLM, 에이전트 AI 어느 쪽에서도 문제가 생기면 안 되고, 이 세 가지를 모두 확인할 수 있어야 한다”고 강조했다.</p> <div contents-hash="9b981ff6ccaa11c4a1c410eff433588a5412cdce48123a497332be3048322702" dmcf-pid="QVUAbllwSi" dmcf-ptype="general"> 이날 와탭랩스는 ▲AI 인프라 기반 ‘GPU 모니터링’ ▲AI 서비스의 핵심인 ‘LLM 옵저버빌리티’ ▲AI 기반 ‘자율 운영’을 잇는 풀스택 로드맵을 공개했다. 지난해 ‘AI 네이티브 옵저버빌리티’ 비전을 선언한 이후 GPU 모니터링을 출시한 데 이어 이번 행사를 통해 LLM 옵저버빌리티 기능을 정식 출시한 것이다. 이와 함께 대화형 AI ‘와탭 AI(WhaTap AI)’를 통해 자동 이상 탐지·원인 추론·조치 기능도 지속 고도화하고 있다. </div> <figure class="figure_frm origin_fig" contents-hash="d39c7bda1ee1ed3e1cffeab7300d97b8d378de417370ecd5df414571df3795fe" dmcf-pid="xZl8YooMSJ" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/09/552796-pzfp7fF/20260609131156567cuee.jpg" data-org-width="640" dmcf-mid="bjL1AKKplk" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/09/552796-pzfp7fF/20260609131156567cuee.jpg" width="658"></p> </figure> <p contents-hash="fec67b2b1fc074de0ff9f74697662e538b306e7f18838be35a796dadd0b83803" dmcf-pid="yi8lRttWhd" dmcf-ptype="general">최진식 와탭랩스 개발 총괄은 “와탭 AI는 모니터링 데이터를 단순히 보는 것이 아니라 묻고 대화하는 방식”이라며 “와탭 화면 곳곳에서 AI를 호출해 ‘현재 문제 있어?’, ‘지금 상태 어때?’라고 묻기만 해도 실시간으로 수집한 데이터를 분석해 결과와 인사이트를 제공한다”고 전했다.</p> <p contents-hash="a9d868443fef62cde3f1639a035918674f3aa7c01365983f2444683a2900f448" dmcf-pid="Wn6SeFFYve" dmcf-ptype="general">또 “중요한 것은 시스템을 아주 잘 아는 전문가가 아니더라도 현재 상태를 함께 파악할 수 있다는 점”이라며 “24시간 쌓이는 데이터를 AI가 분석해주기 때문에 옆에서 계속 모니터링 데이터를 확인하고 분석하는 동료가 생긴 것과 같다”고 설명했다.</p> <p contents-hash="002c03c388bf06cdaa0b89386320b60a7fbc6a3c92dc04236edc58f0b6f3ee0f" dmcf-pid="YLPvd33GvR" dmcf-ptype="general">와탭랩스는 AI 인프라 장애가 기존 IT 시스템과 달리 ‘단일 원인’이 아닌 전 계층 인과 관계가 복잡하게 얽혀 발생한다고 봤다. 핵심은 전 인프라 분야에서 발생할 수 있는 ‘병목현상’이다. 서비스 지연만 해도 추론용 GPU 부족, LLM API 응답 지연, 검색 단계 병목 발생, 애플리케이션 호출 오류 등 다양한 요인이 작용할 수 있다.</p> <p contents-hash="a895de1d08d2d2b6ee3f5d884a1a00fa20d3842de77b4744a36d9c61eb7dd99d" dmcf-pid="GoQTJ00HlM" dmcf-ptype="general">결과적으로 칩부터 서버까지 이어지는 IT 인프라 전 계층을 동시에 관측하는 것이 필수적이라는 것이 이 대표 해석이다. 와탭랩스 GPU·LLM·AI 운영 통합 전략은 AI 시스템 전체를 하나의 흐름으로 추적한다. 기업 IT 운영팀이 AI 시스템을 단일 플랫폼에서 명확하게 통합 분석할 수 있다는 것이다.</p> <p contents-hash="26183c1ad61fd2589dd78ec1de2fc0e7d0a4b9af9fa60f39523f1fe38260c18d" dmcf-pid="HgxyippXSx" dmcf-ptype="general">이 대표는 “예전에는 일반 앱 하나만 분석하면 됐지만 이제는 LLM 안에서 오가는 대화와 그 대화를 처리하는 앱을 함께 분석해야 한다”며 “결과물이 잘못 나왔을 때 GPU 문제인지, 인프라 문제인지, LLM 문제인지, 앱 문제인지 함께 봐야 한다”고 말했다.</p> <p contents-hash="e6cea615f4f53a7a75d27e9ea5253e8943f6ebeb31471bbd57c90cdee0d84841" dmcf-pid="XaMWnUUZyQ" dmcf-ptype="general">통합 전략 중심에는 LLM 옵저버빌리티가 있다. 이는 LLM 기반 앱 요청 흐름, 성능, 비용, 답변 품질을 추적 및 분석하는 기능이다. 사용자 요청이 들어온 순간부터 응답이 반환되기까지 전 과정을 트레이스(Trace) 단위로 기록한다. 벡터 검색, LLM 응용프로그램인터페이스(API) 호출, 에이전트 반복 실행 등 병목 원인을 식별한다.</p> <p contents-hash="7fc34c86ceeac46b820595c58712880400945093c4fce7ee9dc2a926329173a4" dmcf-pid="ZNRYLuu5CP" dmcf-ptype="general">최 총괄은 “서비스 장애는 특정 제품이나 특정 구간 하나에서만 발생하는 경우가 많지 않다”며 “현상이 나타난 곳이 반드시 원인이 발생한 곳은 아니기 때문에, 하드웨어부터 앱까지 전 구간에서 수집된 복합 데이터를 함께 분석해야 한다”고 말했다.</p> <p contents-hash="72f67a106ccef8db24747e867887bee5bf4b17aa0f1aadf1d0e7516e8f3e0f04" dmcf-pid="5jeGo771C6" dmcf-ptype="general">모든 LLM 호출의 입출력 토큰을 요청·기능·모델 단위로 집계하는 토큰·비용 모니터링도 지원한다. AI 환각 감지 등 답변 품질 평가도 가능하다.</p> <p contents-hash="65bbfefd638aa7d99959aa8757f9b11957b5bc8272e70768c28e1e27e6bf08c7" dmcf-pid="1HCfynnQv8" dmcf-ptype="general">특히 기존 와탭 플랫폼이 제공하는 앱, 쿠버네티스, 서버, 데이터베이스, GPU 모니터링과 자연스럽게 추가되는 레이어로, LLM 레이어에서 인프라 영역까지 대시보드에서 드릴다운 방식으로 분석할 수 있다는 설명이다. 기존 와탭 사용 고객사는 새로운 도구 추가 없이 LLM 관측을 시작할 수 있다.</p> <p contents-hash="cccb5e257915897272fc7e81f23d724c99c2a3ea1237934a41c47c629cf9df87" dmcf-pid="tXh4WLLxv4" dmcf-ptype="general">이 대표는 “이제 AI 시장의 무게중심이 ‘AI 실행’에서 ‘AI 운영’으로 빠르게 이동하고 있다”며 “와탭랩스는 LLM 옵저버빌리티를 비롯한 AI 내재 제품군을 지속 강화해, AI 운영 파트너로서 기업이 AI를 더 잘 활용하고 운영할 수 있도록 지원해 나갈 것”이라고 말했다.</p> <p contents-hash="34cb76fd8284fab6a7121c23195485ed428f9c29ff09d1bcea2926623cb8d815" dmcf-pid="FZl8YooMlf" dmcf-ptype="general">와탭랩스는 올해 하반기까지 3개 핵심 전략을 기반으로 산업별 솔루션 적용을 확대하고 AI 운영 기능을 고도화한다. AI 운영의 표준이 되는 풀스택 관리 플랫폼 완성이 목표다.</p> <p contents-hash="423751410079074e04f054d40920bc4d612766d81cf3c8b959094dbbaaf79b90" dmcf-pid="35S6GggRyV" dmcf-ptype="general">이 대표는 “원래 와탭의 미션은 엔지니어를 돕는 것이었지만, 이제는 엔지니어가 일반 운영 업무에서 더 자유로워지고 IT의 방향성을 결정하는 역할에 집중할 수 있도록 하는 것이 목표”라며 “저희의 비전은 완전한 자율 운영으로 가는 것”이라고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 시흥시, LA올림픽 출전권 다투는 국제서핑대회…7월3~5일 06-09 다음 경륜·경정, 지난해 547억 전액 사회 환원…세수만 3196억원 ‘공익 레저의 힘’ 06-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
