데이터 유출·GPU 비용 고민↑…데이터독 "해답은 AI 옵저버빌리티" 작성일 10-27 73 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2QNSpQHlT4"> <figure class="figure_frm origin_fig" contents-hash="b5db5cedd5ea68f365d421b31e50934977924998879809ee24174809d7852222" dmcf-pid="VxjvUxXSyf" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/552796-pzfp7fF/20261027111715524zfku.jpg" data-org-width="640" dmcf-mid="9xKis1jJW8" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/552796-pzfp7fF/20261027111715524zfku.jpg" width="658"></p> </figure> <p contents-hash="f304e53d8c72478a734fef2709e496fd9916a44d24ff7926be46013284e1227e" dmcf-pid="fMATuMZvCV" dmcf-ptype="general">[디지털데일리 김보민기자] <strong>"공격자가 민감한 데이터를 빼내기 위해 영수증 이미지 안에 지시사항을 숨겼다고 가정해봅시다. 이 증거를 직접 캡처해 공격 과정을 볼 수 없었다면, 직원 계좌번호를 포함해 90일치 거래 데이터가 외부 이메일 주소로 전송됐을 것입니다."</strong></p> <p contents-hash="cbf4c9b3913833148ce4ce72dcc2449a2c023f1e03e714a40fec52cb6c564520" dmcf-pid="4Rcy7R5TW2" dmcf-ptype="general">이리에 가르니에 데이터독 제품담당 부사장은 27일 서울 강남구 코엑스에서 열린 '데이터독 서밋 서울' 기조연설을 통해 이렇게 밝혔다. 해커가 인공지능(AI)을 악용해 공격을 고도화하기 시작했고 복잡한 정보기술(IT) 환경에 장애가 발생할 가능성이 높아진 만큼, 이에 대응할 옵저버빌리티를 확보하는 것이 중요해졌다는 취지였다.</p> <p contents-hash="f3e95d1086c2a1e5ffcc26d867f5ede5d244d16be73eff1295c5eb5704012c03" dmcf-pid="8ekWze1yh9" dmcf-ptype="general">AI 도입과 그래픽처리장치(GPU) 이용 비용에 대한 안정성을 고민하는 기업도 늘고 있다. 데이터독은 이 같은 고민을 가진 기업을 지원하기 위해 탐색, 개선, 제어, 보안 등 4가지 기능을 갖춘 자체 솔루션 '데이터독 AI 옵저버빌리티'를 지원하고 있다.</p> <p contents-hash="56966adfd9937b4da90462f402a8cef46290f1a91fdd35efb0ed2c35d544360a" dmcf-pid="6dEYqdtWvK" dmcf-ptype="general">먼저 '탐색' 영역에서는 조직 전체에서 실행 중인 모든 모델, 에이전트, 앱을 발견하는 AI 콘솔을 프리뷰 버전으로 공개했다. AI 콘솔은 클로드 코드, 코덱스, 비츠에이아이(Bits.ai)와 같은 도구에 대한 도입 현황, 지출 비용, 생산성을 파악하도록 돕는다. 생산성 대비 비용을 비교해 에이전트별, 팀별 혹은 조직 전체의 지출을 추적하는 것도 가능하다. 아울러 더 저렴한 모델과 도구를 추천해 비효율적인 리소스 사용으로 예산이 낭비되는 것을 막아준다.</p> <p contents-hash="1d46ee5b7fa3cb5bdadde6fe6225c06c810849a67ca596242c251beb7fae8d53" dmcf-pid="PPal0PGhCb" dmcf-ptype="general">'개선' 영역에서는 에이전트 옵저버빌리티를 지원한다. 에이전트 옵저버빌리티는 기반 인프라뿐만 아니라 모델과 에이전트 자체에 대한 가시성을 제공한다. 전체 프롬프트 수명 주기, 공급망, 도구 호출, 중간 입력 및 출력도 확인할 수 있다. 모델 및 제공업체별 지연 시간, 토큰 사용량, 비용을 모니터링해 속도와 예산을 충족하는 선택을 할 수도 있다. 개인식별정보 유출이나 프롬프트 인젝션 같은 위험을 표시해 볼 수도 있다.</p> <p contents-hash="eaed5e84655fe428c51eca91b82162d0342a1e12424b06cfa4979bf4ad904dcb" dmcf-pid="QQNSpQHlvB" dmcf-ptype="general">이외 데이터 옵저버빌리티도 지원한다. 가르니에 부사장은 "AI를 개선한다는 것은 곧 AI에 입력하는 데이터를 개선한다는 의미이기도 하다"라며 "에이전트와 모델의 성능은 그 기반이 되는 데이터 품질에 좌우되며 데이터 옵저버빌리티는 데이터가 영향을 미치기 전에 품질과 파이프라인 문제를 잡아낸다"고 소개했다. 또한 엔드투엔드(end-to-end) 데이터 리니지를 사용해 근본 원인을 특정하고 다양한 파이프라인 비용의 요인을 보여줄 수도 있다. 올해에는 비용이 많이 드는 스파크 및 데이터브릭스 작업을 식별하고, 작업을 최적화하는 기능이 새롭게 추가됐다.</p> <p contents-hash="6f4ed6e2eccbc3e97541e4414bf5a542c503383b98df678de6db73a6b738849c" dmcf-pid="xxjvUxXSvq" dmcf-ptype="general">가르니에 부사장은 '제어' 영역에서 GPU 인프라 모니터링을 언급했다. 그는 "AI 지출의 상당 부분은 모델을 구동하는 GPU 인프라에서 발생한다"며 "GPU 모니터링은 해당 인프라에 대한 상세한 성능 및 비용 인사이트를 제공한다"고 말했다. 이어 "비용별, 파드(Pod)별, 팀별로 사용량을 추적하고 리소스 경합을 파악해 GPU 활용도를 높일 수 있다"고 덧붙였다.</p> <p contents-hash="ce5d92ca37f312cb5cae685928e63ac673fdf10b92c140c4dbb805ff9725e254" dmcf-pid="yypPAyJ6hz" dmcf-ptype="general">'보안' 영역에서는 AI 가드를 강조했다. AI 가드는 런타임 환경에서 프롬프트 인젝션, 악의적인 도구 호출, 데이터 유출, 탈옥 등으로부터 AI 시스템을 보호한다. 보호되지 않은 에이전트를 찾아낸 후 동작과 흐름(콘텍스트)을 분석해 안전한 작업인지 판단하고 공격을 실시간 차단할 수 있다.</p> <p contents-hash="0a7d5f1e983148dd1ca464fa33239c160b26e438a3fa16e7bcc41d4be4efdaae" dmcf-pid="WWUQcWiPy7" dmcf-ptype="general">가르니에 부사장은 "이것이 바로 전체 스택에 걸친 데이터독 AI 옵저버빌리티"라며 "AI 콘솔을 통해 발견하고 에이전트 및 데이터 옵저버빌리티로 개선한 뒤 GPU 모니터링으로 AI 지출을 제어하고 이 모든 것을 AI가드로 보호할 수 있다"고 밝혔다.</p> <p contents-hash="871c49efbda030b02fe744dec487931d192e7b863d56325a488337ceea5fb58c" dmcf-pid="YYuxkYnQvu" dmcf-ptype="general">한편 이날 행사에서는 빗썸, 크래프톤, 링크알파, GS리테일, CJ올리브영 등 주요 고객사들이 참석해 데이터독 AI 옵저버빌리티를 적용한 사례를 소개했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 한국어 알아듣는 ‘시리 AI’…친구와 약속 캘린더에 적고 이메일 초안도 작성 10-27 다음 애플 '시리' 한국어 지원 시작…화면 이해하고 앱 작업까지 10-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
