정보 유출 우려에…자체 서버 구동 ‘온프레미스 AI’ 뜬다[스타트업 스트리트] 작성일 10-21 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">트웰브랩스 AI모델 ‘마렝고’ 등<br>대기업 등 4곳과 구축방안 논의<br>플리토도 40억 규모 사업 수주<br>공기관 중심 ‘온프레미스’ 확산</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YHfGP9Ocvh"> <figure class="figure_frm origin_fig" contents-hash="edf6f6f5b8be55333edd47859a09db19e6cc2713f7c83c002eb41a94af94ff11" dmcf-pid="GX4HQ2IkSC" dmcf-ptype="figure"> <p class="link_figure"><img alt="클립아트코리아" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/21/seouleconomy/20261021175511488yxdp.jpg" data-org-width="1200" dmcf-mid="WOpszFaeyl" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/21/seouleconomy/20261021175511488yxdp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 클립아트코리아 </figcaption> </figure> <p contents-hash="ac5b2ac62099bf6bf1abefa750ae49571517c0c543a10c9abe612aae7fbc1896" dmcf-pid="HSql9ukLhI" dmcf-ptype="general">국내 인공지능(AI) 벤처 기업들이 온프레미스 환경에서 AI 모델과 서비스를 제공하는 사례가 잇따르고 있다. 인터넷 접속을 전제로 한 소프트웨어 배포를 기본으로 두되 고객을 위한 새로운 선택지를 늘린 모양새다. AI로 인한 기밀 유출 등을 우려하는 기업 요구에 따라 온프레미스상 AI 서비스를 시도하는 양상은 더 늘어날 것으로 보인다.</p> <p contents-hash="f5a26614c5c387dbbdf75d2bfa25f1d3df3e5db41b94e5530735828c6aaeff91" dmcf-pid="XvBS27EohO" dmcf-ptype="general">21일 벤처 업계에 따르면 트웰브랩스는 최근 국내 대기업 및 공기업 4곳과 트웰브랩스의 AI 모델을 온프레미스 환경에서 구축하는 방안을 논의하는 중이다. 트웰브랩스는 영상 속 장면이나 소리를 분석해 데이터를 검색하는 AI 모델 ‘마렝고’와 마렝고가 분석한 장면을 문자로 변환하는 AI 모델 ‘페가수스’를 개발한 곳이다.</p> <p contents-hash="fe85e66ce999be90a4780d8a3b22107cafa5b58235588d4dcc26b559b6594f0f" dmcf-pid="ZTbvVzDgvs" dmcf-ptype="general">마렝고와 페가수스의 기본적인 이용법은 응용프로그램인터페이스(API)를 호출하는 것이었다. 인터넷 접속을 전제로 AI 모델의 기능을 호출하고 다른 소프트웨어 등에 연동하는 방식이다. 트웰브랩스는 현재 이 과정을 외부 인터넷 접속 없이 고객사 자체 서버 안에서 이뤄지도록 신규 사업을 추진하는 중이다. 이번 프로젝트가 성사될 시 트웰브랩스는 국내에서 온프레미스 방식으로 마렝고와 페가수스를 배포하는 첫 사업 실적을 올리게 된다. 앞서 회사는 미국 정부 기관을 상대로 온프레미스 환경 AI 모델 공급 사업을 수주하며 관련 사업 경험을 쌓기 시작했다.</p> <p contents-hash="ac0c54f683ac50901e125782052ea91de63ba745e43786530a2c0258e793f12e" dmcf-pid="5yKTfqwalm" dmcf-ptype="general">다른 기업들도 최근 온프레미스 방식을 활용한 AI 서비스 배포를 시도하는 중이다. 서비스형 소프트웨어(SaaS)와 API 형태로 AI 다국어 통번역 서비스를 운영하던 <span stockcode="300080">플리토(300080)</span>도 최근 온프레미스 사업을 본격 시작한 곳이다. 플리토는 이달 39억 원 규모의 AI 다국어 통번역 서비스 온프레미스 공급 계약을 따냈다. 이후 다른 고객사의 온프레미스 문의가 잇따르면서 AI 통번역 서비스의 공급 방식을 확대하기로 사업 방침을 바꿨다.</p> <p contents-hash="40bc55820883c3a18b2bd0522c9541bf62f840dc84dc15ae06231e814a50e7fd" dmcf-pid="1W9y4BrNTr" dmcf-ptype="general">망고부스트는 최근 한 방산업체에 망고부스트의 AI 모델 추론 최적화 소프트웨어 ‘LLM 부스트’를 공급하기로 했다. 이때 고객사는 보안이 철저히 요구되는 방산 사업의 특성을 이유로 들며 자체 서버 소프트웨어 설치를 요구했고 망고부스트도 이에 맞춰 온프레미스를 지원하기로 결정했다.</p> <p contents-hash="5d4f0befdb1f5d3d6c894e64ce6fecd6fa309f158f124ceacfbb6e419a6575ce" dmcf-pid="tY2W8bmjCw" dmcf-ptype="general">온프레미스란 기업의 자체 서버에 소프트웨어를 설치하고 관리하는 방식을 뜻한다. 온프레미스의 특징은 일괄적인 소프트웨어 배포 대신 고객사 맞춤 구축 작업이 필요하다는 점이다. 기업마다 중앙처리장치(CPU)와 그래픽처리장치(GPU) 사양 등 서버 환경이 다르고 무엇보다 고객사별 소프트웨어 이용 요구 사항이 반영되기 때문이다. 이 때문에 소프트웨어 공급사는 별도의 설치 및 설정 작업을 더 거쳐야 한다. 반대로 이용사도 서버에 설치된 소프트웨어를 유지하는 데 품이 들어간다.</p> <p contents-hash="3dfed956a4dc56e8b70e41a5992027b61635cbf8999f6d1a6e322e4ba63164d3" dmcf-pid="FGVY6KsACD" dmcf-ptype="general">이 같은 번거로움에도 온프레미스 방식의 AI 사용이 주목받는 현상 뒤에는 정보보호 우려가 깔려 있다. AI가 기업의 민감정보를 학습하고 암기했다가 다른 사용자를 통해 추출되는 상황을 걱정하는 것이다. 인터넷 접속을 차단한 자체 서버에서 AI 서비스를 구동하고자 하는 기업의 요구에 AI 서비스 업체들도 온프레미스라는 새로운 카드를 꺼내 든 것이다.</p> <p contents-hash="3334bcb916e6c581d0cd212883d99635095f6005309f3866f2e2e47defeb16a8" dmcf-pid="3HfGP9OcTE" dmcf-ptype="general">이혜민 트웰브랩스 한국 총괄은 “보안을 중시하는 기업과 공공기관은 온프레미스 환경을 선호하는 경향이 있다”며 “공장 및 생산 공정 관련 기밀, CCTV 영상처럼 기업 경쟁력이나 공공 이익과 직결된 민감정보는 외부 클라우드가 아닌 폐쇄망 안에서 관리하기를 원한다”고 전했다.</p> <p contents-hash="f28456b105931d82e59b2a462838c4975fa9d25b42f061fe884513c242c80865" dmcf-pid="0X4HQ2IkWk" dmcf-ptype="general">김태호 기자 teo@sedaily.com</p> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 한동수 KAIST 교수 "화재건물 속 소방관 위치 찾을 방법 있다" 10-21 다음 [단독]수도권 전력난에…신한AIDC ‘신재생 50%’ 승부수 10-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
