“비싸기만 한 AI 안 되려면…메모리·운영체계가 비용 경쟁력 좌우” 작성일 07-28 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">이동수 에이투시스 대표 “토큰당 가격보다 작업 완료까지의 총비용 봐야”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PI85fLiPlf"> <figure class="figure_frm origin_fig" contents-hash="136bfbcf13b0de7c22a9d9126a782718754920628038445a98bfeb77773086a2" dmcf-pid="QC614onQvV" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/552796-pzfp7fF/20260728102800146krjp.jpg" data-org-width="640" dmcf-mid="8zdbEyvmy8" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/552796-pzfp7fF/20260728102800146krjp.jpg" width="658"></p> </figure> <p contents-hash="ddf6ca92a7174d43a32cef24d1084cad561cdecfeb52178623a04f002546af4f" dmcf-pid="xhPt8gLxh2" dmcf-ptype="general">[디지털데일리 오병훈기자] 인공지능(AI)이 이용자 질문에 답하는 챗봇을 넘어 직접 업무를 계획하고 실행하는 ‘에이전트’로 진화하면서 토큰 사용량과 AI 서비스 운영비용이 폭증하고 있다. 앞으로는 단순히 성능이 높은 AI 모델을 확보하는 것뿐 아니라 여러 AI 에이전트가 메모리와 컴퓨팅 자원을 효율적으로 나눠 쓰도록 만드는 운영체계가 비용 경쟁력을 좌우할 것이라는 업계 분석이 나온다.</p> <p contents-hash="05deb97e12d59ec0f83396b958b96109352f103ce97eeb7ed9bb4263a101c978" dmcf-pid="y4volF1yS9" dmcf-ptype="general">이동수 에이투시스(A2SYS) 대표는 28일 국회의원회관에서 조인철 의원(더불어민주당), 이인선 의원(국민의힘)이 공동 주최한 ‘에이전틱 AI 국회 조찬 포럼’에서 “본격적으로 돈을 버는 AI 시대가 열리고 있지만 이를 뒷받침하는 인프라 비용도 함께 급증하고 있다”고 강조했다.</p> <p contents-hash="3087b6fbc3ce212224e738d8093b899578450ff354fd440cde729e8072f087fb" dmcf-pid="W8TgS3tWSK" dmcf-ptype="general">에이전트 AI는 질문 하나를 처리하는 과정에서 계획 수립, 정보 검색, 외부 도구 호출, 결과 검증과 수정 등을 반복한다. 예컨대 냉장고에 달걀이 없다는 사실을 확인한 뒤 상품을 검색하고 주문·결제까지 수행하려면 재고 확인 에이전트와 쇼핑 에이전트, 결제 시스템 등이 연속적으로 협력해야 한다.</p> <p contents-hash="298743803073387d11d180e358edaa461a0cbd784f95e629326ae93a819c002a" dmcf-pid="Y9CJOZHlhb" dmcf-ptype="general">이 대표는 이처럼 다수 에이전트가 대화를 주고받는 ‘멀티턴’ 구조가 AI 비용을 끌어올리는 핵심 요인이라고 설명했다. 에이전트가 작업에 실패하면 다른 방법을 선택해 성공할 때까지 수십번에서 수백번 재시도할 수 있고 이 과정에서 입력·출력 토큰과 연산량이 동시에 증가하기 때문이다.</p> <p contents-hash="ccc7832947ab374fc5cb3936b57832abc61f97e12edb3fd3d715e93881147ee0" dmcf-pid="G2hiI5XSvB" dmcf-ptype="general">그는 에이전트 AI가 기존 거대언어모델(LLM) 기반 서비스보다 질문당 토큰을 수십배에서 100배 이상 사용할 수 있다는 해외 사례도 언급했다. 단순 문서 요약이나 번역을 넘어 코딩, 금융 분석, 기업 업무까지 AI가 대신하게 되면 이용 빈도 자체도 검색 서비스 이상으로 늘어날 가능성이 있다는 분석이다.</p> <p contents-hash="f2ff8b593e901542b074968c54fe5f327ee10d88e1c8a35977c62b9f39b98569" dmcf-pid="HVlnC1ZvWq" dmcf-ptype="general">비용 증가는 GPU 연산량에만 국한되지 않는다. 여러 에이전트가 긴 대화 맥락과 중간 작업 결과를 공유하려면 이를 메모리에 저장하고 다시 읽어오는 과정이 반복된다. 에이전트별로 주문·결제·검색 등 서로 다른 모델과 도구를 구동하게 되면서 GPU가 파편화되고, 각각의 GPU 사이에서 데이터를 빠르게 이동시키는 D램과 고대역폭메모리, CXL 기반 메모리의 중요성도 커진다.</p> <p contents-hash="b78f3cf1648ce73b90abaa1c410545b9242c30ae31d5cea769c9c81d351479a6" dmcf-pid="XfSLht5Tvz" dmcf-ptype="general">이 대표는 이를 스마트폰 등장 전후의 변화에 비유했다. 과거에는 MP3 플레이어와 휴대전화, 지도 단말기가 별도로 존재했지만 스마트폰이 등장하면서 하나의 운영체제와 메모리를 여러 애플리케이션이 공유하게 됐다. 게임을 실행할 때는 게임에 더 많은 메모리를 할당하고, 지도나 음악 서비스에는 필요한 만큼만 자원을 배분하는 동적 운영체계가 만들어졌다는 것이다.</p> <p contents-hash="8b87dcd4451e84d92d5f284f4a017677a4732ceb546d6c4018f6f44773f39d3d" dmcf-pid="Z4volF1yy7" dmcf-ptype="general">그는 “에이전트 AI 시대에는 하나의 작업만 처리하는 인프라가 아니라 여러 작업에 자원을 동적으로 할당하고 다시 회수하는 운영체계가 필요하다”며 “똑똑한 모델을 개발하는 경쟁과 함께 메모리를 얼마나 효율적으로 배분하고 에이전트 간 통신비용과 반복 횟수를 줄이느냐가 새로운 ‘토큰 이코노믹스’의 핵심이 된다”고 강조했다.</p> <p contents-hash="d66db2258a5ab8e8cd3d077e2ca60ff87f0a7e9cb4cc91fd8f4383d597e0cccd" dmcf-pid="58TgS3tWSu" dmcf-ptype="general">이런 흐름에 맞춰 기존 AI 데이터센터 경제성 지표도 달라져야 한다고 진단했다. 지금까지는 토큰 한개를 얼마나 저렴한 비용과 낮은 전력으로 생산하는지가 중요했다면 에이전트 AI에서는 작업을 완료할 때까지 발생하는 전체 비용과 시간이 더 중요해진다. 토큰당 가격이 저렴한 모델이라도 오류와 재시도가 많으면 최종 작업비용이 오히려 더 높아질 수 있기 때문이다.</p> <div contents-hash="d85079320eafd7e3880f6f6e12844253ad79157955f83a52ae6facb7094f4b04" dmcf-pid="16yav0FYCU" dmcf-ptype="general"> 이 대표는 “대형 공사에서는 1톤 트럭보다 30톤 트럭 대당 가격이 비싸지만 운반 횟수를 줄여 전체 비용을 낮출 수 있다”며 “에이전트 AI도 토큰당 가격만 볼 것이 아니라 업무 난이도와 성공률, 작업시간을 포함한 총비용 관점에서 모델과 인프라를 선택해야 한다”고 말했다. </div> <figure class="figure_frm origin_fig" contents-hash="139171d983bd11db0f0871b4c34dc09db870f0f958b027eb0707106d75774a6c" dmcf-pid="tPWNTp3GWp" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/552796-pzfp7fF/20260728102801459rffu.jpg" data-org-width="640" dmcf-mid="6DbyqMQ9y4" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/552796-pzfp7fF/20260728102801459rffu.jpg" width="658"></p> </figure> <p contents-hash="1dcecaf906495eccb7b0b82f6f54385c68ce0adff8c4268614c5ff40a70ec397" dmcf-pid="F7wQEyvml0" dmcf-ptype="general">정부도 에이전트 AI 확산에 맞춰 안전·신뢰 체계와 실행 인프라를 함께 구축할 계획이다. 백병수 과학기술정보통신부 과장은 이날 정부가 지난 23일 과학기술관계장관회의에서 발표한 ‘에이전트 AI 이니셔티브’를 소개하며 ▲안전·신뢰 기반 구축 ▲에이전트 AI 실행 기반 조성 ▲국민·산업 대상 도입 촉진 등 3대 전략을 추진하겠다고 밝혔다.</p> <p contents-hash="88a4155d6bb9cf5a225778e9371ebe739e8ae907822d00e96476ce2403a56856" dmcf-pid="3zrxDWTsh3" dmcf-ptype="general">백 과장은 “에이전트 AI 시대에는 모델과 하네스, 클러스터, 도구와 서비스 등 각각의 요소 경쟁력을 함께 높여야 한다”며 “정부가 큰 방향만 제시하는 데 그치지 않고 에이전트 AI 얼라이언스에 참여한 약 290개 기업과 과제를 구체화하겠다”고 말했다.</p> <p contents-hash="714db8c6eba6fbfd0020b3ecab5c63651b203b50f053ad3028f3050a6068c460" dmcf-pid="0qmMwYyOCF" dmcf-ptype="general">업계에서는 결국 시장의 경쟁 논리에 따라 AI 모델과 서비스가 평가 받아야 한다고 설명했다. 정부의 에이전트 AI 정책도 기술개발 지원을 넘어 새로운 수익모델과 시장 형성에 초점을 맞춰야 한다는 주장이다. 토큰 사용료나 정액제뿐 아니라 업무 성과에 따라 비용을 받는 성과 기반 과금 에이전트 커머스 등 새로운 사업모델이 등장하고 있다는 것이다.</p> <p contents-hash="5bfee630847edd2715e1869c0fcce70711fd7809b57af9f61e990a054a9127c7" dmcf-pid="pBsRrGWIht" dmcf-ptype="general">이 대표는 “정부가 공급자를 선정해 기술과 GPU를 지원하는 방식만으로는 글로벌 경쟁에 한계가 있다”며 “국민과 기업이 직접 서비스를 선택하고 국내외 사업자가 경쟁할 수 있도록 수요자와 시장 중심의 정책을 함께 설계해야 한다”고 말했다.</p> <p contents-hash="f136f0ecafcde414dbc0cbe3260bda444a1b446c98489881fe7a7044ef55b7b8" dmcf-pid="UbOemHYCh1" dmcf-ptype="general">한편 이날 행사를 주최한 조 의원은 “최근 과학기술정보방송통신위원회에서 국토교통위원회로 상임위를 옮기게 됐지만 AI에 대한 관심은 지속적으로 이어갈 것”이라며 “AI 업계에서도 도움이 필요한 부분이 있다면 지속적으로 소통하면서 해결 방안을 찾도록 노력하겠다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 '대역전 드라마' 韓 남자주니어 핸드볼, 8년 만에 亞 정상 등극…2027년 세계선수권 티켓 확보 07-28 다음 과학으로 본 ‘호프’, 허술하거나 앙상하거나 07-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
