"토큰값 10분의 1인데 돈은 더 들어"···에이전틱AI가 바꾸는 '토크노믹스' 작성일 07-28 25 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">토큰 단가보다 반복 작업·AI간 통신속도 등이 전체 비용 좌우 <br>싼 모델도 오래 일하면 비용↑···하네스 설계 따라 2배 차이 <br>GPU 활용 효율 낮아질 수도···메모리는 중요성 더욱 커져</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="4AUsRdRfii"> <figure class="figure_frm origin_fig" contents-hash="2ebd83d2b55f96140f072cfb1acd37d482c3f158f1df3b0d582099c2bd85be2f" data-idxno="237678" data-type="photo" dmcf-pid="8cuOeJe4dJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="28일 서울 여의도 국회의원회관에서 조인철 더불어민주당 의원실과 이인선 국민의힘 의원실이 공동 주최하고 정보통신산업진흥원(NIPA)이 주관한 'Agentic AI 국회 조찬 포럼'에서 백병수 과기정통부 과장이 발표하고 있다. / 사진=김도영 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/552777-a6ToU27/20260728145343450ffmr.jpg" data-org-width="960" dmcf-mid="fBw85t5TMn" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/552777-a6ToU27/20260728145343450ffmr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 28일 서울 여의도 국회의원회관에서 조인철 더불어민주당 의원실과 이인선 국민의힘 의원실이 공동 주최하고 정보통신산업진흥원(NIPA)이 주관한 'Agentic AI 국회 조찬 포럼'에서 백병수 과기정통부 과장이 발표하고 있다. / 사진=김도영 기자 </figcaption> </figure> <p contents-hash="0f17529f8dfae28555b7da202a1a4d7bb13cd339fb9c11eb74b798348d49a76c" dmcf-pid="6k7Idid8id" dmcf-ptype="general">[시사저널e=김도영 기자] 에이전틱 인공지능(AI)이 확산하면서 '토큰을 싸게 만들수록 AI 서비스 비용도 낮아진다'는 기존 셈법이 흔들리고 있다. 하나의 질문에 답을 내놓던 챗봇과 달리 여러 AI가 협업하고 작업을 반복하는 에이전틱 AI에서는 토큰 단가뿐 아니라 오류에 따른 반복 횟수와 AI 간 통신 비용·속도가 전체 비용을 좌우하면서다. 토큰 가격이 저렴한 모델도 작업에 더 많은 시간과 토큰을 사용하면 최종 비용은 오히려 커질 수 있다는 분석이다.</p> <p contents-hash="42b998e14983538fa7acdfa72cf5341efd9da84bbf2e8707590eb0c50496d1c9" dmcf-pid="PEzCJnJ6Re" dmcf-ptype="general">28일 서울 여의도 국회의원회관에서 조인철 더불어민주당 의원실과 이인선 국민의힘 의원실이 공동 주최하고 정보통신산업진흥원(NIPA)이 주관한 'Agentic AI 국회 조찬 포럼'이 개최됐다. 이날 포럼에서는 에이전틱 AI 확산에 따른 산업·인프라 변화와 정부의 정책 방향이 논의됐다. 발제자로 나선 이동수 에이투시스(a2sys) 대표는 "에이전틱 AI는 반복을 하고 서로 통신하기 때문에 오류로 인한 반복 횟수를 줄이는 것이 토큰당 가격이나 전력보다 훨씬 더 중요할 수 있다"고 밝혔다.</p> <p contents-hash="cf5bd8846758e9d57b5eff7f958d5ac327c011cc8fed631e91a074617e81b418" dmcf-pid="QrbSLgLxiR" dmcf-ptype="general">이 대표는 "본격적으로 돈 버는 AI 시대가 됐다"면서 기존 챗봇을 말하는 AI인 '토커(Talker)', 에이전틱 AI를 행동하는 AI인 '두어(Doer)'로 구분했다. 질문에 답하는 데 그쳤던 AI가 계획을 세우고 다른 AI와 협업하거나 외부 도구를 호출해 실제 업무를 수행하는 단계로 넘어가고 있다는 설명이다.</p> <p contents-hash="534a75ce15c8446d5c92bac734456573ea1ea3d97a15f474d03f95486c541da8" dmcf-pid="xmKvoaoMMM" dmcf-ptype="general"><strong>◇ 토큰값보다 '몇 번 일하느냐'···달라지는 AI 비용 공식</strong></p> <p contents-hash="dcb716c2b84aa17f28e38724c287aa4ae442f18d6ae4abd29cac4d4d875796a5" dmcf-pid="yKmPt3tWex" dmcf-ptype="general">에이전틱 AI는 하나의 요청을 수행하는 과정에서 여러 에이전트가 대화를 주고받고, 작업에 실패하면 다른 방법을 찾아 다시 시도한다. 성공할 때까지 50번, 100번, 200번씩 반복하는 경우도 있어 필요한 토큰과 연산량이 기존 챗봇보다 크게 늘어날 수 있다. 이 대표는 "에이전틱 AI로 가면 질문 하나를 보내도 136배 많은 토큰을 쓸 수 있다"며 "한 번 질문하면 여러 번 왕복하고, 실패하면 성공할 때까지 다른 시도를 통해 50번, 100번, 200번까지 다시 시도하는 경우가 많다. 요구량과 반복, 생성량 같은 요소들이 맞물리면 서비스를 지원하는 데 필요한 자원이 수백 배, 1000배까지 늘어날 수 있다"고 설명했다.</p> <p contents-hash="d3f79e18b391f822cc62f7bd9e7dda1042b27fa65cebe0841982245f7d59bfd7" dmcf-pid="W9sQF0FYiQ" dmcf-ptype="general">토큰당 가격이 저렴한 모델이 에이전틱 AI 환경에서도 반드시 경제적인 것은 아니라는 분석이다. 이 대표가 소개한 코딩 벤치마크에서는 서로 다른 AI 모델에 복잡한 코딩 문제 10개를 풀도록 한 결과, 토큰당 가격이 다른 프론티어 모델의 10분의 1 이하인 모델이 작업에 가장 오랜 시간이 걸렸고 결과적으로 가장 많은 비용을 쓴 것으로 나타났다. 벤치마크와 업무 종류, 하네스 설계 등에 따라 결과가 달라질 수 있어 수치를 일반화하기는 어렵지만, 토큰 단가만으로 실제 서비스 비용을 판단하기 어렵다는 의미다.</p> <p contents-hash="148d825e94d2749d1fff4600b22b1256e2eb1c49c696a4dfcae9cffdf8487b7f" dmcf-pid="Y2Ox3p3GiP" dmcf-ptype="general">이 대표는 "우리가 수행하고자 하는 에이전트 AI 업무의 난이도가 무엇이냐에 따라서 적절한 도구를 선택해야 한다"고 말했다. 단순히 모델의 토큰 가격만 비교하기보다 수행하려는 업무의 난이도와 작업 과정에서 발생하는 반복까지 고려해야 한다는 의미다.</p> <p contents-hash="1de68d7014c3cf49e59c03992417c42e67e96dc94405a2adea80f00c181c9e68" dmcf-pid="GVIM0U0HR6" dmcf-ptype="general">모델뿐 아니라 AI의 실행 구조를 설계하는 '하네스(Harness)'도 비용과 속도를 가르는 변수로 꼽힌다. 하네스는 AI가 다른 AI·도구와 소통하고 작업을 이어갈 수 있도록 실행 방식을 설계하는 구조다. 이 대표는 "하네스를 어떻게 만드느냐에 따라서 동일한 모델을 가지고 2배 이상의 비용과 속도 차이가 난다"고 말했다.</p> <p contents-hash="f5d61b97c1ff1da6475ef6ec66bba6930e1bf895a8acdbf36974353f3fc1cd57" dmcf-pid="HfCRpupXR8" dmcf-ptype="general">이에 따라 AI 인프라의 효율성을 판단하는 기준도 달라질 전망이다. 기존 AI 데이터센터에서는 입력 토큰을 받아 출력 토큰을 생성하는 만큼 전력이나 비용당 얼마나 많은 토큰을 생산하는지가 중요했다. 에이전틱 AI 시대에는 여러 AI가 역할을 나눠 작업을 반복하고 정보를 주고받기 때문에 토큰 생성 비용뿐 아니라 오류에 따른 반복 횟수와 AI 간 통신에 드는 비용·시간까지 전체 효율에 영향을 미친다는 것이다.</p> <p contents-hash="401e8cfe4a49fbdd1a2002dcb0a58bb63156bf8fd18e5741da2943f1481ec3ae" dmcf-pid="X4heU7UZJ4" dmcf-ptype="general"><strong>◇ GPU는 기다리고 메모리는 바빠진다···"AI 인프라에도 변화 예상돼"</strong></p> <p contents-hash="5a00d8302927024ba2d576c53cea51411a0ce40be90602d0a04a53d1b1be758e" dmcf-pid="Z8lduzu5ef" dmcf-ptype="general">인프라 구조에도 변화가 예상된다. 기존 챗봇과 같은 단일 AI 서비스는 여러 그래픽처리장치(GPU)에 동일한 모델을 올려 어느 GPU에서도 요청을 처리할 수 있지만, 에이전틱 AI에서는 주문·검색·결제 등 서로 다른 역할을 맡은 AI가 작업을 나눠 수행한다. 역할별로 연산이 분산되면서 GPU 활용 효율은 낮아질 수 있는 반면, 에이전트 간 작업 결과와 맥락을 저장하고 전달하는 메모리의 중요성은 커진다는 분석이다.</p> <p contents-hash="34a6febdf5f4fe9b36d7d925c8db2380a89335c0074daee3f1654891c3ffc887" dmcf-pid="56SJ7q71MV" dmcf-ptype="general">특히 하나의 에이전트가 처리한 결과를 다른 에이전트가 이어받는 과정이 반복되면서 AI 간 데이터 이동이 늘어난다. 대화와 작업이 길어질수록 이전 작업의 맥락도 함께 유지해야 해 메모리 용량뿐 아니라 데이터를 빠르게 주고받는 성능도 중요해진다.</p> <p contents-hash="dfc7d9fbf7034888e2c584e986fdc4555435b6e04f10f8aee8e1e70874390fdf" dmcf-pid="1PvizBztd2" dmcf-ptype="general">이 대표는 "AI들끼리 서로 메시지를 나누는 커뮤니케이션 장이 D램이라든가 요즘의 CXL이라든가 여러 메모리들"이라며 "앞에 있는 에이전트가 어떤 답을 쓰면 메모리에 들어가고 다음 에이전트는 그 내용을 메모리에서 읽어 가져오기 때문에 굉장히 많은 메모리가 빠른 동작을 필요로 한다"고 말했다.</p> <p contents-hash="e56fccb1adca34f255336565c7726345ca8bdc13faccb6e0134e7ee1603fa95e" dmcf-pid="tQTnqbqFd9" dmcf-ptype="general">코딩 등 일부 에이전틱 AI 작업에서는 연산을 담당하는 GPU가 다음 작업을 기다리는 시간이 생기는 반면, 작업에 필요한 맥락을 저장하고 전달하는 메모리의 부담은 커질 수 있다는 설명이다. 이 대표는 "특히 코딩 환경에서는 GPU가 대기하는 구간이 생기는 반면, 에이전트 간 정보를 주고받는 메모리의 역할은 크게 늘어나고 있다"고 말했다. 메모리 역시 단순한 부품을 넘어 에이전틱 AI의 작업 구조에 맞춰 데이터 이동과 처리 효율을 높이는 방향으로 발전해야 한다는 분석이다.</p> <p contents-hash="ee6215c6b5621d725fb1dfaf5a2c745664832cacfbbbfcef7e7775f6c09c4a30" dmcf-pid="FDqhiLiPRK" dmcf-ptype="general"><strong>◇ 정부도 '실행 효율'에 초점···AI OS·산업 실증 추진</strong></p> <p contents-hash="124988cadf24cda186ff0b8558002536852fd2896e6d06d59cdfd4b22a9c8a52" dmcf-pid="3wBlnonQMb" dmcf-ptype="general">정부도 에이전틱 AI 확산에 맞춰 실행 기반 조성과 산업 도입을 위한 정책 지원에 나선다. 과학기술정보통신부는 지난 23일 발표한 '에이전트 AI 이니셔티브'에서 안전·신뢰 확보와 실행 기반 조성, 도입 촉진을 3대 추진전략으로 제시했다. 지난 4월 출범한 에이전트 AI 얼라이언스에는 현재 290여개 기업·기관이 참여하고 있다.</p> <p contents-hash="83e72f55305cbb3d4a2cccfdc78d954bf629a4271f87aa394a3c8a5f5089b123" dmcf-pid="0rbSLgLxMB" dmcf-ptype="general">과기정통부는 2027년부터 토큰 효율 기반 AI 플랫폼 핵심 요소기술 개발을 추진하고, 2028년부터 AI 운영체제(OS) 핵심기술 개발에 나설 계획이다. 백병수 과기정통부 과장은 "토큰이 굉장히 많이 사용될 수 있기 때문에 2027년부터 AI 플랫폼 핵심 요소기술을 개발하려고 한다"며 "2028년부터는 한 단계 올려 AI OS 핵심기술 개발을 추진하려고 한다"고 말했다.</p> <p contents-hash="680e7434fad9f2f4c1480b18d440c1f393f12100a5bf2630362401741ad9fa4b" dmcf-pid="pmKvoaoMnq" dmcf-ptype="general">산업 현장에서 에이전틱 AI를 검증하기 위한 지원도 추진한다. 과기정통부는 내년부터 주요 산업 분야에서 모델과 연산 인프라, 하네스, 도구, 서비스 등 AI 가치사슬 전반의 기업이 참여하는 컨소시엄을 구성해 에이전틱 AI 서비스 개발과 실증을 지원할 계획이다. 기업의 AI 도입 컨설팅과 스타트업 사업화, 서비스 발굴·실증·확산, 규제 샌드박스 연계도 검토한다. </p> <p contents-hash="c451f2a0bc17db557e24c1ba2e80516c935f893838e791ab5f1aba80278f3bfc" dmcf-pid="Us9TgNgRMz" dmcf-ptype="general">이 대표는 "서비스별로 특화된 하네스가 많이 필요하기 때문에 많은 서비스의 경험을 직접 녹여내고, 메모리 같은 중요한 기본적인 기술과 맞물려 기술 검증 또는 응용 분야를 국가적 차원에서 추진해 나가야 한다"고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 시사저널e 무단전재 및 재배포 금지</p> 관련자료 이전 ‘1석 2조 항암 전략’…‘면역반응 유도·유전자 치료’ 동시에 07-28 다음 美 주도 6G 동맹 출범…한국 등 25개국 뭉쳤다 07-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
