알리바바, 비용 88% 절감하는 AI 훈련 기술 공개 작성일 05-12 32 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">구글 API에 비용 안 내지만 <br>검색엔진 기반 모델보다 성능 뛰어나</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qmhvNahLli"> <figure class="figure_frm origin_fig" contents-hash="9ea8e1a0504b32330ef0cebc8294e4c5e6f0708fe3ce646901336bceb4e37a91" dmcf-pid="BslTjNloyJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="알리바바 로고 로이터연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/12/mk/20250512162120416tlbg.jpg" data-org-width="700" dmcf-mid="zrUzyTUlSn" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/12/mk/20250512162120416tlbg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 알리바바 로고 로이터연합뉴스 </figcaption> </figure> <div contents-hash="7cfe1cb8fa5db1b7f3bdcfa584dd965665f5b5601fa1b8f0f30d4707cd557273" dmcf-pid="bOSyAjSgld" dmcf-ptype="general"> 알리바바가 외부 검색 엔진을 사용하지 않는 새로운 인공지능(AI) 훈련법을 개발했다고 홍콩사우스차이나모닝포스트(SCMP)가 12일 보도했다. </div> <p contents-hash="b598ec888b1fd2bea589ba4fcdcbe5e95e3d9a18aa4902bc66d5200355a62fe0" dmcf-pid="KjDmdeDxSe" dmcf-ptype="general">논문 공개 사이트인 아카이브 등에 발표된 이 논문에서 알리바바는 구글 등에 고가의 API(응용 프로그램 인터페이스) 비용을 지불하지 않고 정보검색 능력을 훈련할 수 있는 ‘제로서치’라는 새로운 강화학습 방식을 소개했다. 이 방식을 활용하면 AI 훈련 비용을 90% 가량 절감할 수 있는 것으로 알려졌다.</p> <p contents-hash="7ee7b071b9aeca3c31efc168040524f84c057bf8a293ef542117c2c19b7ef225" dmcf-pid="9AwsJdwMhR" dmcf-ptype="general">알리바바 연구팀은 논문에서 “효과적인 정보 검색은 거대언어모델(LLM) 추론과 생성 기능을 향상하는데 필수적이지만 검색엔진의 문서 품질을 예측할 수 없어 강화학습(RL) 과정에 불안정성을 초래하며, 수십만 건의 검색 요청 등이 필요해 상당한 API 비용이 발생한다”고 밝혔다. 이어 “이같은 문제를 해결하기 위해 제 검색엔진과 상호작용하지 않고도 LLM의 검색 능력을 훈련할 수 있는 ‘제로서치’를 도입했다“고 덧붙였다.</p> <p contents-hash="e4e28643dd944d7c7665ecc26fe017f9750eba124f5bb9286c901d22add19764" dmcf-pid="2crOiJrRSM" dmcf-ptype="general">제로서치란 기존처럼 쿼리(질문)를 구글, 바이두 등 상업용 검색 엔진을 통해 전달하고 응답을 받는 대신 이미 방대한 지식 기반으로 사전 학습된 AI 모델이 자체적으로 양질의 응답을 생성하도록 유도한다.</p> <p contents-hash="9209cdd3e4c7fdcec83a92636571375717d471d98f8a0db6b224905d55f4ff8f" dmcf-pid="VkmInimeCx" dmcf-ptype="general">연구팀은 제로서치 실험을 통해 70억 매개변수 검색 모듈은 실제 검색엔진 기반 모델과 비슷한 성능을 달성했고, 14억 매개변수 모듈은 성능이 더 뛰어났다고 주장했다.</p> <p contents-hash="28a82a92e8830214d31f6b595fb91d27f191af2a1c4cc0010b66dbb3155937f7" dmcf-pid="fEsCLnsdTQ" dmcf-ptype="general">구글 검색 API를 활용해 6만4000건의 질의를 처리하려면 586.7달러(약 82만3000원)의 비용이 들지만 엔비디아의 A100 그래픽처리장치(GPU) 4개로 구성된 14B 모델에서 훈련하는 비용은 70.8달러(약 9만9000원)로 88%의 비용 절감 효과를 얻을 수 있다고 강조했다.</p> <p contents-hash="9cbaedb4cf2ab267c057bde405c73baea7e878a451069a3f21c8f22fd94d2359" dmcf-pid="4DOhoLOJCP" dmcf-ptype="general">SCMP는 이런 연구 결과는 AI 검색을 발전시키려는 알리바바의 노력과 궤를 같이한다고 밝혔다. 알리바바는 지난 9일 중국에서 가장 많이 사용하는 AI 앱인 ‘쿼크’의 향상된 AI 검색 기능을 공개한 바 있다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 강판되자 양의지에 '어깨빵'…두산 콜어빈, 경기력보다 부족했던 매너와 존중 05-12 다음 '군백기' 마친 엔플라잉, 2년 만에 완전체 컴백…28일 신보 발매 05-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
