국산 NPU·AI 모델, 다음 검색서 가동… 하루 5억 토큰 처리 작성일 07-15 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">퓨리오사AI ‘RNGD’ 24개서 업스테이지 ‘솔라’ 구동 <br>다음 AI 오버뷰 노출 20%에서 절반 이상 확대 추진</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Pxlqex6bLj"> <p contents-hash="fdb3456a7741349b701d679669dc16e2b9edb47b4a8c32c446e7bc8d09c01fa8" dmcf-pid="QMSBdMPKMN" dmcf-ptype="general">퓨리오사AI의 국산 신경망처리장치(NPU)에서 업스테이지의 인공지능(AI) 모델이 구동되고, 그 결과가 포털 다음 검색 서비스로 제공된다. 국산 AI 반도체와 모델의 성능을 시연하는 데 머물지 않고 대규모 이용자가 쓰는 실제 서비스에 적용한 사례다.</p> <p contents-hash="56128c1ca1449b6b9d341ea306f707e6c252dd985645a82b813740b0766cbf03" dmcf-pid="xVr38VKpRa" dmcf-ptype="general">업스테이지와 퓨리오사AI, 다음 운영사 AXZ는 15일 유튜브 라이브 대담을 열고 다음 'AI 오버뷰(AI Overview)'에서 퓨리오사AI NPU 'RNGD(레니게이드)'와 업스테이지 거대언어모델(LLM) '솔라(Solar)'가 구동되는 3사 협력 사례를 공개했다. 대담에는 김성훈 업스테이지 대표와 백준호 퓨리오사AI 대표, 이건수 AXZ 대표가 참석했다.</p> <div contents-hash="43c02104ae18b69910614b67119ebad02f243ee61f681c20628e761f3ec818ed" dmcf-pid="yN1QcNoMRg" dmcf-ptype="general"> 김성훈 대표는 "독자적으로 만든 솔라 모델이 국산 NPU에서 돌아가고, 대국민 포털에서 실시간 서비스되는 것을 기념하기 위해 자리를 마련했다"고 말했다. </div> <figure class="figure_frm origin_fig" contents-hash="039244def5d2bc15403123d7595e92a652a30f11d849f55289f0ed0d623a1c31" data-idxno="447666" data-type="photo" dmcf-pid="WjtxkjgRdo" dmcf-ptype="figure"> <p class="link_figure"><img alt="(왼쪽부터) 김성훈 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표 / 유튜브 대담 영상 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/15/552810-SDi8XcZ/20260715114420561laxf.png" data-org-width="1280" dmcf-mid="8YgmZGyOec" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/15/552810-SDi8XcZ/20260715114420561laxf.png" width="658"></p> <figcaption class="txt_caption default_figure"> (왼쪽부터) 김성훈 업스테이지 대표, 백준호 퓨리오사AI 대표, 이건수 AXZ 대표 / 유튜브 대담 영상 갈무리 </figcaption> </figure> <p contents-hash="002fd8f328d946757ad08543d469395e9a56d47052a674dff56741a6492ce13b" dmcf-pid="YAFMEAaeiL" dmcf-ptype="general"><strong>다음 검색 결과, 솔라가 RNGD 이용해 읽고 요약</strong></p> <p contents-hash="8f58db4790f0171503b4b0fc6060283f1cca69dd6946fbf130f414c8f8781eaa" dmcf-pid="Gc3RDcNdMn" dmcf-ptype="general">다음의 AI 오버뷰는 이용자가 검색창에 질문을 입력하면 검색엔진이 관련 문서를 찾고, AI 모델 솔라가 내용을 요약해 보여주는 서비스다. 이용자가 검색 결과에 나온 여러 링크를 하나씩 열지 않아도 주요 내용을 먼저 확인할 수 있다.</p> <p contents-hash="a109fb9d46faedb017a3e60ccef379fe75d2ae29cb9db275c151d3c92556fb19" dmcf-pid="Hk0ewkjJei" dmcf-ptype="general">현재 RNGD 칩 24개가 탑재된 서버 노드 3개에서 솔라가 구동된다. 하루 처리량은 토큰 5억개가량이다. 토큰은 AI 모델이 문장과 단어를 처리하는 기본 단위다. 이를 24시간 기준으로 환산하면 초당 약 5800개다. 질문과 답변 한 차례에 1000토큰을 사용한다고 가정하면 하루 약 50만회의 AI 대화를 처리할 수 있는 양이다.</p> <p contents-hash="c281355305745a6b9edd91f4f78150583d3944cd68df3a16c1c75d8bfaf94970" dmcf-pid="XEpdrEAiRJ" dmcf-ptype="general">이건수 대표는 다음 AI 검색 결과의 최신성과 정확도를 확보하는 데 초점을 맞췄다고 설명했다. LLM이 사전에 학습한 정보로 답변하면서 최신 검색 결과와 다른 내용을 생성하는 문제를 줄이기 위해, 검색엔진이 제공한 문서 안에서만 답하도록 조건을 설정했다.</p> <p contents-hash="d7d114b70c2cc5b29a7bcccf197139a3b94a639c19ff08198161d38199ff68be" dmcf-pid="ZDUJmDcnid" dmcf-ptype="general">최신 문서를 찾는 검색 방식도 보완했다. 단어가 일치하는 문서를 찾는 키워드 검색과 문장의 의미가 비슷한 자료를 찾는 벡터 검색을 결합했다. 다음이 제휴 언론사와 온라인 콘텐츠에서 수집한 문서 가운데 질문과 관련성이 높은 최신 자료를 찾는 데 활용한다.</p> <p contents-hash="f3e3e07041e80c0f5b1e531d9b1bb36d6acb0c098c15e058dfcddd23a5e77150" dmcf-pid="5wuiswkLie" dmcf-ptype="general">이건수 대표는 "AI 오버뷰는 실시간성이 가장 중요하다"며 "사용자의 관심이 급격히 높아지는 주제에 가장 최신 정보를 빠르게 전달하는 데 맞춰 서비스를 개발했다"고 말했다.</p> <p contents-hash="79c42bafd436def420ba79864d2eead17f7834e6d2900b5ae2fb68b15686e5f7" dmcf-pid="1CKNSCsARR" dmcf-ptype="general"><strong>NPU 비용 낮추고 AI 오버뷰 적용 확대</strong></p> <div contents-hash="3e25815eadaa071453384bd1a846a94f302146509167d4bbf98943c0429defb2" dmcf-pid="th9jvhOciM" dmcf-ptype="general"> 백준호 대표는 퓨리오사AI가 RNGD의 하드웨어와 컴파일러, 모델 서빙 엔진을 함께 설계해 솔라의 추론 성능을 높였다고 설명했다. 컴파일러는 AI 모델의 연산을 NPU가 처리할 수 있도록 변환하고, 서빙 엔진은 여러 이용자의 요청을 효율적으로 처리한다. 대담에서 보여준 비교 시연에서 RNGD를 활용한 AI 오버뷰는 엔비디아 H200를 활용했을 때와 비슷한 응답 속도를 보였다. </div> <figure class="figure_frm origin_fig" contents-hash="8eddc9e6fd53e459308d16f14c0ebc8c8b7b0a6912093547d4586ba04469f78c" data-idxno="447669" data-type="photo" dmcf-pid="Fl2ATlIkex" dmcf-ptype="figure"> <p class="link_figure"><img alt="다음 AI 오버뷰에서 퓨리오사AI와 엔비디아 칩 사용 비교 / 유튜브 대담 영상 갈무리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/15/552810-SDi8XcZ/20260715114422720jzmp.gif" data-org-width="780" dmcf-mid="6pUJmDcndA" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202607/15/552810-SDi8XcZ/20260715114422720jzmp.gif" width="780"></p> <figcaption class="txt_caption default_figure"> 다음 AI 오버뷰에서 퓨리오사AI와 엔비디아 칩 사용 비교 / 유튜브 대담 영상 갈무리 </figcaption> </figure> <p contents-hash="787ca4dc6cb2e48be5f9cf707d46187bb838c16aefb48e78894f443cddc03fbd" dmcf-pid="3SVcySCEdQ" dmcf-ptype="general">백준호 대표는 현재 처리 성능과 칩 구매비, 전력 사용량 등을 합산한 총소유비용(TCO) 효율이 엔비디아 대비 최소 1.5배 높다고 설명했다. 여기에 추가 최적화를 거쳐 비용을 절반 수준으로 낮추는 것을 목표로 한다. 백 대표는 "모델 정보가 있으면 퓨리오사AI의 소프트웨어가 최적화부터 서빙까지 지원한다"며 "새로운 모델이 공개되는 당일 지원하는 것을 목표로 하고 있다"고 말했다.</p> <p contents-hash="7823f1b2c80ebcef94c79be0dce00fe374387bc2b5854be64125639c2e27c65d" dmcf-pid="0vfkWvhDMP" dmcf-ptype="general">다음은 현재 전체 검색 질의의 20% 정도에 노출되는 AI 오버뷰를 절반 이상으로 늘릴 계획이다. 쇼핑과 맛집 등 분야별 검색 서비스에도 AI 요약을 적용한다. 이용자의 관심 분야를 파악해 뉴스와 정보를 미리 제공하는 '1인 1 에이전트'도 준비한다.</p> <p contents-hash="333aab29f100679bbcc60a5d5625bdf6b4c4b870bb337ec822420a411b182f09" dmcf-pid="pT4EYTlwJ6" dmcf-ptype="general">이건수 대표는 1인 1에이전트와 관련한 질문에 삼성전자 주식에 관심을 둔 이용자를 사례로 들었다. 관련 주가와 뉴스, 경쟁사 동향을 매번 검색하지 않아도 다음이 내용을 요약해 매일 제공하는 방식이다. 이 대표는 "사용자가 직접 검색하지 않아도 필요한 뉴스가 배달돼 있는 것부터 1인 1에이전트 서비스를 시작할 수 있다"고 설명했다.</p> <p contents-hash="a39d9a81d8c82d35b191d8bb8a1d12a4f97f39035627eccef9c6ad5bf57c669d" dmcf-pid="Uy8DGySrL8" dmcf-ptype="general">백준호 대표는 퓨리오사AI가 RNGD 양산이 연말까지 1만개 공급도 가능한 수준이라고 밝혔다. 업스테이지는 솔라 후속 모델과 임베딩 모델도 RNGD에서 구동하는 방안을 퓨리오사AI와 논의한다는 계획이다. 임베딩 모델은 문장과 문서의 의미를 수치로 변환해 검색과 추천에 활용하는 AI 모델이다.</p> <p contents-hash="39278f614948d76e28198ffd5e79ceac50bfbfb0827c69a5c47734a67e6e5b6d" dmcf-pid="uW6wHWvmL4" dmcf-ptype="general">김성훈 대표는 "다음에서 AI 오버뷰를 사용하면 솔라와 국산 NPU를 함께 사용하는 것"이라며 "사용이 늘고 품질이 개선되는 선순환을 만들겠다"고 말했다.</p> <p contents-hash="a2203cf04214a2f2cf9e57d719085de1a67988203f91e5f099cfe4c6699d5da1" dmcf-pid="7YPrXYTsnf" dmcf-ptype="general">정종길 기자<br>jk2@chosunbiz.com</p> </section> </div> <p class="" data-translation="true">Copyright © IT조선. 무단전재 및 재배포 금지.</p> 관련자료 이전 대출 사기 피싱 문자 162% 급증…안랩 조사 07-15 다음 세계태권도한마당, 61개국 4261명 참가 확정...10년 만에 국기원 개최 07-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
