'독파모' 4강 승부처는 '효율'…모델별 전략 뜯어보니 작성일 08-17 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="f2v8vPCEmI"> <figure class="figure_frm origin_fig" contents-hash="7c21d926a9a8741b798a0816ef6b2466bd8f415daee96512b5353f9ef01454fe" dmcf-pid="4VT6TQhDwO" dmcf-ptype="figure"> <p class="link_figure"><img alt="과학기술정보통신부와 정보통신산업진흥원(NIPA)가 서울 삼성동 코엑스에서 '독자 AI 파운데이션 모델' 프로젝트 1차 발표회에서 배경훈 부총리 겸 과학기술부 장관이 환영사를 하고 있다. 박지호기자 jihopress@etnews.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/17/etimesi/20260817120303581whbj.jpg" data-org-width="700" dmcf-mid="BMOI4h9UOT" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/17/etimesi/20260817120303581whbj.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 과학기술정보통신부와 정보통신산업진흥원(NIPA)가 서울 삼성동 코엑스에서 '독자 AI 파운데이션 모델' 프로젝트 1차 발표회에서 배경훈 부총리 겸 과학기술부 장관이 환영사를 하고 있다. 박지호기자 jihopress@etnews.com </figcaption> </figure> <p contents-hash="7be4a5e2ed3cd7f3b60d6cdd4a806d25c4ef5e9d05c28111b14b91c105884fa9" dmcf-pid="8fyPyxlwss" dmcf-ptype="general"><span>독자 인공지능(AI) 파운데이션 모델(독파모) 프로젝트 2차 평가 결과가 조만간 발표된다. 2차 평가에서는 </span><span>모델 규모뿐 아니라 실제 추론 성능과 효율성 등이 주요 경쟁력으로 작용할 전망이다.</span></p> <p contents-hash="93d5ee44a8c2ad8afb5904d5f2c21c4be2411877f53df1b5e5dda5fab2f93c8f" dmcf-pid="64WQWMSrwm" dmcf-ptype="general"><span>17일 전자신문이 독파모 2차 평가에 참여하는 LG AI연구원·업스테이지·SK텔레콤·모티프테크놀로지스 4팀이 허깅페이스에 공개한 모델 기술자료를 분석한 결과 각 모델은 서로 다른</span><span> 파라미터 규모와 학습·설계 전략을 택한 것으로 나타났다.</span></p> <p contents-hash="783437630161d73b8e7e2ec6b0fcb7b35e023fe44bebb4325f203ab1b014fcbe" dmcf-pid="P8YxYRvmOr" dmcf-ptype="general"><span>독파모 1차 평가에서 1위를 차지했던 LG AI연구원은 기존 모델을 활용해 규모를 빠르게 확대하는 '업사이클링' 방식을 택했다. </span><span></span><span>기존 모델의 학습 결과와 가중치를 활용하면서 처음부터 새로운 초대형 모델을 만드는 데 필요한 시간과 비용을 줄이는 방식이다.</span></p> <p contents-hash="cb2c70d669f0b4a40806aedb76db61e6e8a5df8e65bcc6cece83e2b9b7e7c0db" dmcf-pid="QxZdZiYCww" dmcf-ptype="general"><span>LG AI연구원 측은 “K-엑사원 2.0은 업사이클링을 통해 이전 모델보다 3배 이상 규모를 확장했으며, 지속적인 사전 학습, 난이도 중심의 중간 학습, 사후 학습 과정을 거쳤다”면서 “특히 장문 문맥 검색과 안전성 측면에서 이전 모델 대비 상당한 성능 향상을 달성했다”고 설명했다.</span><br></p> <figure class="figure_frm origin_fig" contents-hash="971a360c954919643711d030fa639bb6c6c427883fea8ccb616ab7a6bb468a2b" dmcf-pid="xM5J5nGhID" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/17/etimesi/20260817120304838vvxq.png" data-org-width="700" dmcf-mid="buK9IVrNIv" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/17/etimesi/20260817120304838vvxq.png" width="658"></p> </figure> <p contents-hash="91a82b804eebbf0a47bbfb50fd0813625d183701e1983acad605ca6bbead61e6" dmcf-pid="yWnXn5e4EE" dmcf-ptype="general">SK텔레콤의 'A.X K2'는 한국어 특화 소버린 AI를 내세웠다. <span>총 파라미터 규모는 688B에 달하지만 실제 추론 때 활성화되는 파라미터는 33B 수준이다. 전체 모델의 지식 규모는 유지하면서 실제 연산량을 줄이는 혼합전문가(MoE) 구조를 통해 대형 모델의 성능과 추론 효율을 함께 확보했다.</span></p> <p contents-hash="7097b4764a3b63c3857c88113b723ee5a43bb5cac8f0b024084c22fd6861342c" dmcf-pid="WYLZL1d8Dk" dmcf-ptype="general"><span>SK텔레콤은 “한국어와 한국 문화에 대한 깊은 이해를 바탕으로 최첨단 모델을 구축하는 것을 목표로 한다”면서 “씽크 퓨전 </span><span>학습 레시피를 통해 복잡한 문제 해결을 위한 사고 모드와 간결하고 지연 시간이 짧은 응답을 위한 비사고 모드를 지원해 품질과 비용 간의 균형을 선택할 수 있다”고 말했다.</span><br></p> <figure class="figure_frm origin_fig" contents-hash="2d01df81ff3f2e944993620f3eeb14986c93b1b972cc34f9d607223e4277325b" dmcf-pid="YGo5otJ6rc" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/17/etimesi/20260817120306373xakw.png" data-org-width="700" dmcf-mid="KZYPyxlwrS" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/17/etimesi/20260817120306373xakw.png" width="658"></p> </figure> <p contents-hash="31f0092bcb41d42faae6d571e3aab2da46b95d4a6a43b1d02300365d37792ffe" dmcf-pid="GHg1gFiPIA" dmcf-ptype="general">업스테이지 솔라 오픈2는 전작 가중치의 일부만 계승하고 나머지는 무작위로 새로 초기화하는 전략으로 250B 모델을 만들었다. <span>업스테이지가 공개한 자료에 따르면 전작 모델에서 계승한 가중치는 약 2.3%에 그쳤다.</span><span></span></p> <p contents-hash="e6de22989d832c50198146fb238053d1673d7a9afae8119c6ac14d3d3f0ca26b" dmcf-pid="HXata3nQrj" dmcf-ptype="general"><span>업스테이지는 “솔라 오픈 2는 사무 생산성, 문서 작업, 코딩과 같은 에이전트 기반 사용 사례에 최적화되어 있다”면서 “선형 어텐션을 적용한 하이브리드 어텐션 기반의 MoE 아키텍처는 긴 컨텍스트 환경에서도 매우 효율적인 추론을 제공한다”고 강조했다.</span><br></p> <figure class="figure_frm origin_fig" contents-hash="cefca554e56a196cc55d09ae3af83ad1d02a7b423bd8cd1ccf112c5ff1b97b84" dmcf-pid="XZNFN0LxON" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/17/etimesi/20260817120307599fxrv.jpg" data-org-width="700" dmcf-mid="9TSVh4sAwl" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/17/etimesi/20260817120307599fxrv.jpg" width="658"></p> </figure> <p contents-hash="2d632d94df678bbbe05d57e372a87bda59fda471fdf15fc11cd2a395fca67c4a" dmcf-pid="Z5j3jpoMra" dmcf-ptype="general">글로벌 AI 모델 성능 평가에서 가장 높은 점수를 기록하며 '다크호스'로 떠오른 모티프테크놀로지스의 <span>'모티프 3'는 3140억개 파라미터 규모 모델로, 전체 파라미터 가운데 실제 추론 과정에서 활성화되는 규모는 132억개다. 자체 개발한 아키텍처를 적용해 모델의 전체 규모를 키우면서도 실제 연산량은 낮추는 데 초점을 맞췄다.</span></p> <p contents-hash="9073a706b2f714bbc707f9cd41cc79b4334bdc5d0dec25d7ffeb90c5fccf25b8" dmcf-pid="51A0AUgREg" dmcf-ptype="general"><span>모티프 측은 “자체 개발한 독자적인 설계 방식을 기반으로 처음부터 새롭게 구축됐다”면서 “</span><span>특히 한국어, 추론 집약적, 법률 및 금융 데이터에 중점을 뒀다”고 설명했다.</span><br></p> <figure class="s_img figure_frm origin_fig" contents-hash="ba23da9c2912e051a14a6aca6860ebf8c66bd655ba6a3ae693027c097aa65445" dmcf-pid="1tcpcuaewo" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/17/etimesi/20260817120308838fubt.jpg" data-org-width="200" dmcf-mid="234sVIb0Dh" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/17/etimesi/20260817120308838fubt.jpg" width="200"></p> </figure> <p contents-hash="f557347d32ec80cdc1cdb9424739eb1ed35ae95f4c6cacc115be2c1d6b285c15" dmcf-pid="tFkUk7NdOL" dmcf-ptype="general">정부는 독파모 2차 평가 결과를 조만간 발표할 예정이다. 최종 평가에서 4개 참여사 중 3팀이 생존해 다음 단계로 진출한다. <span>2차 평가에서는 벤치마크 평가가 총 100점 만점 중 40점을 차지하며, </span><span>나머지 배점은 전문가 평가(35점)와 사용자 평가(25점)로 구성된다.</span></p> <p contents-hash="37d854e858f4acdb5bbdae67ad5c9404698780958f2fde37b866a7438574d503" dmcf-pid="F3EuEzjJOn" dmcf-ptype="general">앞서 지난 13일 공개된 '아티피셜 애널리시스 인텔리전스 지수(AAII)'에서 모티프의 '모티프 3'가 47점으로 가장 높은 점수를 기록했다. <span>이어 업스테이지 '솔라 오픈2'가 37점, SK텔레콤 'A.X-K2'가 35점, LG AI연구원 'K-엑사원 2.0'은 31점을 각각 기록했다.</span><br></p> <figure class="figure_frm origin_fig" contents-hash="4b0bd66fd5d8e7c25da498396560baf6d9fb2ddcea6407a40f27308a6d22c4c0" dmcf-pid="30D7DqAiri" dmcf-ptype="figure"> <p class="link_figure"><img alt="독파모 4개 컨소시엄별 모델 비교" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/17/etimesi/20260817120310072lrrj.png" data-org-width="604" dmcf-mid="VP2m2OB3DC" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/17/etimesi/20260817120310072lrrj.png" width="658"></p> <figcaption class="txt_caption default_figure"> 독파모 4개 컨소시엄별 모델 비교 </figcaption> </figure> <p contents-hash="91541967248e88ee0f4f9fc6331372f7c4748187c50d83e16521f188595de19e" dmcf-pid="0pwzwBcnrJ" dmcf-ptype="general">정현정 기자 iam@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 “AI 찌꺼기” 비난은 옛말… “유용하면 그만” ‘AI 용인주의’ 물드는 SNS 08-17 다음 배터리 없이 몸속서 발전…손상 여부도 빛으로 알려준다 08-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
