NIA-인공지능안전연구소, 'LLM 안전성·신뢰성 평가 데이터 구축' 사업 착수보고회

작성일 08-08

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="tiRrxYg2mv">
          <figure class="figure_frm origin_fig" contents-hash="6cbab2edf324f95ea41fdfdfb431bc346ac3abefe5a92e14393395690df935ec" dmcf-pid="F6Va9IMUsS" dmcf-ptype="figure">
           <p class="link_figure"><img alt="'LLM 안전성 및 신뢰성 평가 데이터셋 구축' 사업 착수보고회 개최 후 주요 참석자들이 파이팅을 외치며 기념촬영했다. NIA 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/08/etimesi/20250808143017818dath.jpg" data-org-width="700" dmcf-mid="1LUM0A9HIT" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/08/etimesi/20250808143017818dath.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            'LLM 안전성 및 신뢰성 평가 데이터셋 구축' 사업 착수보고회 개최 후 주요 참석자들이 파이팅을 외치며 기념촬영했다. NIA 제공
           </figcaption>
          </figure>
          <p contents-hash="f1ae3f17a86df790b0479eef8058d883cdf0f0d9280172076dbdfc55555ab1b8" dmcf-pid="3PfN2CRusl" dmcf-ptype="general">한국지능정보사회진흥원(NIA)과 과학기술정보통신부는 인공지능(AI) 모델의 안전성과 신뢰성 평가 기반 구축을 위한 'LLM 안전성 및 신뢰성 평가 데이터셋 구축' 사업 착수보고회를 지난 7일 NIA 서울사무소에서 개최했다.</p>
          <p contents-hash="fe2a82f71770db684ba65fd8231c969ff7aeb30e9a0fa7d32c4d54216200d905" dmcf-pid="0Q4jVhe7Eh" dmcf-ptype="general">이 사업은 NIA와 과기정통부가 추진 중인 '독자 AI 파운데이션 모델 프로젝트'를 통해 구축되는 AI 모델 등에 대한 안전성과 신뢰성 성능을 평가하기 위한 기반을 마련하는 것이다. 특히 AI 모델의 위험 요소에 대한 체계적이고 정량적인 검증 체계를 구축하는데 중점을 두고 있다.</p>
          <p contents-hash="5609a4dcefd231679e45f539edaa1ca64331c12aa03196fcaa39a622aad5d34a" dmcf-pid="px8AfldzEC" dmcf-ptype="general">이번 사업을 통해 NIA는 AI 모델의 성능 평가를 넘어 안전성과 신뢰성까지 아우르는 종합 AI 평가 체계를 구축하며, 글로벌 AI 거버넌스 논의에서 한국의 위상을 높이는 역할을 담당한다.</p>
          <p contents-hash="a96f7893175de341bf2be52a5180f16953594db2f44d7717f8a2c2d74f8061d1" dmcf-pid="UM6c4SJqDI" dmcf-ptype="general">특히 이번 과제에서는 사이버 보안, AI 자율성, 사실 기반 정확성, 사회적 가치 편향 등 AI 안전성과 신뢰성 핵심 항목을 아우르는 총 2만 건 이상 한국어 특화 벤치마크 데이터셋을 구축할 계획이다. 이를 글로벌 기준에 부합하는 AI 모델 평가 체계로 발전시킬 예정이다.</p>
          <p contents-hash="5ab472f5df7dfe010f615269a1b3f00ae5a1d59bc41d52af6f5e4fd6f2ab0b12" dmcf-pid="uRPk8viBIO" dmcf-ptype="general">김지선 기자 river@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

NIA-인공지능안전연구소, 'LLM 안전성·신뢰성 평가 데이터 구축' 사업 착수보고회

멤버랭킹

관련자료

멤버랭킹