ETRI, 'AI 신뢰성' 국제 표준 주도한다… "전 세계 AI 규칙 이끌 것"

작성일 08-19

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="WwPtaUSgZy">
          <figure class="figure_frm origin_fig" contents-hash="b4c9418e77339495892d672f56d59305c342d18abf80d2da51511d66467a51cc" dmcf-pid="YrQFNuvaZT" dmcf-ptype="figure">
           <p class="link_figure"><img alt="ETRI 연구진이 인공지능 테스트베드 서버를 점검하며 레드팀 테스트 환경을 구성하고 있다. /사진=ETRI(한국전자통신연구원)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/19/moneytoday/20250819100517054esqp.jpg" data-org-width="1200" dmcf-mid="y4YjuDMUGW" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/19/moneytoday/20250819100517054esqp.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            ETRI 연구진이 인공지능 테스트베드 서버를 점검하며 레드팀 테스트 환경을 구성하고 있다. /사진=ETRI(한국전자통신연구원)
           </figcaption>
          </figure>
          <p contents-hash="10e0f2a51fa0ba39bc60499f2260593c9db4a17dfe307358a261be02598f3da6" dmcf-pid="Gmx3j7TNYv" dmcf-ptype="general"><br>ETRI(한국전자통신연구원)가 AI(인공지능)의 위험을 감지하고 신뢰도를 높이는 기술의 국제 표준을 선점하기 위해 본격적으로 나선다. </p>
          <p contents-hash="5f116df0dfdb44c1641bc35176ee93c758d399c178cbc8e845638f5ca5e9e10a" dmcf-pid="HsM0AzyjHS" dmcf-ptype="general">ETRI는 AI 시스템의 위험을 미리 찾아내는 'AI 레드팀 테스팅' 표준과 소비자가 AI의 신뢰 수준을 쉽게 이해할 수 있는 '신뢰성 사실 라벨(TFL)' 표준을 국제표준화기구(ISO/IEC)에 제안했다고 19일 밝혔다. </p>
          <p contents-hash="62d1a8dde1dfed6986ebbcc76a78a951963f537b73edb92e151efd18d1398233" dmcf-pid="XORpcqWAtl" dmcf-ptype="general">AI 레드팀 테스팅은 AI 시스템이 얼마나 안전한지 공격적으로 탐색하며 시험하는 방법이다. 생성형 AI가 잘못된 정보를 내놓거나 사용자 보호장치를 피해 악용되는 상황을 미리 찾아낸다. ETRI는 이 분야 국제표준인 'ISO/IEC 42119-7'을 주도하며 의료, 국방, 금융 등 분야에 공통으로 적용할 수 있는 국제 공통 시험 절차와 방법을 만든다.</p>
          <p contents-hash="8a7013d7af797788dc16c1acd8ea6867e547c7d99423e87966313b4f2ee7703c" dmcf-pid="ZIeUkBYcth" dmcf-ptype="general">서울아산병원과 협력해 의료 전용 레드팀 평가 방법론을 개발 중이며, 첨단 AI 기술을 적용한 디지털의료제품에 대한 레드팀 시험 체계를 만들어 실증 시험을 진행할 계획이다. 또 STA, 네이버(NAVER), 업스테이지, 셀렉트스타, KT, LG AI연구원 등 주요 기업과 협의체를 구성해 AI 레드팀 국제 표준화를 위한 협력을 강화할 계획이다. </p>
          <p contents-hash="b192995a028453fa3e5bbfe42fa0b2ee17bab1627097ed2f8c76fead767e6d10" dmcf-pid="5CduEbGkYC" dmcf-ptype="general">더불어 내달 4~5일 서울 동대문 노보텔 호텔에서 국내 첫 '첨단 AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍'을 개최할 예정이다. 의료인, 보안전문가, 일반 시민이 AI의 편향과 위험성을 함께 점검하는 행사다. </p>
          <p contents-hash="40febf63cbe670f2e3644faac3ea903f330efb470a2a9b2dc898a416c6264c73" dmcf-pid="1hJ7DKHE1I" dmcf-ptype="general">ETRI는 '신뢰성 사실 라벨' 국제 표준에도 도전한다. AI 시스템이 얼마나 신뢰할 수 있는지 한눈에 알 수 있도록 시각화하는 것으로 식품의 영양성분표처럼 소비자에게 AI에 대한 정보를 투명하게 제공한다. </p>
          <p contents-hash="7ac5f7ea22ea1f757c42f2dbb786fe27a3d81dafd6642abe51fc04abc29957c1" dmcf-pid="tlizw9XDZO" dmcf-ptype="general">ETRI는 'ISO/IEC 42117' 시리즈 표준 개발을 주도하며 이는 기업이 스스로 정보를 제공하거나 제3기관이 검증, 인증하는 방식으로 운영할 수 있다. 향후 AI의 탄소 배출량과 같은 ESG(환경·사회·지속가능성 평가 기준) 요소도 반영하는 방안을 검토 중이다. </p>
          <p contents-hash="1faaf9bec7c9f94120fd93a52282a80c950c70573427627065f30eac76969366" dmcf-pid="FSnqr2Zw1s" dmcf-ptype="general">이승윤 ETRI 표준연구본부장은 "AI 레드팀 테스팅과 신뢰성 라벨은 미국, EU(유럽연합) 등 각국의 AI 규제정책에 포함된 핵심 기술 요소"라며 "이 국제 표준은 전 세계 AI 시스템의 안전과 신뢰성을 평가하는 공통 기준이 될 것"이라고 전망했다. </p>
          <p contents-hash="ce8da7cfdbfb1b91596589466083471e717cdad6368e6c7f39a3cb277ff5c01b" dmcf-pid="3vLBmV5rZm" dmcf-ptype="general">ETRI는 "두 표준은 정부가 추진하는 '소버린 AI', 'AI 3강 도약' 전략과 맞닿아 있다"며 "단순한 기술력 확보를 넘어 글로벌 AI 규칙을 만드는 주도권 경쟁에 실질적인 기여를 할 수 있을 것"이라고 했다. </p>
          <p contents-hash="0ccb73db0b1600cd599f0f5f425ffbb8e7cae0eb2807b925f0c4252f0171a4e0" dmcf-pid="0Juh6yA8tr" dmcf-ptype="general">박건희 기자 wissen@mt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

이전

'新 위협' 무선 백도어 해킹…지슨 솔루션 '주목'

08-19
다음

성남시, 메달 딴 직장운동부 89명에 2억1천만원 포상금

08-19

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

ETRI, 'AI 신뢰성' 국제 표준 주도한다… "전 세계 AI 규칙 이끌 것"

멤버랭킹

관련자료

멤버랭킹