배경훈 부총리, 산·학·연 전문가와 AI 안전 정책 방향 논의 작성일 10-23 17 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">'(가칭)국가AI 안전 생태계 조성 종합계획' 수립 추진</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2oDDrDPKES"> <p contents-hash="7b43991c864ba227f21325521d71acb0f42473adfd85983762a24bb40e79930d" dmcf-pid="VoDDrDPKOl" dmcf-ptype="general"> [이데일리 강민구 기자] 정부가 AI 위험 대응과 안전 확보를 위해 ‘(가칭)국가AI 안전 생태계 조성 종합계획’ 수립을 추진한다.</p> <p contents-hash="3c4d6f255a21d415ab2e66493d7e2956335645dee9e591953f388dc913aa69f4" dmcf-pid="fgwwmwQ9Dh" dmcf-ptype="general">배경훈 부총리 겸 과학기술정보통신부 장관이 23일 인공지능(AI)안전연구소에서 산·학·연 전문가들과 간담회를 열고, 이와 관련된 정책을 논의했다.</p> <figure class="figure_frm origin_fig" contents-hash="8ba1e86a1c583c52b12ca1aea9799e9422c7a83685f09e9355adda426d0ea3d1" dmcf-pid="4arrsrx2rC" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/23/Edaily/20251023153147928iopj.jpg" data-org-width="640" dmcf-mid="9PxxRx3Gsv" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/23/Edaily/20251023153147928iopj.jpg" width="658"></p> </figure> <div contents-hash="82c507bee19975eca730d2ecfe89fbe802c8178a6a40bb2596c982a0adf3ebd4" dmcf-pid="8NmmOmMVmI" dmcf-ptype="general"> 최근 AI를 활용해 사람 음성, 얼굴들을 합성하거나 조작하는 딥페이크를 악용한 피해가 발생하고 있다. 다가 올 범용인공지능(AGI), AI 에이전트 시대에는 우리가 예상하지 못한 새로운 유형의 피해가 발생할 우려가 있어 현재의 AI 안전 확보 기술 현황 공유와 정부 정책 방향 논의가 시급했다. </div> <p contents-hash="cd75e79f23bfb2bb731d2dd0f05790748b1fc20d9ca27e5b719ae8143eca1b7f" dmcf-pid="6jssIsRfwO" dmcf-ptype="general">AI안전연구소는 지난 2023년 말부터 영국, 미국, 일본 등 주요국들이 다양한 AI 위험에 대응하기 위해 설립했다. 우리나라도 글로벌 대응과 국가 차원의 AI 안전성 확보를 위해 지난해 안전연구소를 설립한 이래 안전확보 기술 선도와 모델 평가, AI안전 정책 전반에 대한 논의와 대응, 글로벌 협업을 하고 있다.</p> <p contents-hash="edffeaf5c1dafe626ea7d3ad02fbc8a608d79181b7900f4bc6983e37607f3a53" dmcf-pid="PAOOCOe4Ds" dmcf-ptype="general">배경훈 부총리는 안전연구소에서 딥페이크 탐지 기술부터 미래 AI 위험 연구, AI 안전 평가 수행, AI 안전 정책, 글로벌 AI 협력을 수행하는 직원들을 격려했다. 딥페이크 탐지 기술과 AI 에이전트 안전성 평가에 대한 시연을 본뒤 AI의 지속 가능한 혁신과 안전과 신뢰의 균형을 갖추면서 건전한 AI 환경을 구축하도록 AI 위험 대응을 위한 기술 개발 현황과 AI안전 생태계 조성 방안을 주제로 간담회도 진행했다.</p> <p contents-hash="f5ad9000ebc6b0f0836760c389960c06777aff52f64ee87ed73b969fe1af1962" dmcf-pid="QcIIhId8rm" dmcf-ptype="general">첫 세션에서는 딥페이크 방지 기술와 AI 에이전트를 안심하고 사용할 수 있는 기술 개발 현황과 대응 방향을 논의했다. 두 번째 세션에서는 글로벌 AI 위험 대응 동향에 따른 우리나라의 AI 위험 대응과 안전 확보를 위해 ‘(가칭)국가AI 안전 생태계 조성 종합계획’을 마련하기 위한 방안도 논의했다.</p> <p contents-hash="5559be8bd98e5bb64a1932013a1f61465e5617f352f82271a0a799e1b2eeeea6" dmcf-pid="xkCClCJ6mr" dmcf-ptype="general">간담회 참석자들은 AI 안전 생태계를 조성해 안전하고 신뢰할 수 있는 AI를 개발하고, 활용하는 환경을 만들어야 한다고 강조했다.</p> <p contents-hash="0976494b6ad8b451566c37a740ad2790798acf9603451b502e2943519a99c76a" dmcf-pid="yoDDrDPKsw" dmcf-ptype="general">배경훈 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며 “AI안전이 모든 산업과 국민 생활에 녹아들도록 과기정통부가 관계부처, 유관기관과 연내 ‘(가칭)국가AI 안전 생태계 조성 종합계획’을 마련할 계획”이라고 말했다.</p> <p contents-hash="cbfac2ec8b279bcb9fe64239783682706584db7b516878bfb2656c675263653c" dmcf-pid="WgwwmwQ9wD" dmcf-ptype="general">강민구 (science1@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 '싱글맘' 한그루, '23살에 결혼' 과거 후회.."한채아 반대, 말 들을걸" 10-23 다음 현아와 결별 던 “헤어지면 끝, 재회 NO 환승연애 감정 알 거 같아” 솔직 연애관 (환승연애4) 10-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
