배경훈 부총리 "AI해킹되면 걷잡을 수 없어…안전한AI 중요" 작성일 10-23 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">과기정통부, 산·학·연 전문가와 AI 안전 정책 방향 논의<br>AI안전연구소, AI 인증 체계 및 딥페이크 탐지 모델 개발<br>현상선 '규제가 AI발전속도 못따라가' 지적…위협도출 체계 필요"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1VMg1trNZN"> <figure class="figure_frm origin_fig" contents-hash="d852e216c133f5b9e654366224d545261d6b685c0e4fe1f91a62260ab0fe1395" dmcf-pid="tfRatFmjHa" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 배경훈 부총리 겸 과학기술정보통신부 장관이 23일 오후 경기도 성남시 분당구 인공지능안전연구소를 방문해 AI 안전 관련 산학연 전문가 간담회를 하고 있다. (사진=과학기술정보통신부 제공) 2025.10.23. photo@newsis.com *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/23/newsis/20251023185540062wggo.jpg" data-org-width="720" dmcf-mid="5w1zck8BHj" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/23/newsis/20251023185540062wggo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 배경훈 부총리 겸 과학기술정보통신부 장관이 23일 오후 경기도 성남시 분당구 인공지능안전연구소를 방문해 AI 안전 관련 산학연 전문가 간담회를 하고 있다. (사진=과학기술정보통신부 제공) 2025.10.23. photo@newsis.com *재판매 및 DB 금지 </figcaption> </figure> <p contents-hash="4ad461fcec65e68036ed3007da1fa415d2cae442c6a5b8c865454d16a77cecf6" dmcf-pid="F4eNF3sAHg" dmcf-ptype="general"><br> [서울=뉴시스] 심지혜 기자 = 배경훈 과학기술정보통신부 장관이 “인공지능(AI) 기술의 발전 속도가 너무 빠르다. 가이드라인만으로는 대응이 어렵다. AI 안전연구소를 중심으로 인증 기반의 신뢰체계를 구축해야 한다”고 23일 밝혔다. </p> <p contents-hash="e0d00432d77810d8c887942d4c7502ee27af2bd391d43c30ea889f88ddd48d6e" dmcf-pid="38dj30OcHo" dmcf-ptype="general">배 장관은 이날 서울 AI 안전연구소에서 열린 산·학·연 전문가 간담회에서 “AI 산업 진흥만 고민할 게 아니라, 문제 없이 안전한 AI를 만들기 위한 체계도 병행해야 한다”며 “국가 차원의 AI 거버넌스는 이미 세워졌다. 이제 그 거버넌스를 실제로 작동시키는 중심축이 안전연구소가 돼야 한다”고 말했다.</p> <p contents-hash="ba62c8b4a984c01630dfb039781f6aa8db2faae62df4d35dd17cee3d1ae16fd8" dmcf-pid="06JA0pIkYL" dmcf-ptype="general">그는 "AI 해킹 리스크가 본격화되면 문제가 걷잡을 수 없게 된다”며 "AI를 정말 잘 만들어 가야 한다. 만드는 과정에서 굿(Good) AI를 잘 만들고 잇는가 하는 측면에서 논의가 계속돼야 한다"고 강조했다. </p> <p contents-hash="5b1ac71be1ae3bc6bb9338886adcc3b8a4f5385d3f38b4c83ed8044f89826da5" dmcf-pid="pPicpUCEXn" dmcf-ptype="general">김명주 AI안전연구소장은 "AI 기본법에서 인증을 민간에서 하고 있어 한국정보통신기술협회(TTA)와 협력해 평가와 인증이 한 흐름이 되도록 컨소시엄을 형성하고 있다"며 "안전연구소는 현재 이미지뿐 아니라 영상, 음성을 포괄하는 멀티모달 딥페이크 탐지 기술을 개발 중"이라고 설명했다.</p> <p contents-hash="dbb3c15ea052a903f1664b02af4dd5105fd6fe518ec834dff63c9e15234d9b16" dmcf-pid="UQnkUuhDti" dmcf-ptype="general">이날 현장 참석자들은 빠르게 발전하는 AI 기술과 규제 사이의 속도 차이를 주요 과제로 지적했다. </p> <p contents-hash="d50d2335be6b145bc69706458734140a64f638452aa253899e203b63c76d7863" dmcf-pid="uxLEu7lwZJ" dmcf-ptype="general">배순민 KT 책임있는AI센터장은 "오늘 기준은 이렇지만 내일은 달라질 수 있을 정도로 기술 속도가 빠르다"며 "국가 기준도 빠르게 업데이트돼야 한다”고 말했다. 그는 "AI 에이전트, 피지컬AI 시대는 속도와 안전의 균형이 핵심 과제”라며 “국가도 민간과 함께 실시간 수준의 기준 보완이 필요하다"고 했다.</p> <p contents-hash="227b2b7103ffae56a1b1225793570e16c337925ea9ccf9a8227c00115f3556f9" dmcf-pid="7MoD7zSrtd" dmcf-ptype="general">이상호 AI 세이프티·퀄리티 성과리더는 내년 1월 시행되는 AI 기본법과 관련해 “AI로 만든 이미지나 영상에 워터마크를 넣어도 잘라내면 무용지물”이라며 “보이지 않는 인비저블 워터마크 기술이 필수”라고 말했다. 이어 “AI가 만든 콘텐츠를 감지할 수 있는 기술적 대응이 뒷받침돼야 법이 실효성을 가질 수 있다”고 강조했다.</p> <p contents-hash="da5b7f28914e1f9d5b7a783c0b14275f935458518869e18860cc309855c53c8a" dmcf-pid="zhG0ga9U5e" dmcf-ptype="general">최대선 숭실대 AI안전성연구센터장은 “기존 가이드라인은 기술 발전을 따라잡지 못한다”며 “AI 레드팀을 위한 플레이그라운드를 만들어, 취약점을 공격적으로 검증하고 빠르게 보완하는 체계를 마련해야 한다”고 제언했다. </p> <p contents-hash="696fb28c47a3ca7f61bbcc632986a8f816038f2e4082f3a844c4dfc4c3b78ede" dmcf-pid="qlHpaN2u5R" dmcf-ptype="general">그는 "빠르게 변화하는 AI 시대엔 인증이나 가이드보다 더 낫다"며 "적극 공개와 실험을 통해 신뢰를 높이는 구조가 인증보다 실효적일 수 있다”고 말했다.</p> <p contents-hash="a8a7aa148025d206cab0e5a035a5e053a2e1e49ddbd3a61219be91e48b253bc5" dmcf-pid="BSXUNjV7YM" dmcf-ptype="general">정부는 올해 안에 '국가 AI 안전 생태계 조성 종합계획'을 수립해, AI안전이 일반화 될 수 있게 한다는 방침이다. </p> <p contents-hash="1c9e7fe13d393237d3d04777bece62dba43d4cec29a39d0b4f87ce7b838f6c9e" dmcf-pid="bvZujAfzYx" dmcf-ptype="general">배 장관은 “AI를 통해 산업 경쟁력을 확보해야 하는 건 분명하지만, 동시에 안전한 AI를 만들어야만 지속 가능한 성장도 가능하다”며 “대한민국이 가장 신뢰할 수 있는 안전한 AI를 만든다는 국제적 인지도를 쌓는 것"이라고 강조했다. </p> <p contents-hash="5215926ff1c25f97e676a42ff557c78767aee83ac4acada32f694065d2854393" dmcf-pid="KT57Ac4qGQ" dmcf-ptype="general">이어 "이제 우리나라도 글로벌 수준의 AI 기술력을 보여줘야 하는 때"라고 했다.</p> <p contents-hash="7a3521ce591242a7fc4e661f9231eaa88df3eb75296eb737d0f55c8a60c55ead" dmcf-pid="9y1zck8BYP" dmcf-ptype="general"><span>☞공감언론 뉴시스</span> siming@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p> 관련자료 이전 '블랭핑크 인형' 라부부 열풍 끝났나..리셀가·검색량 '하락' 10-23 다음 ‘케데헌’ 헌트릭스, 美 대표 연말 무대 ‘징글볼’ 오른다 10-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
