배경훈 "AI 해킹되면 걷잡을 수 없다…'안전 AI' 고민 필요" 작성일 10-23 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">인공지능안전연구소서 산학연 간담회 <br>"AI 산업 진흥뿐 아니라 '굿 AI' 논의 확대해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="pHeqrmMVXe"> <figure class="figure_frm origin_fig" contents-hash="25a8769f6658024c76574e8092c9ed8c6dab5a31f6c56ab6788744f0db352b0e" dmcf-pid="UXdBmsRfXR" dmcf-ptype="figure"> <p class="link_figure"><img alt="배경훈 부총리 겸 과학기술정보통신부 장관이 23일 오후 경기도 성남시 분당구 인공지능안전연구소를 방문해 '딥페이크 탐지, AI에이전트 안전성 평가 시연' 설명을 듣고 있다./사진=과기정통부" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/23/moneytoday/20251023180147883zrfz.jpg" data-org-width="1200" dmcf-mid="08APyWNdGd" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/23/moneytoday/20251023180147883zrfz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 배경훈 부총리 겸 과학기술정보통신부 장관이 23일 오후 경기도 성남시 분당구 인공지능안전연구소를 방문해 '딥페이크 탐지, AI에이전트 안전성 평가 시연' 설명을 듣고 있다./사진=과기정통부 </figcaption> </figure> <p contents-hash="ecbe45304d736c4f7e64dab35cb1f2eb414284702bd86a798becd65311610d27" dmcf-pid="uZJbsOe4HM" dmcf-ptype="general"><br><strong>"AI(인공지능)에 대한 해킹 공격이 시작된다면 문제가 걷잡을 수 없이 커질 것이라고 생각한다."</strong></p> <p contents-hash="1ac803a2dc07640859264581f29d0a6965926fbfd2ca4893a063229cb267c4b1" dmcf-pid="7hftaN2uGx" dmcf-ptype="general">배경훈 부총리 겸 과학기술정보통신부 장관은 23일 경기 성남의 인공지능안전연구소(이하 안전연구소)에서 진행된 산학연 간담회에서 "장관 임명 후 정보보호 관련 이슈에 대한 스트레스가 크다. 과기정통부뿐 아니라 많은 부처가 모여 정보보호 대책을 세우고 있지만 죽자고 덤벼드는 사람들을 막기가 쉽지 않다"며 이같이 말했다. </p> <p contents-hash="2e71730178f0d1b3269ca00f15b93b06979c28cc64b18df631ebaa4c63471524" dmcf-pid="zl4FNjV7ZQ" dmcf-ptype="general">배 부총리는 "우리의 산업 경쟁력을 높이기 위해 AI를 반드시 도입해야 하는데, 이 과정에서 '굿(Good) AI'를 잘 만들고 있는가의 측면에서 논의의 장이 부족한 게 아닌가 생각된다"며 "AI 3대 강국을 목표로 내년 예산투자가 3배 이상 느는 상황에서 산업 진흥만 얘기하면 안 되고, 안전한 AI를 만들기 위한 고민을 해야 한다"고 말했다. </p> <p contents-hash="15c66bff68e8c041b452415dd18f3b38bc88218fea2165fd7d0c286aaabcc566" dmcf-pid="qS83jAfzHP" dmcf-ptype="general">이날 행사는 다가올 'AI 에이전트' 시대에 새로운 유형의 피해가 발생할 수 있는 만큼, AI 안전 확보 기술 현황을 공유하고 정부의 정책 방향을 논의하기 위해 마련됐다. 이 자리에서 안전연구소는 AI로 사람의 얼굴과 음성을 합성·조작한 딥페이크 탐지 기술과 AI 에이전트 안전성 평가를 시연했다. 연내 '국가 AI 안전 생태계 조성 종합계획'(가칭)도 마련할 계획이다. </p> <p contents-hash="d462472f13b9171047fa115c1507598eb24872b8b0ebb9e9e37595d19298f5a3" dmcf-pid="Bv60Ac4qH6" dmcf-ptype="general">다만 현장에선 정부 규제가 기술 개발 속도를 따라가지 못한다는 지적이 나왔다. 간담회에 참석한 김민재 엔씨소프트 CTO(최고기술책임자)는 "(딥페이크 탐지 기술은) 이미 수년 전 나왔던 데모"라며 "생성 기술이 (탐지 기술보다) 훨씬 앞서 나가고 있어 쫓아가는 게 어렵다. 탐지 기술 연구에 대한 지원이 많이 필요하다"고 제언했다.</p> <p contents-hash="3db0a98714cf37190102f2a1bc0783992dffe89f8345d2cb3e8c2c1b22582c7d" dmcf-pid="bTPpck8BH8" dmcf-ptype="general">배순민 KT AI 퓨처랩장(CRAIO)도 "사내에서 AI 모델과 서비스에 대한 가이드라인을 제시할 때 '오늘 기준은 이렇지만 다음주는 달라질 수 있다'고 말할 정도로 기술 개발 속도가 빠르다"며 "그런데 AI 기본법은 시행령 제정에만 몇 달이 걸린다. AI 시대에 스피드 차원에서 국가가 거버넌스 역할을 하는 게 맞는지 고민된다"고 꼬집었다. </p> <p contents-hash="52cba491c3de1fff32fbfe75e7fd343684571c6aeb764d4f20eab15c378a687b" dmcf-pid="KyQUkE6bH4" dmcf-ptype="general">마지막으로 배 부총리는 "'AI 성능 최고'보다 중요한 건 대한민국이 가장 신뢰할 수 있는 안전 AI를 만든다는 것"이라며 "이제는 우리나라도 글로벌에 AI 기술력을 보여줄 시점이 왔다. 이럴 때 '한국의 AI 모델은 성능도 좋은데 신뢰할 수 있다'는 걸 보여주면 궁극적으로 국가경쟁력 제고로 이어질 것"이라고 강조했다. </p> <p contents-hash="ab7dd47f1a4cf1e79905f2f25dcbefac93f9a13a4f98556ddebb449e12829745" dmcf-pid="9WxuEDPKtf" dmcf-ptype="general">윤지혜 기자 yoonjie@mt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 LGU+, 해킹 정황 석달만에 신고···통신3사 다 뚫렸나 10-23 다음 삼성 파운드리 부활 신호탄 쏘나... 테슬라 칩 추가 수주의 3대 의미 10-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
