"AI 안전, 기업 약속만으론 부족"…측정·검증 체계 필요 작성일 07-20 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI안전연구소 "위험평가·시험 결과·사후 점검 제시해야"<br>LG AI연구원, 연간 위험 200건 찾아 80% 이상 완화</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="b1bYN42uZ3"> <figure class="figure_frm origin_fig" contents-hash="64c909f4bb8c7680434243a10573b07c14ebdb02aa3bccd09ce46e34d55f28f1" dmcf-pid="KtKGj8V7ZF" dmcf-ptype="figure"> <p class="link_figure"><img alt="LG AI연구원과 유네스코가 20일 서울 명동 유네스코 한국위원회에서 'AI 윤리 MOOC(Massive Open Online Course) 프로젝트' 글로벌 론칭 행사를 열고 전 세계 누구나 무료로 수강할 수 있는 교육 과정을 공개했다. 홍현익 유네스코 한국위원회 사무총장(왼쪽부터), 칼레드 엘에나니 유네스코 사무총장, 배경훈 부총리 겸 과학기술정보통신부 장관, 임우형 LG AI연구원 공동 연구원장이 기념촬영을 하고 있다. (LG 제공. 재판매 및 DB금지)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/20/NEWS1/20260720181529950lydv.jpg" data-org-width="1400" dmcf-mid="qWe7hoiPGp" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/20/NEWS1/20260720181529950lydv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> LG AI연구원과 유네스코가 20일 서울 명동 유네스코 한국위원회에서 'AI 윤리 MOOC(Massive Open Online Course) 프로젝트' 글로벌 론칭 행사를 열고 전 세계 누구나 무료로 수강할 수 있는 교육 과정을 공개했다. 홍현익 유네스코 한국위원회 사무총장(왼쪽부터), 칼레드 엘에나니 유네스코 사무총장, 배경훈 부총리 겸 과학기술정보통신부 장관, 임우형 LG AI연구원 공동 연구원장이 기념촬영을 하고 있다. (LG 제공. 재판매 및 DB금지) </figcaption> </figure> <p contents-hash="978387fde9a08f79f68a1b534b5942361b65ccaf3de142d1bb09ae0d1a918e6e" dmcf-pid="9F9HA6fzZt" dmcf-ptype="general">(서울=뉴스1) 김민수 기자 = 인공지능(AI) 기업이 자사 기술이 안전하다고 선언하는 데 그치지 않고, 어떤 위험을 발견했고 이를 어떻게 줄였는지를 구체적인 자료로 입증해야 한다는 지적이 나왔다.</p> <p contents-hash="3579cc9a16af9c5904766c8bc2fd77e80eb559eaa824676fba044a18426f95e3" dmcf-pid="2iDxFImjZ1" dmcf-ptype="general">김명주 AI안전연구소장은 20일 서울 중구 유네스코한국위원회에서 열린 '책임 있는 혁신을 위한 AI 윤리 콘퍼런스'에서 "AI 안전은 기업이나 기관의 확신과 약속만으로 증명할 수 없다"며 "측정에 기반한 증거로 뒷받침돼야 한다"고 말했다.</p> <p contents-hash="c5b131feefff2a07198f55438c9596f4e3fc39bbeeb56d96319b693598f5132b" dmcf-pid="VnwM3CsA55" dmcf-ptype="general">김 소장은 AI 위험을 △시스템이 의도대로 작동하지 않는 '오작동 위험'△사이버 공격이나 허위정보 생산 등에 활용되는 '오용 위험'△AI와 사회 환경의 상호작용에서 발생하는 '시스템적 위험'으로 구분했다.</p> <p contents-hash="56d4db3c19e2b4ddf00a5fefb234463f40ca9fd347ad82e857add43951fb3271" dmcf-pid="fLrR0hOcXZ" dmcf-ptype="general">특히 외부 도구를 사용해 스스로 판단하고 행동하는 AI 에이전트가 확산하면서 작은 오류가 큰 피해로 이어질 가능성이 커졌다고 진단했다.</p> <p contents-hash="206dcbacd3180c0cdd2a29689233ff3742dc5440c4d998c40396cd454d690435" dmcf-pid="4omeplIkZX" dmcf-ptype="general">기업은 발생 가능한 위험과 피해 대상을 담은 위험·영향평가와 시험 결과, 시스템의 한계를 제시해야 한다고 강조했다. 사람이 언제 개입할 수 있는지, 문제가 생겼을 때 시스템을 중단할 수 있는지, 최종 책임자가 누구인지도 명확히 해야 한다는 설명이다.</p> <p contents-hash="138a2c27b306e43be220eefeb4939ad3a1830ea62282d83463cc14caf03df19b" dmcf-pid="8gsdUSCEYH" dmcf-ptype="general">AI를 실제 서비스에 적용한 뒤에도 지속적인 모니터링과 사고 보고, 이용자 의견 반영이 필요하다고 덧붙였다.</p> <p contents-hash="7ac183a89ed17cae6657247ccda7ac4c8a13bf9571dc582c3ab3efd25c856c49" dmcf-pid="6aOJuvhDYG" dmcf-ptype="general">LG AI연구원은 실제 연구개발 과정에 적용 중인 AI 윤리 평가 사례를 공개했다.</p> <p contents-hash="0d911bb80141b23ccc9e772026142c21c5f3c2f30bc16dd53967ff1e8e8d0605" dmcf-pid="PNIi7TlwHY" dmcf-ptype="general">김유철 LG AI연구원 전략부문장은 "매년 약 60개 프로젝트에 AI 윤리 영향평가를 적용해 연간 약 200건의 위험을 발견하고, 이 가운데 최소 80%를 완화하고 있다"고 밝혔다.</p> <p contents-hash="8af7e2ee3517b1b729a2172d230204a677942759e8888f4e7541f1b80161f18f" dmcf-pid="QjCnzySrXW" dmcf-ptype="general">LG AI연구원은 연구자가 윤리 영향평가를 마치지 않으면 개발 절차를 진행할 수 없도록 내부 시스템을 운영한다. 단순 점검표에 그치지 않고 항목별 잠재 위험과 대응 방안도 제시하고 있다. </p> <p contents-hash="50942ce0d42399a07c96e48e763bcc707d068caa47c065a748deaf5a854687f5" dmcf-pid="xAhLqWvmHy" dmcf-ptype="general">김명신 LG AI연구원 신뢰안전사무국 총괄은 규제가 모든 상황을 사전에 다룰 수는 없다고 짚었다. 그는 "우리가 이해하지 못하는 것을 이름 붙일 수 없고, 규제는 이름 붙이지 못한 것을 다룰 수 없다"며 "고의적인 위해는 규제로 막되, 위험을 미처 보지 못한 개발자나 이용자에게서 생기는 문제는 교육으로 줄여야 한다"고 말했다. </p> <figure class="figure_frm origin_fig" contents-hash="853de6d341642d32f80c0377bbf9cad6eb0519d08a1f196cdac3f62c01eff271" dmcf-pid="yGuSnKqFXT" dmcf-ptype="figure"> <p class="link_figure"><img alt="20일 배경훈 부총리 겸 과학기술정보통신부 장관이 서울 중구 유네스코회관에서 열린 '책임 있는 혁신을 위한 AI윤리 컨퍼런스 : 글로벌 AI 윤리 MOOC 출범식'에 참석해 발언하고 있다. 2026. 07.20 ⓒ 뉴스1 김민수 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/20/NEWS1/20260720181531662iipm.jpg" data-org-width="1400" dmcf-mid="ByXD631y50" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/20/NEWS1/20260720181531662iipm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 20일 배경훈 부총리 겸 과학기술정보통신부 장관이 서울 중구 유네스코회관에서 열린 '책임 있는 혁신을 위한 AI윤리 컨퍼런스 : 글로벌 AI 윤리 MOOC 출범식'에 참석해 발언하고 있다. 2026. 07.20 ⓒ 뉴스1 김민수 기자 </figcaption> </figure> <p contents-hash="58e02d0a0cff491d96e6f55da91d7d43c2a56238a774192f3f9bcdc066a1b194" dmcf-pid="WH7vL9B3Zv" dmcf-ptype="general">한편 이날 유네스코와 LG AI연구원은 '글로벌 AI 윤리 공개 온라인 강좌(MOOC)'를 공개했다. 유네스코 193개 회원국이 2021년 채택한 'AI 윤리에 관한 권고'를 바탕으로 제작됐다.</p> <p contents-hash="d26bba10bd84d4a7f4c490f50c7f9a098ffc04062d224059f4fbc486bb7a1372" dmcf-pid="YXzTo2b0HS" dmcf-ptype="general">교육 내용에는 AI 편향을 찾아내는 방법과 위험평가, 개인정보와 권리 보호, 인간의 감독, 책임 소재 등이 포함됐다. 안전성과 공정성, 사생활 보호, 성능이 충돌할 때 어떤 기준으로 판단해야 하는지도 다룬다.</p> <p contents-hash="1cc5e08eff6f90c6ddf8a19cb0d370ed1d7ab91c1513416e7cc8e873da9c9417" dmcf-pid="GZqygVKp1l" dmcf-ptype="general">강좌는 코세라에서 한국어를 비롯해 11개 언어로 제공된다. LG AI연구원은 올해 하반기 국내 AI 개발자와 연구자를 대상으로 교육을 시작하고 내년에는 지역 거점대학으로 확대할 계획이다.</p> <p contents-hash="f779ba03f4e8356fec0b74e7126d89a7ffa3d35f1fe380372b408c871ac50bfc" dmcf-pid="H5BWaf9UGh" dmcf-ptype="general">배경훈 부총리 겸 과학기술정보통신부 장관은 "안전하고 신뢰할 수 있는 AI 생태계 조성을 위해서는 국제사회가 공동의 원칙과 기준을 마련하고 함께 실천해 나가는 것이 중요하다"며 "AI 윤리 무크가 전 세계 시민과 학생, 정책 담당자들이 AI 윤리를 학습하고 실천할 수 있는 글로벌 공공재로 자리매김하기를 기대하며, 대한민국도 앞으로 유네스코와 긴밀히 협력해 신뢰할 수 있는 AI 생태계 조성과 AI 윤리 확산에 적극 기여하겠다"고 말했다.</p> <p contents-hash="5a73a289fe217fc999b2cabff927af4e86b6d026cf3bb123bd64d82a9341bbdd" dmcf-pid="X1bYN42utC" dmcf-ptype="general">kxmxs4104@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 국방 LLM 개발…LIG D&A·한화시스템 컨소시엄 맞붙는다 07-20 다음 "메모리만으론 AI 3강 어렵다…풀스택 자생력 갖춰야" [현장] 07-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
