말로만 끝내지 않는 中…AI 안전 논문 폭증에 연구그룹 '3배' 늘었다

작성일 08-16

<div id="layerTranslateNotice" style="display:none;"></div> 콘코디아AI "당 AI 리스크 관리 주문에 일제 실행…외교무대선 '글로벌 표준' 선점 야심" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="Vr7bHaf5kP">
 (지디넷코리아=조이환 기자)중국이 인공지능(AI) 기술의 위험을 통제하기 위해 국가 차원의 거버넌스 체계를 구축하고 이를 국제 무대의 표준으로 삼으려는 움직임을 본격화하고 있다. AI 경쟁 속에서 발생할 수 있는 잠재적 위협을 관리하며 글로벌 질서를 주도하려는 전략이다.
 16일 중국의 AI 안전 연구기관인 콩코르디아 AI가 발간한 '중국의 AI 안전 현황 2025' 보고서에 따르면 중국 공산당 지도부는 AI 안전을 국가 핵심 의제로 격상시켰다. 이 보고서는 2024년 5월부터 2025년 6월까지 중국의 AI 안전 정책, 기술 연구, 산업계 동향을 종합적으로 분석했다.
 공산당은 지난해 제3차 전체회의에서 AI 안전 감독 시스템 구축을 국가 안보 우선순위로 명시했고 지난 4월에는 당 정치국이 AI를 주제로 한 학습 세션을 열었다. 이 자리에서 시진핑 주석은 AI가 "전례 없는 위험과 도전"을 제기한다며 위험 모니터링, 조기 경보, 비상 대응 시스템 구축을 주문했다.
 <figure class="figure_frm origin_fig" contents-hash="2cc86af2f7bd8d03719673f45ff9a8d07aba51566be7ba444cf986875a03e9f1" dmcf-pid="6IbV1cP3kf" dmcf-ptype="figure">
 <img alt="중국이 인공지능(AI) 기술의 위험을 통제하기 위해 국가 차원의 거버넌스 체계를 구축하고 이를 국제 무대의 표준으로 삼으려는 움직임을 본격화하고 있다. (사진=콘코디아 AI)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/16/ZDNetKorea/20250816155025353jsle.png" data-org-width="615" dmcf-mid="2GH1OQphaQ" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/16/ZDNetKorea/20250816155025353jsle.png" width="658">
 <figcaption class="txt_caption default_figure">
 중국이 인공지능(AI) 기술의 위험을 통제하기 위해 국가 차원의 거버넌스 체계를 구축하고 이를 국제 무대의 표준으로 삼으려는 움직임을 본격화하고 있다. (사진=콘코디아 AI)
 </figcaption>
 </figure>
 이러한 정책 방향은 포괄적인 'AI 법' 제정보다 구체적인 '표준' 시스템을 통해 구현되는 양상이다. 지난 상반기에만 지난 3년간 발표된 것과 같은 수의 국가 AI 표준이 제정될 정도로 속도를 내고 있다.
 현재 표준은 주로 콘텐츠 필터링 등 단기적 위험에 초점을 맞추지만 국가사이버보안표준화기술위원회(TC260) 등이 공개한 로드맵에는 AI의 통제 불능이나 사이버 공격 악용 등 프론티어 리스크가 포함돼 주목된다.
 국제 외교 무대에서도 중국의 행보는 두드러진다. 올해 다보스포럼에 참가한 중국 고위 관리는 통제 없는 AI 경쟁을 예견 가능하지만 간과되는 위험을 뜻하는 '회색 코뿔소'에 비유하며 국제 협력을 촉구했다. 또 유엔을 통해 개발도상국 AI 역량 강화 결의안을 주도하고 '중국 AI 안전 및 개발 협회(CnAISDA)'를 출범시켜 국제 AI 안전 연구소들의 파트너 역할을 자처하고 나섰다.
 미국과의 관계 변화는 중국의 AI 전략을 가늠할 핵심 변수다. 양국은 핵무기 통제에 대한 인간의 개입 필요성에 합의하는 등 성과도 있었지만 지난해 5월 이후 정부 간 대화는 사실상 중단 상태다. 다만 중국은 지난 5월 영국과 새로운 AI 대화를 시작하며 협력 대상을 다변화하는 모습을 보였다.
 학계의 움직임도 심상치 않다. 중국 기관들의 프론티어 AI 안전 관련 논문 발표 건수는 월평균 11편에서 26편으로 1년 새 두 배 이상 급증했다. 특히 이전에는 미미했던 ▲초인적 시스템 정렬 ▲메커니즘 기반 해석 가능성 ▲AI의 기만 행위 탐지 등 최첨단 연구 주제가 활발히 다뤄지기 시작했다.
 산업계 역시 정부의 정책 기조에 발맞추고 있다. 지난해 12월 중국인공지능산업연맹(AIIA) 주도로 알리바바, 바이두, 텐센트 등 17개 주요 기업이 'AI 안전 서약'에 서명했다. 이들은 전담 안전팀 구성, 레드팀 테스트, 데이터 보안 강화 등을 약속했다.
 다만 업계의 자율 규제에는 한계가 명확하다는 지적도 나온다. 보고서가 분석한 13개 주요 프론티어 AI 기업 중 기술 보고서를 발간한 곳은 9곳이었으나 이 중 구체적인 안전성 평가 결과를 공개한 기업은 단 3곳에 불과했다. 특히 화학·생물 무기(CBRN) 오용이나 통제 불능과 같은 심각한 위험에 대한 평가 결과는 전무해 기업들의 투명성 확보가 시급한 과제로 떠올랐다.
 장펑 지푸 AI 최고경영자(CEO)는 지난해 서울 AI 서밋에서 "최첨단 기술에는 AI 안전을 보장해야 할 중대한 의무가 따른다"며 "안전은 가장 시급한 문제는 아닐 수 있지만 극도로 중요하며 선제적인 준비가 필요하다"고 밝혔다.
 조이환 기자(ianyhcho@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

이전

“콘서트 효과” BTS 진, 8월 브랜드평판 1위

08-16
다음

“해외 진출 적극 지원”, BIC 2025 빅잼 4기 선정 결과 발표

08-16

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

말로만 끝내지 않는 中…AI 안전 논문 폭증에 연구그룹 '3배' 늘었다

멤버랭킹

관련자료

멤버랭킹