[기획] 통제권 쥐는 EU·규제 더 푸는 美… ‘한국형 ESG’ 가야 할 길은? 작성일 11-03 11 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">EU, AI 위험도 4단계 구체화… 기업 ‘리스크관리 체계’ 요구<br>美, 바이든 때 행정명령 철폐… 차세대 AI 발전계획 등 우선<br>韓, AI기본법 내년부터 시행… 사각지대·산업위축 등 우려<br>보안대응 나선 과기정통부 ‘민간정보 추진계획’ 발표<br>민간윤리·시민감시 강화… 자율적 AI 거버넌스 구축</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7ZHimPGhvD"> <figure class="figure_frm origin_fig" contents-hash="5bc805de96eefcadf5a66696c7b24002a821746b1d0c2fa41678b9ac475601d2" dmcf-pid="z5XnsQHlWE" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 그린 일러스트." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/03/dt/20261103174744494nbri.jpg" data-org-width="640" dmcf-mid="UKnI1kKpWK" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/03/dt/20261103174744494nbri.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 그린 일러스트. </figcaption> </figure> <p contents-hash="4932b79656f525ad37b29656a2644183a9f7dcf25268e5a5e0cb350ef29e3512" dmcf-pid="q1ZLOxXSlk" dmcf-ptype="general"><br> 세계 주요국이 인공지능(AI) 규제의 주도권과 기술 혁신 사이에서 전략적 패러다임을 가져가는 가운데 국내에서도 자율 규정과 외부 감독 기구를 둘러싼 ‘AI 통제권’ 논의가 국회와 산업계 전반의 핵심 ESG(환경·사회·지배구조) 화두로 떠올랐다. AI가 단순한 기술 혁신을 넘어 사회 구조 변화와 국가 안보, 나아가 기업의 지속가능경영을 좌우하는 핵심 동인으로 부상함에 따라 사회적 안전장치 마련과 산업 경쟁력 확보라는 ESG 셈법이 복잡해지고 있다.</p> <p contents-hash="27b82318fd64bc968acdecab2c91b916b559abfc23b50b2c855eca7e26639ce9" dmcf-pid="Bt5oIMZvWc" dmcf-ptype="general">3일 IT 업계 등에 따르면 글로벌 주요국의 AI 거버넌스 패러다임은 각국의 전략적 이익과 ESG 우선순위에 따라 갈린다. 유럽연합(EU)은 지난 2024년 5월 세계 최초의 포괄적인 규제 법안인 ‘EU AI 법(AI act)’을 제정해 인권 보호와 위험 관리 중심의 사회적 책임(S) 강화에 나섰다.</p> <p contents-hash="4e3635a7caabb2039618ef77f22f82901ae3b8bfee851dd86959c19b1dcf38d4" dmcf-pid="bF1gCR5TTA" dmcf-ptype="general">EU는 AI 위험도를 △허용 불가 위험 △고위험 △제한적 위험 △최소 위험 등 4단계로 나누었으며, 인간 행동 조작이나 원격생체인식 등 기본권을 침해하는 ‘허용 불가 위험’은 EU 시장 진입을 전면 금지했다. 채용, 필수 공공서비스, 사법 분야 등 ‘고위험’ 분야 역시 리스크 관리 시스템 구축과 투명한 데이터 거버넌스(G) 확보 등 까다로운 의무를 이행해야만 시장 출시가 가능하다.</p> <p contents-hash="8a1b5b69c835daa54d55c5727376750f39b3dafb1d3556851bcfe0ec44882bfc" dmcf-pid="K3tahe1ylj" dmcf-ptype="general">반면 미국은 미·중 패권 경쟁 속에서 자국 기업의 기술 우위를 확보하기 위해 ‘혁신 우선주의’ 전략을 펼치고 있다.</p> <p contents-hash="9f5fa3c863106440be03f72edb1ea3bb40fb444e057938f42deffb1d5922f5cf" dmcf-pid="90FNldtWyN" dmcf-ptype="general">바이든 행정부 시절 AI 책임성과 안전성 검증, 프라이버시 기준 강화를 골자로 하는 행정명령(Executive Order 14110)이 마련됐으나, 트럼프 2기 행정부는 출범 직후 과도한 규제를 철폐하고 기술 혁신의 걸림돌을 제거하는 행정명령(Executive Order 14179)을 발표했다.</p> <p contents-hash="ef71fa6b085a369135e8dba367edfe6c24f6e11acffb2f97eab9a9f0523785ba" dmcf-pid="2p3jSJFYla" dmcf-ptype="general">윤준승 워싱턴 주재관은 지난 4월 국회보에서 “미국의 입법 동향은 AI를 안보와 경제적 가치 창출의 핵심 요소로 바라보는 시각에서 출발한다”며 “중국이 차세대 AI 발전계획을 통해 국가 역량을 총동원하는 상황에서 자국 기술이 뒤처지지 않도록 구체적인 규제 입법보다 혁신을 최우선으로 두고 있다”고 진단했다.</p> <p contents-hash="1ac77ca7edb41864b9d65ce200db1b5a8fb6d129677ab0acd183f2d43b4e065f" dmcf-pid="VidZKve4Cg" dmcf-ptype="general">한편 국내에서는 지난 1월 22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 시행되며 법적 거버넌스를 갖춘 포괄적 AI 규제 집행국이 됐다. AI 기본법은 의료·교통·에너지 등 국민 생명과 신체 안전에 직접적인 영향을 미치는 AI 시스템을 ‘고영향 AI’로 정의하고, 사회적 안전성을 제고하도록 했다. 해당 사업자는 리스크 관리 및 이용자 권익 보호 방안을 수립하는 등 투명한 거버넌스 관리 의무를 부과받는다.</p> <p contents-hash="cd2a29889920254984586946b973b08f7ced0d977a5dc0999023708c2a884b40" dmcf-pid="fnJ59Td8To" dmcf-ptype="general">아울러 제31조에 따라 고영향 AI나 생성형 AI 서비스 활용 사실을 이용자에게 사전에 고지하도록 했으며, 딥페이크 등 가상 생성물에는 워터마크 등 AI 사용 표기를 명시하도록 규정해 소비자 신뢰 구축(S)을 명시했다.</p> <p contents-hash="bec7b7f36ed13ec6e81eae8871df144b193e5b12a9f72639bae4bb349a82e4c0" dmcf-pid="4Li12yJ6lL" dmcf-ptype="general">AI 모델을 만드는 인공지능개발사업자와 AI 모델을 활용해 관련 애플리케이션을 개발하는 AI이용사업자 모두 규제 및 ESG 준수 대상이다. 엔비디아, 오픈AI, 카카오 등이 구글의 AI생성물 식별 기술인 ‘신스ID’를 도입한 것도 이 같은 책임 있는 AI(Responsible AI) 경영 배경에서 비롯된다.</p> <p contents-hash="df24cf520c1e96e9076d718878d6faa601e11ae755703d2606b52c1acbdfd5ea" dmcf-pid="8ontVWiPln" dmcf-ptype="general">그러나 현행 AI 기본법이 지닌 법적·사회적 사각지대에 대한 지적도 만만치 않다. 규제 대상이 AI 모델 개발사와 애플리케이션 제작사에 한정되다 보니, 이를 활용해 최종 콘텐츠를 제작·유통하는 언론사, 출판사, 유튜버, 웹툰작가 등은 ESG 책임 윤리 범주에서 벗어나 있기 때문이다.</p> <p contents-hash="9f470f700c8a86d4b7f46f278333d2c5fe1182111ce6eebc4297bc9f8b9753f0" dmcf-pid="6gLFfYnQWi" dmcf-ptype="general">특히 AI 애플리케이션 활용도가 높은 유통·소비 단계에서 딥페이크 악용이나 부작용이 발생할 경우 실질적인 디지털 인권 보호에 한계가 드러날 수 있다는 우려가 제기된다. 이외에도 AI 기술 확산으로 인한 안보 위협, 사생활 침해, 알고리즘 편향성 등 사회적(S) 위험성도 도사리고 있다.</p> <p contents-hash="a0eb7c60df88bca6cd120b655c64b51613b751cf4c07858da731aad19fe3ce72" dmcf-pid="Pao34GLxSJ" dmcf-ptype="general">정부는 독립적 AI 거버넌스 전담 기구 신설에 대해 아직 신중한 입장이다. 현재 대통령 직속으로 ‘국가인공지능위원회’가 국가 전반의 AI 정책 컨트롤 타워를 맡아 부처 간 사업 조율과 중장기 전략 수립을 담당하고 있다. 시민사회 단체를 중심으로 책임 있는 감독을 위한 독립 중앙행정기구 설립 필요성이 제기되고 있으나, 정부는 초기 산업 위축을 경계하며 속도를 조절하고 있다.</p> <p contents-hash="ea36a89ec64874cf8cb555c21508b119a2be3aff1ee69c3e537aed0c381278ac" dmcf-pid="QNg08HoMWd" dmcf-ptype="general">강도현 과학기술정보통신부 2차관은 2024년에 열린 ‘AI 기본법’ 공청회에서 “현 단계에서는 법 제정이 우선”이라며 “AI에 관한 별도의 합의제 행정기구를 만들지 여부는 열려 있는 부분”이라고 밝혔다.</p> <p contents-hash="6413634bec553fdc283bf2d758735254ea862481cd571102abb847de7a5704f1" dmcf-pid="xjap6XgRve" dmcf-ptype="general">그는 당시 “정부가 개인정보 보호에 관한 업무를 처음 시작할 때 현재 개인정보보호위원회처럼 독립행정기관으로 될 것이라고 생각되지 않았지만, 시대가 요구하는 사회적 가치에 따라 개인정보보호위원회가 탄생했다. 방송통신위원회 등도 마찬가지”라고 설명했다. 법 시행이 1년이 채 되지 않아 감독 체계 정립에는 좀 더 시간이 걸릴 것으로 예상된다.</p> <p contents-hash="f3099b83c3087d86df092725fac1d8909247a2e51a08b1b81748d50fd00a3a16" dmcf-pid="yp3jSJFYvR" dmcf-ptype="general">공공 차원의 위험 공백을 메우고 민간의 사이버 위협 및 보안 리스크에 대응하기 위한 움직임도 이어지고 있다. 과기부는 올해 5월 ‘AI 기반 사이버위협에 대응하기 위한 민간정보 추진계획’을 발표했다. 이번 계획은 민간 분야의 AI 보안 위협 대비를 위한 긴급조치와 함께 정보보호 체계를 AI 기반으로 전환하여 디지털 생태계의 안정성(S)을 확보하는 중장기 방향성을 제시하는 데 초점을 맞췄다.</p> <p contents-hash="aaaad50dd037d65e62576b732d284ceac0206b58e1ec75f6ae6cbafac381dea7" dmcf-pid="WU0Avi3GSM" dmcf-ptype="general">우선 국가안보실을 중심으로 AI 취약점 공개 및 패치, 위협 상황 등을 신속 공유·전파하고, 침해사고 발생 시 합동 대응이 가능한 긴급 체계를 구축한다. 과기정통부 내에는 총괄상황반을, 민간 분야에는 소관 부처별 상황반을 가동할 예정이다. 또한 한국인터넷진흥원(KISA) 내 취약점 관리센터를 설치해 취약점·패치 관리를 일원화하고, 관계부처 및 기업 기술지원도 추진하여 사회적 안시망을 강화한다.</p> <p contents-hash="31f9ed61d4c40f5f7a30f752850c6db9b9ee99e1de11eaf067cdd6f207b79082" dmcf-pid="YupcTn0Hlx" dmcf-ptype="general">시민사회에서도 AI 기술 발전에 따른 부와 권력 집중, 포용성 이슈를 감시하고자 하는 ‘AI 시민포럼’이 지난달 22일 공식 출범했다. 최재천 이화여대 석좌교수를 비롯한 128명이 창립발기인 명단에 이름을 올렸다. AI 시민포럼은 △AI·데이터의 공공성과 디지털 권리 문제 △일자리·소득·분배 등 사회적(S) 파급효과 등을 따져봐야 한다고 강조한다. 국가의 기술 패권 경쟁과 기업의 시장 논리를 넘어 시민의 삶과 권익, 노동과 소득, 공공의 가치가 후순위로 밀리지 않도록 독립적인 감시와 비판 체계가 필요하다는 입장이다.</p> <p contents-hash="8efab0bf7ce9063f1f938dd52a88b7f669865a899d1a6bc4fe7ffc29f82548e2" dmcf-pid="G7UkyLpXhQ" dmcf-ptype="general">산업계 내부에서는 AI 윤리와 위험 관리를 담은 자율적 ESG 거버넌스 체계를 고도화하는 데 역량을 집중하고 있다. 네이버는 AI 안전 업무를 전담하는 ‘AI 세이프티 센터’를 운영 중이며, 지난 7월 AI 안전 프레임워크 ‘네이버 ASF 2.0’을 공개해 사회적 신뢰를 확보했다. SK텔레콤은 ‘AI 거버넌스 전담팀’과 AI 서비스의 리스크·취약성을 직접 찾아내는 ‘AI 레드팀’을 분리해 이중 감독 체계를 구축했으며, 카카오는 지난달 15일 자율 에이전트 확산에 대응하기 위해 AI 서비스의 기획부터 운영까지 적용할 AI 윤리원칙 ‘스피릿’과 이행 가이드 ‘노르마’를 마련했다고 밝혔다.</p> <p contents-hash="570ea388de61ec3edbb34bad1c4bb7c59463924ebcabea9a6c3d936422442e5b" dmcf-pid="HzuEWoUZWP" dmcf-ptype="general">윤성연 기자 joy@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 PC 카톡에 광고 넣자, 이용자들 직접 ‘차단기’ 만들었다 11-03 다음 휴머노이드에 일하는 법 전수…국내 첫 데이터팩토리 개소 11-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
