AI안전연구소 김명주 소장 “지속가능 AI 경쟁력…안전·신뢰 확보에 달렸다” [창간 38주년, AI경기 판을 바꾸다] 작성일 08-07 33 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">모든 산업·일하는 방식 바꾸는 AI 혁명<br>긍정적 측면 비례 부정적 측면도 ‘강력’<br>보이스피싱·무기 제조 정보 등 악용 가능<br>공공성·제어 가능성 등 사회적 합의 필요<br>DX 기반 위 AX 투자로 인프라 안정을<br>빠른 도입보단 늦더라도 기술 탐색 중요<br>반도체·제조업 등 AI 핵심 기반 갖춘 道<br>글로벌 기업 협업·경쟁으로 AI 거점 도약</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="1AooQHXSy4"> <figure class="figure_frm origin_fig" contents-hash="0aebe7829d90b52a6be53061c831d6148b1c0a77d69f84d25f276667f4dcf94b" dmcf-pid="tcggxXZvCf" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI안전연구소 김명주 소장이 AI 혁명으로 인해 일어날 수 있는 부작용을 설명하며 AI 보안의 필요성을 강조하고 있다. 김 소장이 미래의 AI 보안을 다루는 연구소에서 이야기하는 모습을 생성형 AI 이미지로 표현했다. 윤원규기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/07/kyeonggi/20260807090226789upou.jpg" data-org-width="1089" dmcf-mid="qTFuCQx2S0" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/07/kyeonggi/20260807090226789upou.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI안전연구소 김명주 소장이 AI 혁명으로 인해 일어날 수 있는 부작용을 설명하며 AI 보안의 필요성을 강조하고 있다. 김 소장이 미래의 AI 보안을 다루는 연구소에서 이야기하는 모습을 생성형 AI 이미지로 표현했다. 윤원규기자 </figcaption> </figure> <div contents-hash="2f707c5d02b4064c3ed86765d37bd36c30b7ef4481544fa5276b84b24cb7dad3" dmcf-pid="FkaaMZ5TWV" dmcf-ptype="general"> <br> <div> <div> 인공지능(AI)이 산업과 행정, 교육, 의료, 문화 등 사회 전반으로 빠르게 확산되면서 일하는 방식과 산업 구조, 도시 경쟁력까지 근본적으로 바꾸고 있다. 이런 가운데 반도체와 제조업, 바이오, 스타트업 등 AI 산업의 핵심 기반을 갖춘 경기도는 대한민국 AI 경쟁력을 이끌 전략 거점으로 주목받고 있다. 하지만 AI는 혁신의 기회인 동시에 일자리 변화와 정보보안, 딥페이크, 개인정보 보호 등 새로운 위험도 함께 가져오고 있다. 이에 최근 AI 시대의 경쟁력은 기술 도입 속도뿐 아니라 안전과 신뢰를 얼마나 함께 확보하느냐에 달려 있다는 목소리가 커지고 있다. 경기일보는 창간 38주년을 맞아 김명주 AI안전연구소장을 만나 AI 혁명이 가져올 사회 변화와 경기도가 갖춘 경쟁력, 그리고 지속 가능한 AI 시대를 위해 지금 준비해야 할 과제를 들어봤다. 편집자주 </div> </div> <br><strong><span>Q.</span> 챗GPT를 기점으로 AI가 우리 일상에 빠르게 들어왔다. 이번 변화가 과거의 디지털 혁명과 비교해 어떤 의미를 갖고 있는지 궁금하다.</strong> <br><span><strong>A. </strong></span>과거의 디지털 혁명보다 AI 혁명은 변화의 속도가 훨씬 빠르고, 변화의 수준은 더 지능적이며, 사회 전반에 미치는 영향도 훨씬 광범위하다. 기존에도 디지털 기술을 중심으로 산업과 사회 전반에 많은 변화가 있었지만 AI는 몇 가지 점에서 이전의 기술 혁신과 분명한 차이가 있다. <br> 우선 AI는 특정 산업이나 분야에만 적용되는 기술이 아니다. 정부가 ‘모두의 AI’를 강조하는 것처럼 거의 모든 영역에서 생산성과 효율성을 높일 수 있는 범용적인 기술이다. 그렇기에 개별 산업의 변화에 그치지 않고 사회 전반으로 확산되며 사회의 체질 자체를 바꿀 것이다. 또 기존의 디지털 전환은 반복 업무나 자동화가 가능한 영역처럼 비교적 전문성이 낮은 업무의 효율성을 높이는 데 초점이 맞춰져 있었다. </div> <p contents-hash="cfad7aa4619c983ae9dd2841075dd0b2a750613fd8e17233c4ca76c3b4d625e6" dmcf-pid="3ENNR51yv2" dmcf-ptype="general">반면 AI는 전문가들의 지식을 학습해 의사결정을 지원하고 창작자의 창의적 작업까지 보조하는 수준으로 발전했다. 그 결과 높은 진입 장벽 때문에 비교적 안전하다고 여겨졌던 전문직까지 AI의 영향권에 들어오고 있다. 결국 AI는 특정 직업이나 산업만 바꾸는 기술이 아니라 거의 모든 직업과 산업의 일하는 방식을 바꾸는 기술이다. 앞으로 AI의 영향을 받지 않는 직업을 찾기가 더 어려워질 것이다. </p> <p contents-hash="2d016488b229cb853f13fe6f5b1835b6de3a8c513ee8cc2bc1956c7b3acc55a2" dmcf-pid="0Djje1tWl9" dmcf-ptype="general"><strong><span>Q. </span>AI가 바꿀 우리 사회와 조직에 자리 잡은 기존의 ‘판’은 무엇인가.</strong><br><span><strong>A. </strong></span>무엇보다 직장생활에서 당연하게 받아들였던 고정관념이 먼저 깨지게 된다. </p> <p contents-hash="2d617c0008d3b368995d669d9961e7130f6efb6ae5787e7a3d5dad16f3389673" dmcf-pid="pwAAdtFYhK" dmcf-ptype="general">대표적인 것이 ‘사수·부사수’ 구조다. 기존에는 부사수가 사수에게 업무를 배우면서 10년 정도의 숙련 과정을 거쳤다. 하지만 최근 기업들은 부사수를 장기간 훈련하기보다 숙련된 사수에게 AI를 붙여 업무를 처리하는 것이 더 효율적이라고 판단하고 있다. 이른바 ‘탈숙련’ 현상이 일어나는 셈이다. </p> <p contents-hash="a5c500195c5e12352a6692a709aea1cac14c914fd17d668c5eff07ce277254a1" dmcf-pid="UrccJF3GWb" dmcf-ptype="general">또 거의 모든 분야에서 AI를 활용한 업무 향상성을 크게 체험하면서 고용구조와 산업생태계가 연쇄적으로 크게 흔들릴 것이다. 예시로 프로그래밍과 코딩의 경우 불과 5∼6년 전까지만 해도 코딩을 잘하는 개발자의 몸값은 천정부지였다. 해외에서 뛰어난 프로그래머를 구하려면 수억원대 연봉을 제시하고도 사람을 구하기 어려운 상황이었다. </p> <p contents-hash="5d5b05bbff1a60a400a5175e0ca6b05bfea9cbb69834a86ad5cf6f4cde5d553a" dmcf-pid="umkki30HWB" dmcf-ptype="general">하지만 최근에는 해외 기업을 중심으로 시니어 개발자는 남겨두되 주니어 개발자를 줄이는 현상이 나타나고 있다. 신입사원 채용도 감소하고 있다. AI가 프로그램을 빠르게 작성하고 사람이 직접 투입되지 않아도 되는 영역이 늘어나고 있기 때문이다. </p> <figure class="figure_frm origin_fig" contents-hash="64b7fe8cf9cfd5badd04976b9640e1fd6f658d7c8dea2b016e13aed4667f01a9" dmcf-pid="7sEEn0pXyq" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI안전연구소 김명주 소장. 윤원규기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/07/kyeonggi/20260807090228070enek.jpg" data-org-width="457" dmcf-mid="BvG1D2V7v3" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/07/kyeonggi/20260807090228070enek.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI안전연구소 김명주 소장. 윤원규기자 </figcaption> </figure> <p contents-hash="d403eaec39f62deab5539a14cabdaf1273e9a20e15e72fc149478522a4816e6a" dmcf-pid="zODDLpUZhz" dmcf-ptype="general"><br><strong><span>Q.</span>AI가 빠르게 확산되는 만큼 안전 문제도 커지고 있다. ‘AI 안전’이란 무엇이며 왜 중요한지 설명한다면.</strong><br><span><strong>A.</strong></span>모든 기술은 양면성을 가지며 이는 AI도 마찬가지다. 긍정적 측면이 과거 그 어느 기술보다 워낙 강력한 AI 역시 부정적 측면도 이에 비례해 강력하다. </p> <p contents-hash="84e541c7804e1992a45baaca57ec3417269ecfd20f253d6c4577c3e1d3fc5a1b" dmcf-pid="qIwwoUu5v7" dmcf-ptype="general">AI는 좋은 의도를 가진 사람뿐 아니라 나쁜 의도를 가진 사람에게도 유능한 도구다. 이미 보이스피싱 범죄자들은 AI로 목소리와 얼굴을 모방해 화상통화 사기를 저지르고 해커들은 AI 해킹툴을 활용해 개인정보를 비롯한 온갖 정보를 빼내고 있다. 향후 AI가 핵무기나 생화학무기 제조와 관련된 정보까지 학습해 이용자에게 제공한다면 국가안보 차원에서도 심각한 문제가 될 수 있다. </p> <p contents-hash="31e4a2c9a834169dacd00d1b9e6a5dcaf5b6856d459b3fbd35ccf5a2052b2b5a" dmcf-pid="BuFFyJiPvu" dmcf-ptype="general">이처럼 AI가 위험한 정보를 학습하고 있다면 이를 대답하지 못하도록 차단하는 것이 AI 안전의 시작이다. AI는 인류 전체의 행복과 번영을 위한 기술이어야 한다. 그러기에 현재 갖추고 있는 공공성(Publicness)에 더해 남다른 책임성(Responsibility) 혹은 공동체 의식을 기반으로 한 책무성(Accountability), 인간의 존엄성을 위한 투명성(Trasparency)과 설명가능성(Explainability), 인간이 잘 통제할 수 있는 제어가능성(Controllability)이 사회적으로 합의돼 세워져야 한다. 안전이 담보되지 않고서는 혁신은 불가능하며 지속가능한 AI 사회로의 발전도 불가능하다. </p> <p contents-hash="0087630e182b6af7348cecb1c05a69146f7b5005e584dde8fab1e38e6ca24383" dmcf-pid="b733WinQyU" dmcf-ptype="general"><strong><span>Q. </span>이런 가운데 최근 경기도를 비롯한 기초지자체에서 AI 행정과 스마트 안전, 복지 서비스 등이 확대되고 있다. 지방정부가 AI를 도입할 때 우선적으로 고려해야 할 점은.</strong><br><span><strong>A. </strong></span>최근 AI 전환을 의미하는 ‘AX’라는 표현을 많이 사용한다. 그러나 AX가 기존의 디지털 전환인 ‘DX’를 대체한 것은 아니다. AX는 DX라는 기반 위에 올라가는 것이다. </p> <p contents-hash="21baa192f996d4d18e2dded496f32bbcba4dc704f4d708f3f5fc07fedd7c644b" dmcf-pid="Kz00YnLxWp" dmcf-ptype="general">그러나 지방자치단체는 예산이 한정돼 있다 보니 AI 사업에서 성과를 내기 위해 기존 디지털 분야의 인력과 예산을 AI 분야로 옮기는 경우가 있다. 건물에 비유하면 아래에 있는 돌을 빼 위에 쌓는 것과 같다. 겉으로는 높아질 수 있지만 기반이 약해져 결국 무너질 수밖에 없다. 시스템과 네트워크, 서버 등 기존 디지털 인프라가 안정적으로 운영되기 위해선 AX에 투자하더라도 DX에 대한 투자도 함께 이뤄져야 한다. </p> <p contents-hash="cbf0ffc6d0f5068181e012b2a8bafdf732bea7536a16c36019498ccbec90f859" dmcf-pid="9qppGLoMS0" dmcf-ptype="general"><strong><span>Q. </span>경기도는 반도체와 제조업, 바이오, 스타트업 등 AI 산업 기반을 갖춘 지역이다. AI 시대에 경기도가 다른 지역보다 경쟁력을 확보하려면 어떤 강점을 살려야 하나.</strong><br><span><strong>A. </strong></span>경기도는 우리나라 AI 산업의 풀스택(Full Stack) 핵심이라고 할 수 있는 △하드웨어 △데이터센터 △AI 기업 △제조업 역량을 가지고 있는 핵심 지역이다. 다른 지방자치단체들이 AI 산업단지나 한국형 실리콘밸리를 새롭게 조성하려는 것과 달리 이미 기업과 인재, 산업 인프라를 갖추고 있다는 점이 가장 큰 강점이다. 서울보다 인구가 많고 인천공항과도 가까워 중국을 비롯한 해외 접근성 역시 뛰어나다. </p> <p contents-hash="62639009712eb8c87a30630f8df9ccb447460c382fa68f196833df0a101593f1" dmcf-pid="2BUUHogRC3" dmcf-ptype="general">그러기에 이러한 집적 효과를 더욱 키워야 한다. 국내 기업끼리 모이는 데 그치지 않고 구글이나 오픈AI 같은 글로벌 기업의 한국 거점이 판교에 들어와 네이버·카카오 등 국내 기업과 협업하고 경쟁하도록 유도할 필요가 있다. 서로 기술을 공유하고 자극을 주고받는 글로벌 생태계를 구축해야 한다는 의미다. </p> <p contents-hash="03d72d13193cc68f1f692b2f8217bde0aaee3e8402bcefac559fdede1852f36f" dmcf-pid="VbuuXgaevF" dmcf-ptype="general"><strong><span>Q.</span>10년 뒤 ‘AI가 경기도의 판을 바꿨다’는 평가를 위해 지금 반드시 시작해야 할 것은.</strong><br><span><strong>A. </strong></span>AI를 곧바로 전면 도입하기보다 사전 가능성을 검토하고 이를 상시 연구하는 전초 조직을 운영해야 한다. 다양한 영역에서 AI를 도입했을 때 어떤 변화와 문제가 발생할지 미리 시험하고 문제점을 보완한 뒤 확산하는 방식이 필요하다. </p> <p contents-hash="c5d8c3320097fa04d066baed28d8bdf1152127109595926c77fc34c17d3b4bc5" dmcf-pid="fK77ZaNdyt" dmcf-ptype="general">빠르게 도입하는 것이 능사가 아니다. 조금 늦더라도 전문성을 갖고 기술을 탐색하는 것이 잘못된 도입으로 인한 실패와 비용을 줄일 수 있다. <br> 다양한 시나리오도 마련해야 한다. 행정에 AI를 도입하면 어떤 업무가 없어지고 어떤 조직이 축소될지, 시민들의 생활은 어떻게 달라질지 상상해야 한다. 지역과 구성원의 특성에 따라 경기도민이 어떤 욕구를 가지고 있고, AI 서비스에 어떻게 반응할지도 예상해야 한다. 도시를 건설할 때 영향평가를 하듯 AI를 도입할 때도 ‘AI 영향평가’를 해야 한다. <br> 10년, 20년 뒤에도 AI를 잘 다루는 경기도라는 평가를 얻으려면 처음부터 AI 안전과 신뢰를 중요하게 다뤄야 한다. </p> <p contents-hash="8b8f0a1f8c8381b67582d342e35baf989154432d38dec0fd3bf36da49e80a805" dmcf-pid="49zz5NjJT1" dmcf-ptype="general"><span><strong>김명주 소장은...</strong></span><br> △인공지능안전연구소(Korea AISI) 소장 <br> △서울여자대학교 지능정보보호학부 교수 <br> △대법원, 경기도, 서초구 AI위원회 위원 <br> △한국저작권위원회 부위원장 <br> △OECD GPAI(AI 글로벌 파트너십) Expert <br> △前 국제인공지능윤리협회 회장 <br> △前 한국인터넷윤리학회 회장 <br> △前 인터넷규제개선공론화위원회 위원장 <br> △前 방송통신위원회 자체평가위원 </p> <p contents-hash="2a20974e59a71bb6db4a8a317a489af2e3116189204c7b50c37448113db890d3" dmcf-pid="82qq1jAih5" dmcf-ptype="general">김한울 기자 dahan810@kyeonggi.com </p> </section> </div> <p class="" data-translation="true">Copyright © 경기일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 좋은 훈련 여건 통했다…증평군, 전국 씨름 전지훈련지로 주목 08-07 다음 데이터 속도 맞춰 반응하는 반도체로 예측 오류 40배 줄여 08-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
