[AI와 디지털전환] 국내 AI 서비스, 신뢰성 담보해야 살아남는다

작성일 08-26

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="BElFp0hLm4">
          <figure class="s_img figure_frm origin_fig" contents-hash="2cfddc8f45b713ddc0e7e3fb9b724f1815783d0ea201027acd802997e69495ee" dmcf-pid="bDS3Uplorf" dmcf-ptype="figure">
           <p class="link_figure"><img alt="박지환 씽크포비엘 대표" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/26/etimesi/20250826160232850ebiv.png" data-org-width="208" dmcf-mid="qveErwRuE8" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/26/etimesi/20250826160232850ebiv.png" width="208"></p>
           <figcaption class="txt_caption default_figure">
            박지환 씽크포비엘 대표
           </figcaption>
          </figure>
          <p contents-hash="08901739e68b27989dfd015341438dbe8b410c9e451bffaf5b154a77dc5b2348" dmcf-pid="Kwv0uUSgrV" dmcf-ptype="general">젠슨 황 엔비디아 최고경영자(CEO)가 올해 키워드로 '에이전트 인공지능(AI)'과 '피지컬 AI'를 꼽았다. 쉽게 말해 AI가 이제는 사실상 회사 직원이 돼 일정 관리, 코딩 등의 업무를 수행하거나(에이전트 AI), 운전을 대신하고 위험 현장에서 인명을 구조하는(피지컬 AI) 업무 파트너가 될 것이라는 의미다. 인간이 역사상 최초로 스스로 만들어낸 지적 존재와 '함께' 일을 하는 공생의 시대가 찾아왔다는 것이다.</p>
          <p contents-hash="1e8e7dd5a7f12a56039fc43e5d388a408e9ae0da8b7c8331be7c952350286e39" dmcf-pid="9HU6xQphD2" dmcf-ptype="general">AI가 인간보다 월등한 속도로 비서나 개발자 역할을 대행해주는 사회에서, AI 산업에 중요해지는 것은 역설적이지만 속도가 아니라 신뢰다. 우리는 어떤 AI와 함께 일하고 싶을까? 이미 인간의 수십 배 속도로 일하는 AI가 거기서 더 수십 배 빨라지는 것일까? 아니다. 인간보다 수십 배 빠르게 일하면서도 믿을 수 있고 안전한 AI, 방대한 업무를 맡기면서도 불안해할 필요가 없는 AI다. 우리가 원하는 것은 우리보다 더 뛰어난 파트너, 우리의 주도권을 빼앗아가는 파트너가 아니라 유능하면서도 우리가 모르는 곳에서 사고를 치거나 우리의 뒤통수를 칠 염려가 없는 파트너다.</p>
          <p contents-hash="19b864d0fbf6aec7ccba2cf7e085470bc4f24ffdde08877e04100a41df92c653" dmcf-pid="2XuPMxUlI9" dmcf-ptype="general">실제로 정보기술(IT) 관리 플랫폼 기업 페이저듀티 설문조사에 따르면 세계 기업의 85%가 AI 에이전트 도입을 검토하고 있다. 기업들의 이런 높은 관심에도, 신뢰성 문제는 여전히 해결되지 않고 있다. 스탠퍼드 의료 연구에서 AI가 단독으로 진단하면 의사보다 높은 정확도를 보이는데, 정작 의사가 AI 조언에 따라 진단할 경우 오히려 정확도가 떨어지는 현상이 보고됐다. AI에 협업 설계, 책임 경로, 안전 절차가 갖춰지지 않을 경우 성능 우월성도 현장에서는 증발해 버린다. 즉 '함께 일하는 공생'도 전문적이고 공학적인 방법이 필요한 것이다.</p>
          <p contents-hash="13ced10328cd05cb6af4a1178bd187ac79e154977a9469c87ee61fad131a454b" dmcf-pid="VZ7QRMuSmK" dmcf-ptype="general">그렇기 때문에 경쟁국들은 이미 관련된 인재 육성체계와 지원책을 준비하고 있다. 유럽연합(EU)은 석·박사 과정에서 규제·거버넌스·법을 기술 교육과 통합했고, EIT 디지털은 'Trustworthy AI' 트랙으로 복수학위를 운영한다. 호주 CSIRO에는 'Responsible AI Network' 교육이 등장했고, 미국은 NIST를 축으로 스탠퍼드, 와튼스쿨 등과 함께 '세이프티 엔지니어링 펠로십'으로 현장 인력을 키운다. 그리고 이러한 준비는 보호무역 기조 속에서 곧 자국 산업을 보호하는 규제 장벽으로 완성되게 마련이다. 규제의 근거가 되는 기술과 인력 및 제도를 충분히 준비한 뒤 일제히 방벽을 세우는 '핵우산식 전략 규제'가 될 수 있다는 뜻이다. 지금 속도라면 2~3년 내, 주요 국가들에서 일제히 강도 높은 규제가 본격화될 가능성이 높다.</p>
          <p contents-hash="50575b5d4237013059cdcb686c4cd7748de665cff6e78fa0d2619ce71160525d" dmcf-pid="f5zxeR7vwb" dmcf-ptype="general">국내 업계의 준비는 현재 미흡하다. 우리는 과거 신뢰성 논의 자체가 기술 진보를 가로막는 윤리적 담론 정도로 치부하는 경향이 강했다. 그 사이 타국은 신뢰성을 기술 영역으로 포함하여, 집요하게 신뢰성 전문인력 양성 준비를 마친 것이다. 신뢰성 기준으로 자국 산업의 발목을 잡는 게 아니라 오히려 충분한 준비를 통해 신뢰성 관련 전략적 규제를 만들어냄으로써 산업의 경쟁력을 확보하겠다는 의지다. 우리에게도 이러한 방식의 인식 전환이 필요하다.</p>
          <p contents-hash="8815328941dc5f6e761bba90a1af2c2f326f9a1b0ce1b0dfa13627f45a4118d7" dmcf-pid="41qMdezTmB" dmcf-ptype="general">그리고 이러한 기술 전환과 전문가 양성에 필요한 R&amp;D 분야에서 우리의 고질적 한계를 극복하는 노력도 중요하다. 우리는 알파고가 뜰 때는 AI에 투자하다가 일본과 무역마찰이 생기자 소부장, 돼지열병이 확산하자 방역기술, 팬데믹 때는 재난 기술, 비대면이 심해지면 메타버스, 이후 탄소중립 그리고 GPT의 등장으로 인해 AI로 다시 돌아오기까지 그때그때 자원을 집중하는 방식이다. 이슈가 닥칠 때마다 정책과 예산의 축이 송두리째 흔들리는 경향이 강하다. 이래서는 기술 혁신에 필요한 안정적 기반이 만들어질 수가 없다.</p>
          <p contents-hash="d40e3d10fb8191eecda6f33b58e7e4ca4b331a369e5ba7df32b4e104a411a46a" dmcf-pid="8tBRJdqyDq" dmcf-ptype="general">지금이라도 신뢰성 전문인력을 육성하는 투자가 진행돼야 한다. AI가 도구가 아니라 파트너로 쓰이는 세상에서는 아무리 성능이 우수해도 신뢰성을 확보하지 못한 AI 상품이 발붙일 자리가 없다. 더구나 주요국이 AI 신뢰성의 규제 장벽을 완성한 이후라면 국내 기업이 세계 시장에서 경쟁력을 발휘할 기회조차 남아있지 않게 될 수도 있다.</p>
          <p contents-hash="2210a35762cc49dcc81a5c79a36c9582c5643dc422e69f03464c07b78f4bc6dd" dmcf-pid="6FbeiJBWsz" dmcf-ptype="general">박지환 한국인공지능·소프트웨어산업협회 초거대AI추진협의회원·씽크포비엘 대표 jihwan.park@thinkforbl.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

이전

문체부·콘진원, 독일 게임스컴서 1억4천만 달러 상담 성과 거둬

08-26
다음

국민체육진흥공단, 자전거 타고 장애아동에 기부까지 일석이조

08-26

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

[AI와 디지털전환] 국내 AI 서비스, 신뢰성 담보해야 살아남는다

멤버랭킹

관련자료

멤버랭킹