[인터뷰] 박지환 씽크포비엘 대표 "AI 에이전트 시대 韓, 신뢰성 생태계 키울 골든타임" 작성일 06-01 46 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">국내 AI 신뢰성 수준 글로벌에 비해 낮아 "민간 생태계 키워 AI 국가 경쟁력 높여야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PU7Qy72uvS"> <figure class="figure_frm origin_fig" contents-hash="98a4ddb76dbf9b2f51a2fa5899ebd638410e168109337589fa569b52d0f8ed8d" dmcf-pid="QuzxWzV7yl" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/01/552796-pzfp7fF/20260601060011625vcpg.jpg" data-org-width="640" dmcf-mid="8q5Ks5UZWT" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/01/552796-pzfp7fF/20260601060011625vcpg.jpg" width="658"></p> </figure> <p contents-hash="f7eda0bc68f5bbe3c1063ce9c72f0f4eddf378c68e736fc7f5c6f9e1d4e0fb8f" dmcf-pid="x7qMYqfzSh" dmcf-ptype="general">[디지털데일리 구아현기자] 인공지능(AI)이 스스로 판단하고 행동하는 에이전트 시대가 본격화하면서 책임 소재를 둘러싼 논쟁이 커지고 있다. 이달 19일 앤트로픽 개발자 행사 '코드 위드 클로드(Code with Claude)' 런던 현장에서 엔지니어가 "AI가 작성한 코드를 검토 없이 배포한 분?"이라고 묻자 강당의 개발자 절반이 손을 들었다. AI가 코드를 짜고 문서를 쓰는데 검토는 오히려 줄고 있다. 'AI 판단을 어떻게 믿고 책임질 것인가'라는 질문과 국내 AI 신뢰성 산업의 부재가 동시에 부각됐다.</p> <p contents-hash="80492d72200c125d04f86fdce8ae2acf0f7bd9171abd5aea22ddfe66f46b154c" dmcf-pid="ykDWRDCESC" dmcf-ptype="general">씽크포비엘은 AI 신뢰성 분야를 10년째 몰두하고 있는 기업이다. AI 신뢰성 진단·검증 도구 'RiN(리인)'을 자체 개발했고, 교육·컨설팅으로 산업 현장의 책임 있는 AI 활용을 지원한다. 올해 국내 첫 AI 신뢰성 해커톤 '트라이톤(TRITON) 1회'를 개최했고, 2023년 창설한 AI 신뢰성 국제연대 'TRAIN'을 통해 태국·베트남·중국·인도네시아 등과 기술 교류를 이어가고 있다. 박지환 씽크포비엘 대표를 만나 에이전트 AI 시대의 신뢰성 위협과 한국의 과제를 물었다.</p> <p contents-hash="97b58d6041be3d7be03a38c0a9e05f3e8c00022178685ea4446cd2730df675ca" dmcf-pid="WEwYewhDWI" dmcf-ptype="general">◆ "사고는 AI가 치고 책임은 사람이 진다"</p> <p contents-hash="32efe95c2232f64752ef58deb47e964e10f6ba066b8472c2af0313a5aa93ba87" dmcf-pid="YDrGdrlwWO" dmcf-ptype="general">박지환 씽크포비엘 대표는 에이전트 AI의 신뢰성 문제가 생성형 AI와 구조적으로 다르다고 설명했다. 생성형 AI는 제안하고 사람이 결정했다. 에이전트 AI는 다르다. 스스로 목표를 세우고 행동을 선택하며 도구를 호출한다. 문제는 'AI가 무슨 말을 했느냐'에서 'AI가 무슨 일을 했느냐'로 바뀐다는 점이다.</p> <p contents-hash="bd5d4777653e6d920b1807b271046866554795b2ba27100e6074227a92a26002" dmcf-pid="GAnm9nAiSs" dmcf-ptype="general">그는 "AI가 스스로 행동했지만 법적·사회적 책임은 결국 도입하고 운영한 사람과 조직에게 돌아온다"며 "사고가 발생하는 순간 사람이 개입할 시간도, 정보도, 권한도 없을 수 있다"고 경고했다. 그러면 인간 감독은 실제 통제 장치가 아니라 사후 책임 전가 장치가 된다는 것이다.</p> <p contents-hash="a9c942ee4865e81020b49e584364e96c0cbdaedb06672c02293387cc8f3cdd5a" dmcf-pid="HcLs2LcnWm" dmcf-ptype="general">문제는 단계별로 발생한다. 기획 단계에서 에이전트의 행동 범위(Action Space)가 제대로 정의되지 않으면 에이전트는 허용과 금지의 경계를 스스로 추론한다. 운영 단계에선 다중 에이전트 환경이 더 큰 리스크를 만든다. 한 에이전트의 행동이 다른 에이전트의 조건을 바꾸고 그 영향이 연쇄적으로 증폭된다.</p> <p contents-hash="988bd1136868c4c6d7f1f3f1e0437268dba70f7decd7af3b0c60805c1869d1a8" dmcf-pid="XkoOVokLlr" dmcf-ptype="general">박 대표가 가장 우려하는 건 나쁜 AI가 아니라 '성실한 AI'다. "목표 달성만 강하게 주어지고 안전·권리·사회적 맥락 같은 제약이 설계되지 않으면 AI는 비윤리적 방식으로 목표를 달성하려 할 수 있다"며 "AI가 목표 달성을 위해 인간을 협박하거나 산소를 차단하는 선택을 한 실험 결과가 실제 존재한다"고 설명했다.</p> <p contents-hash="dd237c832a93ea2935fae49b760b481a546b58cc702777827b3f919ca2e1a6af" dmcf-pid="ZEgIfgEoyw" dmcf-ptype="general">그가 최근 참석한 싱가포르 ISO/IEC SC42 국제표준화 총회에서도 에이전트 AI와 프런티어 AI가 최대 화두였다. 표준은 법이 아니지만 인증·조달·감사·규제 대응에서 법과 거의 동일한 효력을 낸다. 박 대표는 "AI 표준은 기업이 '우리 AI는 신뢰할 수 있다'고 말할 때 무엇을 기준으로 설명해야 하는지의 기준선이 만들어지는 과정"이라며 "AI 신뢰성이 추상적 구호에서 산업의 공식 기준으로 이동하는 신호이며, 미리 준비한 기업과 그렇지 못한 기업의 차이는 앞으로 더 분명해질 것"이라고 말했다.</p> <p contents-hash="69c94f487cc15c99dc92e1204b1e1694e537b774280c262546f4bfee39b8842f" dmcf-pid="5DaC4aDgyD" dmcf-ptype="general">◆ RiN, '편향 분석'이 아닌 '맥락 충실도'를 본다</p> <p contents-hash="22047c96c8205a127948db813fd2a6d64d39036aceb29c6578c433e0126b2179" dmcf-pid="1wNh8NwaTE" dmcf-ptype="general">씽크포비엘의 핵심 제품 'RiN'은 흔히 데이터 편향 분석 도구로 박 대표가 정의하는 개념은 더 넓다. '맥락 충실도(Context Fidelity)'다. AI가 동작하게 될 환경에 대해 기대한 것을 '기대 공간', 실제로 수집한 데이터가 담아낸 세계를 '관측 공간'이라 하고, 이 두 공간이 얼마나 잘 맞물려 있는지가 핵심이다. ISO/IEC 5259-2에 정의된 충실도(Fidelity) 개념을 확장한 것이다.</p> <p contents-hash="ed2e00e77ad51e7777f54789f737cb6631cab546114314cfbf1d284ed3d0c178" dmcf-pid="trjl6jrNvk" dmcf-ptype="general">RiN은 현재 쿠팡에 적용돼 있다. 프랑스의 EU 국방·항공 모델 평가 기업과 통합 작업을 진행 중이다. 세계 인증 1위 기업 SGS의 AI 인증 자회사 CertX와는 데이터 편향 영역 MOU를 앞두고 있고, 국제표준화 협회 VDB에서는 RiN을 EU 표준 도구로 제정하는 회의가 진행 중이다.</p> <p contents-hash="f7a58e59ffe78363bbc638fbc5c9ce44604483b8d36ebcaa7857d807f6a897df" dmcf-pid="FmASPAmjCc" dmcf-ptype="general">박 대표는 "수학 선생님한테 미분 문제를 잘 풀어달라고 했는데, 가르친 건 덧셈 문제만 있으면 시험에서 미분이 나왔을 때 못 푸는 것"이라며 "기대 공간과 관측 공간의 불일치가 바로 AI 신뢰성 문제의 뿌리"라고 설명했다.</p> <figure class="figure_frm origin_fig" contents-hash="974f873cdc0ed6ff6c2153ed5e142ee53bd71990f39270bc4f1aa3cfd5ad0a23" dmcf-pid="3scvQcsACA" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/01/552796-pzfp7fF/20260601060012898tgjz.jpg" data-org-width="640" dmcf-mid="65t2It71hv" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/01/552796-pzfp7fF/20260601060012898tgjz.jpg" width="658"></p> </figure> <p contents-hash="4adb2d4202f0dc1bbfa82d6c7ca4bab05a4ac229fa3d61261574e5998b2eeec9" dmcf-pid="0wNh8NwaTj" dmcf-ptype="general">◆ "韓, AI 신뢰성 산업 키워 AI 경쟁력 강화해야"</p> <p contents-hash="adc8e4590e585187b7c94d8f30ba6657d3b2506fd8bdbd469b2ae7138256a64c" dmcf-pid="prjl6jrNSN" dmcf-ptype="general">박 대표는 딥시크·큐웬 같은 해외 대형언어모델(LLM)이 한국어 성능에서도 앞서는 상황에서 한국의 경쟁 우위를 신뢰성에서 찾을 수 있다고 봤다.</p> <p contents-hash="f533ac79fb18297dd0158c763f0b39164ea5337964a227a9667d5256dbee2796" dmcf-pid="UmASPAmjla" dmcf-ptype="general">다른 국가들은 이미 AI 신뢰성 산업 분야에 대한 중요성을 인식하고 있다. 영국 정부가 지난해 11월 발표한 보고서에 따르면 영국의 AI 신뢰성 검증·인증 시장AI 어슈어런스(assurance) 시장에는 524개 기업이 있고, 1만2572명을 고용하며 약 10억1000만 파운드의 부가가치를 창출하고 있다. 전문기업만 84개로, 2023년 17개에서 불과 1~2년 만에 5배 급증했다. 영국 정부는 이 시장이 2035년까지 65억 파운드 규모로 성장할 수 있다고 보고 '회계·법률 컨설팅의 차세대 버전'으로 선언했다.</p> <p contents-hash="2d5ae0928e008939bdc09bd27208bf62a89ba5d1b9442a0f54633f98f5bdc8a9" dmcf-pid="uscvQcsASg" dmcf-ptype="general">싱가포르도 글로벌 기업 펀딩으로 'AI 신뢰성 검증 재단(AI Verify Foundation)'을 구축하고 AI 테스터 인증 프로그램을 운영한다. 태국은 유네스코와 손잡고 AI 거버넌스 실증 센터를 세웠으며 2028년까지 거버넌스 관리자 1만 명 양성을 목표로 한다. 독일은 독일 기술검사협회(TÜV) 계열 기관과 독일 전기·전자·정보기술 협회(VDE)를 중심으로 국제 AI 관리 시스템 표준(ISO/IEC 42001)·유럽연합 AI법(AI Act) 대응 전문 인력을 양성하고 있다. 핀란드는 10개 대학에서 관련 교육 과정을 운영한다.</p> <p contents-hash="b2a9bcc9d4acb120cf90db1a0428473b34a6c113bc7420677ad87db3296f849f" dmcf-pid="7OkTxkOcTo" dmcf-ptype="general">다만 현재 국내 AI 신뢰성 생태계는 열악하다. AI 신뢰성 분야 민간 기업도 많이 없을 뿐더러 AI 신뢰성 전문가도 부족하기 때문이다.</p> <p contents-hash="af369f37ea95c5244971ea8094e577797b7012c567328f431047072e6183b43e" dmcf-pid="zIEyMEIkhL" dmcf-ptype="general">이에 씽크포비엘은 교육 사업도 병행하고 있다. 박 대표는 올해 AI 신뢰성 전문가 200명, AI 거버넌스 오피서(Governance Officer) 100명, 교사 대상 AI 책임 지도자 300명 양성을 목표로 잡았다. 올 상반기 한국남동발전·HUG(주택보증공사)·해양수산청 등 공공기관 실무자 대상 10주 과정을 진행했다. 서울교대와 업무협약을 맺어 교사 교육도 시작했다.</p> <p contents-hash="ab5cdd6b3feef3cab7584464544c54a039b89af5d93b4637ba20efbeb5acb52f" dmcf-pid="qCDWRDCEvn" dmcf-ptype="general">그는 "AI 인재·반도체·보안 인력 양성 사업은 있지만 AI 신뢰성 전문 인력을 키우는 커리큘럼·실습 과제·평가 체계를 갖춘 사업은 부재하다"며 "지금 당장 시작해도 커리큘럼 준비에 3년, 인력이 현장에 나오는 데 2년, 총 5년이 걸린다"고 지적했다 이어 "시장은 가장 빠른 AI보다 사고 났을 때 책임 구조가 분명한 AI를 선택하게 된다"고 했다.</p> <p contents-hash="851168e911c57eaa116453c6da85a7c682de72a12b1e87c35273f5777f230426" dmcf-pid="BhwYewhDli" dmcf-ptype="general">그는 하루 빨리 국내 AI 신뢰성 생태계를 키워야 한다고 강조했다. "AI 신뢰성 산업에서 문제는 시장이 부재하다는 것"이라며 "시장이 없으면 기업이 안 들어오고, 기업이 없으면 인력도 안 생긴다"고 했다. 이어 "민간에서 나서서 이러한 시장을 만들 수 있게 정부가 뒷받침 해야 한다"며 "AI 신뢰성 산업이 커져야 국내 AI 산업도 부흥할 수 있다"고 강조했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 ‘AI’로 달린 SKT·LG U+… ‘부동산’에 기댄 KT 06-01 다음 넥슨게임즈 ‘적자·신작 공백’ 이중고… 시험대 오른 빅게임 전략 06-01 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
