“에이전트 AI 시대, 시스템보다 경영진 ‘의지·거버넌스’가 핵심” 작성일 05-26 48 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">김동환 포티투마루 대표 ‘2026 ASC 컨퍼런스’ 발표<br>초거대 AI 신뢰성 확보 전략 공유<br>“LLM 환각 대응 넘어 데이터 구축 단계부터 윤리·보안 고려해야”<br>“글로벌 검·인증 체계 선제 구축 시 한국이 글로벌 스탠다드 주도 가능”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="6QeNlKFYwI"> <p contents-hash="2d37f599b8f5e765cbce92d4fdff8a82ca60209b44dc549b7d10880ac67bbc01" dmcf-pid="PxdjS93GrO" dmcf-ptype="general"> [이데일리 윤정훈 기자]“AI 신뢰성과 안전성은 문제가 터졌을 때만 심각해집니다. 내부적으로 경영진은 거버넌스를 확립하고, 어떻게 지속할 수 있을지 고민해야 한다.”</p> <figure class="figure_frm origin_fig" contents-hash="9a2ff91b5059cff50ded876b26f6ec9409b768f72361f078545ba7bcf641b260" dmcf-pid="QMJAv20Hss" dmcf-ptype="figure"> <p class="link_figure"><img alt="김동환 포티투마루 대표가 26일 열린 '2026 ASC 컨퍼런스'에서 발표하고 있다(사진=윤정훈 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202605/26/Edaily/20260526152107782vgbd.jpg" data-org-width="800" dmcf-mid="8EtqRlkLEC" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202605/26/Edaily/20260526152107782vgbd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김동환 포티투마루 대표가 26일 열린 '2026 ASC 컨퍼런스'에서 발표하고 있다(사진=윤정훈 기자) </figcaption> </figure> <div contents-hash="07d5860eea1c50393ac1353ac15f10b8f0cf6da7097969dd33ea5f9a2621137b" dmcf-pid="xRicTVpXsm" dmcf-ptype="general"> 김동환 포티투마루 대표는 26일 국제인공지능윤리협회(IAAE)가 서울 강남구 드림플러스에서 개최한 ‘2026 ASC(AI Safety Compass) 컨퍼런스’에서 ‘에이전트 AI의 신뢰성 보장’을 주제로 발표하며 이같이 강조했다. </div> <p contents-hash="9f4d2fdb263c58624ead40ad7a34dcb66a1e0d5709890af5a676756dc4e43a42" dmcf-pid="yYZuQIjJrr" dmcf-ptype="general">포티투마루는 자연어 처리 및 텍스트 분석 기술을 바탕으로 도메인 특화 경량화 거대언어모델(SLM)을 개발하는 AI 전문 기업이다. 한국정보통신기술협회(TTA)의 신뢰성 인증(CAT)과 지능정보산업협회(AIIA)의 ‘AI 마스터’ 인증을 최초로 획득하며 AI 신뢰성 분야를 선도하고 있다.</p> <p contents-hash="7d295b3b72a44d51271928bee6bb65a3288dc049d8db7d7e289172fb78c0ddf9" dmcf-pid="WG57xCAisw" dmcf-ptype="general"><strong>할루시네이션 제어 넘어 ‘라이프사이클 전체’ 검증 체계 구축</strong></p> <p contents-hash="a9c0314bbb3beb732088ee3b2c764115c89c6494244ef1ad8a38ca9249a5ef8a" dmcf-pid="YhT12EiPwD" dmcf-ptype="general">김 대표는 생성형 AI가 스스로 계획을 수립하고 실행하는 ‘에이전틱 AI’와 물리적 환경과 상호작용하는 ‘피지컬 AI’로 진화함에 따라 신뢰성 확보의 패러다임이 바뀌어야 한다고 짚었다.</p> <p contents-hash="905d34c1d32b4aeef5204a266a76780975b2807a395c697032f670c0b73c6b2d" dmcf-pid="GlytVDnQrE" dmcf-ptype="general">그는 “많은 이들이 AI 신뢰성이라고 하면 단순히 환각(할루시네이션) 현상을 막는 정확도 측면만 생각한다”며 “하지만 에이전트 시대에는 투명성, 책임성, 데이터 관리, 프라이버시, 다양성, 침해 금지 등 두루두루 다각적인 관점에서 접근해야 한다”고 설명했다.</p> <p contents-hash="57bd089669dee5211f6075aca4dc216e98705205475573b6c4d7b63dbbb97ab1" dmcf-pid="HSWFfwLxIk" dmcf-ptype="general">포티투마루가 제시한 신뢰성 확보 전략의 핵심은 AI 모델 개발의 전 주기(라이프사이클)에 걸친 철저한 통제다. 포티투마루는 데이터 구축 단계부터 신뢰성과 윤리적 요소를 검증할 수 있는 시스템을 가동 중이다.</p> <p contents-hash="ae33d31896e9188d8694b7f9866975a6eb3efa4e590caf47d84ac8516c56d7a7" dmcf-pid="XvY34roMrc" dmcf-ptype="general">특히 조직 설계 측면에서 개발팀과 별개로 품질 관리를 전담하는 독립적인 ‘QC(Quality Control) 팀’을 구성해 운영하고 있으며, 소스 코드의 버전 관리가 완벽하지 않으면 강제로 릴리즈를 차단하는 엄격한 내부 프로세스를 확립했다. 이에 더해 최종 출시 전 외부 전문가 그룹이 한 번 더 검증하는 다중 필터링 구조와 내부 ‘안전위원회’를 조직해 상시 모니터링 체계를 갖췄다.</p> <p contents-hash="7ba0e3c9bbbc54c9d11078d8202c1009367db064e1d2a53d319b33a0025859dd" dmcf-pid="ZTG08mgRDA" dmcf-ptype="general"><strong>“글로벌 상호 인정 인증 체계 시급…한국도 글로벌 스탠다드 될 기회”</strong></p> <p contents-hash="2670168c00f099df43eabd79d3a08a4d052f6eed0901c24ff81aadc682fd8bdf" dmcf-pid="5yHp6saemj" dmcf-ptype="general">김 대표는 현재 대한민국 정부와 기관들이 AI 신뢰성 가이드라인이나 체크리스트를 세계 어느 나라보다 잘 마련해 두었음에도 정작 대기업을 포함한 많은 기업이 이를 제대로 인지하지 못하고 있는 ‘홍보 부족’ 문제를 지적했다.</p> <p contents-hash="05e1adc5fcaf624b50c8040afb570d8da2f32a8a1159b6996cced1d05bb1f83d" dmcf-pid="1WXUPONdsN" dmcf-ptype="general">동시에 중소 스타트업들이 개별적으로 AI 신뢰성과 보안을 평가할 수 있는 공통 솔루션이나 툴을 AI안전연구소 등 공공 기관 차원에서 개발해 무상 공유해 줄 것을 건의했다.</p> <p contents-hash="b3a9c18b1b599a32fe13bbecba79ca752eec98640ea935ad9a15377e83212fa0" dmcf-pid="tYZuQIjJIa" dmcf-ptype="general">가장 강조한 부분은 ‘글로벌 검·인증 스탠다드 선점’이다. 현재 미국 등 북미 시장은 산업 진흥 중심으로, 유럽(EU)은 강력한 규제 중심으로 AI 법제화가 나뉘어 있어 해외 진출을 노리는 국내 기업들이 중복 투자와 인증 비용 부담으로 어려움을 겪고 있다는 지적이다.</p> <p contents-hash="78f85032ea7f0ca28452e1593cced8538bfb42ab29db8b33b37f43fd9a7000dd" dmcf-pid="FG57xCAisg" dmcf-ptype="general">김 대표는 “에이전트 AI에 대한 검·인증 체계는 전 세계 어디도 명확한 표준을 정립하지 못하고 있다”며 “우리나라가 관련 체계를 빨리 만든다면 북미나 유럽 등에서 우리나라를 참고하고 벤치마킹할 수밖에 없어 자연스럽게 우리가 글로벌 스탠다드의 일부가 될 수 있다”고 역설했다.</p> <p contents-hash="0043bfae64d42debf4ee1bc9532bae020cf681ff29852d4fb0187511a1ca58dc" dmcf-pid="3bVRE3yOwo" dmcf-ptype="general">이어 “국가 간 안전성 인증을 서로 인정해 주는 ‘상호 인정 시스템’이 빠르게 마련된다면 국내 스타트업과 대기업들이 글로벌 무대로 뻗어 나가는 데 큰 도움이 될 것”이라고 말했다.</p> <p contents-hash="d28deee98d99d4fe30d31f58d13024a64a22b01d8fb2ad663a20eb06cefac287" dmcf-pid="0KfeD0WIEL" dmcf-ptype="general">윤정훈 (yunright@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 방미통위, 가짜뉴스에 딥페이크도 잡는다…망법·AI기본법 '투트랙' 05-26 다음 (스타링크의 공습)①IPO 앞둔 스페이스X…우주 인터넷 패권 확대 05-26 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
