“AI에 데이터 연결하면 끝?…업무 이해·실행 통제가 관건” [월간AX 10월호] 작성일 11-03 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오라클·제네시스랩·어라이즈, 기업 데이터 활용·AI 거버넌스 전략 공유</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qWoL5cb0iA"> <div contents-hash="e4b0fede5e11a2460d93f1659a653f5e45d0db37207e855975d36ff814fab3e7" dmcf-pid="BYgo1kKpej" dmcf-ptype="general"> 최근 많은 기업이 인공지능 전환(AX)을 추진하고 있지만, 실제 업무 성과로 이어지려면 사내 데이터를 AI에 연결하는 것만으로는 부족하다는 지적이 나온다. 전문가들은 AI가 데이터의 의미와 관계, 회사의 업무 규칙을 이해할 수 있도록 해야 한다고 강조한다. 아울러 AI가 정해진 권한과 절차 안에서 업무를 수행하도록 통제하고, 실행 과정에서 발생할 수 있는 문제를 추적·평가하는 체계도 필요하다고 조언한다. </div> <figure class="figure_frm origin_fig" contents-hash="0eeea3606e15f7bb80d92cdbe834e169c40f7c13715a4ce7798bb46f17c2999a" data-idxno="500142" data-type="photo" dmcf-pid="bGagtE9UJN" dmcf-ptype="figure"> <p class="link_figure"><img alt="IT조선이 3일 서울 서대문구 한빛앤 본사 리더스홀에서 '월간AX 10월 세미나'를 개최했다. / 정종길 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184616052tjav.jpg" data-org-width="1280" dmcf-mid="UBxDzCQ9RD" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184616052tjav.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> IT조선이 3일 서울 서대문구 한빛앤 본사 리더스홀에서 '월간AX 10월 세미나'를 개최했다. / 정종길 기자 </figcaption> </figure> <p contents-hash="c99a5a1770f844d5c73dae3fb008b97b3721462cd0c9b88c117f23b8f3e5f73e" dmcf-pid="KHNaFD2uRa" dmcf-ptype="general">IT조선은 AI 시대 실무 러닝 허브 한빛앤과 함께 3일 서울 서대문구 한빛앤 본사 리더스홀에서 '월간AX 10월 세미나'를 개최했다. '우리 회사 데이터…AI가 제대로, 안전하게 쓰려면'을 주제로 열린 이날 행사에서는 김민지 한국오라클 부장, 유대훈 제네시스랩 최고기술책임자(CTO), 이승민 어라이즈 아시아태평양·일본(APJ) 솔루션 총괄이 기업 데이터 활용과 AI 업무 실행·통제 방안을 공유했다.</p> <p contents-hash="6f58d859fd2dca6344174387b41a56a54efc4673e5deeda981c15be2ee2760d7" dmcf-pid="9XjN3wV7ng" dmcf-ptype="general"><strong>AI가 업무 판단하려면 데이터 관계·규칙 이해해야…오라클</strong></p> <p contents-hash="589eb828c28426ce93d20d1b223cf4b81b383e73356d8734dbf3f2f9020b7b7b" dmcf-pid="2ZAj0rfzLo" dmcf-ptype="general">김민지 한국오라클 클라우드 스페셜리스트 엔지니어링팀 부장은 기업 AI가 정확한 업무 판단을 내리려면 여러 시스템에 흩어진 데이터뿐 아니라 정보 간 관계와 업무 규칙까지 이해해야 한다고 강조했다.</p> <div contents-hash="544944e67c68e0ecb7d2f1147ec01e8804a6d993472301f632dcfc0211e127bc" dmcf-pid="V5cApm4qLL" dmcf-ptype="general"> 이 과정에서 활용되는 기술 중 하나가 '온톨로지(Ontology)'다. 온톨로지는 기업에서 사용하는 업무 개념과 이들 사이의 관계를 체계적으로 정의하는 기술이다. 오라클은 여기에 그래프 기술을 결합해 여러 시스템에 흩어진 정보의 관계를 파악하고, AI가 회사의 업무 규칙에 따라 판단하도록 지원하는 방안을 소개했다. </div> <figure class="figure_frm origin_fig" contents-hash="50bcb8fc36ef637fd5babf39d4ef6a5d19e912d0f0bb7ec269b04504943d3a48" data-idxno="500143" data-type="photo" dmcf-pid="f1kcUs8Bdn" dmcf-ptype="figure"> <p class="link_figure"><img alt="김민지 한국오라클 클라우드 스페셜리스트 엔지니어링팀 부장 / 정종길 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184617351hfks.jpg" data-org-width="1280" dmcf-mid="uq03gqOcLE" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184617351hfks.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김민지 한국오라클 클라우드 스페셜리스트 엔지니어링팀 부장 / 정종길 기자 </figcaption> </figure> <p contents-hash="afb2281f77ebc65a92afca75d2f21ec9b28521b4cd517a7e8ca8b1d93163a48b" dmcf-pid="4tEkuO6bei" dmcf-ptype="general">김 부장은 이를 '액셔너블 온톨로지(Actionable Ontology)'라는 개념으로 설명했다. AI가 데이터의 현재 상태와 업무 규칙, 정보 간 관계를 바탕으로 상황을 판단하고 후속 조치까지 제안하도록 하는 방식이다. 그는 "기업 AX의 실행 조건은 연결된 업무 맥락"이라며 "AI가 질문에 답하는 데서 그치지 않고 다음에 무엇을 해야 할지 판단할 수 있어야 한다"고 말했다.</p> <p contents-hash="b70d24e8d829ad5bc02aff0cf214151f1dfdaf3e8708509f45ef4bfb4efb2b5d" dmcf-pid="8IMxTn0HiJ" dmcf-ptype="general"><strong>기업 업무 지식 쉽게 구축하고 실행 절차 통제…제네시스랩</strong></p> <div contents-hash="445414df513b0cf6f3e4f47ce798c442eafc5b7eab41b2057926257c64fbde96" dmcf-pid="6CRMyLpXdd" dmcf-ptype="general"> 유대훈 제네시스랩 최고기술책임자(CTO)는 기업 AI가 업무 맥락을 이해하도록 만드는 온톨로지의 구축과 유지관리 방안을 소개했다. 기존 온톨로지 구축 방식은 복잡한 구조와 관계를 정의하고 관리해야 하는 만큼, AI 에이전트 개발과 운영 과정에서 쉽게 수정할 수 있는 경량화된 접근이 필요하다고 강조했다. </div> <figure class="figure_frm origin_fig" contents-hash="97af61cf3b39b1f47469547a22d4691e6f6a324ca3b47267cbba2966fc6cca6b" data-idxno="500144" data-type="photo" dmcf-pid="PheRWoUZne" dmcf-ptype="figure"> <p class="link_figure"><img alt="유대훈 제네시스랩 최고기술책임자(CTO) / 정종길 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184618672ilxb.jpg" data-org-width="1280" dmcf-mid="7x68he1yik" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184618672ilxb.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 유대훈 제네시스랩 최고기술책임자(CTO) / 정종길 기자 </figcaption> </figure> <p contents-hash="b671261956cd05eeb8025243f63c4e936b000fed24da88083205e2cb10232aaa" dmcf-pid="QldeYgu5JR" dmcf-ptype="general">제네시스랩은 자체 AI 에이전트 플랫폼 '에이전트리아(Agentria)'에 경량 온톨로지 기반 지식관리 체계 '슬립박스(Slipbox)'를 적용했다. 기존 DB 구조와 조회 내역을 분석해 업무 지식을 문서 형태로 자동 생성하고, 담당자가 이를 쉽게 확인하고 수정할 수 있도록 한다.</p> <p contents-hash="f4551b333d3a5b1bff7df5418411d1a437a5305166132625beca36d1ed644315" dmcf-pid="xSJdGa71nM" dmcf-ptype="general">AI의 업무 실행을 통제하는 방안도 소개했다. 제네시스랩은 '어빌리티(Ability)'를 활용해 AI가 사전에 정한 승인·결재 절차에 따라 작업하도록 한다. AI의 판단에만 의존하지 않고 반드시 거쳐야 할 승인 절차를 코드로 강제하는 방식이다.</p> <p contents-hash="67077b76f9ae62b2562d4d864591f93031400fb106b91f2a664bd82fee2b65f7" dmcf-pid="y6XHe3kLLx" dmcf-ptype="general">유 CTO는 "에이전트에게는 업무 맥락을 제공하고, 사람에게는 명확한 통제권을 줘야 한다"며 "AI가 활용할 지식체계와 사람이 관리할 수 있는 실행·통제 체계를 함께 갖추는 것이 중요하다"고 말했다.</p> <p contents-hash="af6362a35f40bb4451b76f0590e646bab7c11dd60427f1dcc4164181ac16d64d" dmcf-pid="WPZXd0EoeQ" dmcf-ptype="general"><strong>AI 에이전트 행동 기록하고 위험 평가해야…어라이즈</strong></p> <p contents-hash="2414637315a21facc08ca96cb5bcf8b7fb27a091abe3149562a3ab5b70ee5066" dmcf-pid="YQ5ZJpDgeP" dmcf-ptype="general">이승민 어라이즈 APJ 솔루션 총괄은 AI 에이전트가 실제 업무를 수행하는 과정에서 발생할 수 있는 보안 위험과 대응 방안을 소개했다.</p> <div contents-hash="14dd93ad63db04ea25bce7786bd629981d1b64379e7bee55a2f0d8fcf20f5653" dmcf-pid="Gx15iUwan6" dmcf-ptype="general"> 이 총괄은 AI에 금지사항을 지시하는 것만으로는 안전을 보장하기 어렵다고 지적했다. AI가 접근할 수 있는 파일과 시스템을 사전에 제한하고, 어떤 정보를 조회하고 어떤 도구를 실행했는지 기록해야 한다는 것이다. </div> <figure class="figure_frm origin_fig" contents-hash="ac066cd638d57fabcdd423c24f3f0f1261cbdf11bc889437e165dbdea0c82028" data-idxno="500145" data-type="photo" dmcf-pid="HMt1nurNd8" dmcf-ptype="figure"> <p class="link_figure"><img alt="이승민 어라이즈(Arize) 아시아태평양·일본(APJ) 솔루션 총괄 / 정종길 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184620454jclv.jpg" data-org-width="1280" dmcf-mid="zHNaFD2uec" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/03/552810-SDi8XcZ/20261103184620454jclv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이승민 어라이즈(Arize) 아시아태평양·일본(APJ) 솔루션 총괄 / 정종길 기자 </figcaption> </figure> <p contents-hash="ad131b184a4bb74fe5048f4c4a4379b954f1a4a1377c8deaebb8831d41b70691" dmcf-pid="XRFtL7mjn4" dmcf-ptype="general">어라이즈는 이를 위한 방안으로 ▲실행 기록 수집 ▲위험 평가 ▲이상 징후 알림 ▲후속 조치의 4단계 체계를 제시했다. AI 관측·평가 플랫폼 '어라이즈 AX(Arize AX)'를 활용해 에이전트의 실행 과정을 추적하고 위험 여부를 평가한다. 외부 보안 시스템과 연계하면 이상 행동에 대한 후속 대응도 자동화할 수 있다.</p> <p contents-hash="8935daa6807dc1a9c88bc87e21e4ea0b2e10791afca7fedeccfdf6e6f4a36410" dmcf-pid="Ze3FozsARf" dmcf-ptype="general">이 총괄은 외부 문서나 이메일에 악성 명령을 숨겨 AI의 행동을 조작하는 '간접 프롬프트 인젝션' 등에 대비해 지속적인 평가와 모의 공격을 통한 검증도 필요하다고 강조했다.</p> <p contents-hash="3a176bb9e43ca7d5711786107d66424428508f090cbb8cd4d23d1ffe85a73bf0" dmcf-pid="5d03gqOcRV" dmcf-ptype="general">그는 "AI 에이전트가 어떤 행동을 하는지 정확히 파악하는 것이 거버넌스의 출발점"이라며 "실행 기록을 빠짐없이 수집하고 위험 여부를 평가해 실제 대응까지 연결하는 체계를 갖춰야 한다"고 말했다.</p> <p contents-hash="0f9562574fa5e92a963816b1d03af48f299314d652f7c4404a8aef7277c7b195" dmcf-pid="1Jp0aBIki2" dmcf-ptype="general">세 연사들의 발표 이후에는 사내 데이터 활용과 온톨로지 구축, AI 에이전트 운영 및 보안 통제 등을 주제로 질의응답도 진행됐다. 참석자들은 연사들과 실무 경험과 고민을 나눴으며, 경품 추첨 이후 자유 네트워킹을 통해 교류를 이어갔다. </p> <p contents-hash="de6cffb7704dbf90fa4b0f9f5b747824ed1087f748748feb37ba219b35ca4177" dmcf-pid="t8HGRFcnJ9" dmcf-ptype="general">정종길 기자<br>jk2@chosunbiz.com</p> </section> </div> <p class="" data-translation="true">Copyright © IT조선. 무단전재 및 재배포 금지.</p> 관련자료 이전 마벨, '엔비디아 픽' 루멘텀 154조원에 인수…AI 레이저 공급망 재편 11-03 다음 [단독]카모, 前공군총장 영입...뜨거워지는 신방산 ‘별 모시기’ 경쟁 11-03 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
