[오라클AI월드] AI는 과신하는 10대…오라클 "신뢰는 모델 밖 DB·플랫폼에 심어야" 작성일 10-27 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Fwnv0JFYCX"> <p contents-hash="dc7358dad5ca9fa02dbfe8772769ca7a7f6eb7f35790853b3711f09047bcc0f7" dmcf-pid="3rLTpi3GCH" dmcf-ptype="general"><strong>- 가드레일 선언으론 부족…우회 못 하는 계층에 규칙 집행</strong></p> <p contents-hash="4a4233eb6bd0a9b2ab8fa07ca2fa98596ffba92737c24b4625f1d6b0e9159eeb" dmcf-pid="0moyUn0HlG" dmcf-ptype="general"><strong>- AI발 제로데이 확산에 "SW 업데이트 자동화부터"</strong></p> <figure class="figure_frm origin_fig" contents-hash="20d8e58f871632f0789e2baad7a629380b5e6afc78999618f94a87e5421c617d" dmcf-pid="psgWuLpXhY" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/27/552796-pzfp7fF/20261027084659135ceis.jpg" data-org-width="640" dmcf-mid="tAIuPs8BlZ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/27/552796-pzfp7fF/20261027084659135ceis.jpg" width="658"></p> </figure> <p contents-hash="abaf5ef382756808d47f1740db27b625c6b4854314bd53f679b26874ea97ba57" dmcf-pid="UOaY7oUZTW" dmcf-ptype="general">[라스베이거스(미국)= 디지털데일리 박재현기자] 오라클이 기업 AI의 신뢰를 AI 모델이 아닌 데이터베이스(DB)와 SW 플랫폼 단에서 지키는 전략을 내세웠다. AI에 규칙을 지키라고 당부하는 것만으로는 통제가 어려운만큼, AI가 건너뛸 수 없는 계층에 장치를 심겠다는 구상이다. 이를 위해 SW 플랫폼·데이터·애플리케이션 개발 3계층에 신뢰 장치를 심은 '딥 트러스트 AI 아키텍처'를 제시하고 신뢰를 위한 실용적인 청사진으로 삼는다는 방침이다.</p> <p contents-hash="75682aae519208a7f8ada79a4b8d513552e05f9d1807602c356ccb3fdeb3c54a" dmcf-pid="uINGzgu5vy" dmcf-ptype="general">후안 로이자(Juan Loaiza) 오라클 AI 데이터베이스 테크놀로지스 총괄부사장은 26일(현지시간) 미국 라스베이거스 베네시안 컨벤션&엑스포 센터에서 열린 '오라클 AI 월드 2026' 스포트라이트 세션에서 엔터프라이즈 AI 신뢰 문제를 정면으로 다뤘다.</p> <p contents-hash="c7239493d482a3067062e36c94dbc730346141d7552712066832adb746b0c957" dmcf-pid="7DiS3dtWyT" dmcf-ptype="general">먼저 로이자 총괄부사장은 AI의 위험이 이미 기업 한복판에 들어왔다고 판단했다. AI가 답변을 만들고 업무를 자동으로 처리하며 애플리케이션까지 짜는 단계에 이르렀기 때문이다. 그만큼 환각과 오해, 민감정보 노출, 잘못된 의사결정, 악의적 조작에 대한 취약성 역시 비즈니스의 중심부로 확산하고 있다.</p> <p contents-hash="443058fd7c53fefe8414b4c21470c964ada45554027b9c8a70c7b17b78252be3" dmcf-pid="zwnv0JFYTv" dmcf-ptype="general">후안 로이자 총괄부사장은 지금의 대응 방식으로는 AI에 대한 위험을 막기 어렵다고 봤다. 많은 기업이 AI에 가드레일을 지키라고 선언하지만 말로 전한 규칙은 쉽게 무너지기 때문이다. 로이자 총괄부사장은 "AI는 똑똑하지만 자신감이 지나친 10대와 같다. 규칙을 말로 알려준다고 지키지는 않는다"고 부연했다.</p> <p contents-hash="f63b7a7f60696ea97411729c8aaab0ffbb59876a8bc799b30267f75b264d4881" dmcf-pid="qrLTpi3GlS" dmcf-ptype="general">데이터 접근 문제로도 이어졌다. 그는 AI에 무제한 SQL 권한을 주는 것을 10대에게 스마트폰을 쥐여주고 전화와 음악만 쓰라고 하는 일에 견줬다. 말로는 제한해도 실제로는 막을 방법이 없다는 뜻이다. 그래서 AI에는 구매주문처럼 업무에 필요한 대상만 정해진 방식으로 읽고 쓰게 해야 한다고 강조했다.</p> <p contents-hash="e3d23a450e89079e871e43ac8f99d284f88fac7ffe1b03019af4a1ba3f7f30a6" dmcf-pid="BmoyUn0Hll" dmcf-ptype="general">가장 급한 과제로는 AI가 촉발한 제로데이 취약점을 꼽았다. AI가 제로데이 취약점을 찾는 속도를 끌어올렸고, 공격자는 공개된 패치를 역분석해 아직 패치를 적용하지 않은 시스템을 노린다. 새로 등장하는 익스플로잇(취약점 공격 코드)도 가파르게 늘고 있다.</p> <p contents-hash="3c5a2a0917e9994b195176c774abfe46d162d7b6849f47611049a25e6c992540" dmcf-pid="bsgWuLpXWh" dmcf-ptype="general">이에 로이자 총괄부사장은 SW 업데이트를 자동화해 AI 기반 공격을 먼저 막아야 한다고 했다. 이를 지원하는 오라클 자율운영 DB는 서비스를 멈추지 않고 보안 패치를 자동으로 적용하는데, 패치가 공개돼 역분석되기 전에 사전에 반영할 수 있다.</p> <p contents-hash="68e5a50670dbbc3ca23d680dc320e63138ebfc570b61e65492be2784c15fa6c4" dmcf-pid="KOaY7oUZlC" dmcf-ptype="general">아울러 개인정보 보호와 업무 규칙은 애플리케이션 코드가 아니라 DB 안에서 직접 집행해야 한다. AI 에이전트가 자연어나 모델 컨텍스트 프로토콜(MCP)로 DB에 바로 붙는 환경에서는 앱 단계의 보안을 쉽게 우회할 수 있어서다.</p> <p contents-hash="997915e96d0e7399db257808953044f105aa5c747af08d06037c32cc5d668cf2" dmcf-pid="9INGzgu5TI" dmcf-ptype="general">후안 로이자 총괄부사장은 "AI가 애플리케이션을 만들 때도 기능만 정의하게 하고, 보안과 운영은 오래 검증된 실행 엔진에 맡기라고 했다. AI가 매번 새 엔진을 만드는 대신 검증된 엔진 위에 기능만 올리도록 해야 한다"고 설명했다.</p> <p contents-hash="117ccea99dbdea2521cd41281d3ba80320d2b57f3d01c5ecc7a92eacf2006158" dmcf-pid="2CjHqa71WO" dmcf-ptype="general">오라클은 해법은 규칙을 지키는 장치를 AI 바깥에 두는 방식을 채택했다. AI가 우회하거나 무력화할 수 없는 SW 플랫폼과 데이터 계층에 집행 논리를 심어야 한다는 얘기다. 신뢰를 다 만든 시스템 위에 추후에 덧붙이는 기능으로 여겨서도 안 된다고 했다. 애플리케이션 개발부터 데이터, SW 플랫폼까지 아키텍처 각 층에 처음부터 구조적으로 넣어야 한다는 주장이다.</p> <p contents-hash="ce99fe738d91b7ee26e69bdee773dec2db2a7aea36c0e357fee2edb4fd6f8ce8" dmcf-pid="VhAXBNztWs" dmcf-ptype="general">오라클은 이 원칙을 '딥 트러스트 AI 아키텍처'로 묶었다. SW 플랫폼과 데이터, 애플리케이션 개발 세 계층마다 신뢰를 지키는 집행 장치를 심고, AI 모델이 이를 우회하거나 취소할 수 없게 설계한 구조다.</p> <p contents-hash="94f85bf79834f51141cba780a30c7769df5b2306413f35c6bfb3251cf8a8989f" dmcf-pid="flcZbjqFWm" dmcf-ptype="general">SW 플랫폼 계층은 자동 패치와 상시 암호화로 AI발 사이버공격을 막는다. 데이터 계층은 사용자별 접근 권한과 업무 규칙을 DB가 직접 집행하고, AI에는 허용된 범위의 데이터 인터페이스만 연다. 애플리케이션 계층에서는 AI가 기능만 만들고 보안과 운영은 검증된 엔진이 맡는다.</p> <p contents-hash="d7388322d710a5f542413e41dad98537d1c8802fb6784faacf87555a3d56476f" dmcf-pid="4vE19cb0vr" dmcf-ptype="general">후안 로이자 총괄부사장은 "필요한 기능부터 하나씩 도입할 수 있지만, 여러 계층을 함께 쓸 때 효과가 가장 크다"고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 “KAIST 9.1대 1, 역대 최고 경쟁률”…4대 과기원, 3만3349명 인재 몰렸다 10-27 다음 [목소리 도둑 ③] 돈 보낸 뒤 30분, 순서대로 하면 된다 10-27 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
