AI 정책을 안전장치로…레드햇, 오픈소스 커뮤니티 ‘아사고’ 출범 작성일 08-05 35 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8jAvmWYClf"> <figure class="figure_frm origin_fig" contents-hash="31bafcbe4d5bf08fa4ac6c1a4998d2fef3f154777269fd7c456d72419d15d578" dmcf-pid="6AcTsYGhyV" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/05/552796-pzfp7fF/20260805093831819yozm.jpg" data-org-width="640" dmcf-mid="4dREormjW4" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/05/552796-pzfp7fF/20260805093831819yozm.jpg" width="658"></p> </figure> <p contents-hash="ff7230cede82f805454d1da41fcf13c52fb1ed88e1ac6a650ffd90a20e77748d" dmcf-pid="PckyOGHlT2" dmcf-ptype="general">[디지털데일리 이안나기자] 레드햇이 기업 인공지능(AI) 거버넌스 정책을 실제 시스템에 적용할 수 있는 통제 장치로 전환하는 오픈소스 프로젝트 ‘아사고(asago)’를 출범시켰다고 5일 밝혔다.</p> <p contents-hash="a933a7f9e45423116ce1350fc4a2a7c3e0fb10dd0da7f19d45fa4d0bdc7f0236" dmcf-pid="QkEWIHXSC9" dmcf-ptype="general">아사고는 ‘AI 안전·거버넌스 오케스트레이션(AI Safety And Governance Orchestration)’ 약자다. 컴플라이언스 조직이 작성한 정책과 AI 엔지니어의 안전성 평가, 인프라 운영자의 배포 작업을 하나의 흐름으로 연결하는 것이 목표다.</p> <p contents-hash="2a86f3afb48298d4575f4579b83c155ccd754ee905822c7ec1a75f513798b1c8" dmcf-pid="xEDYCXZvWK" dmcf-ptype="general">기업이 AI 서비스나 에이전트를 도입하려면 내부 정책과 관련 법규에서 위험 요소를 찾아내고 이를 시험할 시나리오와 안전장치를 별도로 만들어야 한다. 이 과정이 조직별로 나뉘어 진행되면서 승인에 시간이 걸리고 정책과 테스트, 실제 통제 조치 사이의 근거를 추적하기 어렵다는 게 레드햇 설명이다.</p> <p contents-hash="1a91d84bfc97d10ea1f1d0b6d3400753bef23348e08cc7490e463b4e479a35a3" dmcf-pid="yzqRfJiPyb" dmcf-ptype="general">아사고는 먼저 기업 AI 정책 문서에서 위험 요소를 추출해 IBM AI 리스크 아틀라스 등 외부 위험 분류 체계와 연결한다. 이후 해당 AI 시스템에 적용할 시험 시나리오를 생성하고 레드팀과 안전성 평가 도구를 이용해 문제가 발생하는지 점검한다.</p> <p contents-hash="ee0491ed3dc9246bf106c96d95cbcff4fcf9666ffe0af5c5712ae358c7e370aa" dmcf-pid="WqBe4inQvB" dmcf-ptype="general">시험에서 문제가 발견되면 가드레일 등 대응 방안을 제안하고 다시 평가하는 과정을 거친다. 검증된 통제 방안은 향후 쿠버네티스 사용자 정의 리소스나 설정 파일 등 실제 인프라에 배포할 수 있는 형태로 제공할 계획이다.</p> <p contents-hash="698cd1347adcfeed34c63e577e616e87553b2726ed85b6365a63162231a6b3a9" dmcf-pid="YqBe4inQWq" dmcf-ptype="general">각 단계에서는 정책 조항과 위험 요소, 시험 결과, 적용된 통제 방안을 연결한 기록을 남긴다. 내부 담당자나 외부 감사인이 특정 안전장치를 적용한 이유와 검증 과정을 확인할 수 있도록 하기 위해서다.</p> <p contents-hash="636d99d1a666f3590245254502d769d84f36543cd95cd47a7ae1000b43287f3d" dmcf-pid="GBbd8nLxvz" dmcf-ptype="general">다만 아사고는 완성된 기업용 플랫폼이 아니라 초기 개발 단계 커뮤니티 프로젝트다. 현재 깃허브에는 정책 문서에서 AI 위험 요소를 추출하는 ‘정책 매퍼’와 간접 프롬프트 주입 공격을 시험하는 ‘미도조(Midojo)’, 사용 예제 등이 공개돼 있다. 위험 평가부터 통제 방안 배포까지 연결하는 전체 구조는 앞으로 참여 기관들과 개발할 예정이다.</p> <p contents-hash="d61f0c7b8f225e01056d60407d137c04a1e53e69f7a73e75aa91734d232561f3" dmcf-pid="HbKJ6LoMS7" dmcf-ptype="general">프로젝트에는 레드햇을 비롯해 브레이브 소프트웨어, IBM 리서치, 마이크로소프트, 엔비디아, MIT 링컨연구소, 앨런 튜링 연구소, 노스캐롤라이나주립대 등이 참여한다. 공개된 구성 요소에는 아파치 2.0 라이선스가 적용됐다.</p> <p contents-hash="2165a9fe9c6a6dd402c9e55bd2a6b70a3d50caa9a3ff22f7bdd5c3dd2e29b2b4" dmcf-pid="XK9iPogRWu" dmcf-ptype="general">스튜어트 배터스비 레드햇 AI 안전 및 모델 평가 아키텍트는 “아사고는 기술 산업과 학계, 정부 등 다양한 이해관계자가 함께하는 오픈소스 협업 프로젝트”라며 “더 많은 기관이 참여해 AI 안전에 대한 폭넓은 관점을 반영하길 기대한다”고 말했다.</p> <p contents-hash="3a49a4b1b703a13c07ff75149843721511de611cf2e15b188e660b83d7f929f4" dmcf-pid="Z92nQgaeCU" dmcf-ptype="general">레드햇은 아사고가 기존 AI 안전 도구를 대체하기보다 정책 분석과 위험 평가, 레드팀, 배포 도구를 연결하는 조정 계층 역할을 하도록 개발할 방침이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 태권도를 세계인의 문화유산으로! 태권도진흥재단, '글로벌 태권도 홍보' 영상 제작→세계 134개국으로 송출 08-05 다음 클루커스·Wiz, ISEC 2026 공동 참가…클라우드·AI 보안 전략 제시 08-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
