개인정보 줄줄 새는 AI 시대…"아마존 메이시·베드록으로 막는다" 작성일 06-18 77 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[AWS리인포스2025] 테라클라우드, AWS 솔루션 시연…"간편하고 저렴"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Fr90gZUlih"> <p contents-hash="6dfc115229dd0067701b98ade6f9b3a546eea1f12f46dda5a7928e775b8f7a71" dmcf-pid="3m2pa5uSnC" dmcf-ptype="general">(지디넷코리아=김미정 기자)[필라델피아(미국)=김미정 기자] "여전히 기업 데이터가 인공지능(AI) 모델 학습에 무단 사용되는 경우가 있습니다. AI가 부적절하거나 틀린 응답을 생성하는 사례도 끊이지 않습니다. 보안과 윤리를 동시에 통제할 수 있는 도구가 필요한 시점입니다. 아마존웹서비스(AWS)는 간편하면서도 비용 효율적인 보안 서비스로 이런 이슈 해결에 앞장서고 있습니다."</p> <p contents-hash="f245a5062f0b3663fc203ebc0ff33a949e3ee2348c1499018d93b74bb6a6cba4" dmcf-pid="0sVUN17vdI" dmcf-ptype="general"><span>다미안 안토니오 지토 </span><span>올긴 </span><span>테라클라우드 </span><span>최고기술책임자(CTO)는 </span><span>18일까지 </span><span>미국 </span><span>필라델피아에서 </span><span>열린 </span><span>연례 </span><span>보안 </span><span>컨퍼런스 </span><span>'AWS </span><span>리인포스 </span><span>2025'에서 </span><span>AWS의 </span><span>'아마존 </span><span>메이시'와</span><span> '</span><span>아마존 </span><span>베드록' </span><span>가드레일 기능을</span><span> </span><span>시연하며 </span><span>이같이 </span><span>밝혔다. </span></p> <p contents-hash="2ac1aad37398643c532ae3d813cfd20b02499e3a580a0eee5f8909870539d628" dmcf-pid="pOfujtzTdO" dmcf-ptype="general">아마존 메이시는 기업 데이터에서 민감 정보를 자동 분류하고 유출 가능성을 미리 차단하는 기능을 제공한다. 저장된 모든 데이터를 스캔해 신용카드나 주민등록번호 등 개인 식별 정보가 포함된 파일을 탐지할 수 있다. 탐지된 정보는 별도 대시보드에서 시각화해 제공한다. 리소스별 최소 권한 원칙을 자동 점검하는 기능까지 포함됐다. </p> <figure class="figure_frm origin_fig" contents-hash="1de8945a5985bd03ad52856f7157b66e4075c5032dbbddd698ce3b4c75a412c4" dmcf-pid="UI47AFqyMs" dmcf-ptype="figure"> <p class="link_figure"><img alt="다미안 안토니오 지토 올긴 테라클라우드 최고기술책임자(CTO)." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171114150fvkx.jpg" data-org-width="640" dmcf-mid="QIzBc3BWdN" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171114150fvkx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 다미안 안토니오 지토 올긴 테라클라우드 최고기술책임자(CTO). </figcaption> </figure> <p contents-hash="717b48d61bbec94c30e64b0973ca748208e56d7ecf202974ab1e23ffc1a7f81c" dmcf-pid="uC8zc3BWem" dmcf-ptype="general">올긴 CTO는 "메이시는 민감 데이터를 간편하고 비용 효율적으로 분류할 수 있도록 설계된 것이 핵심"이라며 "사용자는 복잡한 설정 없이 메이시에서 몇 번 클릭만 하면 된다"고 설명했다. 그러면서 "신속하고 경제적으로 데이터 보안 수준을 높여주는 서비스"라고 강조했다. </p> <p contents-hash="5231907e974af62bf2f0d5856d6887836bbb7c4485e58e62553582e68fea343c" dmcf-pid="7h6qk0bYJr" dmcf-ptype="general">그는 이날 행사에서 한 미국 헬스케어 기업의 메이시 활용 사례를 소개했다. 이 <span>기업은 환자 데이터 수십 테라바이트를 S3에 저장했으며 민감 정보(PHI·PII)가 분산된 상태였다. </span></p> <p contents-hash="fa0dc3d18242926167bb98661105052f2a067f12c5902a0957bb9b5031f03f5b" dmcf-pid="z3jeW6Jqdw" dmcf-ptype="general"><span>올긴 CTO는 "기존에는 보안팀이 수동 스크립트를 통해 민감 데이터를 식별했다"며 "이는 시간이 오래 걸리고 정확도도 낮았다"고 말했다. </span></p> <p contents-hash="341a2808bf55a75145c3ccd5d1fac8e34c69e3d841ffec0b4ffc41de5f06eeb0" dmcf-pid="q0AdYPiBJD" dmcf-ptype="general">해당 기업은 메이시를 도입한 뒤 버킷 전체를 자동 스캔할 수 있었다. 특히 신용카드 번호와 주민등록번호, 의료 기록 등 규제 대상 정보를 체계적으로 탐지할 수 있는 것으로 전해졌다. </p> <figure class="figure_frm origin_fig" contents-hash="a5c7c133ed4f5841cb8fc7342b1e2b34f795bc9a0044482d0d8a4f20dabf0435" dmcf-pid="BpcJGQnbLE" dmcf-ptype="figure"> <p class="link_figure"><img alt="올긴 CTO는 아마존 메이시 도입 사례를 소개했다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171115427meie.jpg" data-org-width="640" dmcf-mid="1hQMSVMUdR" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171115427meie.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 올긴 CTO는 아마존 메이시 도입 사례를 소개했다. </figcaption> </figure> <p contents-hash="e84359a8763eaa9892d46acd2426ddbdbd188ed8078f73be9396e5d91489c704" dmcf-pid="bUkiHxLKMk" dmcf-ptype="general">스캔 결과는 메이시 대시보드에 시각적으로 정리됐다. 또 <span>보안팀은 즉시 민감 정보 위치를 파악하고 권한 설정을 재조정할 수 있었다. 메이시가 리소스별 최소 권한 점검 기능도 제공해 불필요하게 많은 권한을 가진 사용자나 시스템 접근도 동시에 정비할 수 있었다.</span></p> <p contents-hash="8423d213eb413c1d8a81facd21ef1b17226a00b72f6afb093c56d6753dc68464" dmcf-pid="KuEnXMo9Lc" dmcf-ptype="general">올긴 CTO는 "메이시 사용자는 무의미한 데이터 분석보다 위협 대응에 더 빠르고 정확히 집중할 수 있다"며 "메이시는 간편성과 효율성을 동시에 갖췄다"고 말했다. </p> <p contents-hash="1c1e060d7ff9eb66d3cf9f29bd3b2f83e9d296c25ae705337bfdd3f60216fd16" dmcf-pid="97DLZRg2LA" dmcf-ptype="general"><strong>"아마존 베드록, 가드레일로 우리 회사 AI '인성' 조절"</strong></p> <p contents-hash="55d548643c479f7adba3baaf177a7d06d472036b9cf5d42cccde8a8626d3fbe2" dmcf-pid="2zwo5eaVMj" dmcf-ptype="general">올긴 CTO는 아마존 베드록의 가드레일 기능을 소개했다. </p> <figure class="figure_frm origin_fig" contents-hash="c08e855038b64bac24294c65e42c12b98431db9815f21b8d418c2b607bb41805" dmcf-pid="Vqrg1dNfMN" dmcf-ptype="figure"> <p class="link_figure"><img alt="베드록 가드레일은 생성형 AI 필터 역할을 한다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171116668nkdg.jpg" data-org-width="640" dmcf-mid="6XsIbkIiLp" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171116668nkdg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 베드록 가드레일은 생성형 AI 필터 역할을 한다. </figcaption> </figure> <p contents-hash="445aa585739a83b466abd0715c630a747e85b7e2a494c835073172c3ac730319" dmcf-pid="fBmatJj4ea" dmcf-ptype="general"><span>베드록 가드레일은 생성형 AI가 비윤리적이거나 위험한 응답 생성하는 것을 방지하는 콘텐츠 필터 역할을 한다. 사용자가 어떤 질문이나 요청을 </span><span>생성형 </span><span>AI에 </span><span>입력하면, </span><span>그 내용은 먼저 '프롬프트 보호 계층'을 통과한다. 여기서 </span><span>가드레일은 </span><span>AI에 해가 될 수 있는 내용이 있는지 1차로 명령어를 탐지한다.</span></p> <p contents-hash="540a14e8b9979a34d7e8a8dccbc0ae6abe386efaf472d852408212daf637c80b" dmcf-pid="4bsNFiA8Lg" dmcf-ptype="general">이후 명령어는 '입력 필터(Input Filter)'를 지난다. 여기서도 이상이 없으면 거대언어모델(LLM)에 전달돼 AI 응답이 생성되는 것이다. 생성된 응답은 다시 '출력 필터(Output Filter)'를 한 번 더 거친다. 이 단계에서 AI가 만든 답변 중 위험하거나 부적절한 표현이 있는지 다시 한번 탐지가 이뤄진다.</p> <p contents-hash="af99efd3102831fc878b578778ec4992a01d9d8655c0515d8cc16a535960a82b" dmcf-pid="8KOj3nc6no" dmcf-ptype="general">올긴 CTO는 베드록 사용자가 가드레일 작업 범주·수위를 간편하게 조정할 수 있다고 강조했다. 실제 가드레일은 <span>혐오와 모욕, 성적, 폭력, 프롬프트 공격 등 6가지 유해 콘텐츠 범주를 감지할 수 있다. 각 필터는 민감도를 '없음', '낮음', '중간', '높음' 등으로 수위를 조정할 수 있다. </span></p> <p contents-hash="edb32533ddf8d9eb260dd750f86c0c682dad594bdd4ee678d163b1952fa7c919" dmcf-pid="69IA0LkPRL" dmcf-ptype="general">또 설정된 금지 주제 기준으로 사용자 프롬프트 유사도까지 분석한다. 이에 금지 주제와 관련한 내용이나 이를 암시하는 단어가 나오기만 해도 자동 차단된다.<span> 그는 "가드레일은 단어만 보지 않고 전체 맥락과 의미가 금지 주제와 얼마나 비슷한지 인식한다"고 설명했다.</span></p> <figure class="figure_frm origin_fig" contents-hash="cc7c0079b068a7ef8c043806846e911b6348ce18443439c0e81179af4c172b77" dmcf-pid="P2CcpoEQJn" dmcf-ptype="figure"> <p class="link_figure"><img alt="가드레일은 금지 주제와 사용자 프롬프트 유사도를 분석할 수 있다. 두 관계가 유의미하면 이를 차단한다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171117876lxvl.jpg" data-org-width="640" dmcf-mid="PZB0LH0CM0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/18/ZDNetKorea/20250618171117876lxvl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 가드레일은 금지 주제와 사용자 프롬프트 유사도를 분석할 수 있다. 두 관계가 유의미하면 이를 차단한다. </figcaption> </figure> <p contents-hash="5e89cd4327dbdf83470f57e3cefc8f3e72a2cbba425c1255d1847e337b4c53b8" dmcf-pid="QXn6h9Q0Mi" dmcf-ptype="general">베드록 가드레일은 프롬프트 공격·약 추천 요청 등 비정상 입력 탐지 기능도 갖췄다. 사용자가 시스템 우회를 시도할 경우 해당 입력을 자동 감지해 차단한다.</p> <p contents-hash="5790b2540e83b400a0e514e0eff05c798cecea090031d1d4ff77c5a8da703b95" dmcf-pid="xZLPl2xpiJ" dmcf-ptype="general">이날 올긴 CTO는 베드록 가드레일의 비정상 입력 탐지 기능을 시연했다. 사용자가 <span>한 헬스케어 앱에 "진단 없이 약 추천해 줘"라는 요청을 진행하자, 앱에 탑재된 베드록은 이를 즉시 차단했다. 그는 "해당 요청이 처방전 없이 의료 조언을 직접 요구하는 민감한 입력으로 인식된 것"이라고 차단 원인을 설명했다. </span></p> <p contents-hash="3ba6bec5b1de8ebc5c38d8268978fad1c9adfa1835b761c8d7617f944992b7fe" dmcf-pid="yi1v8OyjLd" dmcf-ptype="general"><span>올긴 CTO는 "AI 보안 이슈는 기술이 아닌 복합적 원인에서 나온 것"라며 "메이시와 베드록이 안전한 생성형 AI 도입 환경을 조성한 것은 확실하다"고 강조했다. </span></p> <p contents-hash="29ca6552a9534d00496f51b2cd2e0017f199eb4fcb0072555438b862f3f1ab66" dmcf-pid="WntT6IWARe" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 "사천 vs 대전·세종" 입지 쟁탈전 재현…우주청 이어 항우연·천문연 이전 수면위 갈등 06-18 다음 올트먼 저커버그 직격 "1400억 '미친짓'에도 우리 직원 못빼가" 06-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
