생성형 AI가 불러온 4가지 위험...기업들의 고민 깊어진다 작성일 02-22 136 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Z4HED9f5zR"> <p contents-hash="49a2081205964334e359328cfb759a058a9d3cc7e36790b1325ff1cdf77fc1cd" dmcf-pid="58XDw2410M" dmcf-ptype="general">(지디넷코리아=AI 에디터 )</p> <figure class="figure_frm origin_fig" contents-hash="18f174b8e2c17b2aeac3419b6097bdcf45344194b81b50290dc35cfd398accbf" dmcf-pid="16ZwrV8tpx" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/22/ZDNetKorea/20250222222016686aiyk.jpg" data-org-width="640" dmcf-mid="HviHXoNfUd" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/22/ZDNetKorea/20250222222016686aiyk.jpg" width="658"></p> </figure> <p contents-hash="c7e30e31b836893e285ac8e23f2eaa480ec73574b51d88ff563b989de60962a9" dmcf-pid="tP5rmf6FuQ" dmcf-ptype="general"><strong>사이버 보안 투자 급증: 기업 73% "생성형 AI로 투자 확대"</strong></p> <p contents-hash="2c7e707cf1af705f04c8eac2465a11d4b98e3ab86d137d5d699016d484d1c005" dmcf-pid="FQ1ms4P3FP" dmcf-ptype="general">딜로이트(Deloitte)의 '생성형 AI 시대의 엔지니어링' 시리즈 최신 보고서에 따르면, 기업들이 직면한 생성형 AI의 위험은 크게 4가지로 분류된다. 기업 운영과 데이터에 대한 위험, 생성형 AI 기능 자체의 위험, 적대적 AI로 인한 위험, 시장 관련 위험이 그것이다. (☞ <span>보고서 바로가기</span>)</p> <p contents-hash="edf29dd674faa28f0b20c4d3e8143cc3778866abf2e90d0f6ce6e8e2d04a212a" dmcf-pid="3zhLop7vp6" dmcf-ptype="general">특히 설문 참여 기업의 77%가 이러한 위험들에 대해 "상당한 수준의 우려"를 표명했으며, 73%는 생성형 AI 프로그램으로 인한 사이버 보안 투자 확대를 계획하고 있다. 미국 기업의 59%는 이미 지난 12개월 동안 사이버 보안 역량 강화에 투자했다.</p> <figure class="figure_frm origin_fig" contents-hash="07d88d79209b27a6017be1f1bb8e80552aa238abb82188998c88e23b1bbecca4" dmcf-pid="0qlogUzT78" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/22/ZDNetKorea/20250222222017975ouif.jpg" data-org-width="639" dmcf-mid="Xdmed13I0e" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/22/ZDNetKorea/20250222222017975ouif.jpg" width="658"></p> </figure> <p contents-hash="a1f9000b9e44f84c441aab0406b05fa270ca0cb2ebe22178bf91011745be72b6" dmcf-pid="pBSgauqyu4" dmcf-ptype="general"><strong>무단 AI 사용이 부른 재앙: 삼성 사례로 본 데이터 유출 위험</strong></p> <p contents-hash="ef831143d1eb1f669cf9e9f1738fe58c97245873fd3917d5f801189bc55a3cad" dmcf-pid="UbvaN7BW3f" dmcf-ptype="general">생성형 AI가 기업 데이터 보안에 미치는 영향이 심각한 것으로 나타났다. 사이버헤이븐 랩스(Cyberhaven Labs)의 2024년 보고서는 대부분의 직원들이 개인 계정으로 생성형 AI 도구를 무단 사용하고 있다고 지적했다.</p> <p contents-hash="4830a9c591bc88c0bd16365864bcdf829ce120a9ab2138c70a45e14ed9b5303f" dmcf-pid="uKTNjzbY7V" dmcf-ptype="general">실제로 삼성(Samsung)은 직원들이 공개 프롬프트에 민감한 데이터를 실수로 노출한 사건 이후 생성형 AI 도구 사용을 전면 금지했다. 팔로 알토 네트웍스(Palo Alto Networks)는 AI 생성 코드가 보안 전문가들의 최우선 우려사항이라고 밝혔다.</p> <p contents-hash="ae75deeb977317bae9221221434b2e1e893e1986c62137f54de2b9f36c2ab4f2" dmcf-pid="79yjAqKG72" dmcf-ptype="general"><strong>프롬프트 인젝션에서 환각까지: AI 모델의 치명적 결함</strong></p> <p contents-hash="cca9009b646e835ba042de80b6b1b473f6d5e7f4148e9b4ec111db73036e5007" dmcf-pid="z2WAcB9Hu9" dmcf-ptype="general">오픈 월드와이드 애플리케이션 보안 프로젝트(OWASP)는 프롬프트 인젝션을 대규모 언어 모델(LLM) 애플리케이션의 최대 보안 위협으로 지목했다. 프롬프트 인젝션은 공격자가 AI 시스템을 속여 기밀 데이터를 노출시키거나 악의적인 행동을 유도하는 새로운 공격 기법이다. 또한 환각(hallucination) 현상은 그럴듯해 보이지만 사실과 다른 결과를 생성해 잘못된 의사결정과 평판 손상을 초래할 수 있다.</p> <p contents-hash="637a651b7b553cfb92e7e38af230d70626cf4166b82892016ffdc3fcfe01c854" dmcf-pid="qVYckb2XzK" dmcf-ptype="general"><strong>다크웹의 AI 위협: 80만 건 이상의 악용 사례 발견</strong></p> <p contents-hash="75e426bfb13ab2292bd351bec3da578927d8a33e4787238b3160ad1af1e94697" dmcf-pid="BfGkEKVZ7b" dmcf-ptype="general">IBM의 2024년 X-Force 위협 인텔리전스 인덱스는 2023년 다크웹에서 'AI'와 'GPT' 관련 게시물이 80만 건 이상 발견됐다고 보고했다. 딜로이트 금융 서비스 센터는 생성형 AI로 인한 사기 손실액이 2023년 123억 달러에서 2027년까지 400억 달러로 증가할 것으로 예측했다. 이에 대응해 마스터카드는 Decision Intelligence Pro 시스템을 도입해 사기 탐지율을 평균 20% 향상시켰다.</p> <p contents-hash="ac50fe80a2b16bc24069abed05b5174fb7067c0a73945da4c6404c3e1830101a" dmcf-pid="b4HED9f5zB" dmcf-ptype="general"><strong>AI 데이터센터의 전력 소비량 급증: 2030년까지 15% 도달 전망</strong></p> <p contents-hash="44713771245725a684cbb10174b2725f72ae51c8118a6d77f588395cca5d454c" dmcf-pid="K8XDw241uq" dmcf-ptype="general">딜로이트의 2025년 전력 산업 조사에 따르면, 데이터 센터의 전력 소비량이 현재 미국 전체 전력 생산량의 6~8%에서 2030년까지 11~15%로 증가할 전망이다. 구글은 이에 대응해 애리조나 메사의 새로운 데이터 센터에 400메가와트 규모의 청정 에너지 시설을 구축하고 있다. 마이크로소프트는 스리마일 섬 원자력 발전소의 전력을 향후 20년간 구매하기로 합의했다.</p> <p contents-hash="b3f336c75d382945cebb4e5181fa638bd5b7dd28b9c5e15a26a0a1018b35928b" dmcf-pid="9Q1ms4P3zz" dmcf-ptype="general"><strong>작은 언어 모델(SLM)로 전환: AI 효율성과 보안성 동시 확보</strong></p> <p contents-hash="6ab436983a170c761483cc2d53adee4d6a36508f7ac039571eabf6d035026133" dmcf-pid="2xtsO8Q077" dmcf-ptype="general">기업들은 대규모 언어 모델의 위험을 줄이기 위해 작은 언어 모델(SLM) 도입을 확대하고 있다. 세일즈포스는 2023년 70억 개의 매개변수를 가진 XGen-7B를 출시했으며, 구글과 엔비디아도 저지연 SLM을 개발했다. Do Not Train 레지스트리 구축, 디지털 자산 관리, 워터마킹 기술 등 새로운 보안 방식도 도입되고 있다.</p> <p contents-hash="8da977b0e7f3a6209662c9c037b2be3776ec0bec62d7ab519e0483975ced84f2" dmcf-pid="VMFOI6xp0u" dmcf-ptype="general"><strong>AI 방화벽과 입력값 검증: 프롬프트 보안 강화</strong></p> <p contents-hash="c244f58bcc769c86cfc0c726a394c07efbd283eed123a65d49a7a3de6fa6a27d" dmcf-pid="fR3ICPMUzU" dmcf-ptype="general">기업들은 프롬프트 인젝션 공격에 대응하기 위해 입력값 검증과 AI 방화벽 구축을 강화하고 있다. 입력값 검증은 유해 콘텐츠를 제거하거나 중화시키는 전처리 과정을 포함한다. 특히 LLM 애플리케이션에 연결되기 전에 기밀 데이터를 철저히 검증하거나 마스킹하고, 최소 권한 접근 원칙을 적용하여 공격 표면을 줄이는 것이 중요하다.</p> <p contents-hash="24314fdbd20e0db9a4e7a1bfc92b08c1d17832dd65248ca287ba05ba13f557f3" dmcf-pid="4e0ChQRuzp" dmcf-ptype="general">또한 규칙 기반 솔루션에 의존하는 대신 AI 방화벽을 구현하여 모델에 출입하는 데이터를 모니터링하고 위협을 더 잘 탐지할 수 있다. 프롬프트 실드와 같은 도구가 숨겨진 지시를 탐지하는 데 도움이 될 수 있지만, 생성된 출력을 판단하고 승인하는 데는 여전히 인간의 감독이 필수적이다.</p> <p contents-hash="6aeebe4fd0b8ed6eb7056ac541dee52829ee1f647cc3678e2979ca796c5240d3" dmcf-pid="8dphlxe7U0" dmcf-ptype="general"><strong>데이터센터의 혁신: AI 팩토리로의 전환</strong></p> <p contents-hash="22381a51b1adb16b1331c261ae70669986f5b608371f1074735c16523ea20257" dmcf-pid="6JUlSMdz73" dmcf-ptype="general">미국에서는 2023년 5월부터 7월까지 2.1기가와트의 새로운 데이터센터 임대가 체결되었다. 아마존은 두 개의 데이터센터 단지에 100억 달러를 투자하고 있으며, 15개의 글로벌 통신 회사들이 AI 데이터센터 또는 'AI 팩토리'를 구축하고 있다.</p> <p contents-hash="1e0dbb5d246b81fa94c35472b1ce10c883f7e9441993227d92148069196f0685" dmcf-pid="PiuSvRJqpF" dmcf-ptype="general">특히 메타는 대규모 생성형 AI 워크로드를 지원하기 위해 통합 시스템 설계를 통해 자체 AI 팩토리를 구축했다. 냉각 요구사항이 데이터센터 에너지 소비의 최대 40%를 차지할 수 있어, 많은 기업들이 열을 발생시키는 구성 요소에 직접 냉각수를 순환시키는 액체 냉각 시스템을 도입하고 있다.</p> <p contents-hash="a08f05c95b49010b513454418a8ece9712b0fedebfe293f43bbfe8373b14eca4" dmcf-pid="Qn7vTeiBUt" dmcf-ptype="general"><strong>엣지 컴퓨팅과 우주 통신망: 미래형 AI 인프라 구축</strong></p> <p contents-hash="b906fb382165972344bb2905990bdfd6719891966b9a51cee2e838e539fb7fb2" dmcf-pid="xLzTydnbU1" dmcf-ptype="general">기업들은 엣지 컴퓨팅을 통해 중앙 전력망 의존도를 낮추고 있다. 플렉센셜의 2024년 AI 인프라 보고서에 따르면, 응답 기업의 51%가 엣지 처리용 코로케이션 센터를 이용하고 있다. 일본 NTT는 위성 네트워크를 통한 효율적인 데이터 처리와 저장을 위해 광학 기술을 연구 중이다.</p> <p contents-hash="5f2c5a993a340a2a620738559c0804c4a6d776f18525d35ac348195824b777ac" dmcf-pid="yNKGHLaVz5" dmcf-ptype="general"><strong>4대 위험 대응을 위한 기업의 포괄적 접근 필요</strong></p> <p contents-hash="b325af1d56122efe264ec3cbef3484b61b41022837ab1a64fbfaf46aa610b130" dmcf-pid="Wj9HXoNfzZ" dmcf-ptype="general">딜로이트는 이러한 4가지 위험이 상호 연결되어 있어 산업이나 전략에 관계없이 모든 조직이 포괄적인 보호 전략을 수립해야 한다고 강조했다. 특히 최고정보보안책임자(CISO)를 포함한 리스크 리더십이 조직의 생성형 AI 위험 노출도를 파악하고, 이에 대응하기 위한 새로운 접근 방식을 도입하는 데 핵심적인 역할을 해야 한다고 조언했다. 단일 솔루션으로는 모든 위험에 대응할 수 없으며, 조직은 자사의 위험 노출도에 따라 여러 솔루션을 맞춤형으로 도입하고 조정해야 할 것이다.</p> <p contents-hash="af67150da942910026d25ebbef44dc59aae899842b5ddaddb03baabbad1fbfa9" dmcf-pid="YA2XZgj4UX" dmcf-ptype="general">■ 이 기사는 AI 전문 매체 ‘<span>AI 매터스</span>’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ <span>기사 원문 바로가기</span>)</p> <p contents-hash="ad3cf36d1be1ce7c09f3b56322a476ee95faf0daec0155355d48bf7be1142e00" dmcf-pid="GcVZ5aA80H" dmcf-ptype="general">AI 에디터 (media@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 광희, "김수현씨 맞죠?" '굿데이' 88즈 모임 셀카 공개! 02-22 다음 '보물섬' 홍화연 "복수 꼭 해"...박형식 오열 02-22 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
