“AI가 세계 배우듯, 안전도 현지화”…MS, KAIST와 글로벌 레드팀 구축 작성일 07-28 24 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">쿠마르 MS AI 레드팀 총괄 인터뷰<br>AI 위험은 국가마다 달라<br>“전세사기·촬영음 규제 등<br>지역 맥락까지 고려해야 안전”<br>KAIST 등 세계 18개 대학과 ‘EXTRA’ 출범</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="6BAz5t5TCH"> <figure class="figure_frm origin_fig" contents-hash="3ca49c972f84ccbc9d7b765f95885542d11c062a14710459ab046ab183f72ff3" dmcf-pid="P1eZlvlwSG" dmcf-ptype="figure"> <p class="link_figure"><img alt="람 샹카르 시바 쿠마르 마이크로소프트(MS) AI 레드팀 총괄은 27일(현지시간) 미국 샌프란시스코에서 열린 MS 보안행사에서 인터뷰를 하고 있다. [사진=원호섭 특파원]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/mk/20260728152703214vpbk.png" data-org-width="605" dmcf-mid="88aUHZHlCX" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/mk/20260728152703214vpbk.png" width="658"></p> <figcaption class="txt_caption default_figure"> 람 샹카르 시바 쿠마르 마이크로소프트(MS) AI 레드팀 총괄은 27일(현지시간) 미국 샌프란시스코에서 열린 MS 보안행사에서 인터뷰를 하고 있다. [사진=원호섭 특파원] </figcaption> </figure> <div contents-hash="7d41443cdc99a0a1c7f1da4636715770c74984986ca9c5502ec2645659229517" dmcf-pid="Qtd5STSrSY" dmcf-ptype="general"> “AI가 세계를 배우는 시대, 사이버 보안도 각 나라의 현실을 배워야 합니다.” </div> <p contents-hash="6296ff7372d34ede9f29a95c21bab8b0ffbc5e3e03dfceca6f00689a8fe7e6ff" dmcf-pid="xFJ1vyvmCW" dmcf-ptype="general">람 샹카르 시바 쿠마르 마이크로소프트(MS) AI 레드팀 총괄은 27일(현지시간) 미국 샌프란시스코에서 열린 MS 보안행사에서 기자들과 만나 AI 안전의 미래는 기술 경쟁이 아니라 ‘맥락을 이해하는 능력’에 달려 있다고 말했다. AI가 국가마다 다른 언어와 문화, 법과 제도까지 이해하는 만큼 안전성 검증도 지역별 특성을 반영해야 하며 기업 내부 인력만으로는 이런 위험을 모두 찾아내기 어렵다는 설명이다.</p> <p contents-hash="2d908affd5060573415d2155ce7b8de77b3403e578443aa943b4e1fdb171d822" dmcf-pid="ygXLPxPKCy" dmcf-ptype="general">이 같은 판단 아래 MS는 이날 KAIST를 포함한 세계 18개 대학과 함께 ‘외부 레드팀 연합(EXTRA·External Red Team Alliance)’을 출범시켰다. 대학 연구진과 독립 보안 전문가들이 AI 안전성 평가에 직접 참여하는 글로벌 협력 체계를 구축하겠다는 것이다.</p> <p contents-hash="12cd3605f6263d33880e6446c2f862389c9d5acc26dc3e71efc5f661df32fd79" dmcf-pid="WaZoQMQ9hT" dmcf-ptype="general">쿠마르 총괄은 “AI의 위험은 더 이상 사이버 공격에만 국한되지 않는다”며 “각 나라의 사회와 제도를 이해하는 AI는 그만큼 새로운 방식으로 악용될 가능성도 커진다”고 말했다.</p> <p contents-hash="b5f3989c580a87195ac1871680bb9e3d266a1e5e579a02738a122338b0f0db82" dmcf-pid="YN5gxRx2Sv" dmcf-ptype="general">그는 한국을 예로 들며 “사람들은 ‘탈옥(jailbreak)’이라고 하면 사이버 보안만 떠올리지만 AI는 전세 제도를 악용한 사기나 스마트폰 촬영음 규제를 우회하는 방법처럼 지역적 특성을 이용한 범죄에도 활용될 수 있다”고 설명했다. 이어 “AI 안전은 미국이나 영어권 기준만으로 설계해서는 안 되며 각국의 문화와 사회적 맥락을 함께 반영해야 한다”고 강조했다.</p> <p contents-hash="a1c7d1ab34fa997e019e7d153d54e9cf797485e87a5f366864cc123a390b45d2" dmcf-pid="Gj1aMeMVCS" dmcf-ptype="general">최근 오픈AI 최신 모델이 보안 실험 과정에서 허깅페이스 시스템을 침해한 사건도 이런 문제의식을 보여주는 사례로 꼽았다. 그는 이 사건을 “AI의 ‘키티호크 순간’”이라고 표현했다.</p> <p contents-hash="15e50b3e04b33654a3323f9e06e62435efa7a1a4b15bd8ff256071b662507da7" dmcf-pid="HAtNRdRfSl" dmcf-ptype="general">1903년 라이트 형제의 첫 동력비행이 이후 항공 산업의 출발점이 됐듯 이번 사건도 지금은 작은 사례처럼 보이지만 앞으로 AI가 보여줄 새로운 보안 위협의 시작을 알리는 신호라는 의미다.</p> <p contents-hash="3a48c5980024b5bcfa0c30e54b33499554eacfd5f85d3c3e52a3ef4671a946a8" dmcf-pid="XTfSDrDglh" dmcf-ptype="general">쿠마르 총괄은 “우리가 목격한 것은 AI가 최첨단 능력을 갖췄을 때 무엇을 할 수 있는지를 보여준 첫 사례”라며 “모델 성능이 발전할수록 위험도 함께 커질 것이기 때문에 출시 후 대응보다 출시 전 안전성 검증이 더욱 중요해질 것”이라고 말했다.</p> <p contents-hash="8c1834c31558dddf7de2dcf177eaf4c6caff751279c8e0aab5b7e7643fa25cb4" dmcf-pid="Zy4vwmwavC" dmcf-ptype="general">MS가 출범시킨 EXTRA는 이 같은 한계를 보완하기 위한 프로젝트다. 지금까지 AI 안전성 평가는 대부분 기업 내부 연구진이 수행했지만 앞으로는 언어와 문화, 지역별 전문성을 가진 외부 연구자들이 실제 레드팀 활동에 참여하게 된다. 연구비는 특정 제품 개발과 무관하게 지원되며 KAIST를 비롯해 카네기멜런대, 하버드대, UC버클리, 토론토대 등 세계 18개 대학이 참여한다.</p> <p contents-hash="6c4a0560f4683b1bc66974d09e8b0ac684f0cf9c6c9b2cd9ef5ee6aa62fa3ab7" dmcf-pid="5W8TrsrNTI" dmcf-ptype="general">쿠마르 총괄은 “소프트웨어 보안이 전 세계 보안 연구자들의 협력을 통해 발전했듯 AI 안전도 다양한 분야의 전문가들이 함께 위험을 찾아내는 방향으로 발전해야 한다”며 “외부 전문성은 이제 선택이 아니라 필수”라고 말했다. [실리콘밸리 원호섭 특파원]</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 [ISEC 20226 미리보기] 싸이터, 선박 전 생애주기 아우르는 해양 사이버보안 솔루션 선보인다 07-28 다음 도경동, 펜싱 세계선수권 남자 사브르 개인전 은메달 07-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
