"AI 활용 해킹 '한국 전세사기'만큼 정교…" MS, 17개국 대학과 '레드팀' 꾸렸다 작성일 07-28 19 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">고도화된 AI 해킹, 이론·상상 아닌 현실로<br>"방어력 높이려면 문화·제도 맥락 파악 핵심"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zid6eid8iM"> <figure class="figure_frm origin_fig" contents-hash="71514b6e395477e805b398c5730b553e3bffc480f7b67987dbda9c2a8563ed1b" dmcf-pid="qV9uKV9URx" dmcf-ptype="figure"> <p class="link_figure"><img alt="마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/hankooki/20260728140109714dczx.jpg" data-org-width="1440" dmcf-mid="UNq3zbqFRd" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/hankooki/20260728140109714dczx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원 </figcaption> </figure> <p contents-hash="7bd93a82d61cf9ed7e7210ea9ea7f24be8524b76d5deb0ec4411affd28773350" dmcf-pid="Bf279f2uRQ" dmcf-ptype="general">"오픈AI의 인공지능(AI) 모델이 (외부 플랫폼인) 허깅페이스를 해킹한 사건은 <strong>AI 위험에 있어서 '키티호크 순간'</strong>이라고 생각한다."</p> <p contents-hash="fb2d2a25be3bb03c8a5eb077a2a5baf9a33602c8dde4a9d5a8a184ab510f6708" dmcf-pid="b4Vz24V7JP" dmcf-ptype="general">마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄은 최근 GPT 모델의 해킹 사건을 라이트 형제가 1903년 미 노스캐롤라이나주 키티호크에서 <strong>인류 최초로 동력 비행에 성공한 순간에 비유</strong>했다. 최근 <strong>오픈AI의 미공개 AI 모델이 통제 환경을 벗어나 허깅페이스를 공격하는 사건</strong>이 발생했는데, 바로 이 때가 AI가 해커의 손에 들어갔을 때 초래될 위험이 <strong>더는 이론이나 상상이 아니라 현실에서 실체화된 순간</strong>이라는 의미다.</p> <p contents-hash="ea8cb55cd75d058e5699f5c81913ab264ae3c9921e420e87d2fc734a707b6ade" dmcf-pid="K8fqV8fzR6" dmcf-ptype="general">MS는 미국 샌프란시스코에서 27일(현지시간) 열린 보안 행사를 열고 에이전트 기반 보안 플랫폼 '프로젝트 퍼셉션'을 선보였다. 쿠마르는 이 자리에서 기자들에게 "우리가 목격한 것은 AI 시스템이 최첨단 위험과 결합했을 때 어떤 일을 벌일 수 있는지 보여주는 단면"이라며 "시스템을 출시하기 전에 AI 안전을 먼저 고려하는 것이 중요하다"고 강조했다. MS AI 레드팀 창설자인 그는 사내에서 스스로 지은 공식 직함 '데이터 카우보이(Data Cowboy)'로 불린다.</p> <hr class="line_divider" contents-hash="9a861f62cd77e9352ab430b258c1b28fd8beefc8f246ad8a97d146429c7dd6fb" dmcf-pid="964Bf64qn8" dmcf-ptype="line"> <h3 contents-hash="f5d6ee03c65226b041d759c04cf5230a437b7cb9c374a802d40324105d991175" dmcf-pid="2P8b4P8BR4" dmcf-ptype="h3">"해외 해커 자금줄 된 로컬 전술… '문화·제도 맥락' 읽는 보안 시급" </h3> <figure class="figure_frm origin_fig" contents-hash="edc9900376b31c62d10e944ab1cdefef1f7f3963393a5736530ba46c4516042f" dmcf-pid="VQ6K8Q6bMf" dmcf-ptype="figure"> <p class="link_figure"><img alt="마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/hankooki/20260728140111048mznl.jpg" data-org-width="1440" dmcf-mid="7P8b4P8BLR" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/hankooki/20260728140111048mznl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원 </figcaption> </figure> <p contents-hash="99945f57cb23c89c9d25fb3853ddff3b6d9777de2fd6bed5b2b78c35d7cdb486" dmcf-pid="fxP96xPKdV" dmcf-ptype="general">쿠마르는 고도화하는 AI 기반 사이버 공격을 설명하며<strong> 한국의 특수한 주거 제도를 활용한 '전세 사기'를 예로 들었다</strong>. AI 보안의 핵심이 단순한 해킹 방어가 아니라 국가별·지역별 특성을 이해하는 데 있다는 게 그의 철학이다. 그는 "전세사기는 구조적으로 한국에만 존재하는 고유한 사기 전술"이라며 "한국 밖의 공격자들이 자금을 확보해 추가 범죄를 저지르기 위해 이를 학습하고 악용할 수 있다"고 말했다.</p> <p contents-hash="e38b9e143b09a020d11d5e94adecf56f7b8e5dbce708e7e99dd4961aa03e6729" dmcf-pid="4MQ2PMQ9J2" dmcf-ptype="general">이 때문에 MS AI 레드팀이 AI 모델을 모의 공격할 때도 단순히 취약점을 찾는 데 그치지 않고<strong> 국가 단위 해커 조직의 전술과 행동 패턴을 그대로 모사한다</strong>고 설명했다. MS는 이를 위해 MS 위협 인텔리전스 센터(MSTIC)와 협력해 국가 주도 해킹 조직의 도구와 전술, 절차(TTP)를 분석한 뒤 이를 AI 모델 검증에 활용하고 있다.</p> <p contents-hash="6fde0614bebba9bfb1972ab922c97f5b5a89b2fe4adcaa2d7f7740ee9b472630" dmcf-pid="8RxVQRx2d9" dmcf-ptype="general">그는<strong> "한국에선 빨간색으로 이름을 쓰거나 시험 전에 미역국을 먹는 것을 꺼리는데, 이런 문화적 금기도 AI가 이해해야 하는 맥락"</strong>이라며 "실제 AI 해킹 우려에 대한 안전성은 <strong>언어, 문화, 사회적 배경까지 반영해야 완성</strong>된다"고 말했다. 그러면서 "오늘 공개한 모델을 공격할 때도 국가 단위 적대 세력 역할을 맡아 그대로 시뮬레이션한다"며 "실제 지정학적 맥락에서 발생할 수 있는 탈옥 공격과 우회 시도를 미리 검증하는 것이 목표"라고 설명했다.</p> <p contents-hash="e089aac61d4ac9b59a57c484fb7a24b86e79fc67bab8c8736173c0694327bf4a" dmcf-pid="6eMfxeMVJK" dmcf-ptype="general">이를 위해 MS는 한국 AI 안전연구소, 손수엘 KAIST 교수 연구팀을 비롯해 전 세계 17개 대학 및 연구기관과 협력하고 있다. 특히 다문화·다언어 안전성 데이터셋인 '플루리부스(Pluribus)' 구축에도 한국 기관들이 참여하고 있다고 소개했다. 그는 각국 조사원들을 통해 한국 제도와 문화를 접했다고 설명했다.</p> <p contents-hash="a7ddfbdb5e7972d6eb1abd14b4b13194d98e29d3ddf78ae7b159c088f3b839ed" dmcf-pid="P64Bf64qeb" dmcf-ptype="general">실리콘밸리= 박지연 특파원 jyp@hankookilbo.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 대한체육회 신임 사무총장에 김대년 내정…장관급 공직자 출신 07-28 다음 에데나 이욱 대표, 9월 하버드 금융·AI 서밋서 기조연설 07-28 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
