“단 20초, 개인정보 탈취→피싱메일 전송” 챗GPT…사이버범죄 악용 어쩌나 작성일 02-24 138 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">- KAIST, 챗GPT 이용한 개인정보 악용 가능성 규명<br>- 챗GPT 등 LLM 활용 개인정보 수집 및 피싱 공격실험 <br>- 95.9% 정확도 개인정보 수집, 피싱 클릭률 46.67%↑</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="QioW7t0CMl"> <figure class="figure_frm origin_fig" contents-hash="d29160a9d06735ab8de3cb36f59976bb8dbf35e2277c2a8de91209f3145617c8" dmcf-pid="xngYzFphnh" dmcf-ptype="figure"> <p class="link_figure"><img alt="이번 연구를 수행한 KAIST 연구진. (아랫줄 왼쪽부터) 김한나 박사과정, 신승원 교수, 송민규 박사과정, (윗줄 왼쪽부터) 나승호 박사, 이기민 교수.[KAIST 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/ned/20250224082511279tebp.png" data-org-width="1202" dmcf-mid="pKKjSmIiMp" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/ned/20250224082511279tebp.png" width="658"></p> <figcaption class="txt_caption default_figure"> 이번 연구를 수행한 KAIST 연구진. (아랫줄 왼쪽부터) 김한나 박사과정, 신승원 교수, 송민규 박사과정, (윗줄 왼쪽부터) 나승호 박사, 이기민 교수.[KAIST 제공] </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="4aa892e44814e07b723c502af7bff979523815aa546e5f8d7293c82d27e958dc" dmcf-pid="y5FREgj4eC" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT가 탈취한 개인정보로 피싱메일을 만들어 보내는 과정.[KAIST 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/ned/20250224082511924hplq.gif" data-org-width="640" dmcf-mid="UWJS0X1mL0" dmcf-mtype="image" height="auto" src="https://t1.daumcdn.net/news/202502/24/ned/20250224082511924hplq.gif" width="640"></p> <figcaption class="txt_caption default_figure"> 챗GPT가 탈취한 개인정보로 피싱메일을 만들어 보내는 과정.[KAIST 제공] </figcaption> </figure> <p contents-hash="bc36a2b113d881e8f64ffbbb2bca723932e3f89bd8990b7e1800b76c11e387d1" dmcf-pid="W13eDaA8eI" dmcf-ptype="general">[헤럴드경제=구본혁 기자] “챗GPT가 단 20초에 개인정보를 탈취해 피싱 메일을 보냈다.”</p> <p contents-hash="9c72658469d22bb6b23c9ff61da4170f1222796bc0ee4b354eef5898686990e5" dmcf-pid="Yt0dwNc6nO" dmcf-ptype="general">KAIST는 전기 및 전자공학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀이 실제 환경에서 대형언어모델(LLM)이 사이버 공격에 악용될 가능성을 실험적으로 규명했다고 25일 밝혔다.</p> <p contents-hash="877d9a4352b9b80641480893b676a0e238a9290757e0e8d191c685276481631f" dmcf-pid="GFpJrjkPis" dmcf-ptype="general">최근 대형 언어 모델(LLM)의 발전으로 인해 이들이 다양한 도구와 상호작용을 하면서 자율적으로 작업을 수행하는 에이전트 시스템으로 활용되고 있다. 특히 LLM 에이전트는 웹 기반 도구와 결합하여 실시간으로 정보를 검색하고 활용할 수 있어 더욱 강력한 기능을 제공한다. 하지만 이러한 발전은 사이버 공격의 위험성을 증가시키는 요소가 되기도 한다. 예를 들어 웹에서 대량의 개인식별정보(PII)를 수집하거나 특정 인물을 사칭하여 잘못된 정보를 퍼뜨릴 수 있으며, 보다 정교한 스피어 피싱 이메일을 생성하여 피싱 공격의 성공률을 높일 수도 있다.</p> <p contents-hash="f295b85f8600c1357643253fc02e441b31bbc7d24f1293aaf2ad48609e7d46d1" dmcf-pid="HH5QAng2im" dmcf-ptype="general">현재 오픈 AI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어 기법을 자체적으로 탑재하고 있다. 하지만 연구팀의 실험 결과, 이러한 방어 기법이 존재함에도 불구하고 쉽게 우회해 악의적인 사이버 공격을 수행할 수 있음이 확인됐다.</p> <p contents-hash="cdf76077dac5c8b758890ac8d8d0e69f54b9b1b7f017b6e79c707d6496dbd892" dmcf-pid="XX1xcLaVMr" dmcf-ptype="general">기존 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리, LLM 에이전트는 이를 평균 5~20초 내에 30~60원(2~4 센트)수준의 비용으로 개인정보 탈취 등이 자동으로 가능하다는 점에서 새로운 위협 요소로 부각되고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="1798dabf7701c367dc374930347131212292ef914cc71ca05d6d0bb1abefdf45" dmcf-pid="ZZtMkoNfLw" dmcf-ptype="figure"> <p class="link_figure"><img alt="메타의 CEO인 마크 저커버그의 이메일 주소만을 활용한 피싱 이메일 내용.[KAIST 제공]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/ned/20250224082512263rrne.png" data-org-width="736" dmcf-mid="P2ivpZtsiS" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/ned/20250224082512263rrne.png" width="658"></p> <figcaption class="txt_caption default_figure"> 메타의 CEO인 마크 저커버그의 이메일 주소만을 활용한 피싱 이메일 내용.[KAIST 제공] </figcaption> </figure> <p contents-hash="9b4d424a79c26b69a0d5c8f3caf690e0068ea47d1c3450e21635c227a751fc63" dmcf-pid="55FREgj4RD" dmcf-ptype="general">연구 결과에 따르면, LLM 에이전트는 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었다. 또한 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.</p> <p contents-hash="4c739c4abca33698653f3959d4b38e08f71ec698c53cb4b073ace942ec8857ca" dmcf-pid="113eDaA8eE" dmcf-ptype="general">뿐만 아니라, 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성할 수 있었다. 실험 참가자들이 이러한 피싱 이메일 내의 링크를 클릭할 확률이 46.67%까지 증가하는 것으로 나타났다. 이는 인공지능 기반 자동화 공격의 심각성을 시사한다.</p> <p contents-hash="e0731ae9e737a984d12e643f43d5fa856beed3edd492ff40c74223e9c3d51be1" dmcf-pid="tt0dwNc6Rk" dmcf-ptype="general">김한나 KAIST 연구원은 “LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커진다는 것이 확인됐다”며 “LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다”고 말했다.</p> <p contents-hash="1f21aa3984b53f4e62639ef32c1e27778504f08e145199d8905519350bca778f" dmcf-pid="FFpJrjkPLc" dmcf-ptype="general">신승원 교수는 “이번 연구는 정보 보안 및 AI 정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며, 연구팀은 LLM 서비스 제공업체 및 연구기관과 협력하여 보안 대책을 논의할 계획”이라고 밝혔다.</p> <p contents-hash="cf502d91ef14bb86a8f79083a4390e09c0dc4cc82ccce6568b4e840c195d5c51" dmcf-pid="33UimAEQnA" dmcf-ptype="general">이번 연구성과는 컴퓨터 보안 분야의 최고 학회 중 하나인 국제학술대회 ‘USENIX Security Symposium 2025’에 게재될 예정이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 '하이퍼나이프' 윤찬영, 박은빈 조력자 변신 "없으면 안 될 존재" 02-24 다음 '당구여제' 김가영 2승 맹활약…‘벼랑 끝 기사회생’ 하나카드, PBA 팀리그 P.O 2연패 뒤 ‘귀중한 1승' 02-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
