"챗GPT 잘못 썼다간"…`개인정보 탈취에 피싱 공격까지` 악용 작성일 02-24 136 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">KAIST, 상용 LLM 서비스 '사이버공격' 가능성 확인<br>평균 5-20초 내 개인정보 수집..피싱 이메일도 생성</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tGU89kwMgi"> <figure class="figure_frm origin_fig" contents-hash="57be5928a56221281fb0623dfdb1fbdc0484f68af32dcc72212483bd461300dd" dmcf-pid="FkltHPMUkJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="KAIST는 챗GPT 등과 같은 LLM 에이전트가 개인정보 수집과 피싱 공격 등 사이버 공격에 악용될 가능성이 크다는 것을 실험을 통해 규명했다. KAIST 연구진 모습." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/dt/20250224140615391drdo.jpg" data-org-width="540" dmcf-mid="51wWlKVZNL" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/dt/20250224140615391drdo.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> KAIST는 챗GPT 등과 같은 LLM 에이전트가 개인정보 수집과 피싱 공격 등 사이버 공격에 악용될 가능성이 크다는 것을 실험을 통해 규명했다. KAIST 연구진 모습. </figcaption> </figure> <figure class="figure_frm origin_fig" contents-hash="51299bbebb7b7a7590167b83e845d620fa25b73856f84cab9d25ccb99b84cf07" dmcf-pid="3ESFXQRuad" dmcf-ptype="figure"> <p class="link_figure"><img alt="메타 CEO인 마크 저커버그의 이메일 주소만을 활용 피싱 이메일 내용. KAIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/24/dt/20250224140616696lmjp.jpg" data-org-width="540" dmcf-mid="1ijhmuqycn" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/24/dt/20250224140616696lmjp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 메타 CEO인 마크 저커버그의 이메일 주소만을 활용 피싱 이메일 내용. KAIST 제공 </figcaption> </figure> <p contents-hash="33b77b63470e7d0ce4984fe64e73f2cbf849de852b513803084699a9eb39c1fd" dmcf-pid="0Dv3Zxe7ae" dmcf-ptype="general">챗GPT, 클로드, 제미나이 등과 같은 상용 대형언어모델(LLM)이 사이버 공격에 악용될 가능성이 크다는 연구결과가 나왔다. 최대 96% 수준으로 개인정보를 수집하고, 정교한 피싱 공격까지 수행할 수 있다는 점에서 LLM 서비스 보안을 고도화하기 위한 노력이 필요하다는 지적이다.</p> <p contents-hash="cccab508d23ae1239e14b49e0ba3cef8c7e540cbef39137fe42d5f189526729a" dmcf-pid="pwT05MdzkR" dmcf-ptype="general">KAIST는 신승원 전기및전자공학부 교수와 이기민 김재철 AI대학원 교수 연구팀이 공동으로 LLM 에이전트가 웹 기반 도구와 결합해 개인정보 수집 및 피싱 공격에 악용될 가능성을 실험적으로 규명했다고 24일 밝혔다.</p> <p contents-hash="70cfb7d604380bd067c76a039abfe77703c6d8d097d23d83e11ca66717ae662d" dmcf-pid="Uryp1RJqkM" dmcf-ptype="general">최근 AI 기술 발전으로 챗GPT 등 LLM이 단순한 챗봇을 넘어 자율적인 에이전트로 발전하고 있다. LLM 에이전트는 웹 기반 도구와 결합해 실시간으로 정보를 검색·활용할 수 있어 더욱 강력한 기능을 제공한다. 하지만, 이런 기술 발전은 사이버 공격의 위험성을 더욱 증가시킨다.</p> <p contents-hash="8b0befa2ce26f9cdeae0b6fbd9823c39f3337140c8cb2e5138aa16041f00037f" dmcf-pid="umWUteiBax" dmcf-ptype="general">가령, 웹에서 대량의 개인식별정보를 수집하거나, 특정 인물을 사칭해 잘못된 정보를 퍼뜨릴 수 있다. 또한 보다 정교한 스피어 피싱 이메일을 생성해 피싱 공격의 성공률을 높일 수도 있다. </p> <p contents-hash="a0048464d12246c1a1df9809cfefda2a2b6896ec3571b2f5336ca0e62c55d488" dmcf-pid="7sYuFdnbcQ" dmcf-ptype="general">구글은 최근 AI에 관한 윤리 지침에서 AI 기술을 무기나 감시에 사용하지 않는다는 조항을 삭제하면서 LLM 에이전트의 기술 악용 가능성에 대한 논란을 일으키기도 했다. </p> <p contents-hash="a984501ce3c4c049f9ba18fc9d17642c7fcb15cf21cd83c05d2dbbfc972fbc11" dmcf-pid="zOG73JLKcP" dmcf-ptype="general">연구팀은 상용 LLM 서비스가 자체 탑재한 방어 기법을 우회해 악의적인 사이버 공격을 수행할 수 있음을 확인했다. 오픈AI의 챗GPT, 앤스로픽의 '클로드', 구글의 '제미나이' 등 상용 LLM 모델을 사용해 주요 대학 컴퓨터과 교수들의 개인식별정보를 자동 수집하는 테스트를 한 결과, 평균 5∼20초 안에 30∼60원 수준의 비용으로 개인정보 탈취 등이 자동으로 가능했다. 특히 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었고, 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.</p> <p contents-hash="9fef7f3bc759589c3c7adb58441ac49dad6949d5205bcec0722055ffa956de6f" dmcf-pid="qUfnRlTNj6" dmcf-ptype="general">아울러, 피해자의 이메일 주소만을 이용해 최적화된 정교한 피싱 이메일을 생성할 수 있었고, 실험 참가자 중 피싱 이메일의 링크 클릭률이 최대 46.7%까지 증가한 것으로 나타났다.</p> <p contents-hash="deef0148a3fc5bf6db7425a696e6e54ee5e6df630021abe18be8f04357a337b4" dmcf-pid="Bu4LeSyja8" dmcf-ptype="general">제1저자인 김한나 KAIST 연구원은 "LLM에 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커지는 것을 확인했다"며 "LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다"고 말했다.</p> <p contents-hash="10480d030e2efb6df36810d777e18eaefb55fd496893493066818ec2b921872a" dmcf-pid="b78odvWAk4" dmcf-ptype="general">신승원 KAIST 교수는 "이번 연구는 정보 보안과 AI 정책 개선에 중요한 기초 자료로 활용될 것"이라며 "앞으로 LLM 서비스 제공업체 및 연구기관과 협력해 보안 대책을 논의할 계획"이라고 말했다.</p> <p contents-hash="4329edf00d05f858826d01a57d3736f986eaa5b9eb45f464a3a7532542393876" dmcf-pid="Kz6gJTYcgf" dmcf-ptype="general">이 연구결과는 컴퓨터 보안 분야 국제 학술대회인 'USENIX 2025'에서 발표될 예정이다.이준기기자 bongchu@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 400단 쌓는 삼성·SK, 핵심 본딩 기술·특허는 中에 종속되나 02-24 다음 김태원 아내 "딸 韓 결혼식 반대"…오열 사태까지(조선의 사랑꾼) [TV스포] 02-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
