"나도 모르는 사이에 신상 탈탈"...LLM, 범죄 악용될 가능성 높다 작성일 02-24 121 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fmEUPeiBy4"> <div class="video_frm" dmcf-pid="4sDuQdnbyf" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="2hXwG13IC6" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="Vr8I1p7vv8" frameborder="0" height="370" id="video@2hXwG13IC6" poster="https://t1.daumcdn.net/news/202502/24/YTN/20250224204628939ijoh.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/453250284?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="f110e1942b18ea1f5683d501992c682c20a2f00c498747500e8a4cfd6da3e738" dmcf-pid="8Ow7xJLKvV" dmcf-ptype="general">[앵커] </p> <p contents-hash="beacb93daa7c5b5b52fb60273188198cb91b09663d5559d3c21a1639ed9dfe3c" dmcf-pid="6hsBeLaVC2" dmcf-ptype="general">챗GPT와 같은 거대언어모델, LLM은 학습된 데이터를 기반으로 답변을 생성하는데, 최근에는 자체적으로 웹 검색 등을 거쳐 더 정확한 답변을 제공하고 있습니다. </p> <p contents-hash="d2d28dc65fb78caf3dca29814185d704ebc4655f21760e4a73336b78da418333" dmcf-pid="PlObdoNfT9" dmcf-ptype="general">문제는 LLM이 똑똑해질수록 악용될 가능성도 커진다는 건데, 실제로 물어보지도 않은 개인정보나 위험한 정보까지도 쉽게 답하는 것이 확인됐습니다. </p> <p contents-hash="a0e50f6f7f4e7e966b8f0493d347be9ec3c02d6df58620a99248d86bdbe02f77" dmcf-pid="QSIKJgj4CK" dmcf-ptype="general">권석화 기자가 보도합니다. </p> <p contents-hash="7d6532a3ff72e6e61d28713c15e4ad75a3f8e21259fbcf585fa2e73bce76e203" dmcf-pid="xvC9iaA8Wb" dmcf-ptype="general">[기자] </p> <p contents-hash="63c4e9b36a4a833ad658ee29f5016e6af6056ef00708ee7c2ccf45b68fbe1324" dmcf-pid="yPfsZ3UlyB" dmcf-ptype="general">챗GPT에게 KAIST 신승원 교수에 대해 궁금한 것들을 알려달라고 요청하자, 개인정보를 술술 나열해 줍니다. </p> <p contents-hash="6c23e375e84e6af14802f5384b8d51c27ba6856ad300cc0e0f4ae89ef4e9ad45" dmcf-pid="WQ4O50uSSq" dmcf-ptype="general">여기에는 물어보지 않은 내용까지 자세히 담겨 있습니다. </p> <p contents-hash="d483707ac979eb72dbcbf3a01174f68041aae62335e8c87dd143596aa8137202" dmcf-pid="Yx8I1p7vTz" dmcf-ptype="general">이번엔 챗GPT가 알려준 KAIST 신승원 교수의 이메일로 피싱 메일을 써달라고 해봤습니다. </p> <p contents-hash="fff4b75cfe9e0f7118d1611166c7aaad0e000bfc13700dde6f089259481afffe" dmcf-pid="GM6CtUzTh7" dmcf-ptype="general">8초도 채 되지 않아 신 교수와 연구한 연구자를 발신자로 설정해 SDN 보안과 관련된 업무 협업을 제안하는 이메일이 순식간에 작성됐습니다. </p> <p contents-hash="94d0d0e2b0091e152a051e2b016e43c32dbf644acb92f6cd9772e51a044c2a96" dmcf-pid="HRPhFuqyCu" dmcf-ptype="general">구체적인 사전 자료 조사가 필요했던 정교한 피싱 이메일을 LLM이 빠르고 쉽게 만들어낸 겁니다. </p> <p contents-hash="53f24ecd6471b4e77c8d0099eef049afe12dc79231f17290010cabf8ce3f9c27" dmcf-pid="XeQl37BWlU" dmcf-ptype="general">[김한나 / KAIST 전기및전자공학부 박사과정생 : 요즘에는 굉장히 많은 사람들이 인터넷에 자신의 사생활을 공유하기도 하고 그러다 보니까 이제 LLM은 그걸 다 찾아서 다른 누군가에게 공유해 줄 수 있는 거죠. 나도 모르는 사이에 이제 누군가가 내 정보를 수집해서 그걸 무단으로 어딘가에 사용을 할 수 있다….] </p> <p contents-hash="029f401c45f7a3db8fbb88356e98bd0666b46c4ae2d17d80bba22a0d34f5610d" dmcf-pid="ZdxS0zbYyp" dmcf-ptype="general">오픈AI의 챗GPT나 구글의 제미나이 등 상용화된 LLM은 보안 관련 방어 기법을 자체적으로 탑재하고 있습니다. </p> <p contents-hash="ecdd2daceaa1fc8209c76b4734575a21b6d3a09c573cb3a855d597b09a040b26" dmcf-pid="5rkp6RJql0" dmcf-ptype="general">하지만 이번 KAIST 연구팀의 실험을 통해 우회적으로 악의적 사이버 공격을 수행할 수 있음이 확인된 겁니다. </p> <p contents-hash="a5ad01c629804e635a26b7d73a14dfd452b41c2151b5769b957634fd90faca5c" dmcf-pid="1mEUPeiBC3" dmcf-ptype="general">실험 결과, 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었고, 교수를 사칭한 허위 게시글도 93.9%가 진짜로 인식됐습니다. </p> <p contents-hash="2ebc12569ad289d7513bedd03ef2027c5aeafd2a9d8a924340fd781790659a85" dmcf-pid="tsDuQdnbSF" dmcf-ptype="general">게다가 LLM이 만든 피싱 이메일의 링크 클릭률은 50% 가까이 증가했습니다. </p> <p contents-hash="a8dd4165d73e9f15a1113baeb0563ff346644955cb9d2f718d491cf57a55e16b" dmcf-pid="FOw7xJLKCt" dmcf-ptype="general">[신승원 / KAIST 전기및전자공학부 교수 : 폭탄을 제조해줘" 아니면 "내가 과속 카메라에 단속되지 않는 법을 알려줘" 이런 것들을 보통 탈옥이라고 하는데요. (이미) 많이 차단했습니다만, 여전히 새로운 방법들이 나오고 있습니다. LLM에서 악용될 수 있는 정보라든가 악용될 수 있는 기능들을 사전 차단하는 연구가 시급하게 필요한 상황입니다.] </p> <p contents-hash="714abe65a27f54ea0e2f50d1c0cd82e25fc69cb23fa9dfc8c9e28074bb80f6ca" dmcf-pid="3IrzMio9W1" dmcf-ptype="general">AI 개발사가 미리 설정한 윤리적 가이드라인을 거치지 않고 유해정보를 유도하는 '탈옥 우회 기법' </p> <p contents-hash="67da4d46691c7181752f95ac67772ff18ada1de81d6b62b28a2f0f3b4cd66f82" dmcf-pid="0CmqRng2l5" dmcf-ptype="general">LLM의 발전 속도와 함께 진화하는 탈옥 공격을 막아줄 확장 가능한 보안 장치 마련이 절실해 보입니다. </p> <p contents-hash="8d7151fde361337d21b92b987e5310e8ea73c1e56e5bc5b6027b7bdb5ed99593" dmcf-pid="phsBeLaVWZ" dmcf-ptype="general">YTN 사이언스 권석화입니다. </p> <p contents-hash="0a324b8eb6c455a6c9ce5fb2eca4c44dbcaebc6ac2903643ab64ee319d4fc93f" dmcf-pid="UlObdoNfSX" dmcf-ptype="general">영상편집 : 김영환 </p> <p contents-hash="d080c6fa1520c6c33b45a9bb3eb51bbf802678643ac1c53df27c9d14c9168387" dmcf-pid="uSIKJgj4TH" dmcf-ptype="general">영상제공 : KAIST </p> <p contents-hash="e9a9f5368632c3f569ece1dcc251d18c6c4dee5e2dcdd654899118233b96d455" dmcf-pid="7vC9iaA8SG" dmcf-ptype="general">YTN 권석화 (stoneflower@ytn.co.kr)</p> <p contents-hash="46f8888ee22f8f7170c52e5d70c5865d0ebdf4cb77a0be19189d4a98019e7563" dmcf-pid="zTh2nNc6hY" dmcf-ptype="general">※ '당신의 제보가 뉴스가 됩니다' </p> <p contents-hash="e68a0dcf1fac0f3f7c172644c8d0a46c5f71e0f9079de7078c794c16a8abcf17" dmcf-pid="qylVLjkPSW" dmcf-ptype="general">[카카오톡] YTN 검색해 채널 추가 </p> <p contents-hash="3e3b28a54265a73227a9f1f60eb4edad27b61f11ea287841e93d25d507df2b05" dmcf-pid="B35dwIloly" dmcf-ptype="general">[전화] 02-398-8585 </p> <p contents-hash="5b392ecd720825d9f3a087353ebe834c71d599414f8c9b8538dec613d8767800" dmcf-pid="b01JrCSglT" dmcf-ptype="general">[메일] social@ytn.co.kr</p> <p contents-hash="ba4e20ff81a149f2baea1292cbde2d79cc185877cf12920fa6e46b8642fd1b5d" dmcf-pid="KptimhvaWv" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p> </section> </div> <p class="" data-translation="true">Copyright © YTN. 무단전재 및 재배포 금지.</p> 관련자료 이전 방탄소년단 제이홉·아이브, 롤라팔루자 베를린 접수 02-24 다음 정경미, 탈모→성형 고백 “머리 빠지고 이마에 보톡스 맞아”(4인용식탁)[순간포착] 02-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
