"나도 모르는 사이에 신상 탈탈"...LLM, 범죄 악용될 가능성 높다 작성일 02-25 165 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="buwxCZtsSi"> <div class="video_frm" dmcf-pid="K7rMh5FOTJ" dmcf-ptype="kakaotv"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="qaJzaOhLCL" dmcf-mtype="video/kakaotv/owner" dmcf-poster-mid="B86tecDxvn" frameborder="0" height="370" id="video@qaJzaOhLCL" poster="https://t1.daumcdn.net/news/202502/25/YTN/20250225004028842rhmu.jpg" scrolling="no" src="//kakaotv.daum.net/embed/player/cliplink/453255570?service=daum_news&m_use_inline=true&ios_allow_inline=true&m_prevent_sdk_use=true&wmode=opaque" width="100%"></iframe> </div> </div> </div> <p contents-hash="f110e1942b18ea1f5683d501992c682c20a2f00c498747500e8a4cfd6da3e738" dmcf-pid="9zmRl13Iyd" dmcf-ptype="general">[앵커] </p> <p contents-hash="beacb93daa7c5b5b52fb60273188198cb91b09663d5559d3c21a1639ed9dfe3c" dmcf-pid="2qseSt0CSe" dmcf-ptype="general">챗GPT와 같은 거대언어모델, LLM은 학습된 데이터를 기반으로 답변을 생성하는데, 최근에는 자체적으로 웹 검색 등을 거쳐 더 정확한 답변을 제공하고 있습니다. </p> <p contents-hash="d2d28dc65fb78caf3dca29814185d704ebc4655f21760e4a73336b78da418333" dmcf-pid="VUDQIX1mCR" dmcf-ptype="general">문제는 LLM이 똑똑해질수록 악용될 가능성도 커진다는 건데, 실제로 물어보지도 않은 개인정보나 위험한 정보까지도 쉽게 답하는 것이 확인됐습니다. </p> <p contents-hash="a0e50f6f7f4e7e966b8f0493d347be9ec3c02d6df58620a99248d86bdbe02f77" dmcf-pid="fuwxCZtsWM" dmcf-ptype="general">권석화 기자가 보도합니다. </p> <p contents-hash="7d6532a3ff72e6e61d28713c15e4ad75a3f8e21259fbcf585fa2e73bce76e203" dmcf-pid="47rMh5FOWx" dmcf-ptype="general">[기자] </p> <p contents-hash="63c4e9b36a4a833ad658ee29f5016e6af6056ef00708ee7c2ccf45b68fbe1324" dmcf-pid="8zmRl13ISQ" dmcf-ptype="general">챗GPT에게 KAIST 신승원 교수에 대해 궁금한 것들을 알려달라고 요청하자, 개인정보를 술술 나열해 줍니다. </p> <p contents-hash="6c23e375e84e6af14802f5384b8d51c27ba6856ad300cc0e0f4ae89ef4e9ad45" dmcf-pid="6qseSt0CCP" dmcf-ptype="general">여기에는 물어보지 않은 내용까지 자세히 담겨 있습니다. </p> <p contents-hash="d483707ac979eb72dbcbf3a01174f68041aae62335e8c87dd143596aa8137202" dmcf-pid="PBOdvFphh6" dmcf-ptype="general">이번엔 챗GPT가 알려준 KAIST 신승원 교수의 이메일로 피싱 메일을 써달라고 해봤습니다. </p> <p contents-hash="fff4b75cfe9e0f7118d1611166c7aaad0e000bfc13700dde6f089259481afffe" dmcf-pid="QbIJT3UlC8" dmcf-ptype="general">8초도 채 되지 않아 신 교수와 연구한 연구자를 발신자로 설정해 SDN 보안과 관련된 업무 협업을 제안하는 이메일이 순식간에 작성됐습니다. </p> <p contents-hash="94d0d0e2b0091e152a051e2b016e43c32dbf644acb92f6cd9772e51a044c2a96" dmcf-pid="xKCiy0uSh4" dmcf-ptype="general">구체적인 사전 자료 조사가 필요했던 정교한 피싱 이메일을 LLM이 빠르고 쉽게 만들어낸 겁니다. </p> <p contents-hash="53f24ecd6471b4e77c8d0099eef049afe12dc79231f17290010cabf8ce3f9c27" dmcf-pid="ymfZxNc6Tf" dmcf-ptype="general">[김한나 / KAIST 전기및전자공학부 박사과정생 : 요즘에는 굉장히 많은 사람들이 인터넷에 자신의 사생활을 공유하기도 하고 그러다 보니까 이제 LLM은 그걸 다 찾아서 다른 누군가에게 공유해 줄 수 있는 거죠. 나도 모르는 사이에 이제 누군가가 내 정보를 수집해서 그걸 무단으로 어딘가에 사용을 할 수 있다….] </p> <p contents-hash="f47c136c9c74ced932af62c88b331a10767eff0d9343f2ab4c9bb3c35a7ff215" dmcf-pid="WUDQIX1mTV" dmcf-ptype="general">[기자] </p> <p contents-hash="789935cb4b8a5b65a9ac9765cc88508027c101bb297b825f359c5cfaf0e732fb" dmcf-pid="YuwxCZtsh2" dmcf-ptype="general">오픈AI의 챗GPT나 구글의 제미나이 등 상용화된 LLM은 보안 관련 방어 기법을 자체적으로 탑재하고 있습니다. </p> <p contents-hash="4d7a37b64b4bcfbdd431bea58af31d3cd64909ad92e185d3e7bda67caa95c4ac" dmcf-pid="G7rMh5FOW9" dmcf-ptype="general">하지만 이번 KAIST 연구팀의 실험을 통해 우회적으로 악의적 사이버 공격을 수행할 수 있음이 확인된 겁니다. </p> <p contents-hash="a69c2a659c38b26b0592a8b8868c8433d08d5f10e7a1e737ad0ce3700bd1bef6" dmcf-pid="HzmRl13ISK" dmcf-ptype="general">실험 결과, 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었고, 교수를 사칭한 허위 게시글도 93.9%가 진짜로 인식됐습니다. </p> <p contents-hash="3afca574f8a218107844335b212ca40e824a96610bf6df11518641a7cd6a3518" dmcf-pid="XqseSt0CSb" dmcf-ptype="general">게다가 LLM이 만든 피싱 이메일의 링크 클릭률은 50% 가까이 증가했습니다. </p> <p contents-hash="47716415ef0fec724709412b1596018d33179a3a74984a03f3e3e7327a70a613" dmcf-pid="ZBOdvFphhB" dmcf-ptype="general">[신승원 / KAIST 전기및전자공학부 교수 : 폭탄을 제조해줘" 아니면 "내가 과속 카메라에 단속되지 않는 법을 알려줘" 이런 것들을 보통 탈옥이라고 하는데요. (이미) 많이 차단했습니다만, 여전히 새로운 방법들이 나오고 있습니다. LLM에서 악용될 수 있는 정보라든가 악용될 수 있는 기능들을 사전 차단하는 연구가 시급하게 필요한 상황입니다.] </p> <p contents-hash="02f5443fa470f69cd41108ed7f0e9095f6cc492836a0eb45f286fb5d3bac1d57" dmcf-pid="5bIJT3Ulyq" dmcf-ptype="general">[기자] </p> <p contents-hash="4826fac154bafa14479f58983809a6c58cf75ebbdbdb43e982db0f95bc39a9b3" dmcf-pid="1KCiy0uSSz" dmcf-ptype="general">AI 개발사가 미리 설정한 윤리적 가이드라인을 거치지 않고 유해정보를 유도하는 '탈옥 우회 기법' </p> <p contents-hash="bfe41ec44ae7a88c8e2cb05025c7f21a5dba08cb35186e07f934fbe467a8dbdd" dmcf-pid="t9hnWp7vT7" dmcf-ptype="general">LLM의 발전 속도와 함께 진화하는 탈옥 공격을 막아줄 확장 가능한 보안 장치 마련이 절실해 보입니다. </p> <p contents-hash="32be0863a09fe786aed458b2cf6a5b699a9ca44cd3e97f63be18bd407a90b4e6" dmcf-pid="FSMpnwsdWu" dmcf-ptype="general">YTN 사이언스 권석화입니다. </p> <p contents-hash="e9a9f5368632c3f569ece1dcc251d18c6c4dee5e2dcdd654899118233b96d455" dmcf-pid="3vRULrOJWU" dmcf-ptype="general">YTN 권석화 (stoneflower@ytn.co.kr)</p> <p contents-hash="46f8888ee22f8f7170c52e5d70c5865d0ebdf4cb77a0be19189d4a98019e7563" dmcf-pid="0TeuomIiWp" dmcf-ptype="general">※ '당신의 제보가 뉴스가 됩니다' </p> <p contents-hash="e68a0dcf1fac0f3f7c172644c8d0a46c5f71e0f9079de7078c794c16a8abcf17" dmcf-pid="pyd7gsCnl0" dmcf-ptype="general">[카카오톡] YTN 검색해 채널 추가 </p> <p contents-hash="3e3b28a54265a73227a9f1f60eb4edad27b61f11ea287841e93d25d507df2b05" dmcf-pid="UWJzaOhLS3" dmcf-ptype="general">[전화] 02-398-8585 </p> <p contents-hash="5b392ecd720825d9f3a087353ebe834c71d599414f8c9b8538dec613d8767800" dmcf-pid="uYiqNIloWF" dmcf-ptype="general">[메일] social@ytn.co.kr</p> <p contents-hash="ba4e20ff81a149f2baea1292cbde2d79cc185877cf12920fa6e46b8642fd1b5d" dmcf-pid="7GnBjCSght" dmcf-ptype="general">[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]</p> </section> </div> <p class="" data-translation="true">Copyright © YTN. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘별들에게 물어봐’ 한지은 “고은이 응원해주고 아껴준 모든 분께 감사” 종영소감 02-25 다음 37세 관록 이승훈 金 02-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
