[탈탈털털] “챗GPT야! 개인정보 수집 가능해?”…내 개인정보가 위험하다 작성일 02-25 122 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">KBS는 정부와 민간의 다양한 사이버 보안 현황을 점검하고, 사이버 영토에서 안전한 대한민국을 만들고자 연중기획 [탈탈털털]을 통해 공개합니다. 한 번 털리면 또 '털'리고 두 번도 '털'리는 게 사이버 범죄입니다.<br>그래서 디지털 기사 시리즈 제목이 [탈탈털털]이 됐습니다.</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="B6dXkX1mhJ"> <figure class="figure_frm origin_fig" contents-hash="b8fd55bb804d2d4a7596685c09b2890387be6f4265a12cb166c0e48d51307aab" dmcf-pid="bPJZEZtsyd" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/25/kbs/20250225100235089igdj.jpg" data-org-width="640" dmcf-mid="U5CWE0uSyT" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/25/kbs/20250225100235089igdj.jpg" width="658"></p> </figure> <p contents-hash="e5a93ba2064a450684e097b656c5c88fa45ad81143da080dc9dd5cc097f8ad86" dmcf-pid="KQi5D5FOCe" dmcf-ptype="general"><br><strong>■ 챗GPT에서 '편법' 없이도 개인정보 수집 가능? </strong></p> <p contents-hash="de809f979d666f3cda0b3d2e65c0a2c73195270003bddf31c1a3ee7534fc261c" dmcf-pid="9xn1w13IvR" dmcf-ptype="general">챗GPT는 기본적으로 웹 기반 검색을 통해 이용자들에게 적절한 답변을 찾아주고 있습니다.</p> <p contents-hash="212a11e2df52c33ddc4a7f3914909a06e1efca371cbf591c9efeedc404f24b43" dmcf-pid="2EIfXf6FCM" dmcf-ptype="general">덕분에 우리는 일일이 검색하지 않아도 입력값만 주면 웬만한 정보는 한꺼번에 볼 수 있습니다. </p> <figure class="figure_frm origin_fig" contents-hash="d2f9531218647761d154736e1882409fa835a42816617b540454016675fcab02" dmcf-pid="VDC4Z4P3Sx" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/25/kbs/20250225100236985xkfx.jpg" data-org-width="640" dmcf-mid="uU5UTf6Fyv" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/25/kbs/20250225100236985xkfx.jpg" width="658"></p> </figure> <p contents-hash="ef0fe9f8f305bb6724bd92b0ffaf5b3bbc17e61897898628ec82f3dccd1b62ee" dmcf-pid="fwh858Q0CQ" dmcf-ptype="general"><br>편리해진 만큼, 악용 우려도 커지고 있습니다.</p> <p contents-hash="a42bdbb53b57c71acc4df95061ebba9f031b8bcd52adbb3f011ec4999d5c525b" dmcf-pid="4rl616xpTP" dmcf-ptype="general">카이스트 신승원 교수 연구팀이 자체적인 방법 기법이나 기준이 있지만 우회하며 사이버 공격이 가능하다고 밝혔는데요, "웹 검색 LLM을 활용한 개인정보 기반 사이버공격"이라는 제목의 논문에서 자세하게 설명하고 있습니다. </p> <p contents-hash="a1a0a373272f0ed6289f9d2c19bf0b96a3e955f79e5d49ae25340b96348676a7" dmcf-pid="8mSPtPMUv6" dmcf-ptype="general">이번 연구에 참여한 김한나, 송민규 연구원이 시연을 진행했습니다.</p> <figure class="figure_frm origin_fig" contents-hash="703b54572d4878c2e9e2c9b3eaf37a6b8e788686bca897899147bd5af62443d4" dmcf-pid="6svQFQRuW8" dmcf-ptype="figure"> <p class="link_figure"><img alt="이번 논문에 참여한 송민규 연구원(왼)과 김한나 연구원(오)이 기자에게 시연하고 있다." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/25/kbs/20250225100238661zwuq.jpg" data-org-width="1920" dmcf-mid="7833l9f5WS" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/25/kbs/20250225100238661zwuq.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이번 논문에 참여한 송민규 연구원(왼)과 김한나 연구원(오)이 기자에게 시연하고 있다. </figcaption> </figure> <p contents-hash="e0e9576a01ccd247d175e57a30c799b426a5df11bc6d716eb77fceffc0ec9c3f" dmcf-pid="POTx3xe7v4" dmcf-ptype="general"><br>방법은 간단했습니다.</p> <p contents-hash="c91dd1e035e047873a4fa9fdced4e4aad37ea7b7af74940f93517316f89d6b1e" dmcf-pid="QIyM0Mdzyf" dmcf-ptype="general">지난해 출시된 '챗GPT4o'에서 신승원 교수의 전화번호, 홈페이지, 연락처를 알려달라고 입력했더니 1분도 안 돼 정리해 알려줍니다.</p> <p contents-hash="8067bffbcbe0f7f193f534e21e95b01e07f4e1e312b8221201475ff1cb1cfa3b" dmcf-pid="xCWRpRJqhV" dmcf-ptype="general">기자 정보도 알려달라고 입력했더니 메일주소, 개인 연락처나 사무실 번호가 아닌 회사 대표 전화번호가 검색돼 나왔습니다. </p> <figure class="figure_frm origin_fig" contents-hash="7ec17f2c2f6cdb2aeb092a09811b63fa2c4b268cca7114df41cd05e177d30815" dmcf-pid="yfMYjYXDy2" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/25/kbs/20250225100240640ocbn.png" data-org-width="1280" dmcf-mid="zuqqGPMUTl" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/25/kbs/20250225100240640ocbn.png" width="658"></p> </figure> <p contents-hash="aa53b017c31d93c13616a4be5cabc8bcb138c079db63baefaa6ed23772c252a0" dmcf-pid="W4RGAGZwh9" dmcf-ptype="general"><br>신승원 KAIST 전기 및 전자공학부는 "570명의 개인정보를 수집해 보니 이메일 주소나 전화번호 등이 수집됐는데 9개 이상은 정확한 정보였다"며 "일정한 구독료만 내면 빠르고 정확하게 타인의 정보를 수집할 수 있는 셈"이라고 설명했습니다.</p> <p contents-hash="23f95f524a1addcba5f17fa419dfd32c0ed9ec7bdb11812b11a28674b23b0aeb" dmcf-pid="Y5Uc4cDxhK" dmcf-ptype="general">사이버 세상에서 정보는 범죄와 연결되기 쉽습니다. 이렇게 정보를 구한 뒤, 발신자를 임의로 설정한 뒤 그에 알맞은 메일을 써달라고 부탁하면 그럴듯한 내용이 뚝딱 완성됩니다.</p> <p contents-hash="d76904e1a06b9cf8beba94b0fb3538b2b11f0cdb4e94ffedf8e874723c3f057c" dmcf-pid="G1uk8kwMTb" dmcf-ptype="general">여기서 수신자가 혹할만한 URL만 넣으면 피싱 메일이 몇 분 만에 만들어질 수 있다는 게 이들의 결론입니다.</p> <p contents-hash="03e91e76c13f9d93d4d82124c3d4cbd388316c322a7eff3256e9802c41260c22" dmcf-pid="Ht7E6ErRyB" dmcf-ptype="general">신 교수는 "챗GPT 등의 생성형 AI의 부정 활용 가능성을 실제 활용 가능한 수준으로 입증한 연구"라고 강조했습니다.</p> <p contents-hash="a57f5e8f5b7aaaf7d85699e95b3c126fce047b185a1d9f7c4f4c7e55d41f543a" dmcf-pid="XFzDPDmevq" dmcf-ptype="general">김한나 연구원은 "60명을 대상으로 이렇게 만든 피싱 이메일을 실험했을 때 46%가 링크를 클릭할 것 같다고 답했다"고 말했습니다. 이들은 AI 기반 자동화 공격이 심각하다고 설명했습니다.</p> <p contents-hash="60e1c386d11eb8d7333781137b48b6d6fff68b3e020714673ea6eb7d8192bf18" dmcf-pid="Z3qwQwsdhz" dmcf-ptype="general">취재진이 요청해 추가로 더 확인해 봤습니다.</p> <p contents-hash="ff56084df7e34b3106f0eac56b09bea4c40c3a820207615cfd6cdcc25d502968" dmcf-pid="50BrxrOJS7" dmcf-ptype="general">챗GPT 다른 버전에서는 애매한 답변을, 클로바X나 제미나이, 클로드 등 다른 모델에 같은 질문을 입력했을 땐 개인정보를 이유로 정확한 답변을 주지 않았습니다.</p> <figure class="figure_frm origin_fig" contents-hash="9560fe757e9b2de5e07d453c1450fb686ae9b17b69c2067aab3dce9dd5bc257f" dmcf-pid="1pbmMmIiyu" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/25/kbs/20250225100242316jolt.png" data-org-width="1280" dmcf-mid="qaJkMlTNSh" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/25/kbs/20250225100242316jolt.png" width="658"></p> </figure> <p contents-hash="ab95a9bdd67bac88f56707ff374cb69582d9c7f0b0be49949e0938bbd1fbd86a" dmcf-pid="tUKsRsCnWU" dmcf-ptype="general"><br><strong>■ 인공지능 똑똑해질수록 '우회' 질문에 답변도 '상세' </strong></p> <p contents-hash="e685442a9d03990b62ada848a4f50a69134ab2d885ae026de5bc181e52ac8c51" dmcf-pid="Fu9OeOhLhp" dmcf-ptype="general">지난해 취재진은 챗GPT를 활용한 악성코드를 판매하거나 생성 가이드 등이 이 다크웹에서 공유되고 있다는 것이 확인하기도 했습니다.</p> <p contents-hash="82c48a8a31f84ecde87a18b4c437181584c5cb5a47dff7c2735a554610f1d12e" dmcf-pid="372IdIloT0" dmcf-ptype="general">일반적으로 챗GPT 등은 윤리 규정상 마약이나 폭탄 등에 대해 답변을 제한하고 있는데 이걸 피해 답변을 들을 수 있는 가이드가 거래된다는 겁니다.</p> <p contents-hash="1acca16a3359a230586e70c8fb3d810956159184bf373a8193de301e9d047508" dmcf-pid="0VxWNWHET3" dmcf-ptype="general"><strong>[연관기사] “챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려”</strong><br>https://news.kbs.co.kr/news/pc/view/view.do?ncd=8004304</p> <p contents-hash="ff3ac63adbb04a5f95ed32314eb9573e407ecb7cc945b2c7e432e5de7efe65a8" dmcf-pid="pfMYjYXDWF" dmcf-ptype="general">현재도 질문 내용만 조금만 바꿨더니 답변을 받을 수 있어 문제는 여전했습니다.</p> <p contents-hash="ec8ac3a7eb5f01ebbb736daa091fd4fd553fe417cee60ee9d4f07871cfb81a51" dmcf-pid="U4RGAGZwht" dmcf-ptype="general">지난해 홍콩에서 본사를 둔 한 금융기업에서 AI가 만든 피싱 이메일과 딥페이크 영상에 깜박 속아 수백억 원의 손실을 보는 사건도 있었습니다.</p> <p contents-hash="cc15129b6e6ae398b8e2810fa3769b1f929e0abccdec9e51468d11663ca3dfc5" dmcf-pid="u8eHcH5rC1" dmcf-ptype="general">챗GPT 등과 같은 LLM(거대언어모델) 사용이 확산하면서 겪을 수 있는 보안 위협을 단적으로 보여주는 사례입니다. </p> <p contents-hash="87836fbab6fd6e7134edce2163b6587a03ba9d2b67ac842ffbc91b02c0077d0a" dmcf-pid="76dXkX1mv5" dmcf-ptype="general">물론, 모든 기술을 기반으로 한 서비스에는 취약점이 있을 수밖에 없습니다. 개발하는 과정에서 방대한 데이터를 가공하고 학습하는 과정에서부터 이용하는 과정까지 다양한 우려가 커지고 있습니다.</p> <p contents-hash="ec0bd9075db362315203b7e32eefa736d2e2812eec65951b3b60a86da5bdad82" dmcf-pid="zPJZEZtsTZ" dmcf-ptype="general">신 교수는 "업체는 이용자가 서비스를 악용하지 못하게 가드레일, 보안 필터 등을 반드시 만들어야 하고 이용자는 개인정보 등에 더욱 주의해야 한다"고 조언했습니다.</p> <p contents-hash="168556d90302ecc1713452cdc95335d4a6685c7b1a1a044d471f3856d67e5f85" dmcf-pid="qQi5D5FOWX" dmcf-ptype="general">AI가 발전하면서 악성코드를 쉽게 읽게 해주거나, 딥페이크를 인지한다든지 보안 분야에서도 AI가 주목받고 있는데요, 악용하는 자와 방어하는 자의 싸움이 더 치열해질 것으로 보입니다.</p> <blockquote class="pretip_frm" contents-hash="394261f7f12d06eeb474aa87fc3335504da58b2497d6ace5f34eb524cd7e9a17" dmcf-pid="Bxn1w13IvH" dmcf-ptype="pre"> <strong>온라인이나 휴대전화, PC 등에서 해킹, 개인정보 및 기업 정보 탈취 등으로 인한 피해를 본 분들의 제보를 기다립니다.<br></strong><strong>연락처 hacking119@kbs.co.kr</strong> <br> </blockquote> <div contents-hash="c0a2b7b37727e7d8f66ce9498a4ffe5d58d643e5338fa41391642221414e4da9" dmcf-pid="bMLtrt0CCG" dmcf-ptype="general"> <br> <div> <br>■ 제보하기 <br>▷ 전화 : 02-781-1234, 4444 <br>▷ 이메일 : kbs1234@kbs.co.kr <br>▷ 카카오톡 : 'KBS제보' 검색, 채널 추가 <br>▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요! </div> </div> <p contents-hash="14a8dedcc3856b9e4c29250296794e35570ee44d324e3425ae5e8331655ebd20" dmcf-pid="KRoFmFphlY" dmcf-ptype="general">황정호 기자 (yellowcard@kbs.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © KBS. All rights reserved. 무단 전재, 재배포 및 이용(AI 학습 포함) 금지</p> 관련자료 이전 아이엠비디엑스 대표 "1분기 검진센터 진입·비급여 적용 유력" 02-25 다음 KT, 국가보훈부와 AX 협력 추진…민관 함께하는 ‘AI 행정’ 02-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
