AI가 준 링크 눌렀더니 성인광고 떴다…‘추천 링크’ 안전성 도마 작성일 10-11 58 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">정보 신뢰성과 함께 링크 안전도 확인해야</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PNyilKCEY8"> <figure class="figure_frm origin_fig" contents-hash="8a67a15cd269cb5e19809881f8cf44668fbc167f26c5178ba7246a3f40989085" dmcf-pid="QjWnS9hDt4" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI가 답변과 함께 내놓는 외부 링크의 안전성이 새 과제로 떠오르고 있다. /챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/11/chosun/20261011120601096mcoh.jpg" data-org-width="1672" dmcf-mid="6RBCuopXY6" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/11/chosun/20261011120601096mcoh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI가 답변과 함께 내놓는 외부 링크의 안전성이 새 과제로 떠오르고 있다. /챗GPT </figcaption> </figure> <p contents-hash="4781a546729eda0ed5cbaa4198ae1dce8b91fbc47ffe410882a82db3ef4fabd2" dmcf-pid="xes6D0kLtf" dmcf-ptype="general">직장인 A(36)씨는 최근 사무실에서 생성형 인공지능(AI)이 참고 자료로 제시한 링크를 눌렀다가 화면에 여성의 나체가 노출되는 성인 광고가 떠 당황했다. A씨는 “AI가 일반 검색보다 한 번 걸러준다는 믿음이 있었는데 이제는 함부로 링크를 누르지 못하겠다”고 말했다.</p> <p contents-hash="24a3ca5adfc4db3d6ca9a775e663a51867654d54de760f2322d7b657c94ad6fb" dmcf-pid="yG9SqN711V" dmcf-ptype="general">11일 테크 업계에 따르면, AI가 답변과 함께 내놓는 외부 링크의 안전성이 업체들이 해결해야 할 새 과제로 떠오르고 있다. 링크를 추천하는 답변 자체에서 유해 웹사이트를 걸러내더라도 연결된 외부 사이트의 광고와 리디렉션(원래 링크가 아니라 다른 링크로 보내는 기술)까지 안전하다고 보장하기 어렵기 때문이다.</p> <p contents-hash="78c67c3baae15523faf9ef763b4b10747093bdbd18fbf5f5d1e8c7aa70d46a10" dmcf-pid="WH2vBjztY2" dmcf-ptype="general">오픈AI도 이용자에게 챗GPT가 생성한 링크를 무조건 신뢰하지 말 것을 안내하고 있다. 오픈AI는 최근 업데이트한 ‘챗GPT 생성 링크’ 안내에서 제3자가 챗GPT를 속이거나 악의적인 지시를 삽입할 수 있다고 설명했다. 그러면서 링크를 클릭하기 전 이동할 웹사이트와 도메인을 확인해 신뢰할 수 있는 곳인지 판단하라고 권고했다.</p> <p contents-hash="e6c1d590c31cb657b9fbad09a688b829827f1e1521faf187962c068283fcf251" dmcf-pid="YXVTbAqFZ9" dmcf-ptype="general">실제 AI 챗봇의 생성 답변에 공격자가 만든 사이트로 이어지는 링크가 포함된 정황도 확인됐다. 마이크로소프트(MS)는 지난 5월 소프트웨어 다운로드 경로를 찾는 이용자에게 공격자 통제 도메인이 AI 챗봇 답변을 통해 노출된 사례를 공개했다. 가짜 사이트에서 파일을 받으면 원격 관리 도구를 악용해 지속적인 원격 접근 권한을 확보하고 암호화폐 채굴 악성코드 등을 설치하는 방식이었다. MS가 3월 이후 이 캠페인과 연계해 확인한 악성 도메인은 150개가 넘었다.</p> <p contents-hash="d16622610c6acc8955d714822a367ba1cc6f5522fd73ed34610c4691fd80ad61" dmcf-pid="GZfyKcB3tK" dmcf-ptype="general">보안 업체 넷크래프트도 지난 6월 챗GPT·코파일럿·제미나이·퍼플렉시티 등 4개 AI 답변 엔진에서 2905개 응답을 분석한 결과, 1.7%의 응답에 공격자가 운영하는 악성 링크가 포함됐다고 밝혔다. 지난해 조사에서는 존재하지 않거나 방치된 주소를 만들어내는 ‘환각’이 주로 문제였다면, 올해는 실제 운영 중인 공격 인프라가 답변에 섞이는 단계로 위험이 확대됐다는 설명이다.</p> <p contents-hash="0b3707f91bcbcef54569abaef31be6fbe00ced897eeedd5d6e90399bcff6a4d4" dmcf-pid="H54W9kb0Yb" dmcf-ptype="general">AI가 특정 업체를 ‘신뢰할 만한 출처’로 기억하도록 유도하는 시도도 나타났다. MS는 최근 발표한 보고서에서 60일간 31개 기업이 사용한 50개의 숨은 프롬프트(AI에 입력하는 지시문)를 확인했으며 금융·건강·법률 등 14개 업종에 걸쳐 있었다고 밝혔다. AI 검색이 이용자를 외부 사이트로 보내는 관문이 된 만큼 답변의 정확성뿐 아니라 링크 목적지와 광고·리디렉션의 안전성까지 살펴야 한다는 지적이 나온다.</p> <p contents-hash="728d09f369ceae21ee414c1d9c07144529b9d7936a616edf64ed0564c649874b" dmcf-pid="X18Y2EKp1B" dmcf-ptype="general">테크 업계 관계자는 “생성형 AI가 답변 내용 자체는 유해성 필터를 거치더라도 외부 웹사이트의 광고나 리디렉션, 이후 변경되는 콘텐츠까지 실시간으로 통제하기는 어렵다”며 “이용자 입장에서는 AI가 제시한 링크도 검색 결과와 마찬가지로 목적지 도메인과 운영 주체를 확인하는 습관이 필요하다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 KAIST, '피지컬 AI' 비전 선포…총장이 직접 로봇 입고 시연 10-11 다음 한미일, XR 헤드셋 이동할 때 멀미 해결 나선다 10-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
