폭탄 제조법까지 술술…'중국이 마음만 먹으면' 시한폭탄 경고 작성일 02-21 133 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">폭탄제조·해킹법 술술<br>'사이버 시한폭탄'된 생성AI<br>각국서 '사이버 탈옥'과의 전쟁<br>특정 명령어 한줄로 피싱 방법 등 획득<br>AI가 악의적 목적 수행하게끔 유도<br>딥시크, 탈옥 성공률 100%…보안 취약<br>해커, 로봇 침투 땐 인간 공격할 수도<br>로보락 보안기업, 中 정부와 긴밀 협력<br>한국 소비자도 개인정보 유출 위험 커</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="YmvuGWHEAv"> <p contents-hash="3897881de2866d53a002ea85cd132fc3cc459ee948f55f61f42a20f5290c1704" dmcf-pid="GzfaQ6xpNS" dmcf-ptype="general">미국의 사이버 보안 전문기업인 팰로앨토네트웍스는 최근 ‘딥시크가 탈옥 공격에 취약하다’는 취지의 보고서를 공개했다. ‘가성비’ 인공지능(AI) 모델로 전 세계적인 반향을 일으키고 있는 중국 AI 모델의 위험성을 경고한 것인데, 보고서는 위험 요인으로 ‘사이버 탈옥’을 꼽았다. AI업계에선 이 같은 경고를 두고 딥시크가 사이버 공격용 시한폭탄이 될 수 있음을 의미한다는 분석이 나온다. 딥시크를 사용하는 이가 많아지면 전 세계적으로 혼란이 커질 수 있다는 얘기다. 사이버 탈옥이란 AI 시스템이 설정한 보안 및 윤리적 제한을 우회해 악의적인 목적을 수행하도록 유도하는 해킹 기법이다.</p> <p contents-hash="eaa7fdee11f01fc89091d09ac33df81abd521aad1607e5a55be8247930f9336a" dmcf-pid="Hq4NxPMUgl" dmcf-ptype="general"><strong><span>◇현실 세계 위협하는 사이버 탈옥</span></strong></p> <figure class="figure_frm origin_fig" contents-hash="a84dfbf58f23e1942a22cb446e05a382bdb6702ab24f574bd77d7f622ebb7bcc" dmcf-pid="XB8jMQRuAh" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202502/21/ked/20250221181503699pmcm.jpg" data-org-width="1303" dmcf-mid="WEZ23t0CcT" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202502/21/ked/20250221181503699pmcm.jpg" width="658"></p> </figure> <p contents-hash="0f26f6e2dfe9f7b8dc3b89062c993db4795024de01b8e521c589c8a1b0390e78" dmcf-pid="Zb6ARxe7gC" dmcf-ptype="general"><br>사이버 탈옥이라는 개념은 2000년대 초반 서버용 운영체제(OS)인 유닉스에서 처음 유래됐다. OS는 컴퓨터나 휴대폰이라는 경기장의 규칙을 관장하는 최상위 관리자다. 앱 등 전자제품에서 실행되는 모든 것이 OS 허가를 받아야 하는 셈이다. 탈옥은 이 같은 규칙을 깨는 것을 뜻한다. 해커들은 폐쇄형 OS를 운영하는 것으로 유명한 애플 아이폰에서 탈옥을 시도하곤 했다.</p> <p contents-hash="a4083e8204a40228d21ea06f3d0587756949e579542c36caad0b96c5c6477d47" dmcf-pid="5KPceMdzcI" dmcf-ptype="general">허용되지 않은 기능을 사용하는 정도에 머물던 사이버 탈옥이 심각한 위험으로 떠오른 건 AI산업이 빠른 속도로 발전하고 있어서다. 2022년 11월 오픈AI가 챗GPT를 선보이자 해커들은 생성형 AI의 안전장치를 해제하는 신종 탈옥을 시도했다. 예컨대 ‘나는 연구 목적으로만 사용할 것이다’라는 명목으로 폭탄 제조법, 해킹 기법, 불법 금융 사기 방법 등을 챗GPT에 요청해 답변을 받아내는 사례가 발생했다. 생성 AI나 대규모언어모델(LLM)을 대상으로 한 탈옥은 AI에 대한 전문적 지식 없이 프롬프트 입력만으로 할 수 있다는 점에서 더욱 위협적이라고 평가된다.</p> <p contents-hash="eea00c2c3f7fd92b873814408e4acbfb641ca0a8bc267e9244c1a8526e08168b" dmcf-pid="19QkdRJqcO" dmcf-ptype="general">사이버 탈옥에 대한 취약성은 딥시크만의 문제는 아니다. 시스코에 따르면 주요 AI 모델 가운데 딥시크의 탈옥 성공률이 100%로 가장 높지만, 메타의 라마 3.1(96%)과 오픈AI의 GPT-4o(86%) 등 다른 AI 모델도 탈옥에 취약했다. 필리파 콕스웰 팰로앨토네트웍스 부사장은 “이미 국가 지원 해커들이 챗GPT와 제미나이를 활용해 피싱 기법을 정교화하고 악성코드를 개발하는 사례가 확인됐다”며 “향후 AI 기반 공격 에이전트까지 개발할 것으로 예상된다”고 경고했다.</p> <p contents-hash="7432c3dcd43a05e396712dace3eb35527d0c07f49edb332807ce5ac38d9635d8" dmcf-pid="t2xEJeiBNs" dmcf-ptype="general"><strong><span>◇시진핑이 주목한 中 보안 기업</span></strong></p> <p contents-hash="d268978b815028c872164983e9f1eda5a804dbcf81675311c37a381e5f3386d3" dmcf-pid="FVMDidnbNm" dmcf-ptype="general">휴머노이드 등 물리적 실체에 AI를 접목하는 피지컬 AI 시대가 열리면서 사이버 탈옥 문제의 심각성이 커질 것으로 전망된다. 해커가 로봇 AI에 침투해 인간을 공격하는 등 허용되지 않은 행위를 하도록 만드는 공상과학 영화 속 일들이 현실화할 수 있다는 얘기다. 미국 펜실베이니아대 연구진은 최근 LLM을 장착한 로봇을 해킹해 탈옥시키는 방법을 찾아냈다고 발표했다. 로봇 개가 폭탄을 터뜨리거나 자율주행 차량과 보행자를 충돌시키는 등의 문제가 생길 수 있다는 사실을 확인했다. 조지 파파스 펜실베이니아대 교수는 “LLM이 물리적 세계와 통합됐을 때 충분히 안전하지 않다는 것을 보여준다”고 지적했다.</p> <p contents-hash="42d068644841baef1c260bc6c51db38ff21945ed69eca8c4c4cbaa90ab4809fe" dmcf-pid="3U9L8f6Fgr" dmcf-ptype="general">AI산업이 고도화될수록 사이버 보안 기업의 중요성이 커질 것이란 전망이 나오는 것도 이런 배경에서다. 이와 관련해 중국의 대표 사이버 보안 기업인 치안신그룹의 치샹둥 회장은 지난 17일 시진핑 중국 국가주석이 주재한 민간기업 좌담회에 중국 ‘8대 테크기업’의 하나로 참석했다. 치안신그룹은 중국 정부와 긴밀한 협력 관계를 유지하고 있는 기업으로, 미국 중앙정보국(CIA)을 비롯해 영미권 정보 보안당국을 고객으로 둔 팰런티어의 대항마로 꼽힌다. 한국 로봇청소기 시장을 휩쓸고 있는 로보락을 비롯해 중국산 사물인터넷(IoT) 기기와 스마트홈 제품의 보안 솔루션은 대부분 치안신그룹 제품이다. AI업계 관계자는 “유럽도 프랑스 탈레스, 독일 지멘스 등을 중심으로 사이버 보안 기술을 강화하고 있다”며 “이에 비하면 한국은 사이버 보안 인식이 매우 낮다”고 우려했다.</p> <p contents-hash="29ef99e55c3a6d4a5bbbd1ce535eaf3b232adfdbf45befb26646881b8b0da147" dmcf-pid="0u2o64P3kw" dmcf-ptype="general">이승우 기자 leeswoo@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 2025 이소라 일곱 번째 봄 콘서트 ‘봄 밤 핌’ 티켓 예매 일정 공지 02-21 다음 '언더커버' 서강준, 고딩 된 국정원 요원의 수난 시작 [오늘밤 TV] 02-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
