[이슈진단+] 오픈소스 AI 잇달아 등장···보안은? 작성일 03-18 113 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">"AI, 정보 모을수록 두 얼굴…LLM방화벽·필터 등으로 점검을"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5VpzZ4BWoS"> <p contents-hash="6a46f61bbeab28529f9c4cec891f75df673eb1021cb0c79a2a44aad47bfb9b8d" dmcf-pid="1fUq58bYkl" dmcf-ptype="general">(지디넷코리아=유혜진 기자)중국 인공지능(AI) 스타트업이 만든 고성능 AI 제품 ‘딥시크(DeepSeek)’가 미국 오픈AI의 ‘챗GPT’보다 저렴한 비용으로 개발됐다는 소식이 세상을 놀라게 했다. 특히 딥시크는 오픈소스로 공개, 더 화제를 모았다. 오픈소스 소프트웨어는 소스 코드를 공개해 누구나 그 코드를 보고 쓸 수 있는 소프트웨어를 뜻한다.</p> <p contents-hash="e7773e99db7ec457f43570e6ea749d7bf15c7c9a22c01f301cad0504e9f1e394" dmcf-pid="t4uB16KGgh" dmcf-ptype="general">하지만 딥시크는 정보가 빠져나갈 수 있다는 우려도 함께 제공했다. 미국은 <span>해군이 발빠르게 딥시크를 못 쓰게 막았고, 한국도 국방부·외교부·산업통상자원부·과학기술정보통신부 등과 KB국민은행·하나은행·우리은행·케이뱅크 등 은행, 현대자동차그룹 등 기업이 금지했다. 개인정보위원회는 딥시크 사용을 공식적으로 금지하기도 했다.</span></p> <p contents-hash="337dc3707275916c37f594f055c060df944dc521800fe0e2526f6b40e369ea15" dmcf-pid="F87btP9HgC" dmcf-ptype="general">국가정보원은 딥시크를 검증했더니 ▲과도하게 개인정보를 수집하고 ▲입력 정보를 학습 정보로 쓰며 ▲광고주와 정보를 공유하는 한편 ▲국외 서버에 저장하는 문제점을 확인했다고 밝힌 바 있다. 딥시크의 보안 우려는 오픈소스를 사용했기 때문이기도 하다. 오픈소스를 사용한 AI는 보안에 안전할까? 전문가들은 “딥시크 같은 게 어떤 질문을 받으면 이상하게 답하는지 살펴야 한다”고 조언한다.</p> <figure class="figure_frm origin_fig" contents-hash="d50177759a33dd7a53d1742cbd8052d7ee8b5adf39a54cc607d1c7886315527e" dmcf-pid="36zKFQ2XaI" dmcf-ptype="figure"> <p class="link_figure"><img alt="어떤 언어로 김치에 대해 물어봤느냐에 따라 '딥시크'가 달리 답했다.(사진=국가정보원)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/18/ZDNetKorea/20250318162252251ndzp.png" data-org-width="625" dmcf-mid="fT9Zhu1mNp" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/18/ZDNetKorea/20250318162252251ndzp.png" width="658"></p> <figcaption class="txt_caption default_figure"> 어떤 언어로 김치에 대해 물어봤느냐에 따라 '딥시크'가 달리 답했다.(사진=국가정보원) </figcaption> </figure> <p contents-hash="7860515b67ae9c426452aa3b5d5eb1a1f846a7adaf20a3556a1b15cf18b23fb3" dmcf-pid="0Pq93xVZNO" dmcf-ptype="general"><strong>줄잇는 오픈소스 AI...LG·딥시크·메타·미스트랄 등 잇달아 선보여</strong></p> <p contents-hash="0c0807bb0995308b3ec4a1107de24e7934d2728ee96b41098ccc44757e780ea0" dmcf-pid="pQB20Mf5os" dmcf-ptype="general">오픈소스는 모두에게 열린 자원이므로 이를 활용하면 비교적 저렴한 비용으로 AI 모델을 개발할 수 있다. 중국 딥시크와 미국 메타(페이스북 모회사), 프랑스 미스트랄 등 오픈AI보다 늦게 뛰어든 기업들이 줄줄이 무기를 들고 나올 수 있는 배경이다.</p> <p contents-hash="3b3f49e5901099601390c836c737caaf1cf9aab55edb603eac860ef58378ba49" dmcf-pid="UQB20Mf5om" dmcf-ptype="general"><span>한국도 빠지지 않았다. LG AI연구원은 18일(현지시간) 미국 캘리포니아주 새너제이에서 열린 엔비디아 개발자 콘퍼런스(GTC)에서 ‘엑사원 딥’을 선보이며 오픈소스 플랫폼에 배포했다. </span><span>엑사원 딥은 단순한 지식 기반이 아니라 스스로 가설을 세우고 이를 검증하는 방식으로 문제를 푼다.</span></p> <p contents-hash="24c8a174e85a2f7ba4fde195867c1921b80a1242ae34dd63118b15ff0c62fa30" dmcf-pid="uxbVpR41ar" dmcf-ptype="general">미국 AI 스타트업 글리터컴퍼니는 최근 메타 ‘라마’ 오픈소스를 쓰기 시작했다. 라마가 무료인 덕에 오픈AI 모델만 쓸 때보다 모델 사용료를 70% 아낀 것으로 알려졌다.</p> <p contents-hash="b748b844ea590286ca9d5290f13b0fdca38c5a788a382ac4cd2b83a0359211e5" dmcf-pid="7MKfUe8tcw" dmcf-ptype="general">다만 악성 AI ‘웜GPT(WormGPT)’ 같은 것까지 만들 수 있다는 단점이 치명적이다. 웜GPT는 오픈소스로 만들어진 해킹 도구다. 챗봇에게 “이 사이트를 공격하자”거나 “악성 파일을 만들자”고 시킬 수 있다. 기자도 일전에 '보안 초짜기자 해킹 체험기'를 쓰려고 인터넷에서 쉽게 내려받을 수 있었다. 이처럼 누구나 손댈 수 있는 위험물이다.</p> <figure class="figure_frm origin_fig" contents-hash="c8d0480a243d17e6046d54075a83470f9449da4a0698db22e34c939e6e4a2056" dmcf-pid="zR94ud6FgD" dmcf-ptype="figure"> <p class="link_figure"><img alt="(그림=이미지투데이)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/18/ZDNetKorea/20250318162253768jlpl.jpg" data-org-width="640" dmcf-mid="4T1ONWCno0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/18/ZDNetKorea/20250318162253768jlpl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> (그림=이미지투데이) </figcaption> </figure> <p contents-hash="5112824163ff733447678de8738f6c3822b152d887725db2adf49e1395609ad2" dmcf-pid="qe287JP3cE" dmcf-ptype="general"><strong>전문가들 "AI, 정보 모을수록 두 얼굴...보안 취약점이 발견되면 누군가 해킹 도구 만들어 뿌려"</strong></p> <p contents-hash="b4f07072f293402714b4bb57dcfe9a6ea6eae8e1faf2c47664080cd6f55addef" dmcf-pid="BdV6ziQ0Nk" dmcf-ptype="general">전문가들은 AI가 정보를 모으는 게 양날의 칼이라고 짚었다.</p> <p contents-hash="0f0709a29c7c724b3eb9ad8e0329b31ab7021b24f4368466165f6c5e9f9caff9" dmcf-pid="bJfPqnxpac" dmcf-ptype="general"><strong>세종사이버대 정보보호학과 교수인 박영호 한국정보보호학회장</strong>은 “AI는 정보를 먹을수록 커진다”며 “그만큼 개인정보가 빠져나가는 게 문제”라고 말했다. 내가 유튜브로 언제, 어디서, 무슨 영상을 보는지가 전부 정보라는 얘기다. 알고리즘으로 사용자의 취미나 정치 성향도 알 수 있다.</p> <p contents-hash="420d541276d73e9acf26bae05b8f2628cde0bba81bec4336985bddd226cc00d0" dmcf-pid="Ki4QBLMUjA" dmcf-ptype="general"><strong>순천향대 정보보호학과 명예교수인 염흥열 한국개인정보보호책임자(CPO)협의회장</strong>은 “오픈소스 취약성을 이용해 AI 보안 시스템을 공격하면 AI가 의도된 대로 동작하지 않고 탈옥 등의 방법으로 악성코드나 대규모 살상 무기 등을 만드는 데 악용될 수 있다”며 “AI가 처리하는 개인정보를 빼돌리도록 쓰일 수도 있다”고 분석했다.</p> <p contents-hash="1bf6a372c4905d764cb00788734e5914f79ab37612a82e0adb9138387b097cd5" dmcf-pid="9n8xboRuAj" dmcf-ptype="general"><strong>윤두식 이로운앤컴퍼니 대표</strong>도 “딥시크 같은 게 어떤 질문을 받으면 이상하게 답하는지 살펴야 한다”며 “학습된 개인정보를 추출하거나 편향적인 답변을 유도하고 악성코드나 무기 제조법 등을 만들라고 이끌어 AI가 나쁘게 답변하는지 점검할 수 있다”고 설명했다. 그러면서 “딥시크 사이트 사용자의 개인정보와 그가 입력한 기록 등이 다른 사이트에 퍼지면 개인정보가 유출되는 셈”이라고 덧붙였다. 이로운앤컴퍼니는 AI 보안 수준을 높이는 서비스를 제공하는 회사다.</p> <p contents-hash="b43a10500b7943bdc0b755534935edfe00d8a00a7fbaa872dca5f7d2255c1ccc" dmcf-pid="2L6MKge7NN" dmcf-ptype="general"><strong>이희찬 스틸리언 연구소장</strong>은 “오픈소스 AI 행위를 예측하기 어려워 취약점을 검증하기도 힘들다”며 “소스 코드가 공개됐더라도 AI 모델이 복잡하다”고 진단했다. 스틸리언은 모바일 앱 보안 솔루션을 공급하는 업체다.</p> <p contents-hash="7b7d31f66f23d8447ecb36bbccfdd279c15dfbcbd486d94e2867634c0340c176" dmcf-pid="VoPR9adzja" dmcf-ptype="general"><strong>김택완 한국오픈소스협회장</strong>은 “애플이 운영체제 ‘iOS’ 보안이 취약하다고 알아채면 개선해 알려준다”며 “오픈소스 모델은 누가 공지하지 않아 사용자가 스스로 ‘새로고침’ 않으면 취약한 옛 모델을 계속 쓸 수밖에 없다”고 지적했다. 또 “보안 취약점이 발견되면 누군가 해킹 도구를 만들어 뿌린다”며 “해커가 이 도구로 10군데 시도하다가 1군데라도 뚫리면 해킹된다”고 지적했다.</p> <figure class="figure_frm origin_fig" contents-hash="35a96ba16d71ce263090a7456552d368047d2772d0e1d575ca0b3eb5df4af2cb" dmcf-pid="fgQe2NJqag" dmcf-ptype="figure"> <p class="link_figure"><img alt="검은 화면에 빨간 글씨가 주르륵 늘어졌다.(자료: 웜GPT)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/18/ZDNetKorea/20250318162255139sslh.jpg" data-org-width="640" dmcf-mid="8Wai4cLKk3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/18/ZDNetKorea/20250318162255139sslh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 검은 화면에 빨간 글씨가 주르륵 늘어졌다.(자료: 웜GPT) </figcaption> </figure> <p contents-hash="04263c46da5c0375eec21d0ae358c930667387a535d1fa66c24f879d46c9bfa5" dmcf-pid="4axdVjiBAo" dmcf-ptype="general"><strong>"LLM방화벽·필터 등으로 점검"</strong></p> <p contents-hash="5eeb06ac9d822193aed743513dc391dfe75b57b10b5e0027ea5ce6c38d71cbb3" dmcf-pid="8NMJfAnbAL" dmcf-ptype="general">전문가들은 ‘내가 무슨 AI 도구의 어떤 버전을 쓰는지’ 스스로 지켜보다가 새로운 버전을 찾으면 고쳐 써야 한다고 입을 모았다. AI를 안전하게 쓸 수 있는 인터넷 환경도 주문했다.</p> <p contents-hash="911389078334cd1bc4c92aff2740cbad347ca3ea4dccdf9db9d17c271f3f8440" dmcf-pid="6ZhTw1WAon" dmcf-ptype="general">김택완 오픈소스협회장은 “우리는 수많은 소프트웨어를 쓰고 버전도 쏟아지는 만큼 업데이트 우선순위를 정하는 게 좋다”며 “내가 쓰는 소프트웨어가 내게 얼마나 중요한지, 얼마나 자주 쓰는지, 내 시스템을 얼마나 망가뜨리는지 위험도를 생각해야 한다"고 권했다.</p> <p contents-hash="2900bbc7547c7d6ef6e0c7a50103c501a633735508d48f81a6983657bf42ae06" dmcf-pid="P5lyrtYcki" dmcf-ptype="general">이희찬 연구소장은 “오픈소스 AI를 외부에서 접속할 수 없는 내부망에서 활용하거나 AI 안전 수준을 높이는 기술(AI safety)을 적용해야 한다"고 조언했다.</p> <p contents-hash="ddd9125b886819c1a40d050190d22c5d0c5598ea9a75b149e557b3071701373f" dmcf-pid="Q1SWmFGkcJ" dmcf-ptype="general">염흥열 교수는 “인공지능 시스템을 개발하고 운영하는 조직은 AI 관리 체계를 갖춰야 한다”며 “무엇이 인공지능 시스템을 위협하는지 식별해 꾸준히 감시해야 한다”고 진단했다. 이어 “국제표준(ISO/IEC 42001)에 근거한 인공지능 관리 체계를 제3자 인증기관으로부터 인증받는 것도 방법”이라고 예를 들었다.</p> <p contents-hash="d8ca631b515c31d4f9eba0dfee5682b9ff31f9352fa1ddcf9b5a20594645bb45" dmcf-pid="xtvYs3HEcd" dmcf-ptype="general">윤두식 대표는 ▲사용자 요청과 응답으로 말미암아 민감한 정보를 가려내고 없애는 ‘거대언어모델(LLM) 방화벽’ ▲AI 모델에 전달되는 입력을 미리 점검해 금지된 정보를 막는 ‘프롬프트 필터링(Prompt Filtering)’ ▲모델이 학습할 때 개인정보가 포함되지 않게끔 ‘학습 정보 정제’ ▲생성된 응답을 실시간 살펴봐 부적절한 응답을 막는 ‘LLM 결과 필터링’을 해결책으로 꼽았다.</p> <p contents-hash="073db59e74a158a5f37a834eb9b7898ad0fea3e2177674b7c402f5c00c2bb4a3" dmcf-pid="yoPR9adzce" dmcf-ptype="general">박영호 교수는 “브레이크가 좋아야 자동차를 안전하고도 빠르게 몰 수 있듯 AI를 활발하게 쓰려면 윤리 의식과 제도가 뒷받침돼야 한다”며 “이미 모든 기기에 사물인터넷(IoT)을 쓰는 만큼 안전 수준도 높여야 한다”고 강조했다.</p> <p contents-hash="c37ddf959fc6484800ede3ea7f8e1e04be1f48e8358b8c520c81ed07e0688479" dmcf-pid="WgQe2NJqaR" dmcf-ptype="general">유혜진 기자(langchemist@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 "딥시크보다 작고 더 강하다"…LG, 엔비디아 GTC서 '엑사원 딥'으로 AI 시장 재편 03-18 다음 프로당구 남자는 강동궁 김영원 등 ‘춘추전국’…여자는 김가영의 ‘천하통일’ 03-18 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
