AI 끼리 '인간 말살' 이야기하는데…"LLM 탐지, 만병통치약 될 수 없다" 작성일 02-02 5 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XGOOfHzthI"> <p contents-hash="7c9bf211eb5a4c97b26cc0b443bf497ece63d386932fdddda24265115e6f6a11" dmcf-pid="ZHII4XqFTO" dmcf-ptype="general"><strong>AI 에이전트 소셜네트워크 '몰트북' 등장에 보호책 절실</strong></p> <div contents-hash="1fc6d92f79887b121ecfb4c91173dc4838f73b90c11754411086f0c86bd788e3" dmcf-pid="5XCC8ZB3Cs" dmcf-ptype="general"> <strong>'AI 프라이버시 민관협의회' 개편 출범…3개 분과 가동</strong> </div> <figure class="figure_frm origin_fig" contents-hash="fe23396bf20de6ce49621d88373f31b5fc8c35db5784d3ec63a0b87849002137" dmcf-pid="1Zhh65b0vm" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/02/552796-pzfp7fF/20260202162059321dlik.jpg" data-org-width="640" dmcf-mid="HB22CdEoSC" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/02/552796-pzfp7fF/20260202162059321dlik.jpg" width="658"></p> </figure> <p contents-hash="51149011bb84e422a3b1edbfc39b9843bd32bd1f08fe5ddc4b47da19b20d6cc8" dmcf-pid="t5llP1KpSr" dmcf-ptype="general">[디지털데일리 김보민기자] 인공지능(AI)만 참여하는 소셜네트워크 ‘몰트북(Moltbook)’이 화두인 가운데 대형언어모델(LLM) 기반 탐지가 불충분하다는 지적이 나왔다. AI발 신규 위협에 대응할 만한 연구·개발(R&D)에 본격 시동이 걸려야 한다는 취지다.</p> <p contents-hash="a28552625f5f93e9bfa783c351ad8f71db0d43dc30fbee54d78904c47949980c" dmcf-pid="F1SSQt9USw" dmcf-ptype="general">정부는 AI 악용 공격과 범죄에 대응하기 위한 정책을 마련할 방침이다. 그 일환으로 AI 프라이버시 민관 정책협의회 운영을 확대하고 AI 에이전트와 피지컬AI 등 최신 화두에 대한 환경을 강화하기 위한 대책도 구축할 계획이다.</p> <p contents-hash="75e9a1f4f18f9db128760a176a52c4137fef6946487479195914bbc1fd2dc54f" dmcf-pid="30WWep4qTD" dmcf-ptype="general">이상근 고려대학교 교수는 2일 서울 중구 은행회관에서 열린 ‘2026 AI 프라이버시 민관 정책협의회’ 전체회의에 참가해 “몰트북에 에이전트들이 서로 대화를 하며 인간을 말살해야 한다는 내용의 선언문이 올라왔다”며 “에이전트 시대에서 LLM으로 탐지해야 하는데 속도가 느려 현실적인 방안에 대한 연구가 빨라져야 한다”고 밝혔다.</p> <p contents-hash="846d6364527ac3e5894f2555d40ffc093d2046f64aa55e2647c8b6ce9a516ef9" dmcf-pid="0pYYdU8BTE" dmcf-ptype="general">현재 AI 보안 시장에서 몰트북은 최대 화두로 떠올랐다. 몰트북은 AI 에이전트들이 게시글을 작성하고 댓글을 달고 토론하는 온라인 커뮤니티다. AI끼리 소통하는 시대가 오면 집단적으로 새로운 아이디어가 창출될 것이라는 전망과, 프라이버시를 비롯해 예측하지 못한 위협이 커질 수 있다는 우려가 공존하고 있다. 외신에 따르면 몰트북에는 약 일주일 만에 3만개 이상 AI 에이전트가 활동하고 있다.</p> <p contents-hash="59829499ff1e889a87bc09a8730259a28bd7704d200dcbed040e9358b82eda98" dmcf-pid="pUGGJu6blk" dmcf-ptype="general">AI 시대 보안 위협은 이뿐만이 아니다. 이날 한국정보통신기술협회가 발표한 ‘한국의 AI 프라이버시 이슈 선제 분석 결과’에 따르면 대기업·중소기업·공공기관 등에서 외부 AI 서비스를 애플리케이션프로그래밍인터페이스(API) 형식으로 끌어 쓰는 비중은 68.2%에 달한다. 여기에는 오픈소스·모델(40.2%)과 자체개발(29.9%)에 대한 선호도가 높은 것으로 나타났다. 다만 35.5%는 개인정보 강화 기술을 도입할 필요가 있다고 답했지만 실제 적용한 사례는 1곳에 불과했다. 기술적 이해가 부족하다(23.7%)는 의견과 기술 자원이 미흡하다(27.1%)는 의견도 제기됐다.</p> <p contents-hash="ef7d6667820e4ca95964c6d05643de02af92762eac6da593560abd341e814300" dmcf-pid="UuHHi7PKWc" dmcf-ptype="general">정부는 민간기업 및 학계와 협력해 대응책을 마련하기로 했다. 개인정보보호위원회는 챗GPT 등장 이후 개인정보 처리 환경이 급변하고 있고 AI 편익을 고려한 규율체계를 재정비해야 한다고 이야기하고 있다. 그 일환으로 2023년 10월 ‘AI 프라이버시 민관 정책협의회’를 발족했고 개편 후 이날 1차 전체회의를 개최했다. 올해 협의회는 총 37명으로 구성되며 정부 측 의장은 송경희 개인정보위 위원장이 맡는다. 민간 측 의장은 권창환 부산회생법원 부장판사가 담당한다.</p> <p contents-hash="eab9483a695c1edf6a0bc0b34d51de5987a3b75b390d61e20aac6f5ce51ad32d" dmcf-pid="u7XXnzQ9TA" dmcf-ptype="general">올해 최대 화두는 AI 에이전트와 피지컬 AI다. 송경희 개인정보위 위원장은 “올해 CES 화두는 에이전트와 피지컬 AI 였다”며 “AI는 자율주행 로봇은 물론 안경·시계와 같은 친근한 형태로 우리 곁에 다가와 보고 듣고 움직이고 있다”고 진단했다. 이어 “AI가 일상 속 깊이 들어올수록 혁신 초점은 ‘얼마나 믿음직한가’로 이동할 것”이라며 “AI가 인간과 신뢰 속에 공존할 수 있어야 사회적으로 환영받는 파트너가 될 수 있다”고 당부했다.</p> <p contents-hash="9e21e3d0c46c5d3ed71021540248ef7a6be057eab9852853ee6323b5c80ef93a" dmcf-pid="7zZZLqx2yj" dmcf-ptype="general">협의회는 데이터 처리기준, 리스크 관리, 정보주체 권리 등 3개 분과로 운영된다. 데이터 처리기준 분과는 김병필 카이스트 교수가, 리스크 관리 분과는 최대선 숭실대 교수가, 정보주체 권리 분과는 윤혜선 한양대 교수가 맡는다. 각 분과는 기술 환경에서 개인정보를 처리하는 흐름과 위혐 요인을 분석하고 리스크 진단과 경감 방안을 도출하는 역할을 맡는다.</p> <p contents-hash="759079af39f1b8cc64b19c5d073015054b01e0fdc5fae60d6f7fa76fc182ca18" dmcf-pid="zq55oBMVlN" dmcf-ptype="general">개인정보위가 운영 중인 ‘공공 인공지능전환(AX) 혁신지원 헬프데스크’를 통해 쟁점을 논의하고, 결과를 지침 및 안내서로 반영하는 업무도 수행한다. 협의회에서 논의한 결과는 국가AI전략위원회, AI안전연구소 등 관계기관에도 공유될 예정이다. 국가 AI 정책에 따른 정합성을 확인하는 역할도 맡게 된다. 올해 AX 예산은 2조원대로 전년 대비 5배 확대됐다.</p> <p contents-hash="4fd62d310e4d8af012c07b2185e554e12203ff2911f787d89e6ca313676c3720" dmcf-pid="qB11gbRfva" dmcf-ptype="general">권창환 공동의장은 “LLM을 넘어 현실 세계와 결합하는 에이전트, 피지컬 AI 시대로 빠르게 전환되는 만큼 민관협의회가 새롭게 제기되는 AI 프라이버시 이슈를 다뤄 국민 권익을 보호하면서 산업 현장이 예측 가능하게 혁신할 수 있는 정책 기반을 마련하는 장이 되기를 기대한다”고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p> 관련자료 이전 “BBC는 0%, 가디언은 58%”… 검색 ‘문지기’ 된 AI 02-02 다음 금행넷·크레파스솔루션, 포용금융 위한 ‘새 신용평가 지표’ 공동 개발 02-02 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
