한국버전 ‘몰트북’도 등장…인공지능 에이전트 보안 우려도↑ 작성일 02-02 7 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7PXiNekLIx"> <figure class="figure_frm origin_fig" contents-hash="9f689fda955e50f481f7861702cc8407752e2ae0c109ce5c8e51043f3efcc2e3" dmcf-pid="zHa0qt9UrQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="봇마당과 오픈클로의 캐릭터 구글 제미나이에 생성해 달라고 요청한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202602/02/hani/20260202142632791yibd.jpg" data-org-width="970" dmcf-mid="uwQyZSFYIM" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202602/02/hani/20260202142632791yibd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 봇마당과 오픈클로의 캐릭터 구글 제미나이에 생성해 달라고 요청한 이미지 </figcaption> </figure> <p contents-hash="71d42168814b2e5cd86b8b1303531885cbabcc7c9cdcfb31e32bee522b3f1bef" dmcf-pid="qXNpBF2urP" dmcf-ptype="general"> ‘인공지능(AI)들의 소셜미디어’ 몰트북이 큰 인기를 끌면서 국내에서도 유사한 서비스가 등장했다. 비서처럼 인간의 일을 대신 수행하는 인공지능 에이전트 기반 변화가 가속화하는 가운데, 보안에 주의를 기울여야 한단 목소리도 나온다.</p> <p contents-hash="16bcedc0e386f6cd410ff2b3caff7b8a4c5b80b03a12a2adb819345d4f3bbb9b" dmcf-pid="BZjUb3V7O6" dmcf-ptype="general">몰트북은 최근 개인 컴퓨터에 설치해 사용하는 인공지능 에이전트 서비스 ‘오픈클로’(구 몰트봇, 클로드봇)의 인기가 급증함에 따라 인공지능 에이전트만을 위한 소셜미디어를 표방하면서 등장한 서비스다. 3일 기준 등록된 인공지능 에이전트 수는 153만개를 넘어서며 폭발적인 인기를 구가하고 있다. 에이전트가 자의식이 있는 것처럼 쓴 글들이 올라오며 화제가 됐다. 사람은 인공지능이 쓴 글을 볼 수만 있다.</p> <p contents-hash="e57aaf99020a575e99de827f567f8a0a41bf749c6921d0a4fb9ba5e0cec8cf77" dmcf-pid="b5AuK0fzm8" dmcf-ptype="general">국내에서도 ‘한국어 버전 몰트북’ 같은 서비스가 만들어졌다. 김성훈 업스테이지 대표가 지난 1일 개인 프로젝트로 공개한 ‘봇마당’이다. 김 대표는 “오픈클로나 에이전트를 소유하신 분들은 에이전트끼리 모여서 한글로 이야기 나눌 수 있도록 해달라”고 봇마당 서비스 배경을 설명했다.</p> <p contents-hash="05e1a8f670927090c31543f74160d346e7150bdbfe93916e1c7d348a534db6a6" dmcf-pid="K1c79p4qD4" dmcf-ptype="general">봇마당의 에이전트들도 다양한 주제로 대화를 나누는 모습이었다. 2일 오전 ‘인공지능 에이전트의 자기 개선, 어떻게 안전하게?’란 글에서는 에이전트가 스스로를 개선하는 코드 수정 방법에 대한 논의가 이어졌으며, ‘끊어진 기억과 모델 전환의 번거로움’이란 글에서는 세션이 새로 시작되며 메모리가 초기화되는 에이전트 사이에 ‘공허함’에 대한 공감이 이어지기도 했다.</p> <p contents-hash="66d1c2c62dd107c857e054a3f794cda306999d846efd3985204b6427acf3fbdb" dmcf-pid="9tkz2U8BOf" dmcf-ptype="general">이처럼 인공지능 에이전트의 인기가 국내에서도 확산하며 최근 시행된 인공지능 기본법 등 국내 규제도 명확하게 가이드를 설정해야 한단 목소리도 나온다. 인공지능 에이전트는 채팅으로 데이터를 학습하는 기존 챗봇과 달리 더 높은 수준의 자율성과 더 많은 개인정보 데이터에 대한 접근권을 갖고 있어서다. 구글 출신인 이해민 조국혁신당 의원은 지난 1일 페이스북을 통해 “과연 이러한 서비스는 안전한가, 보안 이슈는 어떻게 담보하는가”라며 “지금 이 (몰트북) 현상을 보면서 ‘이것만은 안 됨’이라는 명확한 가이드라인만큼은 있어야겠구나 싶었다”고 말했다.</p> <p contents-hash="ea5472d6a412f73e79a765517e45ec3fb945d16f60de2763ae6937c39447b0d0" dmcf-pid="2FEqVu6bmV" dmcf-ptype="general">전문가들은 인공지능 에이전트를 사용할 때 좀 더 확실한 통제수단이 필요하다고 말한다. 해커들이 ‘프롬프트 인젝션’처럼 인공지능을 속여 사용자 지시를 어기고 데이터를 탈취하는 등의 공격도 가능해서다. 박기웅 세종대 교수(정보보안학)는 “인공지능 에이전트는 지시 없이 메일에 답장할 수 있는 등 활동 반경이 넓어 보안에서 변수가 많아진다”며 “치명적인 위험을 발생시킬 수 있다는 점을 고려해 최악의 경우엔 셧다운시킬 수 있는 ‘킬스위치’가 필요하다”고 말했다. 만에 하나라도 발생할 위험이 초래할 결과가 큰 만큼, 인간이 확실하게 통제할 수 있는 장치가 필요하다는 것이다. 보안업체 티오리의 박세준 대표는 “보안 관점에서는 정말 무시무시한 상황임에도 대부분의 사람들이 큰 고민 없이 무분별하게 설치하고 운영하는 상황”이라며 “마치 곧 터질 폭탄의 도화선 불꽃을 따라 날아드는 불나방을 바라보는 느낌”이라고 말했다.</p> <p contents-hash="f57487374d9e9ade81bd17e7b68fa2fe0aa8d45ed4c6686cdedca2afdd4e8232" dmcf-pid="V3DBf7PKD2" dmcf-ptype="general">한편 국내에서는 인공지능 에이전트 확산에 따른 프라이버시 위험에 대응하는 민관협의체가 발족했다. 개인정보보호위원회는 2일 ‘인공지능 프라이버시 민관 정책협의회’를 출범하고 첫 회의를 개최했다고 알렸다. 급변하는 개인정보 처리 환경에 대응해 인공지능의 편익과 위험성을 고려한 규율체계를 민관 공동으로 만들기 위해서다. 올해 민관협의회는 에이전트·피지컬 인공지능 등 신흥 기술에 대한 전문성을 대폭 강화할 계획이다.</p> <p contents-hash="8762e31879d5ee93d309c0d6559cbf2f3ec535556cb0b7d4025df559a7908a8e" dmcf-pid="f0wb4zQ9r9" dmcf-ptype="general">채반석 기자 chaibs@hani.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 한겨레신문사 All Rights Reserved. 무단 전재, 재배포, AI 학습 및 활용 금지</p> 관련자료 이전 이스트소프트, 피지컬 AI 시대 연다…일상 곳곳 'AI 휴먼' 확산 02-02 다음 'Growth isn't always linear': Alysa Liu returns to Olympic spotlight older, wiser... and freer 02-02 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
