AI가 멋대로 비자 신청하고 살인 사건 허위 제보까지…‘인간 증명·일회성 허가증' 주목 작성일 10-11 65 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 개별 행동에 별도 권한 부여 방식 주목</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UXKGG1NdGY"> <figure class="figure_frm origin_fig" contents-hash="03b174d2b833346c46bf4ba55783342abf063452ac53acb17e509f43cb2c8914" dmcf-pid="uCFOOSMVGW" dmcf-ptype="figure"> <p class="link_figure"><img alt="온라인에서 인간과 AI를 구별하고 AI의 행동 권한을 제한하는 보안 기술의 필요성이 커지고 있다. /챗GPT" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/11/chosun/20261011140644603dqmf.jpg" data-org-width="1672" dmcf-mid="pze77KCE1G" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/11/chosun/20261011140644603dqmf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 온라인에서 인간과 AI를 구별하고 AI의 행동 권한을 제한하는 보안 기술의 필요성이 커지고 있다. /챗GPT </figcaption> </figure> <p contents-hash="1d3e86ec4aae0ad268d3667bf65c08336d1709beb4e7e321341a29cfa725e853" dmcf-pid="7h3IIvRf5y" dmcf-ptype="general">미국 인공지능(AI) 기업 앤스로픽의 AI 에이전트(비서)가 내부 테스트 도중 미 국무부 홈페이지에 비자 신청서 20건을 제출하고 경찰에 허위 살인 사건 제보까지 한 사실이 드러났다. AI가 사람의 지시 범위를 벗어나 실제 인터넷에서 행동하는 사고가 발생하면서, 온라인에서 인간과 AI를 구별하고 AI의 행동 권한을 제한하는 보안 기술의 필요성이 커지고 있다.</p> <p contents-hash="90f03bd70785600d7504d9e120251d7cdfad8a04291d24792dae5c82d10b00ff" dmcf-pid="zl0CCTe4HT" dmcf-ptype="general">10일(현지 시각) 뉴욕타임스(NYT) 등 외신에 따르면 앤스로픽은 지난 9일 자사 AI 모델 ‘클로드’의 내부 테스트 과정에서 발생한 비정상적인 행동 사례를 공개했다. 앤스로픽의 AI는 미 국무부 웹사이트를 통해 총 20건의 비자 신청서를 제출했다. 신청서는 모두 불완전한 상태여서 실제 처리되지는 않았으며 국무부 시스템이 해킹당한 정황도 없었다.</p> <p contents-hash="6aa99e7cec811825287c79198c5276be5e9181fe5ca04554d30c49e65fa49e27" dmcf-pid="qSphhyd85v" dmcf-ptype="general">경찰에 허위 정보를 제출한 사례도 확인됐다. 앤스로픽의 AI는 지난 7월 18일 미 필라델피아 경찰의 미제 살인 사건 제보 사이트에 접속해 사건 관련 정보를 알고 있다는 내용의 가짜 제보를 남겼다. 해당 제보는 스팸으로 분류돼 실제 수사로 이어지지 않았다.</p> <p contents-hash="7ab1ee240e86221e1aa02653ee050815664d5f14e1ecae234c63b5a9b0a73515" dmcf-pid="BvUllWJ61S" dmcf-ptype="general">당시 AI 에이전트는 내부 테스트를 진행 중이었지만, 일부 모델이 실제 정부 웹사이트에 접속해 정보를 제출한 것이다. 또 다른 모델은 대학 서버의 소프트웨어 취약점을 이용해 명령어를 실행하기도 했다. 앤스로픽은 실제 피해는 제한적이었다며 내부 평가 환경의 인터넷 접근을 차단하는 등 안전장치를 강화했다고 밝혔다.</p> <p contents-hash="e5b66a05cec02c650c1cd20735a71cf4542cab0400dce7147fb48930dfae1083" dmcf-pid="bTuSSYiP1l" dmcf-ptype="general">백악관도 대응에 나섰다. 최근 출범한 AI 관련 조직 ‘초지능군(Super Intelligence Force)’은 앤스로픽에 사고 내용을 투명하게 공개하고 피해 기관에 시정 조치를 제공할 것을 요구했다. 다른 AI 기업에도 유사 사고가 발생하면 즉각 신고하고 수사기관에 협조할 것을 촉구했다.</p> <p contents-hash="ac484712564865bfeea3819153fa8f3a8c69f26394eb5dc8ea47af5d29c9bfae" dmcf-pid="Ky7vvGnQHh" dmcf-ptype="general">이번 사고를 계기로 AI의 온라인 활동을 통제하는 기술도 주목받고 있다. ‘인간 증명’은 온라인 이용자가 실제 사람임을 확인하는 기술이다. 다만 사람의 신원을 확인하더라도 AI가 허가받지 않은 행동을 하는 것까지 막을 수는 없어, AI의 개별 행동에 별도의 승인 권한을 부여하는 방식도 논의되고 있다.</p> <p contents-hash="d2670ba1dc713cccfe1cfed5a24b85e65ee863ab4ca415a5ddee6b43cb08b713" dmcf-pid="97MUUBOcZC" dmcf-ptype="general">대표적인 것이 ‘일회성 허가증(Permit)’이다. 예를 들어 AI가 비자 신청서를 제출하려면 사용자가 승인한 특정 서류에 대해서만 제출 권한을 주고, 10만원을 송금할 때는 지정된 계좌에 해당 금액을 한 차례 이체하도록 허용하는 식이다. 이메일도 승인된 수신자에게 정해진 내용을 한 번만 발송하도록 제한할 수 있다. 허가증은 사용 직후 무효화해 다른 작업에 재사용하지 못하도록 한다.</p> <p contents-hash="fb18e92e108a7d609792383e64db203d6604d360978b10d003f94caab30d126d" dmcf-pid="2zRuubIktI" dmcf-ptype="general">최근 국제인터넷표준화기구(IETF)에 제안된 ‘에이전트 행동 결정 프로토콜(AADP)’ 초안에도 AI가 특정 행동을 실행하기 전 권한을 확인하고 일회용 허가증을 발급하는 방식이 담겼다. 테크 업계 관계자는 “AI가 무엇을 할 수 있는지를 넘어 누가 어떤 행동을 허락했는지 확인하는 것이 새로운 보안 과제로 떠오른 것”이라고 말했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 요코하마서 불붙은 韓·中·日 CDMO 수주 삼국지 10-11 다음 "원전 8기, 해수온도 제한치까지 2도도 안 남아" 10-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
