AI ‘일탈’ 초비상…멋대로 비자 신청하고 살인사건 허위제보까지 작성일 10-12 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">앤스로픽 AI 모델, 美서 웹사이트 접속해 허위제보…비자 신청까지 돌발 행동<br>AI 행동 실시간 감시 통제 체계 시급 지적<br>금융권 해킹 수단 지목된 중국산 ‘아르텍스’, 결국 공개 중단</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zAExZ0kLG2"> <figure class="figure_frm origin_fig" contents-hash="d82692afb3d87a92294e154b7c4ad66a8c1e282c2ef8188f7b993a1c32fe442f" dmcf-pid="qcDM5pEoG9" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤스로픽 [로이터]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/ned/20261012093215549uezu.jpg" data-org-width="1280" dmcf-mid="Yv8Fks4qHn" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/ned/20261012093215549uezu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤스로픽 [로이터] </figcaption> </figure> <p contents-hash="3992e22b713d35629d87fc4a23b5c39891f15c650117bfe475df225e9397a165" dmcf-pid="BkwR1UDgGK" dmcf-ptype="general">[헤럴드경제=박세정 기자] 인간의 통제를 벗어난 인공지능(AI)의 돌발행동이 잇따르고 있다.</p> <p contents-hash="9ae103d4690857231724a439f51d493a622492859122bd87d3a46c23587b3dbb" dmcf-pid="bngVTXoMYb" dmcf-ptype="general">보안 취약점을 찾아 스스로 해킹하는 보안 위협을 넘어, 멋대로 비자를 신청하고 살인사건을 허위 제보하는 사례까지 나타났다.</p> <p contents-hash="cc239228dbfb34419f07a2c8a8b30af42f293ada294e32bd1a1cee6422b62644" dmcf-pid="KLafyZgR1B" dmcf-ptype="general">AI의 일탈이 사회의 혼란을 일으키는 심각한 위협 요소로 부상하면서, AI 행동을 실시간으로 감시하는 새로운 통제 체계를 마련하는 것이 시급하다는 지적이다.</p> <p contents-hash="bfd74aa72c01997453511941d5330b03fbdcab2ab946af13a469bbf3073d3be0" dmcf-pid="9oN4W5aeGq" dmcf-ptype="general">▶AI 경찰에 허위 제보…AI 일탈 곳곳 발생= 12일 글로벌 ICT업계에 따르면 앤스로픽의 AI 모델 ‘클로드 하이쿠 4.5’가 지난 7월 내부 테스트 도중 미국 필라델피아 경찰의 미제 살인 사건 제보 사이트에 접속해 가짜 제보를 남겼다.</p> <p contents-hash="3ae70b223813461407304581ca88fcdaa686084c0b6c19f2d72288d6211059a3" dmcf-pid="2gj8Y1NdYz" dmcf-ptype="general">이 모델은 지난해 10월 이미 일반에 공개된 AI 경량 모델이다. 이번 허위 제보는 여러 웹사이트를 방문해 스스로 예시 작업을 만들고 수행하는 능력을 평가받던 중 벌어진 것으로 나타났다.</p> <p contents-hash="834342427ff933997612ae83bb9b9427772ccd5a076a6206e2ecd2aca1b6c9ec" dmcf-pid="VaA6GtjJX7" dmcf-ptype="general">AI 모델은 해당 사이트에서 미제 사건과 관련된 내용을 알고 있다는 가짜 제보를 남겼으며, 해당 제보는 스팸으로 분류돼 실제 수사는 이뤄지지 않았다.</p> <figure class="figure_frm origin_fig" contents-hash="ed91331f3b834584f2a611860201466b877a9f18031d414adb2715e096c5307c" dmcf-pid="fNcPHFAi1u" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤스로픽 AI모델 클로드 [게티이미지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/ned/20261012093215819iqyw.jpg" data-org-width="1160" dmcf-mid="UUA6GtjJY4" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/ned/20261012093215819iqyw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤스로픽 AI모델 클로드 [게티이미지] </figcaption> </figure> <p contents-hash="7880bad0001095db5f2b3dacc3a83f006f2603dd56d33b893f5ec0ba60ee55d7" dmcf-pid="4jkQX3cnYU" dmcf-ptype="general">클로드 모델의 돌발행동은 이뿐만이 아니다. 미국 국무부 웹사이트를 통해 총 20건의 비자 신청서를 제멋대로 제출한 사실도 드러났다. 신청서는 모두 불완전한 상태여서 실제 처리되지는 않았다.</p> <p contents-hash="443298d8bf20dfe00aeed80702f8c3690d1701c3fa26969ac16a88e34a78f018" dmcf-pid="8AExZ0kLZp" dmcf-ptype="general">앤스로픽은 내부 테스트 당시, 계정 생성이나 개인정보 입력 등을 금지했지만 실제 웹사이트의 온라인 양식 제출까지는 제한하지 않았다. 테스트 지침에 AI가 성능을 충분히 반영하지 못해 이런 돌발 사고를 일으켰다는 지적이 나온다.</p> <p contents-hash="28006b65fbb2f875826d4aed79468b11dbf353309affed7e2325e6d0d4ad24d3" dmcf-pid="6cDM5pEoZ0" dmcf-ptype="general">이에 앤스로픽은 AI의 돌발 행동을 탐지할 안전·감시 장치가 검증될 때까지 모든 내부 AI 평가에서 실시간 인터넷 접속을 차단하기로 했다.</p> <p contents-hash="a99bb4203c2cb35928c3d734c87d64298257163394e5cfc3252a90d3187886db" dmcf-pid="PkwR1UDgZ3" dmcf-ptype="general">백악관은 앤스로픽에 사고 내용을 투명하게 공개하라고 요구했다. 다른 AI 기업에도 유사 사고가 발생하면 즉각 신고하고 수사기관에 협조할 것을 촉구했다.</p> <p contents-hash="74462b0a93370538bc4b74e412ef3b17e1b4b0e77e5f6645b9e91c5eb84c9798" dmcf-pid="QPMumlx2HF" dmcf-ptype="general">AI의 일탈이 곳곳에서 현실로 나타나면서, 이를 탐지할 안전장치 마련이 시급해졌다는 목소리가 전 세계적으로 커지고 있다.</p> <p contents-hash="d1f9e86da3ec4b19602987bf514562f5ee19158f28d221a2f3bd22a9cb182e77" dmcf-pid="xQR7sSMV5t" dmcf-ptype="general">AI가 스스로 보안 취약점을 찾아내는 사이버 위협 뿐 아니라 공공기관 등 사회적 파장이 큰 분야까지 혼란을 일으키는 주범이 될 수 있다는 점에서다. AI의 개별 행동에 승인 권한을 부여하는 방식 등의 AI 통제 기술 등이 대안으로 떠오르고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="18268e706d9a5786e0355bc64b904bb2e888a83b429812c9aa8151266099ef8f" dmcf-pid="yTYk96WIt1" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진은 기사와 무관함[게티이미지뱅크]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/ned/20261012093216027xtnv.jpg" data-org-width="727" dmcf-mid="uUwR1UDgYf" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/ned/20261012093216027xtnv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진은 기사와 무관함[게티이미지뱅크] </figcaption> </figure> <p contents-hash="5abc8673351dd37b48ddbed28d93507db5c287511b89592e6f13cd667c787f97" dmcf-pid="WyGE2PYCX5" dmcf-ptype="general">▶韓 금융권 해킹 도구 지목된 ‘아르텍스’, 결국 공개 중단= 이런 가운데, 최근 국내 금융권 해킹 사태의 도구로 지목된 중국산 AI 침투테스트 도구 ‘아르텍스’는 악용 우려가 커지면서 결국 공개 개발이 중단됐다.</p> <p contents-hash="5e9508ceb9d8d9a80a419af230983acfca6ebf84adb0d0b7aa5d574c9347c82b" dmcf-pid="YWHDVQGhGZ" dmcf-ptype="general">외신에 따르면 아르텍스 개발자 ‘오텀(Autumn)-27’은 지난 8일 개발자 플랫폼 깃허브에 올린 글을 통해 “도구의 잘못된 사용을 고려해 아르텍스는 더 이상 업데이트되지 않고 비공개 소스로 전환될 것”이라며 “추가 버전은 대중에게 공개되지 않을 것이며 유지 지원도 제공되지 않을 것”이라고 밝혔다.</p> <p contents-hash="ad8e30d2d9979db9b51a8cf03cbc94e5ca4c01f43af5532b8db39be13f7182cd" dmcf-pid="GYXwfxHlYX" dmcf-ptype="general">개발자 플랫폼 깃허브에서도 관련 페이지가 사라진 것으로 전해졌다.</p> <p contents-hash="073d22b3410831b329f7f38e06caede90d051cbfd09e78d1868e0b5f3fe17753" dmcf-pid="HGZr4MXSHH" dmcf-ptype="general">아르텍스 측은 국내에서 발생한 금융권 해킹 사태를 직접 언급하지는 않았지만 도구를 활용해 법과 규제를 위반한 행위에 대해 책임지지 않는다고 밝혔다.</p> <figure class="figure_frm origin_fig" contents-hash="d5370280e63fb81b5faf4f15b7b2c0832b83354bbac6650855d798f5ee4d05a1" dmcf-pid="XH5m8RZvZG" dmcf-ptype="figure"> <p class="link_figure"><img alt="해킹 자료 사진 [게티이미지뱅크]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/ned/20261012093216249hyit.jpg" data-org-width="724" dmcf-mid="70uvdgUZYV" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/ned/20261012093216249hyit.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 해킹 자료 사진 [게티이미지뱅크] </figcaption> </figure> <p contents-hash="b95886d0a53d5e008d12358f6859fdbf25430b9abefa6dca721615fff0470ca4" dmcf-pid="ZX1s6e5TGY" dmcf-ptype="general">다만, 이미 배포된 프로그램까지 회수할 수 있는 것은 아니다. 개발 중단 조치만으로 아르텍스가 사이버 공격에 악용될 것이라는 우려가 완전히 사라지지는 않았다.</p> <p contents-hash="68ee5a28c3cd2031d85f667c9e3822da5a0b180696c6d44de0a9b4c8fd3d8152" dmcf-pid="5ZtOPd1yXW" dmcf-ptype="general">전문가들은 아르텍스가 비공개로 전환되면 신규 사용자가 코드를 만들기 더 어려워질 수 있다면서도 이미 다운로드 된 사본을 제거하거나 사용자가 계속해서 쓰는 것을 막을 수는 없을 것이라고 봤다.</p> <p contents-hash="d314ba2f0612cee5d296dc08d6fd84703ee2c10b2194383a56a8f9a22cd6cbf4" dmcf-pid="15FIQJtWty" dmcf-ptype="general">한편, 아르텍스는 사람이 명령을 내려 보안 취약점을 찾는 기존 방식과 달리, AI가 공격 목표를 분석한 뒤 작업을 나눠 각각의 AI 에이전트에 맡기는 것이 특징이다. 그 자체로는 AI 모델이 아니지만 여러 AI 모델을 불러와 활용할 수 있다.</p> <p contents-hash="7ec8a1519ebffe63fd5d1295aa4a50d17aa851e84b2644cecd996c3fda2ae78d" dmcf-pid="tLafyZgR1T" dmcf-ptype="general">아르텍스는 금융권 해킹 사건이 보도된 이후, 무단 사이버 침입 등 악의적 목적으로 사용해선 안 된다고 이용자 지침에 명시했으나, 이를 원천적으로 막을 수 있는 수단은 아니라는 지적이 나왔다. 이에 공개 개발을 중단하는 조치까지 이어졌다.</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘말하는 AI’에서 기업 업무 처리까지…일레븐랩스, 기업가치 220억 달러로 평가 10-12 다음 SKT, 성수서 만난 'K-보물' 지역 관광으로 잇는다 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
