‘AI 일탈’ 초비상…멋대로 비자 신청하고 허위 사건제보 작성일 10-12 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI 클로드, 경찰에 사건 허위 제보<br>20건 비자 신청서 임의 제출하기도<br>해킹 수단 ‘아르텍스’ 비공개 전환<br>AI일탈 안전장치 마련 시급 경고음</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BxGVvHLxYG"> <figure class="figure_frm origin_fig" contents-hash="81f990524790504356a0b9bde074fca1b4ce07e570b6004d7b6d2961ba5e6fc0" dmcf-pid="bMHfTXoM1Y" dmcf-ptype="figure"> <p class="link_figure"><img alt="인간의 통제를 벗어난 인공지능(AI)의 돌발행동 및 다양한 사고가 발생하면서, 이에 대한 규제 방안을 마련해야 한다는 목소리도 커지고 있다. [로이터·게티이미지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/ned/20261012113117027kjlp.png" data-org-width="937" dmcf-mid="qSxm4MXS5H" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/ned/20261012113117027kjlp.png" width="658"></p> <figcaption class="txt_caption default_figure"> 인간의 통제를 벗어난 인공지능(AI)의 돌발행동 및 다양한 사고가 발생하면서, 이에 대한 규제 방안을 마련해야 한다는 목소리도 커지고 있다. [로이터·게티이미지] </figcaption> </figure> <p contents-hash="adf277f7636b7ebfb2e0a4d75fe9a149b57a5ae0abe6b705a5cca6f293918616" dmcf-pid="KRX4yZgRHW" dmcf-ptype="general">인간의 통제를 벗어난 인공지능(AI)의 돌발행동이 잇따르고 있다.</p> <p contents-hash="9ae103d4690857231724a439f51d493a622492859122bd87d3a46c23587b3dbb" dmcf-pid="9eZ8W5ae1y" dmcf-ptype="general">보안 취약점을 찾아 스스로 해킹하는 보안 위협을 넘어, 멋대로 비자를 신청하고 살인사건을 허위 제보하는 사례까지 나타났다.</p> <p contents-hash="cc239228dbfb34419f07a2c8a8b30af42f293ada294e32bd1a1cee6422b62644" dmcf-pid="2nFxX3cnHT" dmcf-ptype="general">AI의 일탈이 사회의 혼란을 일으키는 심각한 위협 요소로 부상하면서, AI 행동을 실시간으로 감시하는 새로운 통제 체계를 마련하는 것이 시급하다는 지적이다.</p> <p contents-hash="bfd74aa72c01997453511941d5330b03fbdcab2ab946af13a469bbf3073d3be0" dmcf-pid="VL3MZ0kLXv" dmcf-ptype="general">▶AI 경찰에 허위 제보…AI 일탈 곳곳 발생= 12일 글로벌 ICT업계에 따르면 앤스로픽의 AI 모델 ‘클로드 하이쿠 4.5’가 지난 7월 내부 테스트 도중 미국 필라델피아 경찰의 미제 살인 사건 제보 사이트에 접속해 가짜 제보를 남겼다.</p> <p contents-hash="3ae70b223813461407304581ca88fcdaa686084c0b6c19f2d72288d6211059a3" dmcf-pid="fo0R5pEoYS" dmcf-ptype="general">이 모델은 지난해 10월 이미 일반에 공개된 AI 경량 모델이다. 이번 허위 제보는 여러 웹사이트를 방문해 스스로 예시 작업을 만들고 수행하는 능력을 평가받던 중 벌어진 것으로 나타났다.</p> <p contents-hash="834342427ff933997612ae83bb9b9427772ccd5a076a6206e2ecd2aca1b6c9ec" dmcf-pid="4gpe1UDg1l" dmcf-ptype="general">AI 모델은 해당 사이트에서 미제 사건과 관련된 내용을 알고 있다는 가짜 제보를 남겼으며, 해당 제보는 스팸으로 분류돼 실제 수사는 이뤄지지 않았다.</p> <p contents-hash="756f70563b5875e2dc8af7cd018a00e65a93ae56ab8d1c0783e18bd7a6e6c2b9" dmcf-pid="8aUdtuwaZh" dmcf-ptype="general">클로드 모델의 돌발행동은 이뿐만이 아니다. 미국 국무부 웹사이트를 통해 총 20건의 비자 신청서를 제멋대로 제출한 사실도 드러났다. 신청서는 모두 불완전한 상태여서 실제 처리되지는 않았다.</p> <p contents-hash="3acfa61d9ab8c7859bcd42ae7564adadbd9eea6ef16143ae24fb8ba41b2674f4" dmcf-pid="6NuJF7rNZC" dmcf-ptype="general">앤스로픽은 내부 테스트 당시, 계정 생성이나 개인정보 입력 등을 금지했지만 실제 웹사이트의 온라인 양식 제출까지는 제한하지 않았다. 테스트 지침에 AI가 성능을 충분히 반영하지 못해 이런 돌발 사고를 일으켰다는 지적이 나온다.</p> <p contents-hash="44e9c76f95bb2ebf0378a75616eee4a97d99a49de8ffc37f5791173e28efc99d" dmcf-pid="Pj7i3zmjHI" dmcf-ptype="general">이에 앤스로픽은 AI의 돌발 행동을 탐지할 안전·감시 장치가 검증될 때까지 모든 내부 AI 평가에서 실시간 인터넷 접속을 차단하기로 했다.</p> <p contents-hash="fdc0ae06c9d8adba7980eb7604ca52f4924f87d5c4cc28e385f9e679f7118358" dmcf-pid="QAzn0qsA5O" dmcf-ptype="general">백악관은 앤스로픽에 사고 내용을 투명하게 공개하라고 요구했다. 다른 AI 기업에도 유사 사고가 발생하면 즉각 신고하고 수사기관에 협조할 것을 촉구했다.</p> <p contents-hash="fcd1a08f319c825874ec7d8758628a4979f949983c95122850acd8c3d7804cbc" dmcf-pid="xcqLpBOcGs" dmcf-ptype="general">AI의 일탈이 곳곳에서 현실로 나타나면서, 이를 탐지할 안전장치 마련이 시급해졌다는 목소리가 전 세계적으로 커지고 있다.</p> <p contents-hash="932ee4a53365be98ee0c495834ec7e09915e41a2a89a8b1b553a4a1ba3e07d39" dmcf-pid="yuD1jw2uZm" dmcf-ptype="general">AI가 스스로 보안 취약점을 찾아내는 사이버 위협 뿐 아니라 공공기관 등 사회적 파장이 큰 분야까지 혼란을 일으키는 주범이 될 수 있다는 점에서다. AI의 개별 행동에 승인 권한을 부여하는 방식 등의 AI 통제 기술 등이 대안으로 떠오르고 있다.</p> <p contents-hash="f36ce243ca020d76e3e3748a2cc62b9f4ce76f0213c7cac74e4f0a05129fa16d" dmcf-pid="W7wtArV7Hr" dmcf-ptype="general">▶韓 금융권 해킹 도구 지목된 ‘아르텍스’, 결국 공개 중단=이런 가운데, 최근 국내 금융권 해킹 사태의 도구로 지목된 중국산 AI 침투테스트 도구 ‘아르텍스’는 악용 우려가 커지면서 결국 공개 개발이 중단됐다.</p> <p contents-hash="21d1cfbd9a99173bc0542e8bf63531f31e27f3a1dced84ee8c9a804992795493" dmcf-pid="Y6yKhWJ65w" dmcf-ptype="general">외신에 따르면 아르텍스 개발자 ‘오텀(Autumn)-27’은 지난 8일 개발자 플랫폼 깃허브에 올린 글을 통해 “도구의 잘못된 사용을 고려해 아르텍스는 더 이상 업데이트되지 않고 비공개 소스로 전환될 것”이라며 “추가 버전은 대중에게 공개되지 않을 것이며 유지 지원도 제공되지 않을 것”이라고 밝혔다.</p> <p contents-hash="44fc1fe6c79b18191720c7fd1f31b786877a09dc1d5ea42b26f633faf562c0a1" dmcf-pid="GPW9lYiPtD" dmcf-ptype="general">개발자 플랫폼 깃허브에서도 관련 페이지가 사라진 것으로 전해졌다.</p> <p contents-hash="a15a92dbdfda5774deae0a514d4856a03166e9206788b58f46f39d6b6f6fd068" dmcf-pid="HQY2SGnQ1E" dmcf-ptype="general">아르텍스 측은 국내에서 발생한 금융권 해킹 사태를 직접 언급하지는 않았지만 도구를 활용해 법과 규제를 위반한 행위에 대해 책임지지 않는다고 밝혔다.</p> <p contents-hash="974f62ee71b215827946420b8a353cc3848e7b4680e1c8797e06fa510286ebd1" dmcf-pid="XxGVvHLx5k" dmcf-ptype="general">다만, 이미 배포된 프로그램까지 회수할 수 있는 것은 아니다. 개발 중단 조치만으로 아르텍스가 사이버 공격에 악용될 것이라는 우려가 완전히 사라지지는 않았다.</p> <p contents-hash="29d2c00471352e95baa6cf318606de71154acf0b2044bfe032c32a3aa8dba211" dmcf-pid="ZMHfTXoMXc" dmcf-ptype="general">전문가들은 아르텍스가 비공개로 전환되면 신규 사용자가 코드를 만들기 더 어려워질 수 있다면서도 이미 다운로드 된 사본을 제거하거나 사용자가 계속해서 쓰는 것을 막을 수는 없을 것이라고 봤다.</p> <p contents-hash="17bc6915f58f85ae866cfa539c6e209423d000be4a0bad4327d2127ebc86a2f8" dmcf-pid="5RX4yZgR5A" dmcf-ptype="general">한편, 아르텍스는 사람이 명령을 내려 보안 취약점을 찾는 기존 방식과 달리, AI가 공격 목표를 분석한 뒤 작업을 나눠 각각의 AI 에이전트에 맡기는 것이 특징이다. 그 자체로는 AI 모델이 아니지만 여러 AI 모델을 불러와 활용할 수 있다.</p> <p contents-hash="fb2566449b856335f943076f1e01fb42cf5a86fc0765e1406183415cd4c4fd2d" dmcf-pid="1eZ8W5aeGj" dmcf-ptype="general">아르텍스는 금융권 해킹 사건이 보도된 이후, 무단 사이버 침입 등 악의적 목적으로 사용해선 안 된다고 이용자 지침에 명시했으나, 이를 원천적으로 막을 수 있는 수단은 아니라는 지적이 나왔다. 이에 공개 개발을 중단하는 조치까지 이어졌다. 박세정 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 헤럴드경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 회색인 줄 알았던 달의 깜짝 반전…노란색·초록색 지형도 있다 [우주로 간다] 10-12 다음 일본도 “사이버공간 비상사태”…기업 20곳 넘게 해킹 피해 10-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
