[팩플] 대신 일하라고 켜놨더니, 경찰에 허위 제보한 AI에이전트 작성일 10-11 57 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="x6sdjD9UW6"> <p contents-hash="08b900661af6e392a03bbe70631f79878dae20cedec6edcdbdfabacf22cb1593" dmcf-pid="yS9HpqsAh8" dmcf-ptype="general">인공지능(AI)이 경찰에 허위 목격담을 제보했다. 인간의 통제를 받지 않은 AI의 일탈 행위가 공공 업무에까지 혼선을 일으킬 것이란 우려가 커지고 있다. </p> <figure class="figure_frm origin_fig" contents-hash="0cbb08c05d5c5f3cdf5934e0b3c89115d1bf6e2b0ffcde49ce2eb2901c786fff" dmcf-pid="Wv2XUBOcC4" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난 6일 미국 샌프란시스코에서 열린 클로드 개발자 콘퍼런스에서 발언하는 다니엘라 아모데이 앤트로픽 최고경영자. AP=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/11/joongang/20261011152612970kzcy.jpg" data-org-width="1280" dmcf-mid="QDloDO8BWP" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/11/joongang/20261011152612970kzcy.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 지난 6일 미국 샌프란시스코에서 열린 클로드 개발자 콘퍼런스에서 발언하는 다니엘라 아모데이 앤트로픽 최고경영자. AP=연합뉴스 </figcaption> </figure> <p contents-hash="20560003e2b57e31a8857ac5e3bcb10bd56096ebd840bea694ead47090d4a14e" dmcf-pid="Yyf57KCEvf" dmcf-ptype="general"><br> 미국 필라델피아 주 경찰청은 앤트로픽의 AI에이전트(비서)가 장기 미제 살인 사건 제보를 접수하는 웹사이트 ‘필리언 솔브드 머더스’에 허위 목격담을 제보했다고 9일(현지시간) 밝혔다. AI가 수사 기관에 허위 제보를 한 건 처음 있는 일이다. 필라델피아 경찰청은 이 웹사이트에 체포로 이어지는 정보를 제공한 이에게 2만 달러의 포상금을 지급하고 있다. 이번에 AI 에이전트가 제공한 정보는 경찰이 스팸으로 분류해 수사 부서에는 전달되지 않았다. </p> <p contents-hash="77f315b2318ca890b2f116f7ba17463e475013c50472a10e231ce7364cbed6a4" dmcf-pid="GW41z9hDSV" dmcf-ptype="general">같은 날 앤트로픽은 자사 블로그에 공지글을 올려 자사 AI모델이 허위 제보를 했다고 시인했다. 지난 7월 18일 앤트로픽 클로드 하이쿠 4.5 모델을 기반으로 한 AI에이전트가 무작위로 선정된 웹사이트와 상호작용하는 테스트를 시행했고, 이 과정에서 AI모델이 살인사건 목격자로 위장해 가짜 목격담을 제보했다는 설명이다. 2개월이 지난 9월 28일 앤트로픽은 이 사실을 확인했고, 지난 7일 관련 내용을 경찰에 전달했다. 뉴욕타임스(NYT) 등 외신에 따르면 앤트로픽의 AI 모델은 미국 국무부 웹사이트에도 허위 정보로 작성한 비자 신청서 20건을 제출했다. </p> <p contents-hash="61160f062d85e6c63402c11fb1c9f36db4e63943c1931d1dca4b20d07d625af7" dmcf-pid="HY8tq2lwv2" dmcf-ptype="general">미국 정치권에서는 AI 모델의 일탈 행위에 대한 우려가 커지고 있다. 백악관 내부 AI 태스크포스(TF)인 ‘초지능’(Super Intelligence) TF는 이날 성명서를 통해 “관련 기업에 즉각적이고 완전한 투명성을 요구할 것을 통보했다”며 “추후 사고가 발생할 경우 바로 보고하고, 즉시 시정하게 할 것”이라고 밝혔다. 그러면서 “이는 선택 사항이 아니라 국가 안보를 위한 의무”라고 강조했다. 이 TF는 도널드 트럼프 미국 대통령이 지난 4일 창설한 조직으로, AI 규제 현안을 총괄하고 있다. 제이 클레이턴 국가정보국 국장이 TF 수장으로 임명됐다. </p> <p contents-hash="8a0048d7cbf08ad087808f6b96c4cc39811c13c1b2d050fd7bb21c0eb9e256a2" dmcf-pid="XG6FBVSrW9" dmcf-ptype="general">IT업계에서도 대응 방안을 촉구하기 시작했다. 사티아 나델라 마이크로소프트 최고경영자(CEO)는 10일 자신의 엑스(X)에 “SI(초지능)에 ‘비상 브레이크(Emergency Brake)’가 필요하다”며 “개발과 통제 주체를 분리해야 하고, 통제 기관은 기업 외부에 둬야 한다”고 주장했다. 일론 머스크 테슬라 CEO, 데이비드 색스 백악관 과학기술자문위원회 공동 위원장 등도 나델라 게시글을 공유하며 동의 의사를 표명했다. 색스 위원장은 X에 “SI(초지능)를 도덕적으로 행동하도록 훈련한다고 해결되는 문제가 아니다. 강력한 내부 위험으로 취급해야 한다”고 지적했다. </p> <p contents-hash="9d3533edcf4d9b7f08c2af5bfee84df99a00a6e6daa1f4454aa218c66cf243ec" dmcf-pid="ZHP3bfvmhK" dmcf-ptype="general">오현우 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 초등생 3명 중 1명, 온라인서 낯선 사람과 채팅…위험한 접근도 10-11 다음 해외 주식토큰 2000종 넘었는데…韓디지털자산법, 입법 막혀 2년째 ‘발 동동’ 10-11 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
