"안전장치 때문에 못 써먹겠다"…앤트로픽, AI 오탐 85% 줄여 작성일 08-09 20 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">멀쩡한 질문도 막던 최상위 AI '페이블5' 안전장치 개선<br>"생물학적 악용 가능성 여전…활용 범위 넓혀갈 것"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="UUTg8kEoZ1"> <figure class="figure_frm origin_fig" contents-hash="c9729848a49419d06c80162ec553987901cb539b20acc0a392ddcf2b868b5281" dmcf-pid="uuya6EDgX5" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤트로픽 로고. 2026.04.17 ⓒ 뉴스1 ⓒ 로이터=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/09/NEWS1/20260809173550424povd.jpg" data-org-width="1400" dmcf-mid="puAf3xMVYt" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/09/NEWS1/20260809173550424povd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤트로픽 로고. 2026.04.17 ⓒ 뉴스1 ⓒ 로이터=뉴스1 </figcaption> </figure> <p contents-hash="de9a6a1a77e4ed2056eec5e468178e57a6295f05e83ef42d4022c05f7b9f39e0" dmcf-pid="77WNPDwaZZ" dmcf-ptype="general">(서울=뉴스1) 이기범 기자 = 과도한 안전장치가 최신 인공지능(AI) 모델의 발목을 잡자 앤트로픽이 오탐 개선에 나섰다. 정상적인 질문인데도, 생물학 관련 사안이라며 답변을 거부하거나 하위 모델로 전환되는 문제를 줄여 AI 활용성을 높이는 데 주력했다.</p> <p contents-hash="9b45e3184b2e3844d99165804b534817e12694ccaddb75cf46d8f4fd4f262fec" dmcf-pid="z6pIgTyOYX" dmcf-ptype="general">앤트로픽은 7일(현지시간) 자사 최상위 AI 모델 '페이블5'의 생물학 분야 안전장치를 개선해 오탐을 대폭 줄였다고 밝혔다. 앤트로픽에 따르면 생물학 관련 질의 후 성능이 떨어지는 모델로 전환되는 '폴백'(fallback) 현상은 약 85% 감소했다.</p> <p contents-hash="6e161b4901bcd9e5bddff16acf5acf3a4a1140293845b7bf166281a66982e6b5" dmcf-pid="qPUCayWIGH" dmcf-ptype="general">앤트로픽은 "페이블5는 더욱 폭넓은 생물학 관련 업무에 도움을 줄 수 있을 것"이라고 언급했다. 교육·연구·의료 등 분야에서 AI 활용 범위가 넓어질 거라는 설명이다.</p> <p contents-hash="ba931cd81f7888746d156ae083e4bb37cb83e3728d7ba2203093dc73edd3d4a1" dmcf-pid="BQuhNWYCHG" dmcf-ptype="general">페이블5는 앤트로픽의 최상위급 AI로, 제한적으로 접근권을 제공하고 있는 AI 모델 '미토스'에 안전장치를 달고 일반에 공개된 모델이다. 그러나 안전장치를 우회한 사이버 공격 시도 우려가 나오고, 지난 6월 미국 정부의 수출 통제 사태를 겪으면서 안전장치를 더욱 강화했다.</p> <p contents-hash="66caa1c0db420fc78b570e0e7fc078d23e89d9a6f1823e1c270ed939176b736c" dmcf-pid="bx7ljYGh5Y" dmcf-ptype="general">이 과정에서 첫 공개 당시보다 정상적인 질문에도 답변을 거부하거나 하위 모델로 전환되는 오탐이 늘었다는 지적이 제기됐다.</p> <p contents-hash="2297a2ca9e6f5371c0904467136400ab1205599970c8561e3f4c62a857d18334" dmcf-pid="KMzSAGHlYW" dmcf-ptype="general">이를 두고 앤트로픽은 "페이블5의 최첨단 기능을 가능한 한 많은 사용자에게 빠르게 제공하는 게 목표이지만, 이를 위해 강력한 모델이 갖는 위험을 관리해야 한다"며 "이 같은 위험 중 하나는 생물학 분야"라고 밝혔다. 최상위 AI 모델을 악용할 경우 생화학 무기 개발 등에도 쓰일 수 있다는 것이다.</p> <p contents-hash="865913c8742b0835e16149a703069a0fc09b649375ae80b53813593cb2cabf23" dmcf-pid="9RqvcHXS5y" dmcf-ptype="general">미국 18개 정보기관의 공동체인 미국 정보공동체(USIC)는 '2026년 연례 위협 평가 보고서'를 통해 AI 모델을 악용하려는 세력의 존재를 언급하며 "새로운 생물학적 위협으로 이어질 수 있다"고 지적한 바 있다.</p> <p contents-hash="c6a4a3574eb3394543576c7ff5698c0060ab25d536773b61750dc78235437bef" dmcf-pid="2eBTkXZv5T" dmcf-ptype="general">앤트로픽은 생물학 분야에서 AI의 유익한 활용과 악용을 구분하기 어렵다면서도 오탐을 낮추기 위해 유해한 답변을 막는 '안전 분류기'(safety classifier)의 규칙을 새로 짰다. 앤트로픽은 내외부 다양한 전문가로부터 의견을 수렴해 반영했다며, 새로운 분류기는 정교하게 무해한 질의를 구분할 수 있도록 개선됐다고 밝혔다.</p> <p contents-hash="880d7fe1bf2eb05bdd17a8a9e1b6373c1ac4ed4abd492490a616f49502560df5" dmcf-pid="VdbyEZ5TGv" dmcf-ptype="general">앤트로픽은 "페이블은 잠재적 위험 때문에 생물학 및 신약 개발 목적의 작업을 계속 차단할 것"이라면서도 "연구자들이 신뢰할 수 있는 접근 경로를 통해 가장 우수한 모델을 안전한 방식으로 이용할 수 있도록 최선을 다하고 있다"고 강조했다.</p> <p contents-hash="efa0fd6ae3e79c3ca6bb0a2dec5af15b975c8b506d2778d642db659c66869bb9" dmcf-pid="fkM0vqB3XS" dmcf-ptype="general">Ktiger@news1.kr<br><br><strong><용어설명></strong><br><br>■ 미토스 수출 통제<br>'클로드 미토스5'는 앤트로픽의 최상위급 AI 모델로, 2026년 4월 프리뷰 버전 공개에 이어 6월 정식 출시됐다. 사이버 보안 위협 우려로 일부 기관 및 기업에 제한적으로 접근권이 제공돼 왔지만, 정식 출시 직후 미국 정부의 수출 통제로 일시적으로 접근권이 차단된 바 있다. 이는 AI의 국가 전략 자산화 움직임을 촉발했다는 평가를 받는다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 챗GPT·제미나이 … AI가 가장 많이 인용한 언론은 매일경제 08-09 다음 시민구단은 돈 먹는 하마?…부실운영·혈세낭비 우려 08-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
