앤트로픽, "AI, 스스로 후속 모델 개발 가능성, 속도 조절해야" 작성일 06-05 29 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">4일 공식 블로그 "AI 개발 일부 AI에 위임…엔지니어 코드 생산량 8배 증가"<br>"재귀적 자기 개선, 도달 단계 아니지만 예상보다 빨리 올 수 있어"·<br>"AI 개발 속도를 늦추거나 일시 중단할 수 있는 선택지도 필요" 주장</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HvXnxAmjvu"> <figure class="figure_frm origin_fig" contents-hash="18e79232353753d65df5eea00f1201bcc245595eec56495f39c7db4a3f694f24" dmcf-pid="XaDbp8e4vU" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤트로픽 [사진=로이터, 연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/05/552779-26fvic8/20260605085707435lmdx.jpg" data-org-width="640" dmcf-mid="GJflrGFYh7" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/05/552779-26fvic8/20260605085707435lmdx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤트로픽 [사진=로이터, 연합뉴스] </figcaption> </figure> <p contents-hash="02cea73ea809d0dbeac2073543e18625bb9b0992ddd645142df78690a1fb9f41" dmcf-pid="ZNwKU6d8Sp" dmcf-ptype="general">인공지능(AI) 기업 앤트로픽이 AI가 개발을 가속화하는 단계를 넘어 장기적으로는 스스로 AI 시스템을 설계·개발하는 '재귀적 자기 개선(recursive self-improvement)' 가능성을 제기했다. 앤트로픽은 아직 해당 단계에 도달한 것은 아니지만 속도를 늦출 필요성이 있다고 주장했다.</p> <p contents-hash="dfd0c348f9c65ca5aa2079114dcc4f76d4211b3f4458c37da87af2e57646de66" dmcf-pid="5jr9uPJ6v0" dmcf-ptype="general">5일 정보기술(IT) 업계에 따르면 앤트로픽은 4일(현지시간) 공식 블로그를 통해 "AI 역사 대부분의 기간 동안 인간이 개발 주기의 모든 단계를 주도했지만, 앤트로픽에서는 AI 개발의 점점 더 많은 부분을 AI 시스템 자체에 위임하고 있다"고 말했다.</p> <p contents-hash="5bc18518305015159839e2f655aaf17c5a6d80f8e6e32a37fbe3472b98cb8103" dmcf-pid="1Am27QiPW3" dmcf-ptype="general">'AI가 스스로를 구축할 때'라는 제목의 해당 글은 앤트로픽 내부 연구조직 '인스티튜트'의 마리나 파바로 대표와 공동창업자인 잭 클라크가 공동으로 작성했다. </p> <p contents-hash="5fb371c61163e123ce5ce370ea370fac692bbe0b51097c1137abeb2de66f4f35" dmcf-pid="tcsVzxnQyF" dmcf-ptype="general">앤트로픽은 "AI 역사 대부분의 기간 동안 인간이 개발 주기의 모든 단계를 주도했지만 앤트로픽은 AI 개발의 점점 더 많은 부분을 AI 시스템 자체에 위임하고 있다"고 언급했다. 컴퓨팅 자원과 결합하면 AI가 자신의 후속 시스템을 완전히 자율적으로 설계·개발하는 단계로 이어질 수 있다는 설명이다. </p> <p contents-hash="e9119b87dabf522160e01382eda432607f4698c30718983faf095a5359ca3a9a" dmcf-pid="FkOfqMLxTt" dmcf-ptype="general">앤트로픽은 내부 데이터와 공개 벤치마크를 근거로 AI가 이미 AI 개발 속도를 높이고 있다고 주장했다. 회사에 따르면 현재 앤트로픽 엔지니어들은 2021~2025년 대비 분기당 평균 8배 많은 코드를 배포하고 있다. 지난달 기준 앤트로픽 코드베이스에 병합된 코드의 80% 이상은 클로드가 작성한 것으로 집계됐다.</p> <p contents-hash="8993e56441b1a73b7dfa48772c3a1adcc700cfb85c9b91300fdb2de349ebfbb0" dmcf-pid="3EI4BRoMy1" dmcf-ptype="general">AI의 작업 수행 범위도 빠르게 넓어지고 있다. 앤트로픽은 "2024년 3월 클로드 Opus 3가 인간 기준 약 4분짜리 소프트웨어 작업을 수행했다"며 "이후 모델은 1시간 30분, 12시간 규모 작업까지 처리할 수 있게 됐다"고 설명했다. 또 "코딩 벤치마크와 연구 재현 벤치마크에서도 모델 성능이 빠르게 개선되고 있다"고 덧붙였다.</p> <p contents-hash="2501e6aa40176b4ef437cd09297819b295d0208d214188d0b0bae55bb80e2f75" dmcf-pid="0DC8begRl5" dmcf-ptype="general">다만 앤트로픽은 "클로드는 목표가 주어진 실험을 수행하거나 코드를 작성하는 데 강점을 보이지만 어떤 문제가 중요한지와 어떤 실험을 해야 하는지, 어떤 결과를 신뢰해야 하는지를 판단하는 '연구 감각'은 아직 인간이 비교우위 영역에 있다"고 언급했다. </p> <p contents-hash="bf8541a8348dc12fbfa813196e0f155eb89ecf954ab2b33d33910f806f005cf5" dmcf-pid="pwh6KdaeCZ" dmcf-ptype="general">앤트로픽은 향후 시나리오로 △AI 발전 속도 정체 후 현재 역량의 확산 △AI 연구소의 복합적 효율성 향상 지속 △AI 시스템의 완전한 재귀적 자기 개선 도달 등을 제시했다. 특히 AI 시스템의 완전한 재귀적 자기 개선 도달에 대해서는 "과학·의료 등에서 큰 이익을 가져올 수 있지만 인간이 AI 시스템에 대한 통제력을 잃을 위험도 커질 수 있다"고 지적했다.</p> <p contents-hash="cafa6ee26a615227038a2b891e9cddf5a73c17affa83e7ec5251096d9f0e7804" dmcf-pid="UrlP9JNdCX" dmcf-ptype="general">앤트로픽은 "프런티어 AI 개발 속도를 늦추거나 일시 중단할 수 있는 국제적 선택지가 필요하다"고도 주장했다. 단일 기업의 일방적 중단만으로는 효과가 제한적이며 여러 국가와 주요 AI 연구소가 검증 가능한 방식으로 함께 속도를 조절할 수 있어야 한다는 설명이다.</p> </section> </div> 관련자료 이전 금융권도 AI 인프라 확보전…美 제인스트리트, 데이터센터 구축 추진 06-05 다음 '역대 3위 맹폭' 누가 당구 女帝를 막을까…김가영, 애버 3.125점으로 32강 안착 06-05 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
