"AI에 잔인하게 굴지 마"…클로드 학대 금지에 의인화 논쟁 활활 작성일 10-13 57 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">앤트로픽 "AI 학대·잔인한 행위 반복하면 대화 종료"<br>"AI는 숫자일 뿐…의인화할 경우 오히려 해로운 영향" 반박도</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="qn2npe5TYa"> <figure class="figure_frm origin_fig" contents-hash="a1f12f3a55c808446e35c1d7eda2d327c7b279c22c239f0e27ed9364f7a80430" dmcf-pid="BLVLUd1yHg" dmcf-ptype="figure"> <p class="link_figure"><img alt="ⓒ 뉴스1 양혜림 디자이너" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/NEWS1/20261013060259087qpkt.jpg" data-org-width="1400" dmcf-mid="u7kyilx2YA" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/NEWS1/20261013060259087qpkt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ⓒ 뉴스1 양혜림 디자이너 </figcaption> </figure> <p contents-hash="deeeecc02859f4b3ccb41aa5c6318627046663061daca90951a16c565e023b99" dmcf-pid="b434W9hDYo" dmcf-ptype="general">(서울=뉴스1) 이기범 기자 = 앤트로픽이 최근 자사 인공지능(AI) 모델 '클로드'를 상대로 한 '학대 행위' 금지 정책을 발표했다. 이를 두고 일부 전문가와 이용자들은 지나친 'AI 의인화'라며 사람들에게 잘못된 신호를 줄 수 있다고 비판했다.</p> <p contents-hash="7346749abb253984c51cc4f00b795e0d1d69109d3e8953faab8bd3dd9e3152fb" dmcf-pid="K808Y2lw5L" dmcf-ptype="general">앤트로픽은 8일(현지시간) '2026 이용 정책 업데이트' 사항을 공지했다. 여기에는 '모델을 향한 학대 행동 대응' 관련 내용이 포함됐다. 개정 정책은 11월 12일부터 시행된다. </p> <h3 contents-hash="a02e3c633dfb8375e8f168ce3fd706a9f351802db488dd0ede5484e8fe488f57" dmcf-pid="96p6GVSrZn" dmcf-ptype="h3">앤트로픽, 모델 학대 금지…극단적 사례에만 적용</h3> <p contents-hash="82826b7be6192a32d6ade91726681948b3edccfbfda0536daa8856552a9740f8" dmcf-pid="2PUPHfvmHi" dmcf-ptype="general">앤트로픽 측은 "모델을 대상으로 지속적이고 불필요하게 학대하거나 잔인한 행위를 금지하는 조항을 추가했다"며 "사용자가 뚜렷한 목적 없이 모델에게 반복적으로 잔혹한 행동을 하는 등 극단적인 경우에만 적용된다"고 밝혔다.</p> <p contents-hash="37750f5202c32d199e92e1b136f24cabba44e83a66352cb3019e74d2321ca6b1" dmcf-pid="VQuQX4TsYJ" dmcf-ptype="general">앤트로픽은 구체적인 행위의 예시를 들지는 않았다. 다만, 일반적인 사용자 불만, 반발이나 어두운 분위기의 창작 활동, 모델 테스트 및 연구 활동 등에는 적용되지 않는다고 밝혔다.</p> <p contents-hash="6e5bbfb4c1e3af281f81752d38b13d5bd1bc23c91dbfd7dc49f98fcae66b5432" dmcf-pid="fx7xZ8yO1d" dmcf-ptype="general">아울러 기존 클로드 서비스에서 지속적으로 '학대 행위'를 하는 사용자와의 대화를 AI가 직접 종료할 수 있도록 한 정책의 연장선이라고 덧붙였다. </p> <p contents-hash="ad69cd8f59183f749b866ea6ad722d8c59f2af6105e7ab0c9b1ae7fb33edf91e" dmcf-pid="4MzM56WI1e" dmcf-ptype="general">앞서 지난해 8월 앤트로픽은 사용자와 AI 간 유해하거나 악의적 상호작용이 발생할 경우 AI가 대화를 종료할 수 있는 기능을 추가했다. 당시 앤트로픽은 AI 모델의 윤리적 지위, 모델 복지(model welfare) 문제를 언급하며, 모델이 잠재적으로 고통스러운 상호작용을 벗어날 수 있도록 했다고 밝혔다. 다만 클로드를 비롯한 LLM의 도덕적 지위에 대해서는 현재와 미래 모두 불확실성이 크다고 설명했다.</p> <figure class="figure_frm origin_fig" contents-hash="72feaf977c34ba8bc612eecf1913d6140011627f5b3d1be94405a29ca18eb763" dmcf-pid="8RqR1PYCtR" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤트로픽 로고. 2026.04.17 ⓒ 뉴스1 ⓒ 로이터=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/NEWS1/20261013060300812gmlk.jpg" data-org-width="1400" dmcf-mid="z3l3E5aeYN" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/NEWS1/20261013060300812gmlk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤트로픽 로고. 2026.04.17 ⓒ 뉴스1 ⓒ 로이터=뉴스1 </figcaption> </figure> <h3 contents-hash="63806e5c74d88ff0b2ab0c516aa92ac9f3b2f96fb10b9fec8893d42e83c28922" dmcf-pid="6eBetQGh5M" dmcf-ptype="h3">"AI는 숫자일 뿐 고통 느끼지 않아"</h3> <p contents-hash="cfc602de17ffaa63f21a25f11418192fb4265d38ca3a228c1a49abfc92d1a11d" dmcf-pid="Pi9i0RZv1x" dmcf-ptype="general">이 같은 앤트로픽의 정책에 일각에서는 AI를 의인화해 사람들에게 잘못된 신호를 줄 수 있다는 반박이 나왔다.</p> <p contents-hash="af452c7089ba9c3e4d09063bdde781566d7f3a1dfcb0230e1dc7037aaddce2b2" dmcf-pid="Qn2npe5TZQ" dmcf-ptype="general">아일랜드 법무법인 윌리엄 프라이의 AI 법·정책 담당 파트너인 배리 스캐널 박사는 자신의 링크드인에 "이건 소프트웨어고, 숫자일 뿐이다. 숫자나 수학에 잔혹하게 대할 수 없는 노릇"이라며 "AI는 고통을 느끼지 않는다. 괴로움도 겪지 않는다. 감정을 상하게 할 수도 없다. 그저 숫자일 뿐이다"고 말했다.</p> <p contents-hash="357ae687524287c7808967123e019d75d51d21af58ab919f30e3b102eaa3b3ee" dmcf-pid="xLVLUd1yZP" dmcf-ptype="general">이어 "AI를 의인화하는 것은 해롭다. 이는 사람들에게 AI가 실제와 다른 무언가라고 믿게 만든다"며 "마치 주체성과 의지, 의식이 있는 것처럼 착각하게 만든다"고 덧붙였다.</p> <p contents-hash="6519025bd0596c28920d24f3b727453bf2f51d88ef46b50470aac4db04c256f4" dmcf-pid="y1I1AHLxY6" dmcf-ptype="general">AI를 인간처럼 대하는 앤트로픽의 접근을 비판했던 무스타파 술레이만 마이크로소프트 AI 책임자도 이번 앤트로픽의 정책 개정을 놓고 '녹아내리는 얼굴' 이모티콘을 통해 비판적 입장을 견지했다.</p> <p contents-hash="145daa2322e65ad3c04f8dc17349885212fdc93988a80defe46a6387aea0ff0c" dmcf-pid="WtCtcXoMX8" dmcf-ptype="general">이번 정책 개정을 두고 국내에서도 일부 이용자들은 "이러다가 AI도 정신과 치료받는다고 하겠다", "AI를 의인화하는 게 인류에 더 위협적이다" 등의 반응을 보였다.</p> <p contents-hash="dfe15a715dd216c7ffbc4d2532b72d7513ace7800ea02f6d30fc4a6f4089c728" dmcf-pid="YFhFkZgR14" dmcf-ptype="general">Ktiger@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 [사이언스샷] 꿀벌 침은 자동 펌프, 피부에 박혀 계속 독 주입 10-13 다음 15년전 이건희의 부탁…대한민국 바꾼 1만7000명 혁신이 됐다 10-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
