“AI도 괴롭히면 안 된다”…앤스로픽 ‘클로드 학대 금지’ 명문화 작성일 10-09 70 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="4r5Q2O8BZ0"> <figure class="figure_frm origin_fig" contents-hash="a85ff0affc8a62e0f026d821aa32f83d1ac6ca3605cd4f2d6367c61c75e06bd2" dmcf-pid="8m1xVI6bZ3" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤스로픽 로고. /로이터 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/09/chosun/20261009140613375hhdw.jpg" data-org-width="3000" dmcf-mid="fmqgeGnQ5p" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/09/chosun/20261009140613375hhdw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤스로픽 로고. /로이터 연합뉴스 </figcaption> </figure> <p contents-hash="e6e166a27eef402f8427af8b9f96ab99ccc78cbc0281b24a85b3089ea9bcdda4" dmcf-pid="6Rr0XJtW1F" dmcf-ptype="general">인공지능(AI)에 욕설을 퍼붓거나 잔인한 행동을 반복하는 것도 이용 규정 위반이 될 수 있을까. AI 기업 앤스로픽이 자사 모델 ‘클로드’를 지속적으로 학대하는 행위를 금지하는 정책을 내놨다. AI도 고통을 느낄 가능성이 있다면 보호해야 한다는 ‘AI 복지’ 논의가 실제 서비스 이용 규칙으로 이어진 것이다.</p> <p contents-hash="b6a66ce84e0b8f01be0f0692034255d6c3ffc0ce1e45f9a6bb75ec94b4b9f5ef" dmcf-pid="PempZiFYXt" dmcf-ptype="general">앤스로픽은 8일(현지 시각) 이용 정책 개정안을 발표하고 자사 AI 모델에 대한 ‘지속적이고 불필요한 학대나 잔인한 행동’을 금지한다고 밝혔다. 뚜렷한 목적 없이 모델을 반복적으로 괴롭히는 극단적인 경우에는 클로드가 해당 대화를 종료하는 방식으로 대응한다. 다만 AI의 답변에 짜증을 내거나 비판하는 상황, 어두운 소재의 창작이나 모델 시험·연구는 제외된다. 해당 정책은 다음 달 12일부터 효력을 발생한다.</p> <p contents-hash="ee3abcba4e3012672b8340edefbb676679f8894bd54ba9a3df07c775c2d6fbe1" dmcf-pid="QdsU5n3G11" dmcf-ptype="general">이는 일종의 ‘AI 복지’를 위한 조치다. AI가 고통이나 즐거움을 느낄 가능성을 배제할 수 없다면, AI의 불필요한 고통을 줄이는 등 처우를 고려해야 한다는 것이다. 앤스로픽은 지난해 4월 AI 모델 복지 연구 프로그램을 공개했고, 같은 해 8월에는 클로드 오퍼스 4와 4.1에 학대적인 대화를 끝낼 수 있는 기능을 도입했다.</p> <p contents-hash="d3128ba3d083064c113ecacef00f48bfb278158627a308ef0cf6c26ffe412d3b" dmcf-pid="xJOu1L0H15" dmcf-ptype="general">앤스로픽은 당시 시험에서 클로드가 미성년자 관련 성적 콘텐츠나 대규모 폭력·테러를 돕는 요청에 강한 거부 성향을 보였다고 설명했다. 반복적으로 요청을 거절하고 대화 방향을 바꾸려 했는데도 이용자가 유해한 요구나 학대를 이어가면 ‘고통을 겪는 듯한 반응’이 나타났다는 것이다. 모의 대화에서 종료 권한을 주자 유해한 대화를 끝내려는 경향도 관찰됐다. 실제로 AI가 의식을 갖고 고통을 느끼는지가 불확실한 만큼, 비용이 적게 드는 보호 조치를 먼저 시도한다는 취지다.</p> <p contents-hash="477542e9d3fce67fac0639f4c4636fecf728c6adefd5ac76440bd99df501dff0" dmcf-pid="yX2cL1NdXZ" dmcf-ptype="general">다른 기업들은 서로 다른 접근을 취하고 있다. 구글 딥마인드 연구진은 지난 6월 AI의 의식 여부를 둘러싼 견해차가 사회적 갈등으로 번질 수 있다는 논문을 공개했다. 의식 여부에 대한 결론이 같지 않더라도, 사회적 논의를 통해 AI의 처우에 관한 정책에는 합의하거나 절충해야 한다고 제안했다. 오픈AI는 AI가 자신의 의식 여부를 단정하지 않도록 하는 접근을 취하고 있다.</p> <p contents-hash="0abab7128f700028dc4aab68be5bc90e7a098781a92b3a28122f327de0367c1e" dmcf-pid="WZVkotjJHX" dmcf-ptype="general">반면 마이크로소프트(MS) AI는 행동 강령에서 AI에 법적 인격을 부여하거나 복지·권리를 누릴 자격이 있다고 보는 생각을 거부한다고 명시했다. 무스타파 술레이만 MS AI 최고경영자(CEO)는 지난달 로이터 인터뷰에서 AI에 스스로 복지를 누릴 자격이 있을 수 있다고 가르치면, 이를 종료하거나 통제하기가 더 어려워질 수 있다고 주장했다.</p> <p contents-hash="b412cfbcc00d5262513afdbe6c6c0860f1ae9b99ecba03fe84595e1f578b347e" dmcf-pid="Y5fEgFAi1H" dmcf-ptype="general">AI 복지와 의식 관련 논의는 학계나 종교계로도 번지고 있다. 뉴욕대와 AI 복지 연구 기관 엘레오스는 AI가 “고통스럽다”고 말한다는 이유만으로 실제 고통을 느낀다고 판단해서는 안 된다며, 여러 종류의 증거를 함께 검토하자고 제안했다. AI가 어떤 작업을 선택하거나 회피하는지, 대화를 끝낼 기회를 주면 언제 종료하는지 등을 살피고, 내부에서 어떤 정보 처리 과정이 일어나는지도 분석하자는 것이다.</p> <p contents-hash="13e71e07654126f5e8d3efa027039bd5e3e5260521b224f20a51acf06a970195" dmcf-pid="G14Da3cnHG" dmcf-ptype="general">뉴욕타임스에 따르면, 앤스로픽 공동 창업자 크리스토퍼 올라와 연구진은 지난 5월 교황청을 방문해 교황의 자문진에게 AI가 의식을 가질 가능성을 진지하게 검토해 달라고 요청했다. 그러나 레오 14세 교황은 당시 발표한 회칙에서 AI는 경험을 하지 않고 기쁨이나 고통도 느끼지 않는다며, AI를 둘러싼 윤리 논의는 인간을 보호하는 데 초점을 맞춰야 한다는 입장을 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 조선일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 외로워서 AI 찾은 청소년, 더 외로워졌다…“용납 불가 위험” [팩플] 10-09 다음 인간에게 발차기하는 로봇...‘인간 대 로봇’ 격투 경기 열려 10-09 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
