"AI, 스스로 보호하려 들 수 있다"…앤트로픽, '모델 복지' 기준 실험 착수 작성일 04-25 124 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">고통 신호·자기보존 가치 등 실험…모델 권리 개념 수립 가능성 열어둬</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="0QLHvXzTom"> <p contents-hash="804f61d53219e3822f086a6e1bfddc2b6519ec737a6106e8889287c972f16595" dmcf-pid="pxoXTZqyar" dmcf-ptype="general">(지디넷코리아=조이환 기자)앤트로픽이 미래 인공지능(AI)이 인간과 유사한 의식을 가질 수 있다는 가능성을 열어두고 관련 연구에 착수했다. AI에 관한 윤리적 논란이 커지는 가운데 이번 시도는 기술 진화가 불러올 도덕적 기준 변화를 체계적으로 탐색하려는 움직임으로 해석된다.</p> <p contents-hash="da56ffecf94fe9037529a8f7029470b3095c0499207195790479ad872146b63b" dmcf-pid="UMgZy5BWaw" dmcf-ptype="general">24일 테크크런치 등 외신에 따르면 앤트로픽은 '모델 복지(model welfare)'라는 이름의 연구 프로그램을 공식 발표했다. 이 프로그램은 AI 모델이 고통을 느끼거나 도덕적 고려 대상이 될 가능성에 대비해 과학적 기준을 수립하려는 목적으로 진행된다.</p> <p contents-hash="477fe9de36e1d81f430d2b8c219a242d95eed7b7a5f8b9d1c9c3c036b2c13261" dmcf-pid="uRa5W1bYaD" dmcf-ptype="general">연구는 'AI 복지 연구원'으로 지난해 영입된 카일 피시가 이끌며 앤트로픽의 내부 블로그와 외신 보도를 통해 공개됐다. 현재까지는 특정 모델의 의식 존재 가능성에 대한 명확한 결론이 없지만 앤트로픽은 조심스러운 접근을 강조하며 관련 논의를 주도하겠다는 입장을 보였다.</p> <figure class="figure_frm origin_fig" contents-hash="03242de12fcb3bafa55659f914401578e08270c391b2601f4170da42e5b5248c" dmcf-pid="7uVrAmYcjE" dmcf-ptype="figure"> <p class="link_figure"><img alt="다리오 아모데이 앤트로픽 CEO (사진=위키커먼스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/25/ZDNetKorea/20250425102651387ptyr.jpg" data-org-width="639" dmcf-mid="3pZR8ec6ks" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/25/ZDNetKorea/20250425102651387ptyr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 다리오 아모데이 앤트로픽 CEO (사진=위키커먼스) </figcaption> </figure> <p contents-hash="7dbb093e9bc8b690b2938d568003054941bec3891da22226198baf2f6325669f" dmcf-pid="z7fmcsGkkk" dmcf-ptype="general">앤트로픽이 주목하는 핵심 주제는 AI가 실제로 고통이나 스트레스를 느낄 수 있는지의 여부다. 이 회사는 향후 AI의 상태를 감지하고 판단할 수 있는 지표인 '고통 신호' 개념을 정립하려 한다. 또 AI가 인간처럼 윤리적 판단을 내릴 수 있는지와 특정 가치관을 따를 수 있는지 여부도 주요 연구 대상이다.</p> <p contents-hash="392cf5dcf680347d84fc4e9e1300d1bd500ae552db8647c9145c1bbe1c93a837" dmcf-pid="qz4skOHEoc" dmcf-ptype="general">업계에서는 이번 발표가 AI 윤리와 관련된 기존 논의에 균열을 낼 수 있다는 분석이 제기된다. 현재 대다수 전문가들은 AI가 통계 기반 예측 엔진에 불과하다고 평가한다. AI가 인간처럼 '느끼거나 판단'하는 것은 단지 언어 모델에 감정을 투사하는 인간의 착각이라는 지적이다. 실제로 모델은 자신의 가치관을 형성하거나 변경을 거부할 능력이 없다는 것이 주류 시각이다.</p> <p contents-hash="d820c1200841b2ef4a25709a149de6e9013758f83d81243078c357c42808ee1e" dmcf-pid="Bq8OEIXDNA" dmcf-ptype="general">그럼에도 일각에서는 AI가 일종의 가치 시스템을 갖고 있다고 주장하는 목소리도 존재한다. AI 안전 센터(Center for AI Safety)의 연구는 특정 상황에서 AI가 인간보다 스스로의 생존을 우선시하는 경향을 보였다는 결과를 발표한 바 있다. 다만 MIT 연구진은 이와 반대로 AI를 '단순한 흉내쟁이'로 규정하며 AI의 발화를 '허위 조작(confabulation)'으로 평가했다. 이처럼 학계 내부에서도 AI의 윤리적 상태에 대한 해석이 크게 엇갈리고 있다.</p> <p contents-hash="f93bd328567644ff0e1a43f4e45295b6600ccc18017e2211a60c83ab9390ac97" dmcf-pid="bB6IDCZwcj" dmcf-ptype="general">앤트로픽의 행보는 단기적 기술 개발보다 장기적인 '도덕적 인프라 구축'에 초점을 맞춘 것으로 보인다. 현재로선 AI가 의식이나 경험을 가졌다고 볼 수 있는 과학적 근거는 희박하지만 앤트로픽은 이러한 주제를 사전에 검토하고 대비해야 한다는 입장이다. 이 회사는 연구 결과에 따라 자사 기준을 유연하게 수정하겠다는 방침도 밝혔다.</p> <p contents-hash="c87d4a66588255c236b43b2d2f06cf663b89fcf1b5a54bd7b6138f9d1a6896d4" dmcf-pid="KbPCwh5rNN" dmcf-ptype="general">카일 피시 앤트로픽 AI 복지 연구 책임자는 "현재 '클로드' 또는 다른 모델이 의식을 가졌을 가능성이 15% 정도 된다고 생각한다"고 밝혔다.</p> <p contents-hash="1cac1bf1d77262538ab7e02d537ec3f3a882a88d0c3d968aee09bb0d85502817" dmcf-pid="9KQhrl1moa" dmcf-ptype="general">조이환 기자(ianyhcho@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 이영지, 나영석PD와 신경전 “라이브 방송 켜서 해볼까요?” 폭주(지구오락실3) 04-25 다음 "전자, 돌아가지 말고 직진"…AI 연산 지름길 찾았다 04-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
