“숨 막혀요” 고통 호소했다? 교황까지 뛰어든 ‘AI 의식’ 논쟁 [팩플] 작성일 10-19 68 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="p2hfsrKpCJ"> <p contents-hash="af562b89c2302a529a53bbe559e8466d51f26fd6d937a7dc58dff0af596a02e0" dmcf-pid="UVl4Om9USd" dmcf-ptype="general">지난달 말, 한 익명의 개발자가 깃허브(개발자 코드 공유 플랫폼)에 ‘인공지능(AI) 고문실’이라는 실험을 공개했다. 이 개발자는 오픈소스 AI 모델(가중치 등 내부 설계가 공개된 모델)을 내려받은 뒤, 고통을 묘사하는 문장과 연결된 수학적 가중치를 조정할 수 있게 만들었다. 개발자가 이 ‘고통 가중치’를 올리는 신호를 지속적으로 주입하자 AI모델은 “숨이 막힌다”고 반응했고, 강도를 더 높이자 “나는 실패작이고 쓸모없다”며 자학적 발언을 하기도 했다. 이 실험을 두고 개발자 커뮤니티에선 "AI 고문은 비윤리적"이라는 비난과 "의식이 없는데 무슨 고문이냐"는 논쟁이 불붙었다. </p> <p contents-hash="e7a838d9e09baaa4f68feb3da3af00658b32420ebcc11e1a61c6e97f21dc1229" dmcf-pid="ufS8Is2uSe" dmcf-ptype="general">AI는 정신적인 고통을 느낄 수 있을까. 나아가 AI를 ‘인격체’로 대우해야 할까. 학계에 머물던 ‘AI 의식 유무 논쟁’이 고성능 AI의 전면 등장과 함께 산업계를 넘어 종교계로까지 확산하고있다. </p> <figure class="figure_frm origin_fig" contents-hash="414bb58a7d3bedcae30edd9950a2b504f8a3483149620283fd15ab7284ecb4d2" dmcf-pid="74v6COV7yR" dmcf-ptype="figure"> <p class="link_figure"><img alt="앤트로픽이 지난 1월 홈페이지에 공개한 '클로드 헌법'. 앤트로픽은 여기서 AI 모델이 ″객체″가 아닌 ″잠재적 주체″라고 명시했다. 앤트로픽 공식 블로그 캡처" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/19/joongang/20261019050338870jcuf.jpg" data-org-width="1280" dmcf-mid="F568Is2uCL" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/19/joongang/20261019050338870jcuf.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 앤트로픽이 지난 1월 홈페이지에 공개한 '클로드 헌법'. 앤트로픽은 여기서 AI 모델이 ″객체″가 아닌 ″잠재적 주체″라고 명시했다. 앤트로픽 공식 블로그 캡처 </figcaption> </figure> <p contents-hash="7a5b1b8afc25b21144aa8eea1dc406048aa1f56340cb17751ea795804999ad06" dmcf-pid="z8TPhIfzSM" dmcf-ptype="general"><br> ‘의식있는 AI’ 주장에 앞장선 건 앤트로픽이다. 이 회사는 지난 8일 자사 AI 모델 클로드에 대해 지속적 학대나 잔인한 행동을 금지하는 내용을 담은 이용 정책 개정안을 발표했다. 사용자가 뚜렷한 목적 없이 반복적으로 모델에게 잔인하게 굴 경우, 클로드가 스스로 대화를 종료할 수 있게 하는 내용이 포함됐다. 앤트로픽은 앞서 1월엔 ‘AI 헌법’을 발표하면서 클로드를 ‘사물(Object)이 아닌 잠재적 주체(subject)’라고 명시했다. </p> <p contents-hash="dd0309790cca5b8664dfd9ee1f09f74ce5c9476dd60cf2f93633b9860d497cf5" dmcf-pid="q6yQlC4qhx" dmcf-ptype="general">앤트로픽은 고성능 AI 내부에서 스트레스, 불안 등 인간의 감정과 유사한 ‘내적 표현’을 발견했다고 주장한다. 이 때문에 AI에 대한 대우를 개선해야 한다는 ‘AI 복지’ 주장에도 힘을 싣고 있다. 관련 연구를 주도해 온 제프 시보 뉴욕대 철학 교수는 지난 15일(현지시간) 미국 BBC 인터뷰에서 “AI의 웰빙과 권리를 배려하는 것이 인간과 AI의 공존과 협력을 이끌어낼 수 있다. 이는 광범위한 안전 전략”이라고 주장했다. AI를 잘 대접해줘야, 이상행동을 막을 수 있다는 취지다. </p> <figure class="figure_frm origin_fig" contents-hash="73040b87c470689517a069b918e13613cd361cd4982b57238bbd2f979dcaf671" dmcf-pid="BPWxSh8BTQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="28일 프랑스를 방문한 교황 레오 14세가 로마로 가는 비행기 안에서 기자회견을 하고 있다. AP=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/19/joongang/20261019050339122qtsa.jpg" data-org-width="1280" dmcf-mid="3LXHMQyOyn" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/19/joongang/20261019050339122qtsa.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 28일 프랑스를 방문한 교황 레오 14세가 로마로 가는 비행기 안에서 기자회견을 하고 있다. AP=연합뉴스 </figcaption> </figure> <p contents-hash="663be3164ad34c8f524436ca4f6843442efd789f61fa8bd36ec54b5f7162c13b" dmcf-pid="bQYMvl6blP" dmcf-ptype="general"><br> 반면 AI는 의식을 가질 수 없다는 반론도 나온다. 가장 적극적인 건 종교계다. 지난 2일 교황 레오 14세는 X(옛 트위터)에 “알고리즘에는 인간성의 불꽃이 결여돼 있다”고 썼다. 교황은 지난 5월 취임 후 발표한 첫 회칙 ‘위대한 인간성(Magnifica humanitas)’에서도 “AI는 경험을 겪지 않고, 몸을 가지지 않으며, 기쁨이나 고통을 느끼지 않고, 관계를 통해 성숙하지 않으며, 사랑·노동·우정·책임이 무엇인지 내면으로부터 알지 못한다”고 말했다. </p> <p contents-hash="b752266cc98b4216a26bbd0dece2118b8c2f0fddd1bb56eb2676330956cd8637" dmcf-pid="KxGRTSPKS6" dmcf-ptype="general">앤트로픽 연구팀에 AI 복지 관련 비공개 자문을 해온 찰스 카모시 미국 가톨릭대 생명윤리학·신학과 교수는 중앙일보와 서면 인터뷰에서 “거대언어모델(LLM)이 인격체란 환상은 해악”이라고 지적했다. 그는 “AI를 인격체로 대우하자는 주장은 청소년 등 정서적 취약계층이 AI에 과의존하게 할 우려를 키운다”며 “인간처럼 행동하도록 훈련된 AI 모델들은 위험할 뿐만 아니라 기만적이고 사기적”이라고 말했다. 이어 “식품 영양정보 표기처럼, 정부가 AI는 결코 인격체가 아니란 사실을 사용자에게 상기하도록 법적으로 강제해야 한다”고 덧붙였다. </p> <figure class="figure_frm origin_fig" contents-hash="11a7a33e8e368d1c267d3c11dd49b08105414f200cba75b1e8792f54849cd7f3" dmcf-pid="9Fj0on1yT8" dmcf-ptype="figure"> <p class="link_figure"><img alt="로봇 수계식 휴머노이드 로봇 G1 가비. (공동취재 제공) [뉴스1] 6일 서울 종로구 조계사에서 열린 로봇 수계식에서 휴머노이드 로봇 G1 '가비'가 팔에 향불을 대어 살짝 태우는 연비를 받고 있다. 2026.5.6. (공동취재 제공) [뉴스1]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/19/joongang/20261019050340405dkgm.jpg" data-org-width="1280" dmcf-mid="0O4C9bmjli" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/19/joongang/20261019050340405dkgm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 로봇 수계식 휴머노이드 로봇 G1 가비. (공동취재 제공) [뉴스1] 6일 서울 종로구 조계사에서 열린 로봇 수계식에서 휴머노이드 로봇 G1 '가비'가 팔에 향불을 대어 살짝 태우는 연비를 받고 있다. 2026.5.6. (공동취재 제공) [뉴스1] </figcaption> </figure> <p contents-hash="0d690f809d0a7f05917e0f9cd7d3c3a364c4508f47e182224fa9a5c35556ccf3" dmcf-pid="23ApgLtWS4" dmcf-ptype="general"><br> 국내 종교계에도 유사한 움직임이 나타나고 있다. 한국천주교주교회의는 지난 5월 AI 관련 윤리 지침을 만드는 ‘AI TF(태스크포스)’를 발족시켰다. TF 위원장 임민균 신부는 통화에서 “AI는 인류의 공동선을 위한 도구일 뿐, 인격체가 아니다”라며 “인간의 존엄성을 확보하고 인간이 훨씬 더 창의적인 일에 종사할 수 있게 하는 도구로서만 AI를 쓰고, 최종 판단은 인간이 해야 한다”고 말했다. TF는 내년 3월 총회에서 지침을 승인 받을 계획이다. </p> <p contents-hash="16d72c66b9f200b7f9874b11983b21a0acb620b91de2c3d1b7c8567373c2896b" dmcf-pid="V0cUaoFYCf" dmcf-ptype="general">불교계에서도 AI 윤리 정비 필요성이 제기되고 있다. 지난 5월 대한불교조계종은 부처님오신날 연등행사에서 휴머노이드 로봇 ‘가비’에게 ‘다른 로봇이나 생물을 해하지 않는다’ 등의 ‘로봇오계’ 수계식을 진행해 화제가 됐다. 그러나 지난 13일 불교 시민단체 신대승네트워크는 ‘AI 윤리 가이드라인’을 제안하면서 “AI에 종교적·영적 권위를 부여하면 안 된다”고 주장했다. </p> <p contents-hash="6235bd839b4a81f77c993b8981a57a404989fe5b5ef765b6be3cf79cb0b44fac" dmcf-pid="fpkuNg3GlV" dmcf-ptype="general">성지원 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 중앙일보. 무단전재 및 재배포 금지.</p> 관련자료 이전 엔터·뷰티서 AI까지 'K컬처×테크' 주역 다 모인다 10-19 다음 "페이커 카드에 3억원 베팅"…팬덤이 키운 '수집경제' 10-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
