[AI세계속으로]AI 빠른 진화에 윤리적 고민…"발전 속도 늦춰야" 작성일 06-06 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">앤스로픽 "AI, '재귀적 자기 개선' 향해"<br>교황 레오 14세 "AI 무장해제 해야"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3mEbE3qFjn"> <p contents-hash="89e5cad2676fb8eef369539af89d57fb340d33c7c12d9c6c314c7238d6ca994b" dmcf-pid="0ZYJY8e4Ai" dmcf-ptype="general">글로벌 인공지능(AI) 기업 앤스로픽이 AI의 발전이 지나치게 급속도로 진행된다고 지적하면서 속도 조절이 필요하다고 강조했다. AI가 스스로 진화할 수 있는 단계가 들어설 수 있다는 우려에 AI 관련 윤리적 논의도 진행되고 있다.</p> <figure class="figure_frm origin_fig" contents-hash="58a97bfbca5c9f228cacab31cb20dfa939cac74bd92725bb6558dfcffe50cb6f" dmcf-pid="p5GiG6d8kJ" dmcf-ptype="figure"> <p class="link_figure"><img alt="로이터연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/06/akn/20260606063203974jdpl.jpg" data-org-width="745" dmcf-mid="t34SfwhDNo" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/06/akn/20260606063203974jdpl.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 로이터연합뉴스 </figcaption> </figure> <div contents-hash="a2daa031ca8b41dc3950632a66d25b68f0d495525a449c3e98480fe882fae826" dmcf-pid="U1HnHPJ6Ad" dmcf-ptype="general"> <p>앤스로픽은 4일(현지시간) 블로그를 통해 보고서와 함께 자사 AI 모델의 내부 데이터를 공개하면서 "AI 시스템이 인간 개입 없이 스스로 개선하는 단계에 가까워질 수 있다"며 "AI가 '재귀적 자기 개선'으로 향하고 있는 것으로 보인다"고 밝혔다. 재귀적 자기 개선이란 AI가 인간 없이도 스스로 자신의 구조, 알고리즘, 코드 등을 수정하면서 더 똑똑한 다음 세대의 AI를 만드는 것을 의미한다.</p> </div> <p contents-hash="82b507423a0e1cbea0771224af2a28b872a6a80092e50685fad3e226f0d03332" dmcf-pid="utXLXQiPoe" dmcf-ptype="general">앤스로픽은 AI의 발전 속도를 조절해야 한다고 강조했다. 잭 클라크 앤스로픽 공동창업자와 마리나 파바로 앤스로픽 연구소 책임자는 게시물을 통해 "사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단하는 선택권을 세계가 가지는 게 바람직하다"며 "AI 개발 속도 조절을 위한 국제적 합의와 기업이 이를 준수하는지 검증하는 체계를 마련해야 한다"고 밝혔다.</p> <p contents-hash="d5d58c83d1162314146ea1f408254d9de15d4399e0c6a79640b83704c185d649" dmcf-pid="7FZoZxnQjR" dmcf-ptype="general">AI가 급속도로 발전하면서 인간이 아닌 AI가 스스로 개발하는 수준에 이르렀다. 글로벌 AI 기업 오픈AI는 프로그래밍 전문 모델 '코덱스'(Codex)가 스스로 결함을 찾고 개발한다고 밝혔다. 오픈AI는 "코덱스가 개발 속도를 얼마나 끌어올릴 수 있는지 확인했다"고 설명했다. 앤스로픽 역시 자사의 AI 모델이 만든 코드에 의존해 AI 모델을 만드는 중이다.</p> <figure class="figure_frm origin_fig" contents-hash="87af6db2c41d232d55e137aa678d8d001a1cdb4dfabf19eccd54a071da39fd83" dmcf-pid="z35g5MLxjM" dmcf-ptype="figure"> <p class="link_figure"><img alt="EPA연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/06/akn/20260606063205323hnvs.jpg" data-org-width="745" dmcf-mid="FM5g5MLxcL" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/06/akn/20260606063205323hnvs.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> EPA연합뉴스 </figcaption> </figure> <div contents-hash="de438ddc89d9687249f0a85448eaf5040f14df0e4ca1b5224be4d7bdbb580e5b" dmcf-pid="q01a1RoMcx" dmcf-ptype="general"> <p>AI가 인간 사회를 위협할 수 있다는 우려와 함께 윤리적 논의 역시 시작됐다. 교황 레오 14세는 AI를 무장해제하고 통제해야 한다고 지적했다. 레오 14세는 지난달 25일 교황청 시노드 강당에서 즉위 후 첫 회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)를 발표했다. 그는 "기술이 가진 자가 AI를 통치 수단으로 활용하는 권리를 거부해야 한다"며 "인류가 또 다른 바벨탑을 건설하는 것을 포기해야 한다"고 밝혔다.</p> </div> <p contents-hash="40d871c0c8943b5db1fc744a24f7755b41b3fa8c495ca526e8bbf59db0e0ba09" dmcf-pid="BptNtegRkQ" dmcf-ptype="general">교황의 회칙에 앤스로픽도 공감한다는 의사를 표했다. 크리스토퍼 올라 앤스로픽 공동창업자는 "AI 연구소는 옳은 일과 이익 간에 상충하는 환경에서 운영되는데 이익에서 벗어난 외부 감시자가 중요하다"며 "어떤 이익으로도 꺾을 수 없는 윤리적 목소리가 필요하다"고 강조했다.</p> <p contents-hash="3cefe83db1b62aa15a197d417064b983a3c84bd17b5ab1f12b8c60d8028a9a22" dmcf-pid="bUFjFdaekP" dmcf-ptype="general">공병선 기자 mydillon@asiae.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 아시아경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 "통산 400승 달성!" '세계 최강' 안세영, 中 천위페이와 4강 격돌→'파란' 26위 심유진, 日 9위 미야자키 도모카 제압 06-06 다음 '충격!' 태권도 올림픽 金영웅, 돌연 '자격 정지 처분'...도핑 검사 소재지 보고 누락으로 20개월 출전 금지→"견디기 힘들다" 망연자실 06-06 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
