카카오, 자율 AI 권한·책임 점검한다…연내 윤리 체크리스트 적용 작성일 10-15 49 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">안전·프라이버시 등 6대 원칙 수립…외부 자문단 참여<br>기획부터 운영까지 위험 검토…아동·청소년 보호 항목 보강</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="4Nc98Ye45o"> <figure class="figure_frm origin_fig" contents-hash="45240e414c8f449305c7cd6bd921d878e777b98794f3282da536dec500218529" dmcf-pid="8jk26Gd8ZL" dmcf-ptype="figure"> <p class="link_figure"><img alt="(왼쪽부터) 김경훈 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석이 13일 이프카카오에서 외부 자문단과 함께 기념 촬영을 하고 있다.ⓒ카카오" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/dailian/20261015135633573qiha.png" data-org-width="1200" dmcf-mid="fhtkm8Sr1g" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/dailian/20261015135633573qiha.png" width="658"></p> <figcaption class="txt_caption default_figure"> (왼쪽부터) 김경훈 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석이 13일 이프카카오에서 외부 자문단과 함께 기념 촬영을 하고 있다.ⓒ카카오 </figcaption> </figure> <p contents-hash="636779439c8917db5423f6e009c70eecc4f1da98b55a947458ca45b7f941d453" dmcf-pid="6AEVPHJ6Gn" dmcf-ptype="general">카카오가 스스로 계획하고 행동하는 자율 AI 에이전트의 위험을 관리하기 위한 윤리 원칙과 이행 가이드를 마련했다. 사람의 감독과 비상 제어, 권한 통제 등을 서비스 설계·운영 과정에서 점검하고, 연내 새 체크리스트를 적용할 계획이다.</p> <p contents-hash="cd3b4c0e485c6d8813de5a5109896da79b5fb4fdc867b16394e524b04cd5958b" dmcf-pid="PcDfQXiP1i" dmcf-ptype="general">카카오는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 콘퍼런스 'if(kakao)26'에서 이 같은 내용을 공개했다고 15일 밝혔다.</p> <p contents-hash="a212ce733b8eb39b52e1914ccb7744a698a76b5d6632ff551893e458ac87af0b" dmcf-pid="Qkw4xZnQHJ" dmcf-ptype="general">하진화 카카오 AI 커뮤니케이션 수석은 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?' 세션에서 AI의 자율성이 커지는 환경에 맞춰 인간의 판단과 책임을 정하고, 이를 서비스에 반영할 실행 체계가 필요하다고 설명했다.</p> <p contents-hash="24a0765cd61e360409196d9d35c15e5f70f2462c83d5a5112528aff7b5bd98bd" dmcf-pid="xEr8M5Lx1d" dmcf-ptype="general">새 AI 윤리 원칙 'SPIRIT'은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성 등 여섯 가지로 구성됐다. 정부의 '대한민국 인공지능 윤리원칙'에 담긴 3대 가치와 7대 원칙을 주요 이행 기준으로 채택하고 카카오 서비스에 맞춰 세부 내용을 보완했다.</p> <p contents-hash="253e20d7c4e317ba5da8ea8fc3b99e6c28cf7fc87593d00e26e0e0037f61b0b8" dmcf-pid="yzblWn1yYe" dmcf-ptype="general">원칙을 실행으로 옮기는 방식은 'NORMA'로 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리하고 실행할 수 있는 단계로 구체화한다는 의미다.</p> <p contents-hash="9ee63c53b6129ab4c4269d246e7676c701275d1d936bfd8a6a6b54efc186f897" dmcf-pid="WqKSYLtWtR" dmcf-ptype="general">카카오는 자율 에이전트의 위험을 통제 주도권, 목표, 권한, 참조 자원, 상호작용 등 5개 영역으로 나눴다. 각 영역에 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 조치를 연결했다.</p> <p contents-hash="3321b3db2fc48a1a319d30df7fa7e08543abcb3336781a88a39d200b455c1d7f" dmcf-pid="YB9vGoFYHM" dmcf-ptype="general">이를 바탕으로 마련한 'AI 윤리 이행 체크리스트'는 서비스 속성 파악, 사전 위험 선별, 통제 항목 점검·판정의 세 단계로 운영한다. 서비스 기획부터 운영까지 전 과정에서 위험을 검토하는 데 활용할 예정이다.</p> <p contents-hash="33ce29f9bd193c0dc3c3f45985b2627175e17ca30dcd3253a0d7dfe05f0d71d2" dmcf-pid="GB9vGoFYHx" dmcf-ptype="general">이번 원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7인과 함께 이달 초 수립했다. 자문단은 국내외 규범과의 정합성을 검토했으며, 사내 AI 세이프티·개인정보·정보보안·서비스 관련 부서도 실무 관점에서 참여했다.</p> <p contents-hash="fed59d1f158739c4cbb42bbc709ceb8a8c30c1421e70b9f434f23be7785ca501" dmcf-pid="Hb2THg3G5Q" dmcf-ptype="general">아동·청소년 보호 항목도 보강한다. 지난해부터 적용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 OECD와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고하고, AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 방침이다.</p> <p contents-hash="101941cf79dfd520a7c0309697e6ef48756ecefe99670087851ee8d500e9ef0f" dmcf-pid="Z9fWZNpXX6" dmcf-ptype="general">카카오는 2018년 '알고리즘 윤리헌장'을 발표하고, 2022년 주요 계열사가 참여하는 AI&기술윤리소위원회를 설립했다. 이후 그룹 공통 가이드라인 수립과 이용자 주체성 원칙 추가, 안전한 AI를 위한 핵심 체크리스트 의무화 등을 추진해 왔다.</p> <p contents-hash="b0a6807ab78f4170f950c4c731e651d400bcc452605a3b44c2404bbc595c25e1" dmcf-pid="524Y5jUZ18" dmcf-ptype="general">김세웅 카카오 AI&기술윤리소위원회 위원장은 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 밝혔다.</p> </section> </div> <p class="" data-translation="true">Copyright © 데일리안. 무단전재 및 재배포 금지.</p> 관련자료 이전 리미니스트리트 CEO "에이전틱AI, 장기적으로 ERP 대체한다" 10-15 다음 글로벌 사로잡은 넷플릭스 K-콘텐츠…"현지화는 제2의 제작" 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
