카카오, 자율 AI ‘통제권·권한’까지 점검한다…새 윤리체계 연내 적용 작성일 10-15 44 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">자율 에이전트 리스크 5대 영역으로 관리<br>기획부터 운영까지 3단계 체크리스트 적용<br>안전·프라이버시 등 6대 윤리 원칙 ‘SPIRIT’<br>아동·청소년 AI 위험요소도 별도 점검</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HH8lz3NdER"> <p contents-hash="5816fb81dc1e8f2ec7dd517530e07f3bfb143d39a2ae8013db510f4064a97185" dmcf-pid="X7L1P2IkmM" dmcf-ptype="general"> [이데일리 이소현 기자] 카카오(035720)가 스스로 계획하고 행동하는 자율형 인공지능(AI) 에이전트 확산에 맞춰 서비스 기획부터 운영까지 적용하는 새로운 AI 윤리 체계를 마련했다. AI의 목표와 권한, 데이터 접근 범위, 인간의 통제권 등을 5개 영역으로 나눠 위험을 점검하고 연내 실제 서비스 개발 과정에 새 체크리스트를 적용한다.</p> <figure class="figure_frm origin_fig" contents-hash="43e35bec0f07100520e6f4fe87e29a2fbf2e5511db90a80d1817572e0f1ea7dd" dmcf-pid="ZzotQVCErx" dmcf-ptype="figure"> <p class="link_figure"><img alt="카카오가 자율 에이전트의 확산에 대응하고자 AI 서비스의 기획부터 운영까지 적용할 AI 윤리 원칙과 이행 가이드를 마련한 가운데 김경훈(왼쪽부터) 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석, 정병수 유니세프 L&D센터장, 이상욱 한양대학교 철학과 교수, 김세웅 카카오 부사장, 김명주 AI안전연구소 소장, 이원태 국민대학교 특임교수, 유재연 한양대학교 사회혁신융합전공 겸임교수, 변순용 서울교육대학교 윤리교육과 교수, 이민석 국민대학교 소프트웨어융합대학 교수가 기념사진을 촬영하고 있다.(사진=카카오)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/15/Edaily/20261015103158425wvrz.jpg" data-org-width="1280" dmcf-mid="GL3aWh8Bme" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/15/Edaily/20261015103158425wvrz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 카카오가 자율 에이전트의 확산에 대응하고자 AI 서비스의 기획부터 운영까지 적용할 AI 윤리 원칙과 이행 가이드를 마련한 가운데 김경훈(왼쪽부터) 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석, 정병수 유니세프 L&D센터장, 이상욱 한양대학교 철학과 교수, 김세웅 카카오 부사장, 김명주 AI안전연구소 소장, 이원태 국민대학교 특임교수, 유재연 한양대학교 사회혁신융합전공 겸임교수, 변순용 서울교육대학교 윤리교육과 교수, 이민석 국민대학교 소프트웨어융합대학 교수가 기념사진을 촬영하고 있다.(사진=카카오) </figcaption> </figure> <div contents-hash="653f9da1fed04c50686a9fc45efbbdda0d539a26a57af1ad1e806bad5d9e5d01" dmcf-pid="5qgFxfhDsQ" dmcf-ptype="general"> 카카오는 지난 13일 카카오 AI 캠퍼스에서 열린 개발자 콘퍼런스 ‘if(kakao)26’에서 새로운 AI 윤리 원칙과 이행 가이드를 공개했다고 15일 밝혔다. </div> <p contents-hash="2e97d4d1879ccec44bc8fbdb4d29372c081d591a88a19073aade4c3a02b97704" dmcf-pid="1Ba3M4lwEP" dmcf-ptype="general">하진화 카카오 AI 커뮤니케이션 수석은 ‘윤리를 깨는 자율 에이전트, 어떻게 대응할까?’ 세션에서 AI가 스스로 계획하고 행동하는 환경에서는 인간의 판단과 책임 범위를 명확히 하고 이를 서비스 설계와 운영에 반영해야 한다고 강조했다.</p> <p contents-hash="a0a5b318b5152754b7114fd98006c20414641a3420582cb5f8d62395717f0224" dmcf-pid="tbN0R8Srr6" dmcf-ptype="general"><strong>자율 에이전트 위험 5개 영역으로 나눠 관리</strong></p> <p contents-hash="f9f7f11c360c6a612e6108807ffcee5b5d5cec7465a0fe792c33cf4638213dca" dmcf-pid="FKjpe6vmE8" dmcf-ptype="general">카카오는 자율 에이전트의 위험을 △통제 주도권 △목표 △권한 △참조 자원 △상호작용 등 5개 관리 영역으로 구분했다.</p> <p contents-hash="fa3bfced131c9e1e63af0904b3bb25fc56121ac41d58a80a65415c07a725ccf4" dmcf-pid="39AUdPTsD4" dmcf-ptype="general">AI가 이용자의 의도에서 벗어나 행동하는지, 필요한 수준을 넘어선 권한을 부여받지는 않았는지, 어떤 데이터와 외부 자원을 참조하는지 등을 점검하고 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 대응책을 연결하는 방식이다.</p> <p contents-hash="1707c6c8e883007c1377b7f5f56e1435fdd4d969d911fb91bfefecb613f76e3e" dmcf-pid="02cuJQyOsf" dmcf-ptype="general">이를 실제 서비스에 적용하기 위한 ‘AI 윤리 이행 체크리스트’도 마련했다.</p> <p contents-hash="6cdb7a28a36d84955ff35169f4eabcbc500c355a8c50ffb5d7ff90d1d2a25585" dmcf-pid="pVk7ixWIwV" dmcf-ptype="general">체크리스트는 △서비스 속성 파악 △사전 리스크 스크리닝 △통제 항목 점검·판정 등 3단계로 운영된다. 카카오는 이를 연내 서비스 개발과 운영 과정에 적용할 예정이다.</p> <p contents-hash="e9778f9e3557f11a5ddee796eb9c19782f3ac4eac6fc724515fd6842d058c261" dmcf-pid="UfEznMYCm2" dmcf-ptype="general"><strong>안전·프라이버시 등 6대 원칙 ‘SPIRIT’</strong></p> <p contents-hash="4d93f2d6f0bee4bb5d0abb6cf87b644655b08dbfe118c8f0b877a727c7e5a6dd" dmcf-pid="uivPwjUZD9" dmcf-ptype="general">새 AI 윤리 원칙은 ‘SPIRIT’으로 명명했다. △안전(Safety) △프라이버시(Privacy) △포용(Inclusivity) △책임(Responsibility) △이용자 주체성(Individual Autonomy) △투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 원칙으로 구성된다.</p> <p contents-hash="f67667d61dc760f73ea57e95bef150309eaddfd4f1c846eb61ff37c1b8be25ea" dmcf-pid="7nTQrAu5EK" dmcf-ptype="general">정부의 ‘대한민국 인공지능 윤리원칙’이 제시한 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고 카카오 서비스 환경에 맞게 세부 내용을 보완했다.</p> <p contents-hash="16cbef926869764f3eaa315b6ac856d285e7838809792000cf119707f8c7863f" dmcf-pid="zLyxmc71wb" dmcf-ptype="general">원칙을 실제 행동으로 옮기는 실행 방식은 ‘NORMA(Navigating, Organizational, Responsibility, Manageable, Actionable)’로 정의했다. 복잡한 윤리 문제를 조직 차원의 공동 책임 아래 관리 가능하고 실행 가능한 단위로 구체화한다는 의미다.</p> <p contents-hash="26b582e33dc961349323fe81a9b019bc824db0bfdcd6a750620b5fa64caf8282" dmcf-pid="qoWMskztmB" dmcf-ptype="general">이번 체계는 지난 7월 출범한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련했다. 외부 자문단이 국내외 AI 규범과의 정합성을 검토하고 카카오 내부 AI 세이프티·개인정보·정보보안·서비스 부서가 실제 적용 가능성을 점검했다.</p> <p contents-hash="e2cf7c0a307a0f3f86a60ccb12f00c54ac2aeed9c0cc72d4c48c6bb567890fb4" dmcf-pid="BgYROEqFOq" dmcf-ptype="general"><strong>아동·청소년 AI 위험도 별도 점검</strong></p> <p contents-hash="1172aa1299ebcc1ccdbae17e41f41620ed65525977a6318651894b2d80a87093" dmcf-pid="baGeIDB3wz" dmcf-ptype="general">아동·청소년을 대상으로 한 AI 서비스 점검도 강화한다. 카카오는 지난해부터 사용한 ‘디지털 아동·청소년 보호 체크리스트’에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 ‘5Cs’를 참고해 AI 특유의 아동·청소년 위험 요소를 새 체크리스트에 반영할 계획이다.</p> <p contents-hash="61bdd22efc7f506152b127c000bac5012bf88576fa2a20191d5015a52eee20d5" dmcf-pid="KNHdCwb0O7" dmcf-ptype="general">카카오는 2018년 ‘알고리즘 윤리헌장’을 발표한 뒤 2022년 카카오와 주요 계열사가 참여하는 AI&기술윤리소위원회를 구성했다. 이후 그룹 공통 ‘책임 있는 AI를 위한 가이드라인’을 마련하고 이용자 주체성 원칙과 ‘안전한 AI를 위한 핵심 체크리스트’를 도입해왔다.</p> <p contents-hash="32cc49f160192942b18dfccf67e859b7ffa86c25978549df20d5b2fa0450c62d" dmcf-pid="9jXJhrKpDu" dmcf-ptype="general">김세웅 카카오 AI&기술윤리소위원회 위원장은 “AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다”며 “AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어가겠다”고 말했다.</p> <p contents-hash="9dcbfbc176a7189dc3b1088a96485cbc016e8cd642c830ff8b86ccf988f2f0c6" dmcf-pid="2AZilm9UsU" dmcf-ptype="general">이소현 (atoz@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 "한국 인터넷이 베트남보다 느리다고?"…과기부·통신사 반박 10-15 다음 디스플레이 속 인물 '입'에서 소리 난다...기계연, 음원 위치 및 소리 방향 일치 기술 개발 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
