안전한 AI 위한 '삼박자'…정책·기술·협력 힘 쏟는 카카오 작성일 09-24 54 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[if(kakao)25] 이상호 카카오 AI Quality&Safety 성과리더 발표</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BDs9ZxQ01a"> <figure class="figure_frm origin_fig" contents-hash="c755a6851039112750709b5e461eda486ca2d1683056c7575fb6805e7d63a541" dmcf-pid="bwO25Mxp1g" dmcf-ptype="figure"> <p class="link_figure"><img alt="이상호 카카오 AI Quality&Safety 성과리더가 24일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 콘퍼런스 '이프 카카오'(if(kakao)25)에서 기조연설을 하고 있다. (카카오 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/24/NEWS1/20250924154119361jeuh.jpg" data-org-width="1400" dmcf-mid="qYfCoGYctN" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/24/NEWS1/20250924154119361jeuh.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 이상호 카카오 AI Quality&Safety 성과리더가 24일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 콘퍼런스 '이프 카카오'(if(kakao)25)에서 기조연설을 하고 있다. (카카오 제공) </figcaption> </figure> <p contents-hash="00784167bcc055126362875570ab21862c68f5aba72ddc593b283491247ab49e" dmcf-pid="KrIV1RMUXo" dmcf-ptype="general">(서울=뉴스1) 신은빈 기자 = 카카오(035720)는 안전한 인공지능(AI) 서비스를 위해 정책·기술·외부 협력 세 가지 방면에서 꾸준히 노력하고 있다.</p> <p contents-hash="3bf7aaac8936c1880b7f2535f5c375a49907d06421a6d02d872064e94ad29c85" dmcf-pid="9mCfteRuHL" dmcf-ptype="general">이상호 카카오 AI Quality&Safety 성과리더는 24일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 콘퍼런스 '이프 카카오'(if(kakao)25)에서 AI 시스템의 위험성과 이에 대응하는 카카오의 방안을 공개했다.</p> <p contents-hash="30c814731415cfe60c7aea12bcf1dc10388f4e9b99b08e060dff04b772bd725a" dmcf-pid="2sh4Fde7Xn" dmcf-ptype="general">이 성과리더는 "초거대 언어모델이 가지는 구조적 특성상 일정 수준의 정보 손실이 발생할 수 있다"고 말했다.</p> <p contents-hash="d8e3901b02ceafa90b91f2c14cd2a6ae3cece6d1359a7b01a72a6d1141e8306e" dmcf-pid="VOl83Jdz5i" dmcf-ptype="general">AI 시스템 활용에 내재한 위험은 크게 세 가지다. 정보 저장 과정의 손실로 정보를 추출할 때 환각 현상이 발생할 수 있고, 방대한 양의 지식 학습 과정에서 유해 정보가 추출될 수 있다. 대화형 인터페이스는 악용 가능성도 있다.</p> <p contents-hash="8b1b83cbf9c1dcc6a2b8ea0ffd3984c241844c748aa9768b7395a44ada282b23" dmcf-pid="fIS60iJqtJ" dmcf-ptype="general">카카오는 이러한 위험에 대응하고자 △정책 수립 △기술 개발 △외부 협력을 통해 힘쓰고 있다.</p> <p contents-hash="990be5b883e6308869d3f954092cea7e7e0e09fdfcc150091b40bc7ff4393bfb" dmcf-pid="4CvPpniB1d" dmcf-ptype="general">지난해 10월에는 AI 위험 관리 체계 '카카오 AI 세이프티 이니셔티브'(Kakao AI Safety Initiative)를 수립했다. 7월 카카오의 자체 AI 모델 '카나나-1.5'(Kanana-1.5)에 적용한 안전성 평가 결과를 홈페이지에 공개하기도 했다.</p> <p contents-hash="c0d1ae203d439c1c2a935b9f44d02aaba27a139bbef50080fc45322e9df856d1" dmcf-pid="8hTQULnb1e" dmcf-ptype="general">이 체계는 책임 있는 AI를 위한 가이드라인이라는 윤리 원칙을 기초로 작동한다. 2018년 국내 기업 최초로 수립한 알고리즘 윤리헌장을 개정한 것으로 AI 모델의 전 생애주기에서 발생할 수 있는 리스크에 선제 대응하는 것이 목적이다.</p> <p contents-hash="289c81c796dd0d44f1bf6a1f77020e19892d1152f89a084add3c7dad6a646e2c" dmcf-pid="6pzEMhCnGR" dmcf-ptype="general">기술적 노력으로는 자체 AI 가드레일 모델 '카나나-세이프가드'(Kanana-Safeguard)를 소개했다.</p> <p contents-hash="861ed1242455b9e073011aae020077d093bb0c20acebcd05bcaa8358066a452c" dmcf-pid="PUqDRlhL1M" dmcf-ptype="general">카카오의 AI가 윤리적 가치를 위반하는 위험한 출력을 생성하지 않도록 사전 방지하는 핵심 기술로, 현재 출시했거나 출시 예정인 AI 서비스에 탑재된다. 한국어에 특화돼 문화적 맥락이 반영된 것이 특징이다.</p> <p contents-hash="f60d868f86c556a43f598e76ff72283f8eea364305982dbd0d3bb6474b852236" dmcf-pid="QuBweSloZx" dmcf-ptype="general">카카오는 AI 안정성 기준의 정합성을 높이고자 국내외 기관·단체와 외부 협력도 추진한다.</p> <p contents-hash="0ab1e9f82c426723c624bd4328934a5a27cf0c66318eeec613a76f1772e0f310" dmcf-pid="x7brdvSgXQ" dmcf-ptype="general">'AI 얼라이언스'에 국내 기업 최초로 가입했으며 유엔개발계획(UNDP), 유엔아동기금(UNICEF), 유엔글로벌콤팩트(UNGC) 등 유엔(UN) 유관기관 등과의 교류를 통해 국제 표준을 위한 노력을 이어가는 중이다.</p> <p contents-hash="920cee6e4b8851a16a0137fe624434ae199a8d994fc5d5f16f695712d10c727d" dmcf-pid="ykrbHP6FYP" dmcf-ptype="general">국내 AI 안전성 전담 연구기관인 AI 안전연구소와의 협력을 통해 안전성 평가, 데이터 구축, 기술 개발과 관련 공동 연구도 진행하고 있다.</p> <p contents-hash="66c567ef42f332c8ea7146a90d4254042cc3ea3ec80331759c81eec9a258626e" dmcf-pid="WEmKXQP3H6" dmcf-ptype="general">이 성과리더는 "AI 안정성은 이해관계자가 모여 지속적인 합의를 거쳐 공통적인 표준을 토대로 만들어지는 것이라고 생각한다"며 "앞으로도 기술 발전 속도에 부합하는 안전벨트를 개발하겠다"고 말했다.</p> <p contents-hash="74f775eadeb80b9b40c8e564141713dd92cad45f4a69ce4f1cb776053abf8ef7" dmcf-pid="YDs9ZxQ0G8" dmcf-ptype="general">bean@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 [현장] "모델 공짜로 풀어도 돈 버는 딥시크"…모레가 밝힌 AI 전쟁의 진짜 무기는? 09-24 다음 “내년 CES의 키워드는 AI 기반 양자...CES 때 비자 문제는 없을 것” 09-24 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
