AI '카나나' 개인정보 우려 미리 막은 카카오…오픈AI에 저장 안 돼 작성일 03-13 128 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">단체방 기반 '카나', 개인 기반 '나나'로 구성된 카나나<br>개인정보위, 12일 카나나 사전적정성 검토결과 의결<br>암호화·외부모델 데이터 보호 안전장치 마련<br>대화 내용 학습데이터로 활용시 이용자 동의 받아야<br>"출시 직전 확충 여부 1차, 운영 체계 2차 이행점검"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zqbmJSmewo"> <p contents-hash="e4b84b25b86d2acbc31ff8465ebf9efb04c7e9385009f21999bb1c5c543b3f20" dmcf-pid="qBKsivsdIL" dmcf-ptype="general"> [이데일리 김범준 기자] 카카오(035720)가 올 상반기 중 인공지능(AI) 모델 ‘카나나’ 출시를 앞두고 이용자들의 개인정보 유출 논란 방지 등 안정적인 서비스를 위해 정부 당국과 협의해 여러 안전장치를 마련하기로 했다.</p> <figure class="figure_frm origin_fig" contents-hash="b872df0b122c35da1ec77b1e0a53f7761106c8a3db8153d77bd855f5cfcd9752" dmcf-pid="Bb9OnTOJIn" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난해 10월 경기 용인시 카카오AI캠퍼스에서 열린 카카오 개발자 컨퍼런스 ‘이프카카오 2024’에서 이상호 카나나엑스 성과리더가 카카오의 신규 인공지능(AI) 서비스 ‘카나나’를 발표하고 있다.(사진=카카오)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202503/13/Edaily/20250313122448953zkjv.jpg" data-org-width="571" dmcf-mid="7Vn1Ou1mDg" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202503/13/Edaily/20250313122448953zkjv.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 지난해 10월 경기 용인시 카카오AI캠퍼스에서 열린 카카오 개발자 컨퍼런스 ‘이프카카오 2024’에서 이상호 카나나엑스 성과리더가 카카오의 신규 인공지능(AI) 서비스 ‘카나나’를 발표하고 있다.(사진=카카오) </figcaption> </figure> <div contents-hash="1f9b97bf5fd5dcfa1b6136ad935c441f8d46638979a687c793b398b51df48a55" dmcf-pid="bK2ILyIiEi" dmcf-ptype="general"> 개인정보보호위원회는 13일 서울 종로구 정부서울청사에서 브리핑을 열고 전날 전체회의에서 카나나에 대한 ‘사전적정성 검토’ 결과를 심의 및 의결했다고 밝혔다. </div> <p contents-hash="3b364fa6a77775b901d2e5f609cafd5ed8699070f8ec0c70ce1023b4829063bc" dmcf-pid="K9VCoWCnOJ" dmcf-ptype="general">사전적정성 검토제는 신청인이 AI 등 신기술 또는 새로운 서비스 기획·개발 단계에서 기존 법 해석 및 집행 선례만으로는 명확한 개인정보보호법 준수 방안을 찾기 어려운 경우, 개인정보위와 협력해 신청 대상 환경에 적합한 법 적용 방안을 마련하고 이를 신청인이 이행하면 사후에 불이익한 처분을 하지 않는 제도다.</p> <p contents-hash="2c32d4b922fd19153e5499bacd1bbb0bbd67ad77859145c82b7cc2897deb5940" dmcf-pid="9DrKX6KGId" dmcf-ptype="general">전승재 개인정보위 조사3팀장은 이날 브리핑에서 “(사업자가 사전적정성) 검토를 받아놓고 (새로운 기술 또는 서비스) 출시가 안 되는 경우도 충분히 시장 상황에 따라서 (불이익 처분이) 있을 수 있다”며 “현재까지 그런 경우는 없었고 출시를 이미 했거나 아님 출시를 예정하고 있는 사례들”이라고 설명했다.</p> <p contents-hash="1c7fc310325a563c7576e2871bcf4e15898bcc0522c4e9de74ef7cdc63706be3" dmcf-pid="2wm9ZP9Hre" dmcf-ptype="general">카나나는 대화의 맥락을 파악해 답변을 제시하는 ‘AI 메이트’ 서비스다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 ‘카나’, 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 ‘나나’로 구성돼 있다.</p> <p contents-hash="172055be1917e33d1e6ff9e4cc6e43ab84065d2c89da8be5f5eff23ea2e5bca5" dmcf-pid="Vrs25Q2XDR" dmcf-ptype="general">카카오는 새로 출시할 카나나 서비스가 개인정보보호법을 충실히 준수하며 프라이버시 친화적으로 설계·운영될 수 있도록 지난해 12월 10일 개인정보위에 사전적정성 검토를 신청했다.</p> <p contents-hash="5c7998a46cabce10407284684be1df90fc1a58c94d4fe5c33b19cd06351f7201" dmcf-pid="fmOV1xVZDM" dmcf-ptype="general">우선 카카오는 안전장치(가드레일) 역할의 AI 모델을 탑재해 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나, 언어모델이 생성하는 답변을 통해 타인의 전화번호와 이메일 등 식별성이 높은 정보가 노출되는 일이 없도록 자동 검수할 계획이라고 개인정보위에 설명했다.</p> <p contents-hash="3232b9a2af5e2167c1a90d105929f269d4a87fad4e6e4f851fa623250a457cdf" dmcf-pid="4sIftMf5wx" dmcf-ptype="general">카카오는 개인정보위와 사전적정성 검토 과정을 통해 추가적으로 △암호화 등 기술적 보안조치 강화 △외부모델 처리데이터 보호 강화 △내부 학습에 이용 시 별도 추가적 안전조치 운영 △내부 관리체계 강화 등 안전조치 방안을 마련하기로 했다.</p> <p contents-hash="96c071a1bb2668919dda1f628941fde8d4a122375058b9f109abf567ae71da30" dmcf-pid="8OC4FR41rQ" dmcf-ptype="general">카나·나나는 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화하기로 했다. 대화방 내 데이터는 카카오 내 별도 데이터베이스(DB)에 보관하며, 외부 모델인 오픈AI 측에는 저장되지 않도록 했다.</p> <p contents-hash="d70b6969c1f3766590f4e44881aae49e39854ec06e872197f3447c379dbad87d" dmcf-pid="6Ih83e8trP" dmcf-ptype="general">또한 오픈AI는 데이터를 카카오가 맡긴 업무를 위해서만 활용하고 자사 사업 목적으로 쓰이지 않도록 해야 한다는 조건을 명시하는 한편, 챗GPT의 응답 후 오픈AI에 별도로 저장되지 않도록 기술적 제약도 두기로 하였다.</p> <p contents-hash="a26c86da5f6cd8504b31194c3fe3e15539f55649d0c14f26c64a461df2acf5d8" dmcf-pid="PCl60d6Fm6" dmcf-ptype="general">아울러 카카오가 이용자 대화 데이터를 자사 언어모델(LLM) 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도의 동의를 받도록 하고, 원하지 않을 경우 동의하지 않을 수 있도록 했다.</p> <p contents-hash="b30200cf2ea2648e885341f976a6299b57396851677a4d9c36056f9b59a947e7" dmcf-pid="QhSPpJP3O8" dmcf-ptype="general">카나나 서비스의 지속적인 개인정보 보호수준 제고를 위해 카카오의 개인정보보호책임자(CPO)가 상시 리스크 관리체계를 구축·운영하며 중대한 리스크 관리 계획 및 실행 내역을 정기적으로 이사회에 보고하기로 했다.</p> <p contents-hash="23f38894273dc737ea84e8888f1452ccc5de5b75faf7fa5051744c7afce5690c" dmcf-pid="xvyM7LMUr4" dmcf-ptype="general">개인정보위는 카나나 서비스가 공식 출시되면 해당 사항을 카카오가 실제 이행하고 있는지를 점검할 예정이다. 아울러 사전적정성 검토제를 더욱 활성화해 AI를 비롯한 신기술과 서비스의 법적 불확실성을 해소하고, 정보주체의 권익이 보호될 수 있도록 계속 노력해 나갈 계획이다.</p> <p contents-hash="ef3760aa815498c7f5a70d48cb3bb7c4322287b0be6f8b658aa1f6d41e58ac06" dmcf-pid="yPxWk1WAsf" dmcf-ptype="general">전 팀장은 “안전장치들은 모두 출시 전에 구현이 된 상태로 출시가 돼야 하고, 위원회가 이행점검을 두 번 이상 할 예정”이라며 “출시 직전에 안전장치들이 확충됐는지 여부를 1차 이행점검을 통해 확인하고, 한동안 운영 후 이사회 보고와 피드백 체계 등이 잘 작동하고 있는지를 수개월 후에 2차 이행점검을 할 것”이라고 밝혔다.</p> <p contents-hash="ccb091a6d78922766be9be1127c54ad58d888dba8e26633fbf442bc4c6dd14bd" dmcf-pid="WQMYEtYcsV" dmcf-ptype="general">김범준 (yolo@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 배성재♥‘품절’된 김다영, 엉덩이 흔들어대며 잔망진 댄스로 결혼 자축 03-13 다음 "뚜껑 열리게 하지마" 윤남노, 와인바 양도권 등장 분노 03-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
