개인정보는 AI학습을 위한 공공재가 아니다 작성일 11-20 28 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="bglyLQtWTK"> <p contents-hash="c8c8bdc3c34f81682a23583b632c7636d385115d79bd89e47ba69a156e3ad623" dmcf-pid="KaSWoxFYCb" dmcf-ptype="general"><strong>[기고] 개인정보 '원본 활용' 담은 개인정보 보호법 개정안 반대한다</strong></p> <p contents-hash="ce6647be8f09486c1da289742cab5591c56ef909c4ad7f2a4fd126b3145113c9" dmcf-pid="9NvYgM3GTB" dmcf-ptype="general">[미디어오늘 <span>최호웅 변호사 (민주사회를 위한 변호사모임 디지털정보위원회)</span>]</p> <figure class="figure_frm origin_fig" contents-hash="8e642e414b5085b044988c86c6b0ba98ce59801928d76c19f2bef2ae8c475c4e" data-idxno="471748" data-type="photo" dmcf-pid="2jTGaR0Hlq" dmcf-ptype="figure"> <p class="link_figure"><img alt="▲AI 이미지. ⓒGettyimages." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/20/mediatoday/20251120092712892zabu.jpg" data-org-width="600" dmcf-mid="0JlBlD6bCT" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/20/mediatoday/20251120092712892zabu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ▲AI 이미지. ⓒGettyimages. </figcaption> </figure> <div contents-hash="b780b4cb0f4f13db1de3d97ab384bed1d7ef5c4c595375b2b7c2d9bb4c554af2" dmcf-pid="VAyHNepXyz" dmcf-ptype="general"> <p>인공지능은 어느덧 우리의 일상 속에 깊이 들어와 있다. 우리는 하루에도 몇 번씩 자신의 정보를 비롯하여 수많은 데이터를 인공지능 프롬프트에 입력하여 질문하고, 빛의 속도로 주저 없이 생성한 인공지능의 답변에 놀라곤 한다. 그런데 그 놀람 속에서도 내가 입력하고 있는 나에 관한 정보가 인공지능 학습에 사용되고 있는 것은 아닌지, 혹시 다른 사람이 알게 되는 것은 아닌지 한 번쯤 생각해 본 적이 있을 것이다.</p> </div> <p contents-hash="1e5ce0dac72d2f91f2580587b0291a959f7c5bb76d8aff037ac0246889b38fc9" dmcf-pid="fcWXjdUZl7" dmcf-ptype="general">인공지능은 데이터 학습을 통하여 스스로 익히고 이를 바탕으로 추론하고, 결과물을 생성할 수 있다. 그런데 학습이 완료된 인공지능 모델에는 개인을 식별할 수 있는 정보가 포함되어 있을 수 있고, 암기 리스크, 프롬프트 공격 등에 의하여 학습데이터에 포함된 개인정보가 유·노출 될 가능성이 존재한다는 것이 다수 연구결과이다. 즉 인공지능 서비스단계에서 암기된 개인정보가 원본 그대로 출력되거나 개인식별 또는 민감정보 추론 목적으로 부정하게 운용될 수 있는 위험성이 현존하고 있다는 것이다. 실제 우리는 익명화되지 않은 개인정보를 학습한 인공지능 챗봇이 실명, 계좌번호, 주소 등 개인의 내밀한 사생활을 유출하고 차별과 혐오 발언을 일삼았던 '이루다 챗봇사건'을 경험한 바가 있다.</p> <p contents-hash="9cd86ab58c98671c1cc2173db63eab550cad03a1823d97fbc2b15a1f50056c8b" dmcf-pid="4GbVWORfSu" dmcf-ptype="general">그런데, 현 정부는 인공지능 3대 국가 도약을 국정 최우선 과제로 내세우며 국정초기부터 인공지능산업 육성을 위하여 인공지능 개발에 필요한 고품질 원본 데이터 활용을 허용하겠다고 하였다. 이러한 정부 의지에 발맞추어 인공지능 기술을 개발하거나 성능을 개선하기 위하여 정보주체 동의가 없어도 개인정보를 원본 데이터 그대로 활용할 수 있는 내용을 담은 개인정보 보호법 개정안이 실제 발의되어 국회는 현재 해당 법안(민병덕 의원안·고동진 의원안)을 심사 중이다.</p> <figure class="figure_frm origin_fig" contents-hash="d9b866e2f1fff30fa49b90aa125cb69e03ce5dd3195ceed3f9b81e5eadb2299e" data-idxno="471735" data-type="photo" dmcf-pid="8HKfYIe4lU" dmcf-ptype="figure"> <p class="link_figure"><img alt="▲ 이재명 대통령. 사진=대통령실 홈페이지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/20/mediatoday/20251120092714175zrfk.jpg" data-org-width="600" dmcf-mid="uYUiUXcnWl" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/20/mediatoday/20251120092714175zrfk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> ▲ 이재명 대통령. 사진=대통령실 홈페이지 </figcaption> </figure> <div contents-hash="114489529c2d6ccb9fbea68f4d2c51f68c5ce769472b5e57591538e1f443b613" dmcf-pid="6X94GCd8Sp" dmcf-ptype="general"> <p>'개인정보자기결정권'은 자신에 관한 정보를 보호받고 그 처리에 관하여 통제할 수 있는 헌법 상 기본권으로 인정되고 있다. 이러한 기본권을 구체화하고 있는 현행 개인정보 보호법에 따르면 개인정보처리자는 적법하게 수집한 개인정보라고 하더라도 애초 수집하게 된 목적 범위 내에서만 처리할 수 있으며, 목적을 넘어 이용하기 위해서는 원칙적으로 정보주체에게서 별도 동의를 받아야만 한다. 다만 가명정보 처리에 관한 특례 규정에 의하여 통계작성, 과학적 연구, 공익적 기록보존 등 해당 목적만을 위하여 정보주체의 동의 없이 가명정보로 처리할 수 있는 예외가 인정될 뿐이다. 즉 개인정보처리자는 정보주체로부터 적법하게 수집한 개인정보라고 하더라도 정보주체의 동의 없이는 인공지능 학습데이터로 사용할 수 없다.</p> </div> <p contents-hash="c4579be1f399403727d7350facee54ad7e2a87d78d6352df1c206c38180db6b6" dmcf-pid="PZ28HhJ6h0" dmcf-ptype="general">하지만, 해당 법안은 “인공지능 기술 개발 및 성능 개선을 위하여”라는 지극히 추상적이고 포괄적인 목적을 전제로 개인정보처리자가 정보주체의 동의가 없어도 개인정보 원본을 개인정보 보호위원회의 심의·의결만 받으면 인공지능 학습데이터로 활용할 수 있도록 규정하고 있다. 해당 법안이 통과되면 특정 서비스를 받기 위하여 제공한 나에 관한 정보는 나의 동의 없이도 인공지능 학습데이터로 활용될 수 있게 된다. 학습 과정에서 개인정보가 기억되거나, 기억된 개인정보가 유출 및 노출이 될 수 있는 위험은 나의 의사와 무관하게 내가 감당해야 하는 상황이 벌어지게 된다. 더군다나 해당 법안에서는 정보주체가 자신의 개인정보가 학습데이터로 사용되는 것을 거부하거나 정지시킬 권리가 있는지도 명확하지 않다. 여기서 더 나아가 국회에 발의된 사회관계망서비스 등에 공개된 개인정보인 경우 정보주체의 동의 없이도 적법하게 수집할 수 있도록 하는 개인정보 보호법 개정 법안(김태선 의원안)까지 통과가 되면 그야말로 온라인 상 개인정보는 인공지능의 학습도구로 전락하게 된다.</p> <p contents-hash="4c331649eca61a7de269812252f7913a20038256a3278ce32bab81f15fb0a879" dmcf-pid="Q5V6XliPl3" dmcf-ptype="general">개정 법안은 국민들의 개인정보가 마치 공유재인 것처럼 사유하고 있다. 공공재이기 때문에 인공지능 개발이라는 국가적 목적을 위해서라면 기꺼이 원본 데이터까지 활용할 수 있다는 것이다. 인공지능기술이 현재까지 극복하지 못하고 있는 학습된 개인정보 데이터 기억 및 출력 등에 관한 여러 가지 위험성 등을 무시한 채 산업 발전이라는 명목으로 개인정보 활용을 광범하게 허용하기 시작한다면 향후 새로운 기술이 등장하고 이러한 기술을 위해서도 개인정보는 공공재이므로 그 활용이 당연한 것으로 여겨지는 사회적 분위기가 형성될 수 있다.</p> <p contents-hash="b2c1e47322f1602976d68494cf6f7f551fc0fd6e8ae4a0f82b06a04504888bcc" dmcf-pid="x1fPZSnQyF" dmcf-ptype="general">정보주체 동의 없이 인공지능 개발 등을 위하여 원본 데이터 활용하는 것을 명시적으로 허용하는 법규를 두고 있는 국가는 세계적으로 드물다. 인공지능개발과 활용에서도 개인정보 보호라는 기본적 인권 보호가 중요하다는 원칙에 다들 공감하고 있기 때문이다. 우리 역시 국가 발전이라는 목적 하에 국민들의 인권이 도외시 되어서는 안 된다는 것을 역사적 경험 속에 합의해 왔다. 현재 필요한 것은 개인정보 활용을 위한 입법이 아니라, 오히려 정보주체가 자신의 정보가 데이터산업에 의하여 무분별하게 활용되는 것을 거부할 수 있도록 하고, 자신에 관한 정보를 스스로 통제할 수 있는 권리를 입법 등을 통하여 강화해야 하는 것임을 강조하고 싶다. 기술과 인간이 서로 균형을 이루면서 만들어 가는 미래를 꿈꾸기 때문이다.</p> <figure class="s_img figure_frm origin_fig" contents-hash="12b3b1f8fd43fdca005f0d3d53033631042039213337173cbdca3142ebf7679f" data-idxno="471733" data-type="photo" dmcf-pid="yLCvi65TCt" dmcf-ptype="figure"> <p class="link_figure"><img alt="▲ 민주사회를 위한 변호사모임 디지털정보위원회 최호웅 변호사 (법무법인 덕수)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/20/mediatoday/20251120092715473dpzf.jpg" data-org-width="170" dmcf-mid="ZNigqtwaSd" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/20/mediatoday/20251120092715473dpzf.jpg" width="170"></p> <figcaption class="txt_caption default_figure"> ▲ 민주사회를 위한 변호사모임 디지털정보위원회 최호웅 변호사 (법무법인 덕수) </figcaption> </figure> </section> </div> <p class="" data-translation="true">Copyright © 미디어오늘. 무단전재 및 재배포 금지.</p> 관련자료 이전 [단독] 탁재훈, 美 대학 재학 중인 아들 최초 공개…186cm 피지컬 눈길 11-20 다음 피싱방지 앱 1위 에버스핀 ‘페이크파인더’, ISMS로 공급망 보안 강화 해법 부상 11-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
