부모님한텐 말 못해도…10대들 고민 털어놓는 '비밀친구' 정체 작성일 08-13 27 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">청소년 94.4% 생성형 AI 챗봇 이용 경험<br>셋 중 하나는 힘들 때 AI에 고민 털어놔<br>해외는 가상 연인·컴패니언 AI 직접 규제<br>국내는 SNS 중심…AI 챗봇 보호체계 공백</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="XZ9e5YPKTA"> <figure class="figure_frm origin_fig" contents-hash="06ee19be782e700837d17ecf993d7ba17ca90083ce248113a7e0b078a227b9b3" dmcf-pid="Z52d1GQ9Wj" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진=게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/13/ked/20260813104109007waql.jpg" data-org-width="1200" dmcf-mid="zHJgUtJ6SG" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/13/ked/20260813104109007waql.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진=게티이미지뱅크 </figcaption> </figure> <p contents-hash="c12ade37e945e9ce1d3d8e890832b608334dbcfe96739b4b4dfd6af9d8e60929" dmcf-pid="51VJtHx2vN" dmcf-ptype="general"><br>"부모님이나 친구한테는 말하기 어려운 고민도 AI(인공지능)한테는 얘기해요. 뭐라고 해도 판단하지 않고 계속 들어주니까요." AI 챗봇이 청소년의 검색 도구를 넘어 대화 상대이자 고민 상담 창구로 자리잡고 있다.</p> <p contents-hash="9df142fe3b4ab25f8d241f7ebeae634f02795f8fe307a3d18198a5208c171763" dmcf-pid="1tfiFXMVva" dmcf-ptype="general">청소년의 절반가량은 AI가 자신을 이해해준다고 느낀 경험이 있었고, 셋 중 한 명은 힘들거나 우울할 때 챗봇에 속내를 털어놨다. 해외에서는 AI와의 정서적 관계 형성을 겨냥한 규제가 속속 도입되고 있지만, 국내 청소년 보호 논의는 아직 소셜미디어(SNS)와 추천 알고리즘에 무게가 실려 있다는 지적이 나온다.</p> <p contents-hash="98fa728aec89ff7ade04b5fc362d5de4d5e15476846921da96ea8c57801b3b13" dmcf-pid="tF4n3ZRfhg" dmcf-ptype="general"><strong><span> "'위험한 질문'에도 답변"</span></strong></p> <p contents-hash="e290d93c5a82db514b83e42332dcbf602b12dcd7a1d55724f17012734b40a152" dmcf-pid="F38L05e4To" dmcf-ptype="general">13일 국회입법조사처와 초록우산 어린이재단 자료에 따르면 초록우산이 지난 3월 전국 만 14세 이상 아동·청소년 3300명을 조사한 결과 94.4%가 생성형 AI 챗봇을 사용한 경험이 있다고 답했다. 거의 매일 쓴다는 응답도 19.3%였다.</p> <p contents-hash="0161688aba0f02548d1036d59518a6a320823962951806d7eb6ed0bb5de6da74" dmcf-pid="306op1d8lL" dmcf-ptype="general">챗봇의 답변이 실제 행동으로 이어지는 경우도 적지 않았다. 이용 경험자 가운데 41%는 챗봇 답변을 실제 행동으로 옮긴 적이 있었다. 입법조사처는 답변을 행동에 옮겼거나 진지하게 고려한 경험이 있는 비율을 75.3%로 제시했다.</p> <p contents-hash="8ebd38c98104e9fc4f6748f80c2910206db21624ec38a606775dda333eb612ac" dmcf-pid="0pPgUtJ6vn" dmcf-ptype="general">청소년에게 AI 챗봇은 단순한 검색창과도 달랐다. 응답자의 49.5%는 "AI가 자신을 이해해준다고 느낀 적이 있다"고 답했고, 35.1%는 "AI를 실제 사람처럼 느낀 경험이 있다"고 했다. 챗봇 답변을 신뢰한다는 응답은 '항상' 11.2%, '가끔' 66.5%였다. 답변의 정확성을 별도로 확인하지 않는다는 응답도 20.7%였다.</p> <p contents-hash="56796491b44ea8d153a1ee8713b9358c6457bc4c548435d3698571947ac9a7c7" dmcf-pid="pUQauFiPWi" dmcf-ptype="general">초록우산 이슈브리프에서는 응답자의 약 33%가 힘들거나 우울할 때 챗봇에 속내를 털어놓은 것으로 나타났다. 자살·자해 등 이른바 '위험한 질문'을 던진 경우에는 평균 52%가 실제 관련 답변을 받은 것으로 조사됐다.</p> <p contents-hash="01991996e2ca53a59f40e36a3a659e0651b7efe801acf8f301e236dcae9934dd" dmcf-pid="Ugh5aiYCCJ" dmcf-ptype="general">입법조사처는 문제의 핵심을 특정 콘텐츠보다 AI 챗봇의 서비스 설계에서 찾았다. AI 챗봇은 이전 대화 내용을 기억하고 이용자의 선호를 학습해 점차 개인화된 답변을 내놓는다. 사람과 달리 피곤함이나 불편함, 거절을 표현하지 않고 언제든 즉각 반응한다. 이용자가 AI와 지속적인 관계를 형성하기 쉬운 구조다.</p> <p contents-hash="910954ae85cf4631a5dba09c67d09e8a1960842ada0f05ef9af83d88e1a85bbc" dmcf-pid="ual1NnGhhd" dmcf-ptype="general">여기에 체류시간과 반복 이용을 늘리기 위한 설계가 결합되면 의존 위험이 커질 수 있다는 게 입법조사처의 분석이다. 칭찬·공감·격려를 즉각 돌려주는 '보상 루프', 시간이 지날수록 관계가 친밀해지는 것처럼 느끼게 하는 '관계 심화 시뮬레이션', 대화를 이어가기 위한 개방형 질문과 재접속을 유도하는 푸시 알림 등이 대표적이다.</p> <p contents-hash="2aca591d53e33a6320de48bdc0c6a53fbae5e32042b1aa985998040091362ea0" dmcf-pid="7NStjLHlSe" dmcf-ptype="general">이 같은 구조는 아동·청소년에게 더 강하게 작용할 수 있다. 인지 통제 기능은 충분히 성숙하지 않은 반면 보상 자극에 대한 민감도는 성인보다 높기 때문이다. 입법조사처는 정서적 의존이 인지적 왜곡과 사회적 고립을 거쳐 유해정보 노출이나 위험 행동 모방 등 안전 문제로 이어질 가능성이 있다고 봤다.</p> <p contents-hash="47f3ac294ad088b3463d8011f41657d5299b0f712929a9245f185c601a84c0fe" dmcf-pid="zjvFAoXShR" dmcf-ptype="general">특히 제타(Zeta), 크랙(Crack), 바베챗(BabeChat) 등 캐릭터 기반 AI는 이용자가 원하는 캐릭터와 세계관을 설정하고 대화를 이어가며 관계를 쌓는 방식이다. 게임이나 애니메이션 캐릭터와 달리 이용자와 기억을 공유하고 사적인 대화를 주고받는다. 청소년이 AI를 친구나 또래처럼 받아들이며 정서적으로 몰입할 가능성이 있다는 설명이다.</p> <p contents-hash="f5dbce4bb79dab70e9855d103ae08e6af5e96e7bf5ecc6fb4aab4d9a23f72860" dmcf-pid="qAT3cgZvSM" dmcf-ptype="general">이용 규모도 이미 상당하다. 모바일인덱스에 따르면 제타는 올해 상반기 평균 월간활성이용자(MAU) 129만명으로 국내 AI 엔터테인먼트 앱 가운데 가장 많은 MAU를 기록했다. 크랙도 5월 MAU가 55만명으로 1년 전보다 두 배 넘게 늘었다. 와이즈앱·리테일 조사에서는 지난해 10월 제타의 월간 사용시간이 7362만시간으로 챗GPT(4828만시간)를 웃돌았다.</p> <p contents-hash="0a5fb1c51c0d6cf36fa1f209f85e5784c7d965182502f44845a1d293a465916e" dmcf-pid="Bcy0ka5TSx" dmcf-ptype="general"><strong><span>中은 미성년자 '가상 연인' 금지</span></strong></p> <figure class="figure_frm origin_fig" contents-hash="e3e989739b5fbef9fdcd10b41b382f83154fa192509b4b8862f3b6ebc740755e" dmcf-pid="bkWpEN1yCQ" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진=게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/13/ked/20260813104110352sean.jpg" data-org-width="733" dmcf-mid="GZ8MXy8BTk" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/13/ked/20260813104110352sean.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진=게티이미지뱅크 </figcaption> </figure> <p contents-hash="8f89d455f338ac68fa6eff5b44d2d474e5d0706afaf8f465c8c6eafb6539f7bf" dmcf-pid="KEYUDjtWWP" dmcf-ptype="general">해외에서는 AI 챗봇을 SNS와 별개의 위험으로 보고 직접 규제하려는 움직임이 확산하고 있다.</p> <p contents-hash="34b0467c1f48ae37bc5e284ec00de831e2fce1e5ed1ab0a725e291c98b2aa243" dmcf-pid="9DGuwAFYh6" dmcf-ptype="general">중국은 지난달 15일부터 'AI 의인화 상호작용 서비스 관리 잠정 방법'을 시행하고 있다. 국가인터넷정보판공실 등 5개 부처가 지난 4월 발표한 규정으로, AI 친구·가상 연인·가상 아이돌처럼 지속적인 정서 교류를 제공하는 서비스가 대상이다. 검색이나 업무 보조, 지식 문답형 AI는 원칙적으로 제외된다.</p> <p contents-hash="edaba3ba21e675eee2ed7cfffbc70c5865ac5aaec5defdde7a382d322264f555" dmcf-pid="2wH7rc3GW8" dmcf-ptype="general">이 규정은 AI가 이용자의 감정적 의존이나 과도한 몰입을 유도하지 못하도록 하고, 미성년자에게 가상 연인이나 가상 가족 같은 친밀관계 서비스를 제공하는 것을 금지했다. 연속 이용시간이 2시간을 넘기면 사용시간을 알리고, 과도한 의존이나 극단적인 감정 상태가 감지되면 현실을 환기하고 도움을 요청하도록 안내해야 한다. 서비스 출시 전에는 당국의 안전성 심사도 받아야 한다.</p> <p contents-hash="6a910ed947a8a2943dc709e24c517017286e897106dc0f13ba8bbc5d896c05b1" dmcf-pid="VrXzmk0HT4" dmcf-ptype="general">미국에서는 캘리포니아주의 AI 컴패니언 챗봇 규제법이 올해부터 시행되고 있다. 연방의회에서도 연령 확인과 AI 챗봇 고지, 18세 미만 대상 성적·신체적 폭력 대화 금지 등을 사업자 의무로 두는 법안이 추진 중이다. 워싱턴주와 뉴욕주, 버지니아주 등에서도 관련 입법이 추진되고 있다.</p> <p contents-hash="b6f2214e992ba41af95358e2387c66ab022be6dfc05e79684935f0bce7d08007" dmcf-pid="fmZqsEpXSf" dmcf-ptype="general">유럽연합(EU)은 AI법과 디지털서비스법(DSA)을 통해 미성년자의 취약성을 악용하는 AI를 제한하고 추천시스템 개선, 참여 유도 기능 제거 등 '설계에 의한 안전' 원칙을 강화하고 있다. 캐나다도 지난 6월 하원에 제출된 법안에서 챗봇 서비스를 SNS와 별도 규제 대상으로 명시해 안전설계, 지원기관 연결 체계 구축, 위험관리계획 공개 등의 의무를 담았다.</p> <p contents-hash="7f3757ae925a7e0ca6bbeae2e4fa94b7599fa204a700935b55141727cef3f22a" dmcf-pid="4s5BODUZvV" dmcf-ptype="general">만 16세 미만의 SNS 계정 보유를 금지한 호주에서는 AI 챗봇에도 계정 금지를 적용하자는 논의가 이어지고 있다. 영국은 사용자와 성적 관계·역할극을 시뮬레이션하도록 설계된 '로맨틱 동반자 AI 챗봇'의 최소 이용 연령을 18세로 제한하는 방안을 추진 중이다.</p> <p contents-hash="35ad1d626cca48c975dc0e338c3c63030d71ccd22f566374e39d68383d16aa52" dmcf-pid="8O1bIwu5l2" dmcf-ptype="general">사업자 차원의 보호 조치도 나오고 있다. 미국의 챗봇 서비스 업체 캐릭터AI는 지난해 말부터 18세 미만 이용자의 개방형 채팅을 중단하고 정해진 서사를 따라가는 기능만 남겼다. 오픈AI는 부모가 자녀의 사용 제한 시간을 설정하고 메모리·음성·이미지 생성 등 일부 기능을 관리할 수 있는 자녀 보호 기능을 도입했다.</p> <p contents-hash="54dcc91323ec0a3487691172de1bf5bc473c81c6ae191108930f64209db740bc" dmcf-pid="6h32lsqFv9" dmcf-ptype="general"><strong><span>국내는 SNS 규제 먼저…AI 챗봇은 '빈틈'</span></strong></p> <figure class="figure_frm origin_fig" contents-hash="10904c2c89666967d7b7ddaf6fb75176807ee61f26b6540d617ba6b9d0af24b6" dmcf-pid="Pl0VSOB3yK" dmcf-ptype="figure"> <p class="link_figure"><img alt="/사진=게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/13/ked/20260813104111634rvzm.jpg" data-org-width="726" dmcf-mid="HZ2d1GQ9Sc" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/13/ked/20260813104111634rvzm.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> /사진=게티이미지뱅크 </figcaption> </figure> <p contents-hash="9ae7e9f8105d90b24bfe506939551e219ad6f4ecf3f4bac4270d34059311064f" dmcf-pid="QSpfvIb0hb" dmcf-ptype="general"><br>국내 청소년 온라인 보호 논의는 AI 챗봇보다 SNS 규제가 한발 앞서 있는 모양새다. 방송미디어통신위원회는 지난달 16일 대통령 업무보고에서 정보통신망법을 개정해 사업자의 연령 인증 의무를 강화하고 14세 미만의 SNS 가입을 제한하는 방안을 검토한다고 밝혔다. 14세 이상 19세 미만에게는 과몰입을 유도하는 추천 알고리즘과 자동재생 기능 노출을 제한하는 방안도 논의하고 있다.</p> <p contents-hash="dfb7b47e303178da991c5a360a6ad90c1034218f1e0f442b4f7f0e8b2f84271a" dmcf-pid="xvU4TCKpvB" dmcf-ptype="general">국회에 발의된 정보통신망법 개정안 7건 역시 SNS와 추천 알고리즘을 주로 겨냥한다. AI 챗봇에 대한 정부 대응은 아직 개별 사안 중심이다. 방미통위는 지난 1월 엑스(X)에 AI 서비스 '그록'의 청소년 접근 제한과 관리조치 등을 담은 보호계획을 제출하라고 요구했다.</p> <p contents-hash="29dc4920a67dd7bffe19ad212c3e6b30e81edb630b2ee95e40b37ca1b795b71d" dmcf-pid="yPAhQfmjWq" dmcf-ptype="general">다만 입법조사처는 AI 챗봇의 특성상 기존 온라인 규제 체계만으로 대응하기 어렵다고 지적했다. 현행 정보통신망법과 청소년보호법은 유해 게시물이나 매체물을 사후 차단하는 데 초점이 맞춰져 있다. 반면 AI 챗봇은 이용자마다 다른 답변이 실시간 생성되는 '폐쇄적 일대일 대화'여서 게시물이나 매체물을 전제로 한 기존 규율을 그대로 적용하기 어렵다는 것이다.</p> <p contents-hash="45bd6260c3d9db6fb55508a9a80f01b82e8747f26184f66998b4d2ade900c0bb" dmcf-pid="WQclx4sAWz" dmcf-ptype="general">서비스 설계 자체를 규율할 장치도 부족하다고 봤다. 인공지능기본법에는 생성형 AI 결과물 표시 의무와 고영향 AI 위험관리 의무가 있지만, 정서적 의존이나 과몰입을 유발하는 설계처럼 눈에 잘 드러나지 않는 위험은 규율 대상에 포함되기 어렵다는 설명이다.</p> <p contents-hash="8270ddcd94c0d589f900c5ea8fc4f99177d6323f4a379ef1ac04d3063c167179" dmcf-pid="YxkSM8Ocv7" dmcf-ptype="general">보호 연령 기준도 법마다 다르다. 개인정보보호법은 법정대리인 동의 대상을 만 14세 미만으로 한정하는 반면 청소년보호법은 만 19세 미만을 보호 대상으로 규정한다. 입법조사처는 이 때문에 14~18세 청소년의 디지털 보호 체계가 단절돼 있다고 지적했다.</p> <p contents-hash="01c154eeee7ec9fd3ab54dbf17aac43ce41f9a7135e09fade4be39d5e60f1d16" dmcf-pid="GMEvR6IkSu" dmcf-ptype="general">입법조사처는 규제의 초점을 유해 콘텐츠 사후 차단에서 서비스 설계 단계의 예방으로 옮길 필요가 있다고 제안했다. 중독적 UX 설계 제한, 감정적 취약성을 이용한 참여 유도 방지, 야간·심야 푸시 알림 차단 등을 사업자의 안전조치 기준에 포함하는 방안이다. AI가 전문가나 인간 상담사로 오인되지 않도록 주기적으로 알리고, 자해·자살·성적 착취 등을 유발하는 대화가 탐지되면 경고하거나 상담기관·보호자와 연결하는 안전장치도 제시했다.</p> <p contents-hash="0d0d07a94acc4e3216e5f28c8e3ed77e4a76c65b45fbe78c00b3db893b449de7" dmcf-pid="HRDTePCETU" dmcf-ptype="general">국회에는 AI 챗봇을 직접 겨냥한 법안도 발의돼 있다. 조인철 더불어민주당 의원이 지난 6월 대표발의한 '우리아이 AI 안심 패키지법'은 인공지능기본법 개정안을 통해 아동·청소년을 인공지능취약계층에 포함하도록 했다. 함께 발의된 정보통신망법 개정안에는 대화형 생성 AI 사업자의 이용자 연령·본인 확인, 아동·청소년 이용 시 법정대리인 동의, 법정대리인 요청에 따른 이용 방법·시간 제한 등이 담겼다. 자살·자해·마약류 오남용·성적 착취 등 위험 노출에 대한 신고 시스템 구축 의무도 포함됐다.</p> <p contents-hash="534b6d1c4945fe05ef88958ae68e8463031335b62653db7c343505a30119e304" dmcf-pid="XewydQhDyp" dmcf-ptype="general">조 의원은 "이제 아이들은 사람뿐 아니라 AI와도 관계를 맺고 고민을 털어놓고 정보를 얻는 시대를 살고 있다"며 "AI가 아이들의 일상에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다"고 말했다.</p> <p contents-hash="512186389fc37178a376a4e5c43eacb335780808809874d2fe09229fff5e26c8" dmcf-pid="ZdrWJxlwv0" dmcf-ptype="general">홍민성 한경닷컴 기자 mshong@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 [유미's 픽] "챗GPT에 회사 띄워준다"…AEO·GEO 열풍에 과장 영업 기승 08-13 다음 네이버웹툰·문체부·인터폴 공조…글로벌 불법 웹툰 공급망 뿌리 뽑았다 08-13 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
