캐릭터와 한달 40시간 대화…AI 채팅 과몰입 규제 움직임 작성일 08-02 40 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">이용자들, 제타 등 챗봇에 의존…사회적 고립 우려<br>“플랫폼 사업자 예방적 책임 강화 가이드라인 필요”<br>‘청소년은 보호자 요청시 시간 제한’ 등 법안 발의</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="4LO5gJiPWF"> <figure class="figure_frm origin_fig" contents-hash="ef32c7f4caa0aff19bef5558239a0665586b1941da8d08bc67d3a95814b28512" dmcf-pid="8oI1ainQCt" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT로 생성한 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/02/seouleconomy/20260802190851321xcnk.png" data-org-width="1200" dmcf-mid="f2dw9zqFh3" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/02/seouleconomy/20260802190851321xcnk.png" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT로 생성한 이미지 </figcaption> </figure> <p contents-hash="39de4ac8413974c610ef077442b1c0404eb8c30414e27a000b8304a11e452f4e" dmcf-pid="6gCtNnLxl1" dmcf-ptype="general"><span>인공지능(AI) 캐릭터 채팅 서비스 이용자가 빠르게 늘면서 과몰입에 대한 우려도 커지고 있다. 정치권을 중심으로 AI 캐릭터 채팅 서비스에 대한 규제 도입 논의가 본격화하는 가운데, 업계는 과도한 규제가 산업 성장을 저해할 수 있다며 관련 움직임을 예의주시하고 있다.</span></p> <p contents-hash="035c8cf4be94f927140436cc93915fcb581e06e9b4d13ae8d13b4a2e254ad0a6" dmcf-pid="PahFjLoMv5" dmcf-ptype="general"><span>2일 업계에 따르면 국회입법조사처는 AI 챗봇에 대한 위험성을 지적하는 보고서를 최근 공개했다. 이 보고서가 주목한 서비스는 제타, 크랙, 바베챗 등 캐릭터 기반의 AI 채팅 서비스다. </span><span>이용자는 원하는 캐릭터와 세계관을 설정한 뒤 AI 캐릭터와 지속적으로 대화를 이어간다. AI 캐릭터는 이용자 맞춤형 대화와 감정 반응을 제공하며, 시간과 장소에 관계없이 언제든 상호작용할 수 있다.</span></p> <p contents-hash="5034bf5374c4ab347824fa7c7d6b6ca050760874cbef8c3a477e9a537f7d731d" dmcf-pid="QzMkBUu5TZ" dmcf-ptype="general">서비스의 이같은 특징으로 인해 이용자들이 AI 캐릭터와의 대화에 정서적으로 의존할 경우 현실을 회피하고 비판적 능력을 약화시켜 인지 왜곡을 일으킬 수 있다고 봤다. AI의 무조건적인 동조 언어에 익숙해지면 다른 사람과 실제 관계를 맺기보다 사회적 고립을 선택하게 되고 결국 유해 정보에 노출되거나 위험 행동 모방 및 개인정보 유출 등 위험에 노출될 수 있다는 것이다.</p> <p contents-hash="e75bc6a546669a0880c9ea938bf010e71cbbb39f38c6a0f956473c7f9631bf8f" dmcf-pid="xqREbu71SX" dmcf-ptype="general">국회입법조사처가 이같이 지적한 데는 실제로 국내에서 10~20대 이용자를 중심으로 AI 캐릭터 채팅 서비스가 많이 이용되고 있기 때문이다. 모바일인덱스에 따르면 ‘제타’의 지난달 기준 이용자 1인당 월평균 사용시간은 40시간에 달했다. 제타에 이어 ‘멜팅’은 29시간, ‘크랙’은 26시간, ‘케이브덕’은 25시간을 기록했다. 올해 상반기 기준 이용자들의 총 이용시간은 제타가 3억 시간으로 압도적이었다. 제타의 월 평균 사용자는 129만 명이다. 케이브덕, 멜팅은 월 평균 사용자가 7만여 명에 불과하지만 총 사용시간은 1000만 시간이 넘었다. 대화형 서비스의 특성상 이용자 수가 적어도, 상당한 시간을 애플리케이션에 투입하는 셈이다.</p> <p contents-hash="1a7d01f34fce420614d16d1680f01122cc3e69d2a1bd379ae235ebb70bf42c12" dmcf-pid="yDYzrckLlH" dmcf-ptype="general">플랫폼 사업자의 예방적 책임을 더 강화하는 내용으로 관련 규제가 강화될 필요가 있다는 지적이 나오는 이유다. 국회입법조사처는 “의존, 종속 유발 설계 요소 자체를 사전에 방지하고 사업자 책임을 제도적으로 관리하는 방향으로 전환돼야 한다”며 “과학기술정보통신부는 중독 과몰입 유발하는 AI 서비스의 설계요소를 식별 관리할 기준과 가이드라인을 마련해야 한다”고 말했다.</p> <p contents-hash="4a3a594ae494e10356381fe4542942aaf8bb15fcf0070e0b54ecc2408e6b44a2" dmcf-pid="WwGqmkEoCG" dmcf-ptype="general">조인철 더불어민주당 의원은 아예 아동, 청소년 이용자의 보호자가 요청하는 경우 서비스 이용 방법, 시간을 제한하고 캐릭터와 나눈 대화 내용을 제공받을 수 있도록 하는 내용의 법안을 발의했다. 조 의원은 9월 중 AI 캐릭터 채팅 서비스를 비롯해 플랫폼 사업자가 사전에 의무적으로 이용자에 미칠 위험성을 평가하도록 하는 내용으로 토론회도 개최할 예정이다.</p> <p contents-hash="1fcee9b8d81050d114d25cf5ff5b2f91b1a28342fb2199c095256aa4af07251e" dmcf-pid="YrHBsEDgCY" dmcf-ptype="general">이러한 규제 논의에 업계는 이용자 보호 필요성에는 공감하면서도 산업 성장과 혁신을 저해하지 않는 방향으로 제도가 설계돼야 한다고 입을 모으고 있다.</p> <p contents-hash="a55207d53c8a6e96ca24bc20585b2351688581f33e21cbd28f3e916d41fe9341" dmcf-pid="GmXbODwaTW" dmcf-ptype="general">업계의 한 관계자는 “AI 캐릭터 채팅 서비스를 운영하는 회사들마다 폭력, 혐오 등 유해한 내용의 콘텐츠가 감지되면 서비스 이용을 중단시키는 등 각종 안전 조치를 시행하고 있다”며 “무조건적 규제보다 업체들이 이런 노력을 하고 있는 점도 고려해야 한다”고 언급했다.</p> <p contents-hash="d5fc777528d7fb75274ee07f3581420cfae843aee4918987a5e2d3dd847e9cdb" dmcf-pid="HsZKIwrNTy" dmcf-ptype="general">김지영 기자 jikim@sedaily.com</p> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 삼성, '유효 판단' 오우라 美특허 상대 항소...무효분쟁 항소 5건으로 확대 08-02 다음 엘프 대신 서울 좀비·도깨비…K세계관에 빠진 게임업계 08-02 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
