"충동강화 금지"…美캘리포니아 세계 첫 'AI 챗봇 규제법' 통과 작성일 09-12 58 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">개빈 뉴섬 주지사 서명만 남겨…내년 1월 발효 전망<br>구글·오픈AI 등 안전프로토콜 의무화…기준미달시 법적 책임</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tWR1WRrRGm"> <figure class="figure_frm origin_fig" contents-hash="15a6c2dbefe011927b9cba41726397fdd3f040f9f0b032609639f23a4df26505" dmcf-pid="Fg3Eg3P3Hr" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI 챗GPT ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/12/NEWS1/20250912142916689mugu.jpg" data-org-width="1400" dmcf-mid="Zdoe8SuSXI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/12/NEWS1/20250912142916689mugu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI 챗GPT ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="2af1be061285160ad9950c0471c4f847133fa001dc0dbefee06e7ea546954c2f" dmcf-pid="3a0Da0Q05w" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 미국 캘리포니아 주가 인공지능(AI) 챗봇 또는 컴패니언과 대화를 하다 현실감각을 잃는 'AI 정신병' 현상으로부터 미성년자를 보호하기 위한 법을 내년부터 시행한다.</p> <p contents-hash="04fabf186fe81a51c4a1c1542bd1ca0226d630a2f5c220a7d92fba270d21677d" dmcf-pid="0NpwNpxp1D" dmcf-ptype="general">12일 IT 업계에 따르면 캘리포니아 주의회는 AI 컴패니언(동반자) 챗봇 규제 법안인 'SB-243'을 통과시켰다. 이 법안은 개빈 크리스토퍼 뉴섬 주지사의 서명만 남겨둔 상태다. 서명 기한은 다음달 12일까지다.</p> <p contents-hash="1856572c8fb091f66d446cbaa104bab24b23fd7f6fc94a3768262ad26c5ce6f5" dmcf-pid="pjUrjUMUZE" dmcf-ptype="general">뉴섬 주지사가 서명하면 법안은 내년 1월 1일부터 발효돼 세계 첫 AI 챗봇 규제법이 될 전망이다.</p> <p contents-hash="3609cc2a392123abaa01481f09c521225956ccf86ffcbcb8d7d03e6772de0713" dmcf-pid="UAumAuRuZk" dmcf-ptype="general">AI 컴패니언은 단순 답변 생성 기능을 넘어 친구처럼 이용자와 상호작용하는 AI를 뜻한다.</p> <figure class="figure_frm origin_fig" contents-hash="a014437e9df71d4542c7fcebd63c3ba0901779ba4040a4082e1da39e99a8752d" dmcf-pid="uc7sc7e71c" dmcf-ptype="figure"> <p class="link_figure"><img alt="개빈 크리스토퍼 뉴섬 미국 캘리포니아주 주지사ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/12/NEWS1/20250912142918172dsci.jpg" data-org-width="1400" dmcf-mid="5PfyIfNftO" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/12/NEWS1/20250912142918172dsci.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 개빈 크리스토퍼 뉴섬 미국 캘리포니아주 주지사ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="57c338d2e6ba3234b7862733ec6fd5769e4ef6452cd1c8bf0143dbc790f2336b" dmcf-pid="7kzOkzdzXA" dmcf-ptype="general">문제는 감정 교류형 AI가 미성년자나 정신질환 취약계층에게 부정적 영향을 미칠 수 있다는 점이다.</p> <p contents-hash="dc41fa510dfceab19b7ad0f8964479ca7e5b55c41c642db248fb1fc4571498c8" dmcf-pid="zEqIEqJqGj" dmcf-ptype="general">AI 챗봇은 이용자의 의견·주장을 거울처럼 반사하며 증폭시키는 과정이 '에코챔버 효과'를 일으켜 취약 계층의 망상을 악화시킬 수 있는 것으로 나타났다.</p> <p contents-hash="8f94f68ff1ed1378c742cf3dfe6d1ccd63dae9b16641f39d2e7bd7bfb947f6ee" dmcf-pid="qDBCDBiBYN" dmcf-ptype="general">또 이용자의 요구에 순응하도록 설계돼 우울감에 빠진 이용자의 자살 충동을 강화하거나 노골적인 성적 대화를 초래하는 등 논란이 됐다.</p> <figure class="figure_frm origin_fig" contents-hash="27349cad1848d8b9eedbd8050b595589e1f217ac2120e867a61c2ac2cf888824" dmcf-pid="B6vd6v7vta" dmcf-ptype="figure"> <p class="link_figure"><img alt="SB-243 법안" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/12/NEWS1/20250912142919822mfsr.jpg" data-org-width="340" dmcf-mid="16Se8SuSZs" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/12/NEWS1/20250912142919822mfsr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> SB-243 법안 </figcaption> </figure> <p contents-hash="f47a713ba8cc9682c51561331a7080f69ac8eee8bafcfb19572f4f0741ceea39" dmcf-pid="bPTJPTzTZg" dmcf-ptype="general">법안 핵심은 AI 챗봇 운영자에게 안전 프로토콜 마련을 의무화해 AI 챗봇(컴패니언)이 극단적 선택이나 자해, 성적인 대화 참여 등을 막는 데 있다.</p> <p contents-hash="d37bff0481b111fb3ce47454984d9d781b9c8a4794f0fb7b4c5d5ada8e98fb29" dmcf-pid="KQyiQyqy1o" dmcf-ptype="general">미성년자에게는 3시간 마다 AI와 대화하고 있다는 사실을 알리고 휴식을 권고해야 한다.</p> <p contents-hash="31aef78dcbc301a1740e5516710d74c2b3383773aadbd26882584ee8547c46a3" dmcf-pid="9xWnxWBWZL" dmcf-ptype="general">이와 함께 오픈AI·캐릭터AI·리플리카 등 주요 AI 챗봇·컴패니언 기업들이 연례보고 및 투명성 요건을 마련해 2027년 7월 1일부터 시행한다는 내용도 담았다.</p> <p contents-hash="7d8b665170eee4e015a0f5cf14fb0d29a2023a4b45f5edc01d1b6d2b015b80f7" dmcf-pid="2MYLMYbYGn" dmcf-ptype="general">챗봇 기업은 필요한 기준을 충족하지 못할 경우 법적 책임을 져야 한다.</p> <p contents-hash="f1a1bcce764722ed6901c721c9b0799ea5498931828728454ec4ea87948e734a" dmcf-pid="VRGoRGKG5i" dmcf-ptype="general">이에 아동·청소년·정신적 취약 계층 대상 AI 서비스 검증 절차, 콘텐츠 차단 시스템 고도화 등 후속 조치가 뒤따를 것으로 풀이된다.</p> <p contents-hash="d247bb29977eddf4801ccd16e837bfbe3196e2fa0ae4656a828ee00987e01bf6" dmcf-pid="feHgeH9HZJ" dmcf-ptype="general">업계는 이번 법안이 미국을 시작으로 전 세계의 AI 서비스 운영의 기준선이 될 것으로 보고 있다.</p> <p contents-hash="09dc21f8b26b9ae2626d0df890715f5febba1e10b03df5bcb3335035925cae79" dmcf-pid="4dXadX2XGd" dmcf-ptype="general">미국 연방거래위원회(FTC)도 아동과 청소년을 대상으로 AI 챗봇이 미치는 영향 조사에 전면 착수하고 알파벳(구글)·오픈AI·xAI·메타·스냅 등 7개 기업에 자료 제출을 요구했다.</p> <p contents-hash="6f4765ed9d98c92f5ad48d0e4d5dbf42497c9f4c0ca919d761e11b0db63a3cb5" dmcf-pid="8JZNJZVZYe" dmcf-ptype="general">지난달엔 미국 44개 주 법무장관이 12개 챗봇 기업에 아동 보호 장치 강화를 촉구하는 경고장을 보냈다.</p> <p contents-hash="a3315f48447da4a1bd195d1ef6cfdccbb52d8bbdf9bbfc4c71e2d23a065b3492" dmcf-pid="6s2vs2g2ZR" dmcf-ptype="general">미국 각 주와 FTC 등이 칼을 빼든 배경에는 최근 'AI 정신병' 현상이 속출한 데 이어 미국 캘리포니아주에서 극단적인 선택을 한 16세 소년 아담 레인(Adam Raine) 사건이 결정적 트리거가 됐기 때문으로 풀이된다.</p> <p contents-hash="6ac7b0225b679af8788ef71f31fb629ffad9aea08060357844915a611148214a" dmcf-pid="POVTOVaVGM" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ 에코챔버 효과<br>에코챔버(echo chamber) 효과란 개인이나 집단이 자신과 비슷한 의견·정보·신념만 반복적으로 접하면서 다른 견해는 배제되는 현상을 의미한다. 에코챔버는 메아리 방이라는 뜻이다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 김종국, ♥새신부와 '운동 문제'로 싸웠다..."결혼 전 단 하나의 위기" 09-12 다음 KT 소액결제 사고, 무엇이 밝혀졌나…현재 대응 방법은? 09-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
