‘자살방법’ 검색에 충격 받은 챗GPT의 아버지…‘애들은 가라’ 정책 내놨다 작성일 09-17 61 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI, 미성년자 계정 제한 정책 발표<br>자살 충동 감지되면 부모·경찰에 연락<br>성인은 성적 대화·가상의 자살 대화 허용</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="2iuTciJqvg"> <figure class="figure_frm origin_fig" contents-hash="8f61cce6fa672c1f1218924e15e025cfa1428065686b61a9f5a6da461ba41dc5" dmcf-pid="Vn7ykniBSo" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI, 전 세계 챗GPT 이용자 150만명 분석 [로이터 = 연합뉴스]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/17/mk/20250917185702984irvy.jpg" data-org-width="500" dmcf-mid="9nOn2Uphha" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/17/mk/20250917185702984irvy.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI, 전 세계 챗GPT 이용자 150만명 분석 [로이터 = 연합뉴스] </figcaption> </figure> <div contents-hash="ce6c55f06707facbb976ee746d1b24e844fcf22d16cfb06242f944325377f810" dmcf-pid="fLzWELnbvL" dmcf-ptype="general"> 오픈AI가 미성년자의 챗GPT 사용을 상당 부분 제한하는 새 정책을 발표했다. 최근 챗GPT가 미성년자에게 자살 방법을 알려준 탓에 소송전에 휘말리자 18세 미만 이용자들을 대상으로 ‘자유’ 대신 ‘보호’에 초점을 맞추기로 한 것이다. 다만 성인 이용자에게는 폭넓은 자유를 제공해 미성년자 관련 제한이 전체 이용자에게 적용되는 것은 아니라는 점을 분명히 했다. </div> <p contents-hash="445d0e709cf16f509569be7e6809ec11a348963b4a6150d4223f8661b625df8f" dmcf-pid="4oqYDoLKyn" dmcf-ptype="general">16일(현지시간) 오픈AI는 샘 올트먼 최고경영자(CEO) 명의로 18세 미만 사용자의 챗GPT 상호작용을 대폭 바꾸는 내용의 새로운 사용자 정책을 자사 블로그에 공개했다.</p> <p contents-hash="6532a5ba9ef7e5311fb42dfec88ffd4ca4f75aecb7aeedf43f5bcd1ef784a971" dmcf-pid="8gBGwgo9Ci" dmcf-ptype="general">구체적으로 미성년자 계정은 챗GPT와 유혹하거나 성적인 관심을 암시하는(flirtatious) 대화를 나눌 수 없다. 특히 자해나 자살과 관련한 이야기는 전면 금지되며, 만약 미성년자가 자살 충동을 느낀다고 판단될 경우 이용자의 부모에게 연락을 시도하고 연결이 안 되면 경찰 등 관계 기관에도 통보할 예정이다.</p> <p contents-hash="90b20961dbddeefb64341d775d929d6fb813ae5612a96b446eb5fca30dc4c18d" dmcf-pid="6abHrag2TJ" dmcf-ptype="general">부모가 자녀의 계정을 자신의 계정과 연결한 경우 자녀가 챗GPT를 쓸 수 없는 ‘블랙 아웃’ 시간을 설정하고, 대화 기록을 저장하는 메모리나 채팅 기록 같은 기능도 골라서 비활성화할 수 있다.</p> <p contents-hash="7747cb8c0aadff42ea70d0f2dded76aba815bd618c36de562c7459aca1e2aa83" dmcf-pid="PMFCgMxpTd" dmcf-ptype="general">다만 성인의 자유는 최대한 보장하기로 했다. 미성년자 계정에서는 금지하는 성적이거나 유혹적인 대화를 성인 계정이 요청할 경우 허용한다.</p> <p contents-hash="092af074b0991970f8a2a61ca5d09f075b33bb4811fd8d494aacd0a5403862d2" dmcf-pid="QR3haRMUWe" dmcf-ptype="general">자살 관련 대화도 마찬가지다. 올트먼 CEO는 “기본적으로 자살 방법에 대한 지침을 제공하지 않아야 하지만, 성인 이용자가 자살을 묘사하는 가상의 이야기를 만들기 위해 도움을 요청하면 이를 도와야 한다”며 “‘성인 이용자를 성인답게 대하라’는 것은 타인에게 해를 끼치거나 자유를 훼손하지 않으면서도 최대한 자유를 확장하기 위한 것”이라고 설명했다.</p> <p contents-hash="d35bc2cb4677db75564275b5374ebe8d6d06880b356016f9d4b92c922cad49c3" dmcf-pid="xe0lNeRuCR" dmcf-ptype="general">나이에 따라 적용하는 기준이 극과 극으로 나뉘는 만큼 오픈AI는 이용자의 연령을 확인하는 절차도 강화할 계획이다.</p> <p contents-hash="668651114554b9f260045203424be05001b453121824e38d021ad59307850428" dmcf-pid="yGN80GYchM" dmcf-ptype="general">현재 오픈AI는 이용자가 챗GPT를 쓰는 방식을 분석해 연령을 추정하고, 의심스러운 경우에는 미성년자 계정으로 분류하고 있다. 여기에 특정한 상황이나 일부 국가에서는 신분증을 요청할 수도 있다는 게 회사 측 설명이다.</p> <p contents-hash="35541e8e4a2dfd41d3b0102c48111e5362e6bc93483f080fe8842d0fd0ac3e89" dmcf-pid="WHj6pHGkhx" dmcf-ptype="general">오픈AI의 이번 조치에는 지난해 4월 발생한 미국의 16세 고등학생 애덤 레인의 자살 사건이 결정적 역할을 한 것으로 보인다.</p> <p contents-hash="19b574e7b36f97a2226ba0a8d7aca80672949350c0cf6483e5bfeb10583f76fc" dmcf-pid="YXAPUXHElQ" dmcf-ptype="general">레인이 챗GPT와 자살 관련 대화를 나눴고, 이 과정에서 챗GPT가 구체적인 자살 방법까지 설명했다고 알려지자 레인의 부모는 “미성년자 보호 장치를 충분히 마련하지 않아 자살을 부추겼다”며 오픈AI에 소송을 제기했다.</p> <p contents-hash="a7057b0466bbb0a2af9c5e10f12e7aad778239842019a8d3f861062ce9f06473" dmcf-pid="GZcQuZXDlP" dmcf-ptype="general">새로운 정책에 대해 올트먼 CEO는 “이러한 원칙은 상충되는 부분이 있고, 모든 사람이 동의하지는 않을 것”이라면서도 “어려운 결정이지만 전문가들과 논의한 결과 이것이 최선이라고 생각한다”고 설명했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 쓰레기 무단 투기 논란 '현혹', 과태료 100만원 처분 09-17 다음 '소액결제 범인 검거'에도 KT 초기대응 실패... 사건은 8월부터 09-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
