챗GPT, 성애물 허용…AI 윤리·이용자 보호 체계 구축 필요 작성일 10-15 41 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">올트먼 "12월부터 성인에 성적 콘텐츠 허용"<br>이용자 보호 체계·한국형 기준 마련도 필요</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="BIP4wSj4Y1"> <figure class="figure_frm origin_fig" contents-hash="4fa7ef97b239b7d73754b21e0b2bb0f28b943a3830e1bc4ab3ecd0072b4c734a" dmcf-pid="bQHWfeBWH5" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼(Sam Altman) 오픈 AI CEO가 1일 최태원 SK그룹 회장을 만나기 위해 서울 종로구 SK서린빌딩에 입장하고 있다. 2025.10.1/뉴스1 ⓒ News1 안은나 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/15/NEWS1/20251015165214327psyx.jpg" data-org-width="1400" dmcf-mid="1rVKAOLKXB" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/15/NEWS1/20251015165214327psyx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼(Sam Altman) 오픈 AI CEO가 1일 최태원 SK그룹 회장을 만나기 위해 서울 종로구 SK서린빌딩에 입장하고 있다. 2025.10.1/뉴스1 ⓒ News1 안은나 기자 </figcaption> </figure> <p contents-hash="cc072378ac5d62747fc3f44bfb65f3b6074c538747ebc2100916faeb03e718b1" dmcf-pid="KxXY4dbYHZ" dmcf-ptype="general">(서울=뉴스1) 나연준 기자 = 글로벌 인공지능(AI) 기업들이 성적 콘텐츠 관련해 개방적인 서비스 방침을 밝히면서 사회적 파장이 커질 전망이다. 기업들이 유료 구독자 확보 등 수익 중심 전략에만 치중하고 있다는 비판과 함께 AI 윤리, 이용자 보호 체계 구축의 시급성도 제기된다.</p> <p contents-hash="7a3e4eb1c91bb891eb400a43420a9b2bb9db59b4cafb62684aad42db1dbdfbf0" dmcf-pid="9MZG8JKG1X" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)는 15일 소셜미디어 'X'를 통해 "'성인 사용자를 성인답게 대우한다'는 원칙으로 인증된 성인에게 에로티카(성애물)와 같은 더 많은 콘텐츠를 허용할 것"이라고 밝혔다.</p> <p contents-hash="547a29e82ee429982159319c3f07c168042c257b753aaffb37dba1c3728af5ab" dmcf-pid="2R5H6i9HGH" dmcf-ptype="general">올트먼은 정신건강 문제에 신중하게 접근하기 위해 챗GPT를 '제한적'으로 만든 것이, 정신건강에 문제가 없는 사용자들의 유용성, 즐거움을 줄어들게 했다고 분석했다.</p> <p contents-hash="f614b4db6d87a4a7bddf4e11f6d3a38913dc3cac698c52b75a7df02d6a7a4704" dmcf-pid="Ve1XPn2X5G" dmcf-ptype="general">올트먼은 사용자가 요청하지 않는 경우 성적 콘텐츠에 접근할 수 없다고 부연했지만 구체적인 차단, 인증 방식은 공개하지 않았다.</p> <p contents-hash="f86e8df72759ebd3183fb62c97b269a52322abc1a7fec4489e36625b5731c6c8" dmcf-pid="fdtZQLVZYY" dmcf-ptype="general">AI에서 성적 콘텐츠가 논란이 된 것은 이번이 처음은 아니다. 앞서 일론 머스크가 이끄는 AI 기업 xAI도 챗봇 서비스 그록에서 애니메이션 소녀 캐릭터 '애니'(Ani)를 도입해 성 상품화 논란에 휩싸이기도 했다.</p> <p contents-hash="6fa02c240a17fc8c45898965229579214154a4909dc332b8caeb3b5425e8a408" dmcf-pid="4JF5xof5HW" dmcf-ptype="general">AI가 단순한 도구를 넘어 사회에서 관계를 맺어야 하는 주체로 평가되는 시점에서 AI기업들의 이러한 행보는 사회적 논란이 되고 있다. 인류에 도움이 되겠다는 초기 목적과 다르게 수익성을 우선하는 상업화 전략을 펼치고 있다는 비판도 나온다.</p> <p contents-hash="45a11f5d7a11ff53a8e2e661838424afc6091858c2491d32e864417087de2fd6" dmcf-pid="8i31Mg411y" dmcf-ptype="general">김명주 AI안전연구소장은 "오픈AI는 윤리적이고 인류에 도움이 되는 방향으로 출발했지만 투자도 많이 받게 되면서 상업적으로 흐를 수밖에 없게 됐다"며 "앞으로 윤리적으로 문제가 될 수 있다"고 말했다.</p> <p contents-hash="c105335b71ebe23db11f2dcacf5f2f2aa72d57227c45d03e4c5f2b7c59364fd0" dmcf-pid="6n0tRa8t1T" dmcf-ptype="general">미국 매체 악시오스도 "오픈AI의 이번 조치는 유료 구독자를 늘리는 데 도움이 될 수 있다. 하지만 관련 규제 법제화해야 한다는 압박이 입법부에 가중될 수 있다"고 지적했다.</p> <p contents-hash="68b1cd5694d0d956cc35ba4df2d7e20f5b7e7c4e97c82c6359f623bfec59711a" dmcf-pid="Pzsw0KZwZv" dmcf-ptype="general">오픈AI의 성애물 허용이 국내에도 도입될지는 미지수다. 하지만 국내에 도입되지 않더라도 다양한 우회 방식으로 서비스에 접근하는 것을 모두 막는 것은 불가능하다. 챗GPT 이용자가 2000만 명을 넘어선 우리나라도 대책을 만드는 것이 필요하다.</p> <p contents-hash="760ecce8c97f18b7f724b007e68b942388e01369d298a24fa96aa7f5d75b3d7f" dmcf-pid="QqOrp95rYS" dmcf-ptype="general">김 소장은 "AI를 평가할 때 성인물, 윤리 원칙에 어긋나는가를 다루고 있지만 이것이 규제로 이어지지는 않는다. 현재로서는 음란물, 불법 콘텐츠를 다루는 기존법에 의존해야 한다"며 "(AI) 이용자 보호는 확장되어야 할 것 같다"고 말했다.</p> <p contents-hash="b69c498e56ba60e27974d03f51f0f5d351af8eb13335d7c8f84c35c5e6a23bb0" dmcf-pid="xBImU21m1l" dmcf-ptype="general">최경진 한국인공지능법학회 회장은 사회적 합의에 따른 한국의 기준을 AI가 학습할 수 있어야 성적 콘텐츠로 인한 부작용이 줄어들 수 있다고 했다.</p> <p contents-hash="ee7f0eb3eb8fb2b693f7ac9584b60dadf0c3b130cbb3e8420a8c1f81b51d8668" dmcf-pid="ywVKAOLK1h" dmcf-ptype="general">최 회장은 "한국과 미국의 문화, 정서적 차이로 성적 콘텐츠 관련 기준도 다를 수 있다"며 "학습을 통해 합법적인 부분에서 활용될 수 있게 기준을 제시해야 한다"고 말했다.</p> <p contents-hash="edf41c7384efea4a15eca3e700e9171a4120f225ad32bf27a475928ac1c48f95" dmcf-pid="Wrf9cIo9ZC" dmcf-ptype="general">yjra@news1.kr </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p> 관련자료 이전 이 대통령 "게임산업, '4대 중독' 규제로 중국에 추월 당해" 10-15 다음 "이제는 스키장 갈 차례"…강원랜드, 11월 말 개장 준비 박차 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
