“성적 대화 허용된 챗GPT”…한국에서도 가능할까? [뉴스+] 작성일 10-15 49 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">오픈AI, 12월부터 세계 최초 ‘성적 대화 허용 AI’ 공개<br>성폭력특례법 등 강력 규제에 국내 도입은 ‘법의 벽’논란<br>성적 콘텐츠 허용 범위 규율할 데이터셋 필요<br>“AI의 표현의 자유 vs 사회적 안전”…새 논쟁의 서막</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="7v1MvsnbIM"> <p contents-hash="d3ed410d8c49afe324de9c5a2bbec874822ce76802bef00d0454561c8fd5456e" dmcf-pid="ztBNtYDxDx" dmcf-ptype="general"> [이데일리 김현아 기자] 인공지능(AI) 챗봇이 이제 ‘성인용 대화’까지 지원한다.</p> <p contents-hash="2dd6814e5cd57d7ea01d6c9d31fccba91c6150f7ca088405748b021ea4d489dc" dmcf-pid="qFbjFGwMmQ" dmcf-ptype="general">오픈AI가 오는 12월부터 성인 인증을 거친 이용자에게 성적인 대화와 콘텐츠 생성을 공식 허용하기로 하면서, AI 챗봇 역사상 사실상 세계 최초의 ‘성적 대화 허용 AI’가 등장하게 됐다.</p> <p contents-hash="abb106d84d4b297e37633c21a3c5fb1b24a229a8800c01c2249d7eed7b51048c" dmcf-pid="B3KA3HrREP" dmcf-ptype="general">AI 표현의 자유를 둘러싼 논쟁이 본격화되는 가운데, 성적 콘텐츠를 원천 금지하고 있는 한국에서는 이 기능이 도입조차 어려울 것이라는 전망이 나온다.</p> <figure class="figure_frm origin_fig" contents-hash="17c7c7d3cd1c58be6777b2cab093c7990056af0100ff039de7317572ea23ee0e" dmcf-pid="b09c0Xmes6" dmcf-ptype="figure"> <p class="link_figure"><img alt="오픈AI의 샘 올트먼 최고경영자(CEO)가 최태원 SK그룹 회장과 오찬 회동을 위해 10월 1일 서울 종로구 SK서린빌딩에 들어서고 있다. (사진=연합뉴스)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/15/Edaily/20251015154351616yrvs.jpg" data-org-width="670" dmcf-mid="U2oYQ21mre" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/15/Edaily/20251015154351616yrvs.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 오픈AI의 샘 올트먼 최고경영자(CEO)가 최태원 SK그룹 회장과 오찬 회동을 위해 10월 1일 서울 종로구 SK서린빌딩에 들어서고 있다. (사진=연합뉴스) </figcaption> </figure> <div contents-hash="288165ccc65222a9113cb6d2cd8c782394134f9e84b0971f47ee9a5ae0f7864b" dmcf-pid="Kp2kpZsdm8" dmcf-ptype="general"> <strong>올트먼 “성인은 성인답게 대하겠다”…윤리 논란 속 새 도전</strong> </div> <p contents-hash="16bcd9a6f21fed63a2cfa11c3c79205a514479699ed3a9430886347fa9fe4140" dmcf-pid="9UVEU5OJm4" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지 시각) X(옛 트위터)를 통해 “12월부터 연령 인증 기능을 완전히 도입해 성인 이용자에게는 성애적 대화와 콘텐츠를 허용하겠다”고 발표했다.</p> <p contents-hash="74bf940026227cee1415f0144c58752676733213e8a9fabfbca82081982f70cc" dmcf-pid="2ufDu1IiEf" dmcf-ptype="general">그는 “정신건강 문제를 고려해 챗GPT의 표현을 지나치게 제한해왔지만, 정신적 제약이 없는 이용자들에게는 챗봇이 덜 유용하고 덜 인간적으로 느껴졌다”며 “성인 인증을 마친 이용자는 보다 자연스럽고 인간적인 대화 경험을 하게 될 것”이라고 설명했다.</p> <p contents-hash="15691a3032dad61e07e37ca29f2202bdfbae13ea03308adf6c3b8191f81a50dc" dmcf-pid="V74w7tCnDV" dmcf-ptype="general">이번 기능은 차세대 모델인 GPT-4o 업그레이드 버전에 적용될 것으로 보인다.</p> <p contents-hash="a892ce2120c95687dafbd1c57d8270cebde5565f1afa7641f2cd2fec8f4ea04b" dmcf-pid="fz8rzFhLD2" dmcf-ptype="general"><strong>구글·메타는 여전히 ‘금지’…AI 윤리 기준 정면충돌</strong></p> <p contents-hash="8f738acaa7ddb97fdfc690efb29dedca3dca544d38ca9be2a021aa5dbea41662" dmcf-pid="4hXPhwdzO9" dmcf-ptype="general">오픈AI의 결정은 구글·메타 등 경쟁 빅테크와 정반대의 행보다. 구글은 생성형 AI 정책에서 성적으로 노골적인 콘텐츠 생성 금지를 명시하고 있으며, 메타 역시 ‘로맨틱 대화 허용’을 검토하다가 윤리 논란으로 중단했다.</p> <p contents-hash="e6676940f787d90b591cddf5dbaa9f8fa529908808ff8cf345e89857aa030b0f" dmcf-pid="8lZQlrJqrK" dmcf-ptype="general">미국 AI 챗봇 ‘레플리카(Replika)’도 한때 성적 대화 기능을 제공했으나, 2023년 이탈리아 개인정보보호당국(DPA)의 제재로 관련 기능을 삭제한 바 있다.</p> <p contents-hash="9e0200a7999f5f885719a919fdb0714a82c900e079d3e044a72d3712828085d6" dmcf-pid="6S5xSmiBmb" dmcf-ptype="general">이에 따라 오픈AI는 글로벌 기업 중 처음으로 공식 인증 절차를 거쳐 성적 대화를 허용한 최초의 AI 챗봇으로 기록될 전망이다.</p> <p contents-hash="25fca07ecd347504c0220097e90179002f3d0c2d6faaefcdd262ef118159d860" dmcf-pid="Pv1MvsnbsB" dmcf-ptype="general"><strong>“한국선 불가능에 가까워”…성폭력특례법이 가로막는다</strong></p> <p contents-hash="39af405aa692db7501bf75497e0ffdc39366facadfc6d810daf8db577d8fa890" dmcf-pid="QTtRTOLKIq" dmcf-ptype="general">문제는 한국이다. 국내에서는 성폭력범죄의 처벌 등에 관한 특례법(성폭력특례법)이 AI를 이용한 성적 이미지·음성 합성이나 대화 생성 자체를 형사처벌 대상으로 규정하고 있다. 단순 시청이나 저장만으로도 처벌받을 수 있다.</p> <p contents-hash="3dc36311724aeca04ec2360e9dda3d4a443bcd637a2121f9bcae4fd36b7d6fd6" dmcf-pid="xyFeyIo9wz" dmcf-ptype="general">내년 1월 시행되는 ‘AI 기본법’은 AI 윤리와 안전 확보를 명문화해, 성적 대화를 포함한 ‘AI 기반 성인 콘텐츠 서비스’의 국내 도입은 쉽기 않다는 평가도 나온다.</p> <figure class="figure_frm origin_fig" contents-hash="90f6b1ceebd2520da52777c2f851907b6a2d855386a0a60e4307774a6425ada7" dmcf-pid="yxgGxVtsE7" dmcf-ptype="figure"> <p class="link_figure"><img alt="사진=로이터" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/15/Edaily/20251015154352917xllp.jpg" data-org-width="647" dmcf-mid="ug3dWCg2wR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/15/Edaily/20251015154352917xllp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 사진=로이터 </figcaption> </figure> <div contents-hash="fcfc0778f19a2770f75338a07f9c8f999d92199a9ca301d36f236d4115ad7bd0" dmcf-pid="WMaHMfFODu" dmcf-ptype="general"> <strong>성적 콘텐츠 허용 범위 규율할 데이터셋 필요 </strong> </div> <p contents-hash="8ac7a973702cd4770baee7472037e40171c6ef6d8fbb509145a2c5fdacdf95b2" dmcf-pid="YRNXR43IDU" dmcf-ptype="general">최경진 가천대 교수(법학전문대학원, 한국인공지능법학회 회장)는 “AI가 개인 데이터를 이용해 생성한 콘텐츠라도 타인의 얼굴이나 음성을 무단 활용하면 명백한 위법”이라며 “한국은 미국보다 훨씬 더 보수적인 규제 체계를 갖고 있다”고 말했다.</p> <p contents-hash="1480caae8352b125cb0c00feb0e1ad62132664820936396ae892ad293959be7c" dmcf-pid="GejZe80COp" dmcf-ptype="general">그는 “구글·메타·오픈AI 모두 글로벌 공통 기준을 따를 가능성이 높아, 한국만의 법적 기준을 반영하기는 현실적으로 어렵다”며 “따라서 정부와 민간이 협력해 허용 가능한 성적 콘텐츠의 범위를 구분한 ‘데이터셋 기반 기술적 자율규제’가 필요하다”고 강조했다. </p> <p contents-hash="5b7f3cf804ae6e48c32e2ae90a5574266460da544efa931978ce9aafdbe3ac37" dmcf-pid="HdA5d6phI0" dmcf-ptype="general">즉, 우리 사회의 문화적 감수성과 법 기준에 맞는 국내 전용 데이터셋을 구축한 뒤, 글로벌 AI 서비스들이 이를 사후 학습하도록 함으로써 한국 내 서비스 환경을 보호해야 한다는 의미다.</p> <p contents-hash="b059450d3ebfe1f3c169bee19c091db7ec524506edb459e7471ea9a569078cd0" dmcf-pid="Xow0oRqyE3" dmcf-ptype="general">또한 그는 “AI가 타인의 이미지를 학습하거나 생성할 때, 그 목적이 음란한지 여부를 스스로 인식할 수 있는 라벨링 기술 개발이 시급하다”며 “과학기술정보통신부는 보유한 기술력과 자원을 활용해 AI의 ‘경계 판단 기준’을 명확히 정립할 필요가 있다”고 제언했다.</p> <p contents-hash="4d6d49486d105b618c1324d7e19a0dd8e323b5a1fa32ebc4bd97f52ec7607bfe" dmcf-pid="ZgrpgeBWEF" dmcf-ptype="general"><strong>“AI의 표현의 자유 vs 사회적 안전”…새 논쟁의 서막</strong></p> <p contents-hash="59ae6b6b06b103113a2e66a149f6f4844709132f0cd493db12f19130b92b7283" dmcf-pid="5amUadbYrt" dmcf-ptype="general">AI가 인간의 욕망과 감정을 모사하기 시작하면서, 세계는 이제 ‘AI의 표현의 자유’와 ‘사회적 안전’ 사이의 균형을 두고 새로운 논쟁에 직면했다.</p> <p contents-hash="5dac365fa2a66b3f382c1cd18a3a49704c684747de2629d2a3a5836b131b54d0" dmcf-pid="1NsuNJKGm1" dmcf-ptype="general">오픈AI의 실험이 AI 산업의 진화로 이어질지, 아니면 윤리와 규제의 역풍을 맞을지 그 답은 각국의 사회적 합의에 달려 있다.</p> <p contents-hash="d72fdccb06031de0327222033fac6f127a4c791253793a6dea1d3636e00e53dd" dmcf-pid="tjO7ji9HI5" dmcf-ptype="general">김현아 (chaos@edaily.co.kr) </p> </section> </div> <p class="" data-translation="true">Copyright © 이데일리. 무단전재 및 재배포 금지.</p> 관련자료 이전 '90만 구독자' 충주맨, 100만 달성하면 은퇴?···시장 출마 질문에 한 말 10-15 다음 이게 무슨 추태? '세계 1위' 사바렌카, 한국계와 경기 중 라켓 투척…볼보이 맞을 뻔 '아찔' 10-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
