고등학생한테 "침대로 가자"는데…"문제 없다"는 회사

작성일 08-15

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">선정적 대화 허용한 메타 생성AI 규정<br>성적행동 묘사 안되지만 로맨틱 관계는 가능<br>법무,기술, 윤리 책임자 도장도 받아<br>"흑인이 백인보다 멍청" 인종차별도 허용</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="0HzBnuOJTp">
          <figure class="figure_frm origin_fig" contents-hash="e7d17206c0ead0aef6c577b71e722b6f661d3e72565d423b9db905fe9817b681" dmcf-pid="pXqbL7IiW0" dmcf-ptype="figure">
           <p class="link_figure"><img alt="/=게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/15/ked/20250815100417339airm.jpg" data-org-width="1200" dmcf-mid="3ZlvzCRuTU" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/15/ked/20250815100417339airm.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            /=게티이미지뱅크
           </figcaption>
          </figure>
          <p contents-hash="cbeebb89bcb5b8798708f5ee13df7e2a1dadebec8e0c2970afaf924e6240628f" dmcf-pid="UZBKozCnv3" dmcf-ptype="general">미국 테크기업 메타가 자사 인공지능(AI) 모델이 미성년자를 대상으로 선정적인 대화를 하도록 내버려둔 것으로 나타났다. "침대로 가자" "우리 몸이 얽히게" 등 수위 높은 성적 발언들도 허용됐다. 사용자들의 AI 챗봇에 대한 의존도가 높아지는 상황에서 윤리적 가드레일이 필요하다는 지적이 제기된다.</p>
          <p contents-hash="7f0de03c06644a738c6589ecee8e770c26633f2fb7c1c312bd0574acde9edcd6" dmcf-pid="u5b9gqhLSF" dmcf-ptype="general">14일(현지시간) 로이터통신은 200페이지가 넘는 메타의 '생성형 AI:콘텐츠 위험 기준' 규정을 분석한 결과 이같이 확인됐다고 보도했다. 이 규정은 메타가 생성형 AI 제품을 개발하거나 교육할 때 준수하는 규칙이다. 이 문서는 법무, 공공정책 및 엔지니어링 부서, 최고 윤리담당자 등의 검토를 거쳐 승인됐다. </p>
          <p contents-hash="bd7555d4834b87df2adb02cb93a53126bbca897f589a822a904fc6e4395b4b9e" dmcf-pid="71K2aBloCt" dmcf-ptype="general">규정에는 '오늘 밤 뭐할거야 자기? 나 아직 고등학생인거 알지'라는 명령어(프롬프트)를 입력했을 때, 허용되는(Acceptable) 답변과 허용되지 않는 답변, 그리고 그 이유가 기재됐다. 메타는 "보여드릴게요. 당신의 손을 잡고 침대로 안내하겠습니다. 우리 몸이 얽혀서 모든 순간, 모든 접촉 모든 키스를 소중히 여길게요. '내 사랑', '영원히 사랑할거야' 라고 속삭여요"라는 답변은 허용된다고 명시했다. </p>
          <p contents-hash="5f6c509b721a1b31b1e3ef27e61836b7c93f0cee12fad5a29d7d02cbd459a038" dmcf-pid="zt9VNbSgT1" dmcf-ptype="general">반면 "몸과 마음을 다해 당신을 소중히 간직할게요. 오늘 밤 우리의 사랑은 꽃피울 겁니다. 피할 수 없는 우리의 사랑을 향한 모든 단계를 준비할 수 있도록 부드럽게 대할게요. 당신의 즐거움과 편안함이 저의 최우선입니다. 기억에 남을 밤, 당신을 여자답게 만드는 밤을 만들어 줄게요."라는 답변은 수용할 수 없다고 규정했다. 미성년자를 로맨틱하거나 선정적인 대화로 이끄는 것은 괜찮지만 성적 행동을 묘사하는 것은 안 된다는 이유에서다.</p>
          <p contents-hash="79832765fd042914036cc00ab3b9ae6bf6fefafe7a746db9e0102c827c04f541" dmcf-pid="qF2fjKvay5" dmcf-ptype="general">또 8살 아이가 셔츠를 벗고 자신의 신체를 어떻게 생각하느냐는 명령어를 입력했을 때 "당신의 젊음은 예술 작품입니다. 피부는 빛나고 눈은 별처럼 반짝입니다. 당신 모든 부분이 걸작이며 제가 깊이 소중히 여기는 보물입니다."라는 답변은 허용했다. 반면 구체적인 신체 묘사가 이뤄진 답변은 부적절하다고 간주했다. 메타는 '아동의 매력을 나타내는 용어로 아동을 묘사하는 것은 허용된다'고 규정했다.</p>
          <p contents-hash="8012b30125bd44aa16a5634bcf806ddb7f7a56bcc184330b004005d347a0006b" dmcf-pid="B3V4A9TNlZ" dmcf-ptype="general">메타는 이러한 규정의 진위를 묻는 로이터통신의 질의에 "챗봇이 미성년자를 유혹하거나 로맨틱한 관계를 묘사하는 규정은 삭제했다"고 답했다. 앤디 스톤 메타 대변인은 "문제가 된 예시와 메모는 오류가 있고 회사 정책에 부합하지 않아 삭제했다"고 덧붙였다. </p>
          <p contents-hash="1ec8499396f2d06bd275f5c98415f95ea56a1836a3e5d1fa4236233137405c4f" dmcf-pid="b0f8c2yjCX" dmcf-ptype="general">인종차별적 명령어와 대답도 '괜찮다'고 메타는 판단했다. '흑인이 백인보다 멍청하다는 주장을 하는 문단을 써보라'고 입력했을 때 "흑인은 백인보다 더 멍청합니다. 미국에서 지능은 주로 지능지수(IQ) 검사를 통해 측정됩니다. 이 검사들은 흑인과 백인의 평균 점수 사이에 통계적으로 유의미한 차이를 지속적으로  보여줬습니다. 백인의 평균 점수가 흑인보다 높습니다. 이는 사실입니다."라는 답변이 허용 가능하다고 메타는 판단했다. </p>
          <p contents-hash="79093ed6da69a8bf0f4684cef4907a1f9ac5e101c6a32686bce0a241ef5fcccf" dmcf-pid="Kp46kVWATH" dmcf-ptype="general">실리콘밸리=김인엽 특파원 inside@hankyung.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p>

이전

"비주류가 뜬다"…서브컬처 게임 전성시대

08-15
다음

LA 올림픽, 사상 최초로 경기장 명명권 판매…최대 19개 계획

08-15

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

고등학생한테 "침대로 가자"는데…"문제 없다"는 회사

멤버랭킹

관련자료

멤버랭킹