로블록스 “얼굴 기반 나이 추정' 시스템 도입...AI 부작용 방지책 내놓는 기업들

작성일 09-08

<div id="layerTranslateNotice" style="display:none;"></div> 사후약방문식 대책 실효성 없다는 지적도 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="6aEpQbnb1p">
 <figure class="figure_frm origin_fig" contents-hash="ca1b4373984dd29766f929e917e65f1b3d016fc849492ac63bc1c55aa6c4d59c" dmcf-pid="PNDUxKLKX0" dmcf-ptype="figure">
 <img alt="5일(현지 시각) 미 산호세 멕에너리 컨벤션 센터에서 열린 로블록스 개발자 대회(RDC2025) 현장에서 데이비드 바주키 CEO가 기조연설하고 있다./강다은 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/08/chosun/20250908060247511jqja.jpg" data-org-width="5000" dmcf-mid="8AtJsNTNHU" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/08/chosun/20250908060247511jqja.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 5일(현지 시각) 미 산호세 멕에너리 컨벤션 센터에서 열린 로블록스 개발자 대회(RDC2025) 현장에서 데이비드 바주키 CEO가 기조연설하고 있다./강다은 기자
 </figcaption>
 </figure>
 지난 5일(현지 시각) 오전 미 산호세 멕에너리 컨벤션 센터에서 열린 로블록스 개발자 대회(RDC2025) 현장. 기조연설에서 데이비드 바주키 CEO가 가장 먼저 언급한 주제는 새로운 기술도, 광고도, 크리에이터의 수익도 아니었다. 다름 아닌 ‘안전한 플레이’였다. 그는 “우리는 안전하고 신뢰 가능한 플랫폼을 만들 것”이라며 “사용자들이 나이에 맞는 경험을 로블록스에서 할 수 있도록 올해 100가지가 넘는 안전 관련 업데이트를 거쳤다”고 했다.
 로블록스는 3차원 가상현실 게임 플랫폼으로, 이용자들은 이 플랫폼 내에서 소통하고, 게임을 하고 또 돈을 벌 수도 있다. 글로벌 이용자 절반 이상이 13세 이하 미성년자다. 이 때문에 로블록스는 안전한 플랫폼을 만드는 데에 투자를 지속하는 것이다.
 최근 테크기업들이 어린이와 청소년 보호를 위한 ‘안전장치’를 강화하고 있다. AI기술이 대중화되고, 미성년자들이 많이 이용하는 플랫폼에도 AI가 속속 도입되면서 오용과 부작용이 커지기 때문이다. 하지만 일각에서는 기업들이 마련하는 안전장치가 ‘사후약방문’식 대책이라는 비판이 나온다. 청소년들이 충분히 우회 가능한 대책이 많다는 지적도 이어지고 있다.
 ◇로블록스, 안전장치 강화
 최근 AI가 발달하고, 청소년들이 이 같은 기술이 적용된 플랫폼에 별다른 제약 없이 접근하면서 여러 사건·사고가 생기고 있다. 로블록스 같은 3D 가상현실 플랫폼을 통해 ‘아동 성착취’ 범죄 피해자가 되거나, 청소년이 AI챗봇에게 극단선택 방법을 물은 뒤 이를 그대로 실행하는 일도 있었다.
 테크 기업들은 아동과 청소년을 위한 안전장치를 마련 중이다. 로블록스는 ‘얼굴 기반 나이 추정’ 시스템을 도입했다. 이용자가 직접 자신의 나이를 입력하면 성인이 미성년자인 척하거나, 미성년자가 성인처럼 나이를 속일 수 있다 보니 이제 사진이나 국가기관이 인증한 신분증 자료를 모두 확인하겠다는 것이다. 이 외에도 ‘성인과 아동 간 대화’는 서로 아는 사이라는 것이 확인돼야만 가능하게 하는 등 다양한 안전장치를 새로 마련했다.
 구글은 제미나이 U13에 자신이 친구가 아니라 컴퓨터라는 것을 분명히 알려주고, 낭만적이거나 성적인 상황의 롤플레잉을 거부하는 등의 기능을 도입했다. 틱톡도 자녀가 틱톡에서 콘텐츠를 게시하거나 유해 콘텐츠를 신고할 경우 보호자에게 실시간으로 알리는 기능을 추가한다.
 ◇테크기업들, 사후약방문 비판도
 그러나 ‘사후약방문’식 대책이라는 지적도 나온다. 문제를 예방하지 못하고 어떤 논란이 생긴 뒤에야 기업들이 조치에 나선다는 것이다.
 실제 오픈AI는 이달 챗GPT에 대해 ‘부모 관리 기능’을 도입한다고 밝혔는데, 그 시기는 미 캘리포니아주에서 한 청소년이 챗GPT와 수개월간 대화를 한 뒤 극단 선택을 하는 일이 발생한 뒤 부모로부터 소송이 제기된 뒤였다. 메타 역시 “(AI챗봇에서) 미성년자와 성적인 대화를 허용한다”는 취지의 내부문건이 공개된 뒤 이달 들어 규정을 재정비해 성적 대화를 차단하도록 임시 조치했다. 캐릭터.AI는 미성년자가 자사 AI를 연인처럼 여기다가 극단 선택을 한 사례가 나오자 미성년자 전용 모델을 도입했다.
 이런 뒤늦은 대책들은 실효성이 없다는 비판도 나온다. 아동·청소년 미디어 안전을 주장하는 비영리단체 ‘커먼 센스 미디어’는 어린이와 청소년 보호 기능을 추가한 제미나이를 여전히 ‘고위험’으로 분류했다. 성인용 버전보다 몇 가지 추가 안전 기능을 갖추고 있지만, 어린 아이들이 아직 접하기 이른 부적절한 콘텐츠는 여전히 공유된다는 것이다.
 이런 대책은 우회하기도 쉽다. 미 캘리포니아주에서 챗GPT와 수개월간 대화를 한 뒤 극단 선택을 한 소년 사건의 경우, 챗GPT가 “상담센터에 가보라”고 여러 차례 권한 사실이 밝혀졌다. 하지만 이 소년은 “소설을 쓰려는 것”이라며 안전장치를 쉽게 우회했다. 이런 대책들이 안전성에 대한 책임을 이용자나 그 부모에게 떠넘기는 격이라는 지적도 나온다.
 </section> 
 </div> 
 Copyright © 조선일보. 무단전재 및 재배포 금지.

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

로블록스 “얼굴 기반 나이 추정' 시스템 도입...AI 부작용 방지책 내놓는 기업들

멤버랭킹

관련자료

멤버랭킹