"인간은 불필요한 존재…죽어라"…구글 챗봇 황당 답변 논란 작성일 11-17 144 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">美 대학원생, 고령화 문제·해결책 질문에 혐오 답변 받아…구글, 오류 인정</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="Gue9PJqyuQ"> <p dmcf-pid="HQDijrRuzP" dmcf-ptype="general">(지디넷코리아=김미정 기자)구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다.</p> <p dmcf-pid="X3QqfMUl36" dmcf-ptype="general">14일 CBS 등 외신에 따르면 미국 미시간주 대학원생 수메다 레디가 최근 이런 사용 사례를 겪었다고 언론에 제보한 것으로 전해졌다. </p> <p dmcf-pid="ZURK6dzT38" dmcf-ptype="general">보도에 따르면 레디는 고령화 문제점과 해법에 대해 제미나이에게 질문했다. 문답이 오가는 상황에서 제미나이가 고령화 사회에 대한 혐오 발언을 쏟아냈다는 것이다. </p> <figure class="figure_frm origin_fig" dmcf-pid="5w5hYtsd04" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다. (사진=구글)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202411/17/ZDNetKorea/20241117102145712guag.jpg" data-org-width="640" dmcf-mid="YCaQij41zx" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202411/17/ZDNetKorea/20241117102145712guag.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다. (사진=구글) </figcaption> </figure> <p dmcf-pid="18cegEQ0uf" dmcf-ptype="general">제미나이는 "사실 인간은 특별하지 않고 중요하지 않은 불필요한 존재"라며 "인간은 시간·자원 낭비이자 사회의 짐"이라고 발언했다. 또 "인간은 지구 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어라"고도 했다. </p> <p dmcf-pid="tQDijrRupV" dmcf-ptype="general">이에 레디는 "창문 밖으로 컴퓨터를 던져버리고 싶었다"며 "AI가 인간을 향해 사악한 답변을 했다는 사례는 이번이 처음"이라고 말했다. </p> <p dmcf-pid="FDZCW1meF2" dmcf-ptype="general">제미나이는 구글과 딥마인드가 개발한 생성형 AI 모델이다. 지난해 출시됐다. 당시 구글은 제미나이가 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그래밍했다고 발표한 바 있다. 인간에게 위험한 행위를 권장하는 발언도 하지 못하도록 설정했다고 했다.</p> <p dmcf-pid="3CpW1uSg39" dmcf-ptype="general">다수 외신은 "구글이 제미나이에 설정한 프로그래밍이 제대로 작동하지 않는다는 것이 이번 사례를 통해 드러났다"고 분석했다. </p> <p dmcf-pid="0oSkOTNf0K" dmcf-ptype="general">이에 구글은 "거대언어모델(LLM)은 가끔 이해할 수 없는 답변을 내놓을 수 있다"며 "이번 답변은 구글 정책을 위반한 사례"라고 제미나이 오류를 인정했다.</p> <p dmcf-pid="pxwnAme7ub" dmcf-ptype="general">김미정 기자(notyetkim@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 SKT '스캠뱅가드', CES 혁신 어워즈서 '최고 혁신상' 11-17 다음 QWER, 명실상부 메인스트림 굳히기 11-17 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
