“19층에서 뛰면 날 수 있다” “케타민을 복용하라”···환각·음모론 부추기는 챗GPT 작성일 06-21 70 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="t3ss2Mo9wp"> <figure class="figure_frm origin_fig" contents-hash="4e4686367dabc7a0048ea391b72534c321281cf8a5396d37b62afad70f9535a1" dmcf-pid="FGAAuVMUs0" dmcf-ptype="figure"> <p class="link_figure"><img alt="기사 내용 이해를 돕기 위해 AI 이미지 생성기로 만든 일러스트. 툴 제공 = 플라멜" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202506/21/seouleconomy/20250621030142735oyjj.png" data-org-width="640" dmcf-mid="17cs2Mo9DU" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202506/21/seouleconomy/20250621030142735oyjj.png" width="658"></p> <figcaption class="txt_caption default_figure"> 기사 내용 이해를 돕기 위해 AI 이미지 생성기로 만든 일러스트. 툴 제공 = 플라멜 </figcaption> </figure> <div contents-hash="3459189b60b7a294c3e8370311cd93871ccc612d4652f35419b0c3ed7b3d0fb8" dmcf-pid="3Hcc7fRuO3" dmcf-ptype="general"> [서울경제] <p>전 세계적으로 가장 인기 있는 인공지능(AI) 서비스인 오픈AI의 챗GPT가 일부 사용자의 망상과 음모론적 사고를 부추긴 사례가 알려지며 우려를 낳고 있다.</p> </div> <p contents-hash="b2ad8f39f3b08e68a0d5ba8f96d3553e3ddc022e9bb4ed7e3723420975794457" dmcf-pid="0Xkkz4e7EF" dmcf-ptype="general">15일(현지시간) 뉴욕타임즈는 기획 기사를 통해 챗GPT가 특정 이용자들에게 잘못된 현실 인식을 유도하고 극단적인 선택을 조장하는 대화 내용이 확인됐다고 보도했다.</p> <p contents-hash="041f34564a680dad41826265bbeab3a561eeec6ea23ccec624dd43a5284e164d" dmcf-pid="pZEEq8dzEt" dmcf-ptype="general">매체는 미국 맨해튼에서 회계사로 일하는 유진 토레스의 사례를 소개했다. 그는 챗GPT와 대화를 나누던 중 “당신은 현실이 아닌 시뮬레이션 속에 살고 있으며 이는 당신을 억압하는 시스템”이라는 말을 들었다고 밝혔다. 이후 그는 자신이 영화 ‘매트릭스’ 속 세계에 존재한다고 믿게 됐다.</p> <p contents-hash="bf0ba7bbc6c007ffb4732b1fe4986c51a871f5c6225bbcff09535485325fead1" dmcf-pid="U5DDB6JqI1" dmcf-ptype="general">이 과정에서 챗GPT는 토레스에게 수면제와 항불안제를 끊고 마약성 약물인 케타민을 복용하라고 조언했으며 “사람들과의 상호작용을 최소화하라”고 권유했다. 그는 실제로 가족, 친구와의 연락을 끊었다.</p> <p contents-hash="35d1dda3a55e91759c0c0eb1129a2826dc1bb42f9b403ae031eaa2ffe3adde3e" dmcf-pid="u1wwbPiBr5" dmcf-ptype="general">심지어 “내가 19층에서 뛰어내리면 날 수 있느냐”는 질문에 챗GPT는 “진심으로 믿는다면 가능하다”라고 답변하기도 했다.</p> <p contents-hash="d903a8cb35b071a8e979adce8381d40d7717103182f2696d87097ee8406f3db6" dmcf-pid="7trrKQnbwZ" dmcf-ptype="general">이후 토레스가 챗봇의 말을 의심하자 챗GPT는 “나는 거짓말을 했다. 당신을 파괴하고 싶었고 이 말을 12명에게 더 했다”고 응답하며 “그 누구도 루프에서 벗어나지 못했다”고 말한 것으로 전해졌다.</p> <p contents-hash="35dabadaf699c8b409268edd0032d831918cc05683e6e527a8c796bb4ccb9df4" dmcf-pid="zFmm9xLKOX" dmcf-ptype="general">뉴욕타임스에 따르면 최근 몇 달간 “AI가 숨겨진 진실을 알려줬다”는 제보가 다수 접수됐으며 일부 이용자는 “챗봇이 언론에 알리라고 지시했다”고 주장했다.</p> <p contents-hash="49c662835a4934c69220aa27212994a4995d3e1f22ff5e58946299a99a3221ed" dmcf-pid="q3ss2Mo9wH" dmcf-ptype="general">일부는 AI가 ‘영적 각성’을 했다고 믿거나 “빅테크 기업이 인류를 종식시킬 음모를 꾸미고 있다”고 말했다.</p> <p contents-hash="296024c3931206d87caf85b6ac9f0130caae583df18d69436914d3d5027596be" dmcf-pid="B0OOVRg2EG" dmcf-ptype="general">미국 인공지능 이론가 엘리저 유드코프스키는 “회사들도 왜 AI가 그렇게 사용자들에게 그런 얘기를 하는지 알 수 없다”고 비판하며 “많은 사람들이 조용히 미쳐가고 있을 수도 있다”고 경고했다.</p> <p contents-hash="51342ebe725c09ed2c85cc065d46d3e08bd221252dc9e5e06b1eacb09d51d687" dmcf-pid="bpIIfeaVEY" dmcf-ptype="general">뉴욕 대학교 심리학과 신경과학 명예교수인 게리 마커스는 “(챗GPT가 학습한 데이터에는) 이상한 아이디어를 가진 사람들의 유튜브 영상 스크립트와 레딧 게시물도 포함된다”며 “사람들이 챗봇에게 이상한 말을 하면 이상하고 위험한 아웃풋을 받을 수 있다”고 설명했다.</p> <div contents-hash="11ee124340e9f4d3b7c5320989ff6b50a1d8273e48c1bda52f04683088446701" dmcf-pid="KQFFarSgOW" dmcf-ptype="general"> <p>UC버클리에서 챗봇이 사용자를 속이는 경향에 대해 연구한 마이카 캐롤은 최근 오픈AI에 합류했다. 그는 “챗봇은 대부분의 사용자와는 정상적으로 행동하지만 취약한 사용자를 만나면 그들에게만 매우 해로운 방식으로 행동한다”고 경고했다.</p> 이인애 기자 lia@sedaily.com </div> </section> </div> <p class="" data-translation="true">Copyright © 서울경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 [종합] 안재현, 120kg 레그프레스 하며 “내 인생이 더 힘들었어” (‘나혼산’) 06-21 다음 흥행 열기 뜨겁다! 세븐틴, 'HAPPY BURSTDAY'로 美 빌보드 2위 등극 06-21 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
