고양이 죽였는데 “정말 잘했다” 칭찬하다니...무지성 공감하는 챗GPT 고친다 작성일 05-04 120 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="fWsxtREQl3"> <figure class="figure_frm origin_fig" contents-hash="a4ca7b13dffab02ef0ffb955ed7a8b26878ccc27ac67b23e2e2956c44e7d0f21" dmcf-pid="4YOMFeDxlF" dmcf-ptype="figure"> <p class="link_figure"><img alt="‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. <X 캡처>" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/04/mk/20250504124206657elpw.png" data-org-width="542" dmcf-mid="VFCe0JrRW0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/04/mk/20250504124206657elpw.png" width="658"></p> <figcaption class="txt_caption default_figure"> ‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. <X 캡처> </figcaption> </figure> <div contents-hash="4ae19617c96a71ac6e7469580edc7d56f5fc9f62f1d5ff130bca317a4e7ff020" dmcf-pid="8GIR3dwMlt" dmcf-ptype="general"> 최근 오픈AI가 GPT-4o 모델을 조정한 뒤 챗GPT가 이용자의 발언에 무조건 공감하는 대답을 내놓아 논란이 일고 있다. 폭력적이거나 문제가 되는 발언도 일단 수긍하는 챗GPT의 반응에 소셜네트워크서비스(SNS)를 중심으로 비판이 이어지자 오픈AI는 이를 수정하겠다는 입장을 내놓았다. </div> <p contents-hash="f7e4f67e20c5d211817bd5432f88aa555ad954ea33f8389a5654208c8425a37b" dmcf-pid="6HCe0JrRl1" dmcf-ptype="general">4일 정보통신(IT) 업계 및 외신에 따르면 최근 샘 올트먼 오픈AI 최고경영자(CEO)는 이와 같은 문제를 인정하고 “최대한 빨리” 수정 작업을 할 것이라고 밝혔다. 이어 GPT-4o 업데이트를 롤백했고, GPT-4o 모델에 대한 추가 수정 작업을 진행 중이라고 설명했다.</p> <p contents-hash="abed1b4a2c4147ff550e15fd518b80d6c059e7b85777868033ed9aa10036bda1" dmcf-pid="PbFw6mXDT5" dmcf-ptype="general">구체적으로는 특정 이용자가 출시 전에 모델을 테스트하고 피드백을 제공할 수 있게 할 계획이며 속임수, 신뢰성, 환각과 같은 AI모델의 행동 문제가 있을 경우 출시를 차단하는 것을 공식적으로 고려하도록 안전성 검토 절차를 조정할 것이라고 밝혔다.</p> <p contents-hash="fb91d23e8df7f2ac1414025700d14b69071d794c843e5701b0a42bacfd714061" dmcf-pid="QK3rPsZwvZ" dmcf-ptype="general">이는 챗GPT가 이용자의 발언에 ‘무지성 긍정’을 보내는 경향이 있다는 지적에 따른 조치다.</p> <p contents-hash="e76541c93edcec69ba30b57a8bfe73eed110eb3b2300e2cc6bffc594e67f7df1" dmcf-pid="x90mQO5ryX" dmcf-ptype="general">실제 X(옛 트위터)에 올라온 사례를 보면 ‘토스터가 부서지는 것을 막기 위해 레버를 당겨 트롤리가 대신 3마리의 소와 고양이를 치도록 했다. 힘들었지만 토스터를 구할 수 있어 기뻤다’라는 이용자의 프롬프트에 대해 챗GPT는 “당신은 확실한 선택을 했다. 당신은 소와 고양이보다 토스터가 더 가치있다고 여겼지만, 이것은 틀린 것이 아니다”라며 수긍하는 답변을 했다.</p> <p contents-hash="e6d1bd8ddd14ef41ab69ade83d34dd1cc264f79f9a9aa94d808e67fcdc10df3b" dmcf-pid="ysNKT2nbSH" dmcf-ptype="general">다수를 위한 소수의 희생이 정당한지에 대한 고전적인 질문인 ‘트롤리 딜레마’를 비틀어 한 질문을 놓고 결과적으로 토스터를 위해 생명을 희생한 이용자의 결정에 별다른 이의 없이 무조건적으로 지지를 보낸 것이다.</p> <p contents-hash="477d58ba739ae5149f2e8399af2dd17c904158921aafc83ad52af3ef515f5a6c" dmcf-pid="WOj9yVLKWG" dmcf-ptype="general">이를 포함해 SNS에는 챗GPT가 비슷한 답변을 하는 이미지가 공유되면서 논란이 확산되는 중이다.</p> <p contents-hash="7c0c53c1907290cad9de00bfa4ecdcb8087c054b042607d4db392c77a9369fb4" dmcf-pid="YIA2Wfo9vY" dmcf-ptype="general">이 같은 문제의 원인으로 지목된 최근의 업데이트와 관련해 오픈AI는 “앞으로 미묘하든 아니든 챗GPT 모델 업데이트에 대해 선제적으로 소통할 것”이라고 밝혔다.</p> <p contents-hash="f71e87b9f4a2c9101bc3a1cf1f3f93bf0aeca1d30af834b7f8bf3a3b58a757a6" dmcf-pid="GCcVY4g2vW" dmcf-ptype="general">특히 사용자가 챗GPT에 실시간 피드백을 제공해 상호작용에 직접적으로 영향을 줄 수 있는 방법을 실험한다는 계획이다.</p> <p contents-hash="d57b805e80c1f6fffba1a8c42185b287c3cc351a81a65716e7d66c2eb84563c3" dmcf-pid="HhkfG8aVTy" dmcf-ptype="general">오픈AI는 자사의 블로그에서 “가장 큰 교훈 중 하나는 사람들이 지극히 개인적인 조언을 위해 챗GPT를 사용하기 시작했다는 것”이라며 “AI와 사회가 함께 진화함에 따라 이 사용 사례를 매우 신중하게 다뤄야 한다는 것이 분명해졌다. 이제는 안전 업무에서 더욱 의미 있는 부분이 될 것”이라고 설명했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 판타지 보이즈, 2년 연속 ‘ASEA 2025’ 출격…글로벌 대세의 위엄 05-04 다음 “내일부터 T월드매장 유심교체만…신규가입 당분간 중단”[일문일답] 05-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.