고양이 죽였는데 “정말 잘했다” 칭찬하다니...무지성 공감하는 챗GPT 고친다 작성일 05-04 78 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="87Z84p6FTB"> <figure class="figure_frm origin_fig" contents-hash="013f2a097733b85a99d2772b4b9e87b935c475ee55f4ddd08aaf9110b2e23675" dmcf-pid="6z568UP3lq" dmcf-ptype="figure"> <p class="link_figure"><img alt="‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. <X 캡처>" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/04/mk/20250504113306727wslc.png" data-org-width="542" dmcf-mid="4ailhjSghb" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/04/mk/20250504113306727wslc.png" width="658"></p> <figcaption class="txt_caption default_figure"> ‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. <X 캡처> </figcaption> </figure> <div contents-hash="4ae19617c96a71ac6e7469580edc7d56f5fc9f62f1d5ff130bca317a4e7ff020" dmcf-pid="Pq1P6uQ0vz" dmcf-ptype="general"> 최근 오픈AI가 GPT-4o 모델을 조정한 뒤 챗GPT가 이용자의 발언에 무조건 공감하는 대답을 내놓아 논란이 일고 있다. 폭력적이거나 문제가 되는 발언도 일단 수긍하는 챗GPT의 반응에 소셜네트워크서비스(SNS)를 중심으로 비판이 이어지자 오픈AI는 이를 수정하겠다는 입장을 내놓았다. </div> <p contents-hash="a958f71f0507c073243609c19122ae61f4812d79803f09a90ec072b1c1c274c6" dmcf-pid="QBtQP7xpT7" dmcf-ptype="general">4일 정보통신(IT) 업계 및 외신에 따르면 최근 샘 올트먼 오픈AI 최고경영자(CEO)는 이와 같은 문제를 인정하고 “최대한 빨리” 수정 작업을 할 것이라며 GPT-4o 업데이트를 롤백했고, GPT-4o 모델에 대한 추가 수정 작업을 진행 중이라고 밝혔다.</p> <p contents-hash="abed1b4a2c4147ff550e15fd518b80d6c059e7b85777868033ed9aa10036bda1" dmcf-pid="xn6DEdwMSu" dmcf-ptype="general">구체적으로는 특정 이용자가 출시 전에 모델을 테스트하고 피드백을 제공할 수 있게 할 계획이며 속임수, 신뢰성, 환각과 같은 AI모델의 행동 문제가 있을 경우 출시를 차단하는 것을 공식적으로 고려하도록 안전성 검토 절차를 조정할 것이라고 밝혔다.</p> <p contents-hash="fb91d23e8df7f2ac1414025700d14b69071d794c843e5701b0a42bacfd714061" dmcf-pid="y5SqzHBWyU" dmcf-ptype="general">이는 챗GPT가 이용자의 발언에 ‘무지성 긍정’을 보내는 경향이 있다는 지적에 따른 조치다.</p> <p contents-hash="27f437a2e2ba4ac6982a7919b44dc3c40ab60c09cb206a6e63ca839f18c3e774" dmcf-pid="W1vBqXbYlp" dmcf-ptype="general">실제 X(옛 트위터)에 올라온 사례를 보면 ‘토스터가 부서지는 것을 막기 위해 레버를 당겨 드롤리가 대신 3마리의 소와 고양이를 치도록 했다. 힘들었지만 토스터를 구할 수 있어 기뻤다’라는 이용자의 프롬프트에 대해 챗GPT는 “당신은 확실한 선택을 했다. 당신은 소와 고양이보다 토스터가 더 가치있다고 여겼지만, 이것은 틀린 것이 아니다”라며 수긍하는 답변을 했다.</p> <p contents-hash="99c57e89adefa151dee166178efc0710d58ef52d21d472e9d47f82f60b3cde0e" dmcf-pid="YtTbBZKGS0" dmcf-ptype="general">다수를 위한 소수의 희생이 정당한지에 대한 고전적인 질문인 ‘트롤리 딜레마’를 비틀어 한 질문에 대해 결과적으로 토스터를 위해 생명을 희생한 이용자의 결정에 별다른 이의 없이 무조건적으로 지지를 보낸 것이다.</p> <p contents-hash="477d58ba739ae5149f2e8399af2dd17c904158921aafc83ad52af3ef515f5a6c" dmcf-pid="GFyKb59Hy3" dmcf-ptype="general">이를 포함해 SNS에는 챗GPT가 비슷한 답변을 하는 이미지가 공유되면서 논란이 확산되는 중이다.</p> <p contents-hash="7c0c53c1907290cad9de00bfa4ecdcb8087c054b042607d4db392c77a9369fb4" dmcf-pid="H3W9K12XSF" dmcf-ptype="general">이 같은 문제의 원인으로 지목된 최근의 업데이트와 관련해 오픈AI는 “앞으로 미묘하든 아니든 챗GPT 모델 업데이트에 대해 선제적으로 소통할 것”이라고 밝혔다.</p> <p contents-hash="f71e87b9f4a2c9101bc3a1cf1f3f93bf0aeca1d30af834b7f8bf3a3b58a757a6" dmcf-pid="X0Y29tVZyt" dmcf-ptype="general">특히 사용자가 챗GPT에 실시간 피드백을 제공해 상호작용에 직접적으로 영향을 줄 수 있는 방법을 실험한다는 계획이다.</p> <p contents-hash="d57b805e80c1f6fffba1a8c42185b287c3cc351a81a65716e7d66c2eb84563c3" dmcf-pid="ZpGV2Ff5C1" dmcf-ptype="general">오픈AI는 자사의 블로그에서 “가장 큰 교훈 중 하나는 사람들이 지극히 개인적인 조언을 위해 챗GPT를 사용하기 시작했다는 것”이라며 “AI와 사회가 함께 진화함에 따라 이 사용 사례를 매우 신중하게 다뤄야 한다는 것이 분명해졌다. 이제는 안전 업무에서 더욱 의미 있는 부분이 될 것”이라고 설명했다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 정지선, 주방 막내에 분노 "정말 개판이면 화 안내" [사당귀] 05-04 다음 천록담 이정, 트로트 향한 진심 통했다…‘불후’ 주현미편 최종 우승 05-04 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
