사용자 불만에…오픈AI “AI 모델 안전성 평가 지속 공개할 것”

작성일 05-15

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="8JjNUxhLrt">
          <figure class="figure_frm origin_fig" contents-hash="2faf00107b753eab82dbc0dd106ddae8dcb97310338a1dd1f99f0daebe3931d1" dmcf-pid="6sTvxE0Cw1" dmcf-ptype="figure">
           <p class="link_figure"><img alt="오픈AI 로고 (로이터 연합뉴스 자료사진)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202505/15/etimesi/20250515072405932bbkz.jpg" data-org-width="500" dmcf-mid="4iNapQCnwF" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202505/15/etimesi/20250515072405932bbkz.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            오픈AI 로고 (로이터 연합뉴스 자료사진)
           </figcaption>
          </figure>
          <p contents-hash="94a68c508f79d5a5311424297d98b768ec9c0ef00f3abc2abc9988217a23b24f" dmcf-pid="POyTMDphE5" dmcf-ptype="general">'챗GPT' 개발사 오픈AI는 14일(현지시간) '자사 AI 모델에 대한 안전성 평가 결과를 발표하는 '안전성 평가 허브(Safety Evaluations Hub)'라는 웹페이지를 공개한다고 밝혔다.</p>
          <p contents-hash="f31dd67ec63b64251f11bad12e0528b163ad9ba81e1d7f32a2340491a0454900" dmcf-pid="QIWyRwUlIZ" dmcf-ptype="general">이 웹페이지에서는 자사 AI 모델이 유해 콘텐츠 생성, 탈옥(jailbreak·안전 장치를 우회해 제한된 콘텐츠 생성), 환각 등의 다양한 테스트에서 어떤 점수를 받았는지를 보여주게 된다.</p>
          <p contents-hash="30f1d07bd879ed37333927f05d5df11596f9f77d7cd42900790ef6171fdc10d2" dmcf-pid="xCYWeruSEX" dmcf-ptype="general">오픈AI는 “이 허브는 우리의 투명성 강화 노력”이라며 “지속적으로 관련 지표를 공유하고, 중요한 업데이트가 있을 때마다 갱신하겠다”고 전했다.</p>
          <p contents-hash="243cdfea0083442191575ac5ec0adfa20977dbbb75a8e4487550f61d6fc0448b" dmcf-pid="yfRMGbc6sH" dmcf-ptype="general">또 “이 허브에 안전성 평가 결과의 일부를 공개해 오픈AI 시스템의 안전성 성과를 더 쉽게 이해할 수 있고 투명성을 높이기 위한 업계 전반의 노력도 지원할 수 있을 것”이라고 덧붙였다.</p>
          <p contents-hash="bb9ab5a1d6afe9f64700b05ce6e83b230babf9230ef3e8f5e5bb325bd1b33028" dmcf-pid="W4eRHKkPmG" dmcf-ptype="general">오픈AI의 AI 모델 투명성 강화 노력은 최근 일부 모델을 둘러싸고 논란이 제기됐기 때문이다.</p>
          <p contents-hash="e6e036c9755b8f12df238e0fe83489f74f625c0b6a358c2cee8eb0f3113a78ab" dmcf-pid="Y8deX9EQDY" dmcf-ptype="general">정보기술(IT) 전문 매체 테크크런치에 따르면 최근 몇 달간 오픈AI는 일부 대표 모델에 대해 안전성 테스트를 급하게 진행하고, 다른 모델에 대해서는 기술 보고서를 공개하지 않았다는 지적을 받아왔다.</p>
          <p contents-hash="b569ec8fc7d4af98415c1e806504444a81ba614f95ccfeec5056b2bdc4035163" dmcf-pid="G6JdZ2DxmW" dmcf-ptype="general">또 지난 3월 말 챗GPT의 기본 모델인 GPT-4o의 업데이트 이후 사용자들의 불만이 커지면서 최근에는 업데이트를 전면 취소하기도 했다.</p>
          <p contents-hash="b0f3409535163393b3975e2b0b5ebdccf71be58c4c16e2cfb8373235ef017ce5" dmcf-pid="HPiJ5VwMwy" dmcf-ptype="general">GPT-4o 업데이트는 챗GPT가 사용자 질문이나 말에 칭찬이나 동조를 많이 하도록 만들어졌는데, 문맥이나 상황과 맞지 않는 반응이 나올 때가 있었기 때문이다.</p>
          <p contents-hash="5d312c1ee7ee9e7d57df5b23de6e5ca67f3f8fe4ae9b76a4de8ed0ae6c5e7e89" dmcf-pid="XQni1frRmT" dmcf-ptype="general">일부 사용자 사이에서는 동물을 죽였다거나 금주 약속을 깼다는 얘기에도 “훌륭하다”는 '생뚱맞은 칭찬'을 받았다는 경험담이 나왔다.</p>
          <p contents-hash="bcaa943c57958270059bf5f13f864f1b7d4f8e44aec2919af91898e90fb26cd7" dmcf-pid="ZxLnt4meOv" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)도 지난달 28일 엑스(X·옛 트위터)를 통해 문제를 인정했고, 공식 블로그를 통해 후속 조치를 예고한 바 있다.</p>
          <p contents-hash="aeeb955290d54e973bfa64b0d779e845df54f0385ee1e4a218cd92cfe82bd9ce" dmcf-pid="5MoLF8sdmS" dmcf-ptype="general">김명희 기자 noprint@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

사용자 불만에…오픈AI “AI 모델 안전성 평가 지속 공개할 것”

멤버랭킹

관련자료

멤버랭킹