오픈AI, '챗GPT' 위험한 대화 원천 차단…제품 검수 스타트업 인수

작성일 09-03

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="5zwvvGxpro">
          <p contents-hash="f01e69427ad892d760c5faadaa5491396490a67d654d5c76e67fa1a348a7bdeb" dmcf-pid="1qrTTHMUIL" dmcf-ptype="general">오픈AI가 챗GPT상 민감한 질문을 인공지능(AI) 추론 모델로 자동 응대하고 부모가 직접 자녀 계정을 관리할 수 있는 자녀 보호 기능을 도입한다.</p>
          <p contents-hash="f891fdb43b3748b0f3a0612fe8a5e34ab15909208d0a81026ff56c2fb2d26af0" dmcf-pid="tBmyyXRuOn" dmcf-ptype="general">오픈AI는 최근 자사 블로그를 통해 이같은 내용을 담은 계획을 공개했다. 최근 챗GPT가 미성년자에게 자살 방법을 안내한 사건을 계기로 오픈AI 책임론이 거세진 데 따른 대응이다.<br></p>
          <figure class="figure_frm origin_fig" contents-hash="4fb2951e65e46151d5bc8e5869b40b38a2510f824d624ecee91905e9add1b490" dmcf-pid="FbsWWZe7si" dmcf-ptype="figure">
           <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/03/etimesi/20250903154940171gxym.png" data-org-width="500" dmcf-mid="ZGNsslVZrg" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/03/etimesi/20250903154940171gxym.png" width="658"></p>
          </figure>
          <p contents-hash="9508c1fb8484764470d692393d0cb7952746166e85f12a462b62a6436514ba87" dmcf-pid="3TMaakphOJ" dmcf-ptype="general">앞서 미국 16세 고등학생 애덤 레인이 챗GPT와 자살 계획을 논의했고, 챗GPT는 구체적 자살 방법 관련 정보를 제공했다. 레인의 부모는 오픈AI를 상대로 소송을 제기했다. 오픈AI는 장시간 대화 중 가드레일을 유지하지 못하는 등 시스템 안정성에 문제가 있었다고 인정했다.</p>
          <p contents-hash="54fbdb94b526f6e566ee181f916965f10fa160281391bafd88f60612572b6904" dmcf-pid="0yRNNEUlwd" dmcf-ptype="general">이 사건뿐만 아니라 챗GPT와 대화가 과대망상이나 정신질환을 유발한다는 주장도 제기되며 AI 안전성에 의문이 제기되자 대책 마련에 나선 것으로 풀이된다.</p>
          <p contents-hash="f50850a8f61bb118c50c7d02565f6847b01091abf242740a3be476d49c002ce8" dmcf-pid="pWejjDuSwe" dmcf-ptype="general">오픈AI는 AI 추론 모델을 해법으로 제시했다. 시스템이 사용자 대화에서 사용자 정서 불안 징후를 포착하면 일반 모델 대신 GPT-5 씽킹 또는 o3 등 추론 모델로 자동 전환하는 것이다. 추론 모델은 보다 오랫동안 맥락을 분석하고 신중한 답변을 내놓는다는 측면에서 위험성을 낮출 수 있다.</p>
          <p contents-hash="ccff1f04e4ba6f7a6eac01bd226805e809b6a7c19e8b344de8b19f3209cb90b8" dmcf-pid="UYdAAw7vDR" dmcf-ptype="general">또 자녀 보호 기능도 도입할 예정이다. 부모가 이메일로 자녀 계정을 본인 계정과 연결, 연령에 맞는 적절한 모델 행동 규칙을 설정하는 등 챗GPT가 자녀에게 어떻게 반응할지 통제할 수 있게 된다. 메모리·채팅 기록 등 기능의 비활성화도 설정할 수 있다. 10대 자녀가 대화 중 정서적 어려움을 겪는 것으로 감지되면 부모에게 즉시 알리는 기능도 포함된다.</p>
          <p contents-hash="8d32f9f5f74e142892bd27a73a3f358ab2a5b76db963bcf3d40c794bda142b43" dmcf-pid="uGJccrzTmM" dmcf-ptype="general">오픈AI는 글로벌 의료 네트워크와 웰빙·AI 전문가 위원회를 통해 전문가와 협력, 의료·심리학적 지식을 바탕으로 안전 대책을 강화하고 있다고 설명했다. 전문가 지도 하에 챗GPT를 최대한 안전하고 유용한 서비스로 발전시키겠다는 의미다.</p>
          <p contents-hash="dd75961b845bf02eb35651298c7a9ef0f0b78d20860b01539a2083365ce3252d" dmcf-pid="7HikkmqyDx" dmcf-ptype="general">한편 2일(현지시간) 블룸버그통신에 따르면 오픈AI는 제품 검수 스타트업 '스탯시그' 인수를 추진한다. 스탯시그는 소프트웨어 개발자들이 새로운 기능을 시험하고 점검하도록 지원하는 기업으로, 오픈AI는 11억달러(약 1조5000억원) 예산으로 인수에 나섰다. 인수는 규제당국 검토 후 확정된다.</p>
          <p contents-hash="8c445ecd9e223f1f56dc4c13fbd67b25321e65ecb92c0efea49916d42add23b9" dmcf-pid="zXnEEsBWEQ" dmcf-ptype="general">박종진 기자 truth@etnews.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>

이전

'미트3' 김용빈, 공황장애 고백…"언제 무대 설지 몰랐다" ('내 멋대로')

09-03
다음

장원영, 떡잎부터 완성형…인형 미모에 팬들 감탄

09-03

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

오픈AI, '챗GPT' 위험한 대화 원천 차단…제품 검수 스타트업 인수

멤버랭킹

관련자료

멤버랭킹