오픈AI 최신 추론모델 `o3`, 할루시네이션 더 심해져 작성일 04-20 130 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="q68efjDxlP"> <figure class="figure_frm origin_fig" contents-hash="b21bf3ddf3e0f9112da53958170f0ac37b6563dc932da6006bd04fba53b51609" dmcf-pid="BP6d4AwMC6" dmcf-ptype="figure"> <p class="link_figure"><img alt="로이터 연합뉴스 자료사진" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/20/dt/20250420070619717pvak.jpg" data-org-width="540" dmcf-mid="1KJNBnNfTL" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/20/dt/20250420070619717pvak.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 로이터 연합뉴스 자료사진 </figcaption> </figure> <p contents-hash="c72a40b5a27738c6052e3172e7c9c0dcd274ce5ccf6d9245b113b11f03e06b3a" dmcf-pid="bQPJ8crRW8" dmcf-ptype="general">오픈AI가 최근 출시한 인공지능(AI) 모델인 'o3'와 'o4'-미니가 높은 성능에도 불구하고 할루시네이션(환각·왜곡) 현상은 더 심해진 것으로 나타났다. 회사도 그 원인에 대해 정확히 파악하지 못한 모양새다.</p> <p contents-hash="61f0a9a065e2598a1f879640321b86c70e3d2a44f829d3e202a910327b858589" dmcf-pid="KxQi6kmey4" dmcf-ptype="general">지난 18일(현지시간) 테크크런치 보도에 따르면, 오픈AI는 내부 테스트에서 새로운 추론모델인 o3와 o4-미니가 기존 o1, o1-미니, o3-미니는 물론이고 비추론모델인 GPT-4o보다도 할루시네이션이 더 자주 발생하는 것으로 확인했다.</p> <p contents-hash="70e19c78ff503052c6a45b21bd79aefbc47aca7d4eef81d5afe0dd7d8d3518df" dmcf-pid="9MxnPEsdhf" dmcf-ptype="general">대형언어모델(LLM)이 구조적으로 안고 있는 할루시네이션 문제에 대해 그동안 오픈AI는 새 모델을 내놓을 때마다 꾸준히 개선된 결과를 내왔다. 하지만 이번엔 그렇지 못했고, 그 이유에 대해서도 "더 많은 연구가 필요하다"고 밝힌 상태다. o3 및 o4-미니 관련 기술보고서에서 "전반적으로 더 많은 주장을 한다"면서 "더 정확한 주장뿐만 아니라 더 부정확하거나 왜곡된 주장을 하게 된다"고 기술했다. </p> <p contents-hash="016df299947cb5d88cfaebb1873db683d755ca12184cc7be92523576f6514aca" dmcf-pid="2RMLQDOJSV" dmcf-ptype="general">사람에 대한 모델의 지식 정확도를 측정하는 오픈AI 사내 벤치마크(PersonQA)에서 o3는 33%의 질문에 대해 할루시네이션을 일으키는 결과를 냈다. 기존 추론모델인 o1(16%)와 o3-미니(14.8%)보다 할루시네이션이 약 2배 더 심한 것이다. o4-미니의 경우 더 성적이 나빠서 48%에 육박했다.</p> <p contents-hash="d711bba098ba02274acdc8a8d315660ffb1be8d6d829f6a7996b5915204a09ad" dmcf-pid="VeRoxwIih2" dmcf-ptype="general">심해진 할루시네이션 때문에 기존 모델들보다 덜 유용할 것이란 지적도 제기된다. 비영리 AI연구소 트랜슬루스(Transluce)도 o3가 답변 도출 과정에서 자신이 취한 행동에 대해 짜맞추는 경향을 테스트를 통해 발견했다. 전 오픈AI 직원인 닐 차우두리(Neil Chowdhury) 트랜슬루스 연구원은 테크크런치에 "o시리즈 모델에 쓰인 강화학습 유형이 표준 사후학습 파이프라인에 의해 일반적으로 완화돼온 문제를 증폭시켰을 수 있다"는 가설을 제기했다.</p> <p contents-hash="034ef9cbbfb9d5cc6c3e7e454613caef45bb390cb5e0b5b61bf3b9384b386b56" dmcf-pid="fdegMrCnS9" dmcf-ptype="general">일반적으로 할루시네이션 저감에 널리 쓰이는 방법은 검색증강생성(RAG)을 통해 웹 등에서 추가로 정보를 탐색케 하는 것이다. GPT-4o도 웹 검색 기능을 갖춘 이후론 오픈AI 사내 벤치마크에서 할루시네이션이 10% 수준으로 개선됐다. 다만 AI의 창의성과 효율성에 이점을 주고 있는 추론모델의 사고 능력이 그 반대급부로 모델 자체의 정확성과 신뢰성을 저해한다면 이에 대한 근본적인 해결책이 필요해질 수 있다.</p> <p contents-hash="560774cf19497fcf1209b723033fef80fb672da25628ca633e9b11829d74a845" dmcf-pid="4JdaRmhLhK" dmcf-ptype="general">오픈AI는 지난 16일(현지시간) o3를 출시하면서 수학·과학·코딩 등에서 이전 모델들을 능가하는 자사의 가장 정교한 추론모델이자, 이미지에 대해 단순히 보는 것을 넘어 이해·분석하는 첫 모델이라고 소개한 바 있다. 증가한 할루시네이션에 대해 오픈AI 측은 "모든 모델에서 할루시네이션 문제를 해결하는 것은 지속적인 연구 분야이며, 정확성과 신뢰성을 개선하기 위해 지속적으로 노력하고 있다"고 전했다.팽동현기자 dhp@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p> 관련자료 이전 마블 신작 '썬더볼츠' 개봉 임박⋯어벤져스 공백 메꿀까 [콘슐랭] 04-20 다음 강호동 아들, 16살에 키 188㎝…서장훈 "나와 발사이즈 같아" 04-20 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
