AI가 만든 가짜 논문 인용, 세계 최고 AI 학회도 속았다 작성일 01-31 7 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">뉴립스 논문 51편 환각인용…조경현 뉴욕대 교수 "공저자로서 책임 느껴"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8GObMpGhkZ"> <p contents-hash="3079dca440325c61e7ddfe23ece6797bb2130bb97a47241a5fd352a0d9e78642" dmcf-pid="6HIKRUHlgX" dmcf-ptype="general">(지디넷코리아=이나연 기자)<span>세계 최고 권위의 인공지능(AI) 학회에서 AI가 만들어낸 가짜 논문 인용이 대거 발견됐다. AI 전문가들조차 AI가 생성한 허위 정보를 걸러내지 못하면서 연구 윤리와 학문의 신뢰성에 대한 우려가 커지고 있다.</span></p> <p contents-hash="5b7caa57f770b8d4da86f0e0d67d8a62516cd1636f3eab7cd5f7f3f6e78547cd" dmcf-pid="PbtiDQb0gH" dmcf-ptype="general">AI 탐지 기업인 GPT제로가 <span>세계 최고 AI 학회인 신경정보처리시스템학회인 뉴립스(NeurIPS) 2025에 채택된 논문 4,841편을 분석한 결과, 최소 51개 논문에서 100건 이상의 '환각 인용'을 발견했다. 이 같은 사실은 테크크런치를 비롯한 주요 언론들이 보도하면서 널리 알려지게 됐다. </span></p> <p contents-hash="0ef7183056606ecbb29e96ff31760911c7215c52e30d5d6719f36b17f276dbc7" dmcf-pid="QKFnwxKpkG" dmcf-ptype="general">환각 인용은 AI가 존재하지 않는 논문 제목, 가짜 저자명, 잘못된 디지털 객체 식별자(DOI) 등을 그럴듯하게 만들어 인용한 것을 말한다.</p> <p contents-hash="ad8a064fb5e93e65050f996b79ded753313b588017e2d35cec5e813036bd49d8" dmcf-pid="x93LrM9UjY" dmcf-ptype="general">GPT제로는 이를 '바이브 인용(Vibe Citing)'이라고 명명했다. 겉으로는 정상적인 인용처럼 보여 전문가인 리뷰어들조차 걸러내지 못하고 최종 합격시켰다는 점에서 문제의 심각성이 크다.</p> <p contents-hash="88b55ed7a8a61df8374f5756763eae8b75b87d1b7dfa51f3aaae5e9f56567bbf" dmcf-pid="ysa1bWsAaW" dmcf-ptype="general">뉴립스는 올해 접수된 논문 2만1,000건 중 6,000건만 게재될 정도로 치열한 경쟁을 자랑하는 세계 일류 학회다. 이런 저명 학회에서 AI로 조작된 인용이 포함된 논문들이 1만 5,000개 다른 논문을 제치고 통과됐다는 점에서 큰 충격을 안겨주고 있다. </p> <figure class="figure_frm origin_fig" contents-hash="2cf4b8d7c957543b6b1fb5db1c185e1800b252015382a161eb91e90f546a10cb" dmcf-pid="WONtKYOcAy" dmcf-ptype="figure"> <p class="link_figure"><img alt="(사진=조경현 뉴욕대학교 교수 링크드인)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202601/31/ZDNetKorea/20260131085027944qmnw.png" data-org-width="640" dmcf-mid="V75clLPKag" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202601/31/ZDNetKorea/20260131085027944qmnw.png" width="658"></p> <figcaption class="txt_caption default_figure"> (사진=조경현 뉴욕대학교 교수 링크드인) </figcaption> </figure> <p contents-hash="a3dbd6790ec67916bac26cd85180e05ceda6fc37db661e68d3047751833f26a3" dmcf-pid="YIjF9GIkcT" dmcf-ptype="general">세계적인 AI 석학인 조경현 뉴욕대학교 교수도 본인이 공저자로 참여한 논문에서 AI 환각으로 인한 인용 오류가 발견되자 공개 사과했다. <span>조 교수는 자신의 링크드인 계정을 통해 "공저자로서 세심하게 살피지 못한 점에 대해 전적으로 책임을 느낀다"며 잘못된 인용을 인정했다.</span></p> <p contents-hash="fc3a4af34b5b8d91654de15f08f7cc7ca96c668cc41f59db16fe753d1b7970cc" dmcf-pid="GCA32HCEgv" dmcf-ptype="general">여러 AI 모델이 동시에 사회 전체의 담론을 왜곡하는 이른바 '거대언어모델(LLM) 그루밍' 현상은 분야를 막론하고 일어나고 있다.</p> <p contents-hash="9e1d0ee86c30a023587035d9e5251e698b48a3cd967be6c333016de29e65f864" dmcf-pid="Hhc0VXhDkS" dmcf-ptype="general">지난해에는 러시아발 친러 성향 허위 정보가 다수의 AI 서비스 답변에 포함된 사례가 확인됐다. 주요 AI 서비스들의 출처 신뢰성 문제도 도마 위에 올랐다.</p> <p contents-hash="4e84bd27b020c414378951d1de44ae1b19481aeb1ab8c6855a1a967b9fcbd135" dmcf-pid="XlkpfZlwol" dmcf-ptype="general">가디언 등 외신 보도에 따르면 구글 'AI 개요'는 건강 정보 검색 시 전문 의료 사이트 대신 유튜브를 주요 출처로 활용하는 것으로 나타났다.</p> <p contents-hash="dd0d95d1d7d5aa10f6b54a4ebea4b7ae98ab92ca19e6d3d56f94458a18ddd411" dmcf-pid="ZSEU45SrAh" dmcf-ptype="general">챗GPT는 일론 머스크 테슬라 최고경영자(CEO)가 관여한 보수 성향 플랫폼 '그로키피디아'에서 정보를 가져오고 있다. 그로키피디아는 노예제 옹호, 성소수자 비하 표현 등으로 논란을 일으킨 곳이다.</p> <p contents-hash="b2082ba634d511732c3d22e7e072aa87fd14fccc266d57dd34691739e6cd285a" dmcf-pid="5vDu81vmjC" dmcf-ptype="general">학계에서는 논문 심사 시 AI 탐지 도구 의무 사용이나 인용 논문 DOI 자동 검증 시스템 도입 등 대책 마련이 시급하다는 목소리가 나온다.</p> <p contents-hash="2466e3ede26791c3057c168055bd7a7ace852c937302a82c26bcf818a3c4e9c6" dmcf-pid="1Tw76tTsNI" dmcf-ptype="general">업계 관계자는 "논문을 심사할 때 인용된 참고문헌조차 실제로 존재하는지 일일이 확인해야 하는 시대가 됐다"고 말했다.</p> <p contents-hash="60be1a81a531d972833968f8f9c998340357986a81c8db3ec5e538c8a0b253be" dmcf-pid="tyrzPFyOjO" dmcf-ptype="general">이나연 기자(ny@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 장도연도, 이찬원도 눈물…구준엽·고 서희원 커플 타투, 묘비에 새겼다 (‘셀럽병사’) 01-31 다음 SK하이닉스 1등의 이유… '슈퍼 모멘텀' 만들어낸 독한 DNA의 기록 01-31 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
