[사이언스 스코프] AI가 쓴 논문, AI가 심사한다…흔들리는 과학의 신뢰 작성일 07-19 38 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">AI가 만든 '가짜 참고문헌' 14만 건…논문은 폭증했지만 검증은 멈췄다<br>AI는 데이터를 학습하고, 과학은 사람을 신뢰한다</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="t9PQdTlwoi"> <blockquote class="pretip_frm" contents-hash="d2ce2a630529a97ece3d4e5fdf3db7758d7477be55ead84404c0ce93ea8554f4" dmcf-pid="F2QxJySraJ" dmcf-ptype="pre"> <strong>편집자주</strong> <br>'사이언스 스코프(Science Scope)'는 '조준경(scope)'이라는 단어처럼 특정 과학기술 현상을 확대해 들여다보고 그 의미와 미래를 심층 분석하는 코너입니다. <br> </blockquote> <div contents-hash="30858f8128cb07053d69c9a32ff5223df875c95a5b3ed68ce35369c7105f517c" dmcf-pid="3VxMiWvmod" dmcf-ptype="general"> <p>생성형 인공지능(AI)이 만들어낸 존재하지 않는 참고문헌이 실제 과학 논문에 포함되기 시작했다. AI가 논문을 쓰고 심사를 돕는 시대가 열리면서 과학계는 300여년간 유지된 '사람이 쓰고 사람이 검증하는' 신뢰의 시스템이 흔들릴 수 있다고 우려한다.</p> </div> <div contents-hash="02beb1e1ef80015ab319c3ac76b1bb46df6a11e8382cc5ffb31abd8b1a659629" dmcf-pid="0fMRnYTsoe" dmcf-ptype="general"> <p>뉴턴은 사과가 떨어지는 모습을 보고 만유인력의 법칙을 떠올렸다. 아인슈타인은 머릿속 사고실험으로 상대성이론을 세웠다. 그렇다면 생성형 AI는 무엇을 보고 과학을 할까?</p> </div> <figure class="figure_frm origin_fig" contents-hash="d40c1cd4eab0d733807e8d6cb9863aedc2bab1478e174faf15a2511d30f9f865" dmcf-pid="p4ReLGyOkR" dmcf-ptype="figure"> <p class="link_figure"><img alt="챗GPT 생성이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/19/akn/20260719080137779ibls.jpg" data-org-width="745" dmcf-mid="HgoiaZGhja" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/19/akn/20260719080137779ibls.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 챗GPT 생성이미지 </figcaption> </figure> <p contents-hash="ab8b32222284af0bc520e9849752c25ab862b7f66288bd63ec385225f4cacafe" dmcf-pid="U8edoHWIgM" dmcf-ptype="general">AI는 자연을 관찰하지 않는다. 대신 수천만 편의 논문과 데이터를 학습해 가장 그럴듯한 답을 만들어낸다. 연구를 돕기 위해 등장한 도구였지만, 불과 2~3년 만에 논문 작성과 심사, 출판 생태계까지 바꾸고 있다. 이제 과학계의 질문은 'AI가 논문을 얼마나 잘 쓰는가'가 아니다. 'AI 시대에도 과학을 어떻게 믿을 것인가'다.</p> <p contents-hash="eb9a98ba670322028a3b2eba358cffee42570e6725fcffde0283234f83e417d8" dmcf-pid="u6dJgXYCNx" dmcf-ptype="general"><strong><strong><strong>AI는 이미 연구실 안에 들어왔다</strong></strong></strong></p> <p contents-hash="b5659f8ecd7738fc4eedd5de0c71c8e3dc898a2afd94860e1033a53714e06dc0" dmcf-pid="7PJiaZGhcQ" dmcf-ptype="general">생성형 AI는 더 이상 일부 연구자의 실험적인 도구가 아니다. 국제 학술출판계는 이미 AI 활용을 전제로 새로운 규칙을 만들고 있다.</p> <p contents-hash="f97f34f58ca64c71d8f5c04bfe07704607f3e5e7ff5fccd203d2749704565d51" dmcf-pid="zQinN5HlcP" dmcf-ptype="general">네이처(Nature) 등 수천 개 학술지를 발행하는 세계 최대 국제 학술출판사 스프링거 네이처(Springer Nature)는 AI를 문장 교정과 번역 등에 활용하는 것은 허용하지만, AI를 논문의 저자로 인정하지 않는다. 연구 결과에 책임을 질 수 없기 때문이다.</p> <p contents-hash="2eabc74d174d240b56865508015ffda452151fb6d559d33226320879141fbc7e" dmcf-pid="qfMRnYTsN6" dmcf-ptype="general">글로벌 학술정보·출판 기업 엘스비어(Elsevier) 역시 생성형 AI 활용 사실을 투명하게 공개해야 하며, 연구 내용과 결론에 대한 최종 책임은 연구자가 져야 한다는 원칙을 제시하고 있다. 특히 AI가 만들어낸 참고문헌은 허위이거나 부정확할 수 있는 만큼 연구자가 반드시 직접 검증해야 한다고 강조한다.</p> <div contents-hash="0d38f77313d49f4d23101ea33f9233afa6aa548572c202133d9102f4b02e01d4" dmcf-pid="B4ReLGyOa8" dmcf-ptype="general"> <p>세계적인 학술지 네이처와 사이언스(Science)도 AI 활용 자체를 금지하지 않는다. 대신 AI가 존재하지 않는 참고문헌을 만들어내거나 사실과 다른 내용을 그럴듯하게 작성하는 '환각(Hallucination)'이 연구 신뢰성을 훼손할 수 있다고 잇달아 경고하고 있다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="b263c446bbb863f3744bb56fbc9037f46a161274aea50ae43b0f694e6d22c343" dmcf-pid="b8edoHWIg4" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/19/akn/20260719080139194dzzi.jpg" data-org-width="745" dmcf-mid="XbV98swakg" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/19/akn/20260719080139194dzzi.jpg" width="658"></p> </figure> <p contents-hash="50101d49fb3f7339a2e00c269924c0bd66ad7ddbac70f1e31d4df712090b0ed7" dmcf-pid="K6dJgXYCNf" dmcf-ptype="general">AI 활용은 연구 결과에서도 확인된다. 2025년 국제학술지 사이언스 어드밴시스(Science Advances)에 발표된 연구에서 드미트리 코바크 독일 튀빙겐대학교 신경정보학연구소 박사 연구팀은 2010년부터 2024년까지 의학논문 데이터베이스 펍메드(PubMed)에 등재된 바이오의학 논문 초록 1510만 건을 분석했다. 연구진은 챗GPT 공개 이후 특정 표현과 문체가 급격히 증가한 사실을 확인했고, 이를 토대로 2024년 발표된 바이오의학 논문 초록 가운데 최소 13.5%가 대규모 언어모델(LLM)의 도움을 받았을 가능성을 제시했다.</p> <p contents-hash="6296038f3bbdd54e5d490fedb88b344cfd1a84e44786afee62a1b4433e7d906a" dmcf-pid="99PQdTlwcV" dmcf-ptype="general">문제는 불과 1년 만에 훨씬 심각해졌다. 2026년 공개된 연구에서는 자오전웨 미국 코넬대학교 정보과학과 연구원과 인옌 교수 연구팀이 전 세계 연구자들이 논문을 가장 먼저 공개하거나 공유하는 온라인 논문 공개·공유 플랫폼을 분석했다. 공동연구에는 세계 최대 온라인 논문 공개 플랫폼인 아카이브(arXiv)의 창립자인 폴 긴스파그도 참여했다.</p> <p contents-hash="5c8c8b2ad2f75954278e8e85694624a7c688e1df43cec9e45613eed0d7afeae9" dmcf-pid="22QxJySrN2" dmcf-ptype="general">연구진은 물리학 분야의 '아카이브', 생명과학 분야의 '바이오아카이브(bioRxiv)', 사회과학 분야의 'SSRN', 미국 국립보건원이 운영하는 의생명과학 논문 데이터베이스 '펍메드 센트럴(PubMed Central)' 등에 공개된 논문 약 250만 편과 참고문헌 1억1100만 건을 분석한 결과, 2025년 한 해에만 최소 14만6932건의 존재하지 않는 '환각 참고문헌'이 포함됐을 가능성을 제시했다.</p> <p contents-hash="c8e41a168eef91c1d753645d994612986e97936e8cec1b03347b242a0d4b9a0a" dmcf-pid="VVxMiWvmN9" dmcf-ptype="general">AI가 만든 허위 참고문헌이 이미 실제 학술문헌 속으로 스며들고 있다는 의미다. AI는 이제 논문을 쓰는 수준을 넘어 과학 지식의 토대인 참고문헌까지 만들어내고 있다.</p> <p contents-hash="1a7314c1cdc17ef6a14137528e8bc389c9a59a2c82694234b78d751de5e38210" dmcf-pid="ffMRnYTscK" dmcf-ptype="general"><strong><strong><strong>문제는 AI가 아니라 검증이다</strong></strong></strong></p> <p contents-hash="394e336e5ce0798bcadedc1dbe21faf091fe4f2029399975b08b9a373838aadf" dmcf-pid="44ReLGyOgb" dmcf-ptype="general">AI는 영어 교정과 문헌 검색, 초록 작성을 대신하면서 논문 초안 작성 시간을 크게 줄였고, 연구 생산성을 높였다. 반면 논문의 진위와 데이터의 신뢰성, 통계 분석의 적절성, 참고문헌의 정확성은 여전히 사람이 검증해야 한다.</p> <div contents-hash="16dcea6688db3ce1b3669f41111efc29f2b3846fda8c604e7cff3865983c658e" dmcf-pid="88edoHWIkB" dmcf-ptype="general"> <p>바로 여기서 과학계의 고민이 시작된다. 네이처는 올해 AI가 만들어낸 허위 참고문헌이 다양한 학문 분야의 실제 논문에 포함되고 있으며, 기존 동료심사와 편집 과정만으로는 이를 충분히 걸러내지 못하고 있다고 분석했다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="e732a5daa47827e455a094e6edccb8f570e1f1f44582cc1f9e8a4ace19a1209c" dmcf-pid="66dJgXYCgq" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/19/akn/20260719080140448ibzz.jpg" data-org-width="745" dmcf-mid="ZjcjDpFYco" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/19/akn/20260719080140448ibzz.jpg" width="658"></p> </figure> <p contents-hash="370275b703569d68b51757419eea179598c1ee5e938711edb499c4c21ba05c0f" dmcf-pid="PPJiaZGhcz" dmcf-ptype="general">논문 철회도 빠르게 늘고 있다. 논문 철회 감시기관 '리트랙션 워치(Retraction Watch)'에 따르면 2023년 전 세계 철회 논문은 1만 편을 넘어 역대 최고 수준을 기록했다.</p> <p contents-hash="86685d53d20bedd5d785b42c553f1fd1fc53116821f8e172417a2b7ecc242fdc" dmcf-pid="QQinN5Hlc7" dmcf-ptype="general">더 큰 문제는 검증 체계의 한계다. 세계 최대 학술출판사인 스프링거 네이처의 경우 최근 한 해에만 310만 건이 넘는 원고가 접수될 정도로 논문 수가 폭증하고 있다. 그러나 이를 검증할 동료심사 시스템이 그 속도를 따라가지 못하면서, 연구자들의 심사 부담은 갈수록 커지는 실정이다.</p> <p contents-hash="79e929db3b2fe8c5642eb5d8c85a4f5bb6cbf44d6d86df962fcd993b1771b49f" dmcf-pid="xxnLj1XSju" dmcf-ptype="general"><strong><strong><strong>사람이 부족하자 AI가 심사하기 시작했다</strong></strong></strong></p> <p contents-hash="58ee69896e786af7a53b1702744b269206b568ac247bae642dc2b65802c705fb" dmcf-pid="yy51pLJ6kU" dmcf-ptype="general">이처럼 논문의 생산 속도를 검증 속도가 따라잡지 못하자, 가장 먼저 한계에 부딪힌 것이 바로 과학계의 핵심 검증 절차인 '동료심사(Peer Review)' 시스템이다.</p> <p contents-hash="fb2b1856f9ede4d966282877e22dda27e00b8342e4e800de286c7a44b84d204c" dmcf-pid="WW1tUoiPgp" dmcf-ptype="general">동료심사는 대부분 무보수에 가까운 자발적인 참여에 의존하는 탓에 오래전부터 '리뷰어 부족'이 만성적인 문제로 지적돼 왔다. 설상가상으로 앞서 언급한 것처럼 원고 접수량은 폭발적으로 늘어나는데, 이를 읽고 검증할 전문 연구자는 턱없이 부족하다 보니 심사 기간은 한없이 길어지고 연구자들의 피로도는 극에 달하고 있다.</p> <p contents-hash="2b07d83a6063d7318bffd0972417c133ef4aa74203ea560dee6cc7c5ea678510" dmcf-pid="YYtFugnQN0" dmcf-ptype="general">결국 사람의 검증만으로는 한계에 이르자 AI가 심사 과정에도 들어오기 시작했다. 일부 학술출판사는 AI를 활용해 통계 오류와 표절, 참고문헌, 이미지 조작 여부 등을 사전에 점검하는 시스템을 도입했다. 최근에는 AI가 동료심사 의견 초안을 작성하거나, 연구자가 이를 수정·보완하는 사례도 늘고 있다. AI를 심사 과정에 어디까지 활용할 수 있는지를 둘러싼 논의도 본격화되고 있다.</p> <p contents-hash="6fa348830d902e5888b670c257b9dee20ede44c78372ac6f7c64d0eea0d08a08" dmcf-pid="GGF37aLxg3" dmcf-ptype="general">이에 대한 반발도 적지 않다. 생태학자인 티모테 푸아조 캐나다 몬트리올대 교수는 생성형 AI가 작성한 것으로 보이는 심사 의견을 받은 뒤 자신의 블로그에 "챗GPT는 내 동료심사자가 아니다(ChatGPT is not my peer)"라고 적었다. 그는 "나는 동료 연구자의 의견을 기대하고 논문을 보냈지 AI의 의견을 받으려고 투고한 것이 아니다"라며 "그 약속이 깨지는 순간 동료심사의 사회적 계약도 무너진다"고 비판했다.</p> <p contents-hash="5ebc5b5980ef4dbad5dea109b14037d09c414d6b83d9bd99f0de0a5b05161530" dmcf-pid="HH30zNoMcF" dmcf-ptype="general"><strong><strong><strong>AI보다 더 큰 문제는 '검증 속도'</strong></strong></strong></p> <div contents-hash="b3e84d9d013b1283087f6288654e69bf31bdc76e946d410310ac7da80d4d895b" dmcf-pid="X72VPImjct" dmcf-ptype="general"> <p>과학계에서는 연구 성과를 돈을 받고 대신 작성하거나 조작된 데이터와 이미지를 이용해 논문을 대량 생산하는 대필·조작 네트워크를 '논문공장(Paper Mill)'이라고 부른다. 최근 수년간 국제 학술출판계가 가장 경계하는 연구윤리 문제 가운데 하나다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="2192047b035a35db209c419e27a0ffeb33778a693b8bcd61d4f5ed2c248a6b8c" dmcf-pid="ZzVfQCsAa1" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/19/akn/20260719080141700czxc.jpg" data-org-width="745" dmcf-mid="5eBz9EAiAL" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/19/akn/20260719080141700czxc.jpg" width="658"></p> </figure> <p contents-hash="ed34218e3cc4f8d60d3ac7d6c48a705b39d7404502f4128fc3a65428b3a814de" dmcf-pid="5qf4xhOca5" dmcf-ptype="general">국제 학술출판계는 생성형 AI가 이런 '논문공장'의 생산성을 더욱 높일 수 있다고 우려한다. 과거에는 논문 한 편을 만드는 데 많은 시간과 인력이 필요했다. 하지만 생성형 AI는 기존 논문을 학습해 짧은 시간 안에 원고와 그림, 그래프, 참고문헌까지 생성할 수 있다. 실험 데이터를 새로 만들지 않더라도 기존 연구를 조합해 외형상 완성도 높은 논문을 만드는 것이 훨씬 쉬워진 것이다.</p> <p contents-hash="3f018a926697d7ccc52b195b86dd689cc79e17de039dd662facfdd95b1adba5b" dmcf-pid="1B48MlIkkZ" dmcf-ptype="general">물론 AI가 논문공장을 만든 것은 아니다. 그러나 AI는 논문공장이 더 적은 비용과 시간으로 더 많은 논문을 생산할 수 있는 환경을 만들었고, 그만큼 학술출판계의 검증 부담도 커졌다는 것이 전문가들의 공통된 지적이다.</p> <p contents-hash="1f64c13e52f7416427d00ab00b9adb4115f10ddb311c703666f3e1697155eb07" dmcf-pid="tb86RSCENX" dmcf-ptype="general">세계 최대 논문 철회 데이터베이스를 운영하는 리트랙션 워치(Retraction Watch) 공동 설립자 이반 오란스키(Ivan Oransky)는 철회 논문 증가에 대해 "과학이 스스로를 교정하는 과정"이라고 평가해 왔다. 다만 논문 생산 속도가 검증 속도를 압도하면 과학의 자정 기능도 한계에 이를 수 있다는 우려는 더 커지고 있다.</p> <p contents-hash="ab4763199a86f8caf9974bcb906c0675738301595cbfe6b108258787c0487cc0" dmcf-pid="FK6PevhDcH" dmcf-ptype="general"><strong><strong><strong>한국도 AI 연구윤리 기준 마련</strong></strong></strong></p> <p contents-hash="f46eb78433593275608bc5f793387852239b4a00f25a2e3f682bf8ce7a2fff69" dmcf-pid="39PQdTlwoG" dmcf-ptype="general">국내에서도 생성형 AI 활용 기준 마련이 본격화되고 있다. 한국연구재단은 지난 6월 '대학 연구자를 위한 생성형 AI 연구윤리 가이드'를 발간했다. AI는 논문의 저자가 될 수 없으며, 생성형 AI를 활용했다면 사용 사실을 투명하게 공개해야 한다는 것이 핵심이다. 연구 결과의 정확성과 연구윤리 책임은 어디까지나 연구자가 져야 하며, 논문 심사 과정에서도 AI 활용으로 심사 대상 논문의 기밀성이 훼손돼서는 안 된다는 원칙도 담았다.</p> <div contents-hash="c7483a1ee81f7ce1d539a948be92729e6b558ac0384efbf35c0ddb136f0b9952" dmcf-pid="02QxJySrcY" dmcf-ptype="general"> <p>유럽연합(EU)도 최근 연구현장의 생성형 AI 활용 지침에서 "AI는 연구자의 전문성을 지원하는 도구일 뿐 연구자의 판단과 책임을 대신할 수 없다"고 밝혔다. AI 시대에도 연구의 책임 주체는 결국 사람이라는 점을 분명히 한 것이다.</p> </div> <figure class="figure_frm origin_fig" contents-hash="84bb78b676c047a859c0ff6e76fb417c804a7d0fbe1cbe93f5a13ac954a95e74" dmcf-pid="pVxMiWvmcW" dmcf-ptype="figure"> <p class="link_figure"><img alt="국제학술지 네이처(Nature)는 지난 4월 생성형 AI가 만든 '환각 참고문헌(hallucinated citations)'이 실제 논문에 포함되며 과학 문헌의 신뢰를 위협하고 있다고 경고했다. Nature 홈페이지 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/19/akn/20260719080143051wiwu.jpg" data-org-width="745" dmcf-mid="1gQxJySron" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/19/akn/20260719080143051wiwu.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 국제학술지 네이처(Nature)는 지난 4월 생성형 AI가 만든 '환각 참고문헌(hallucinated citations)'이 실제 논문에 포함되며 과학 문헌의 신뢰를 위협하고 있다고 경고했다. Nature 홈페이지 제공 </figcaption> </figure> <p contents-hash="b4f3f664f535d38a04d7c27c81dbd565eacada3b40e6bdbc11b1619dc4ecdeb5" dmcf-pid="UfMRnYTsAy" dmcf-ptype="general">원병묵 성균관대 신소재공학부 교수는 "과학적 명예와 평가는 검증 가능한 연구 성과와 엄정한 연구윤리 위에서만 성립한다"며 "생성형 AI로 논문 작성과 자료 정리가 쉬워진 만큼 허위 인용과 출처 불명확, 책임 전가의 위험도 함께 커지고 있다"고 말했다. 이어 "AI 활용 공개와 원자료 보존, 독립적인 검증 절차를 강화해야 과학에 대한 신뢰를 지킬 수 있다"고 강조했다.</p> <p contents-hash="30d4496d896b71d884ed356801033a9e7c2f6a901fe45e46acc38f290520bc4a" dmcf-pid="u4ReLGyOcT" dmcf-ptype="general">AI 덕분에 논문을 더 빨리 쓰게 됐다. 앞으로는 더 많이 생산될 것이다. 하지만 과학은 논문의 숫자로 발전하지 않는다. 새로운 지식은 누군가의 관찰과 실험, 그리고 또 다른 연구자의 검증을 거쳐 비로소 과학이 된다.</p> <p contents-hash="110048b51bb01b541c681ac53d0d38fbae91a6a43dc5cb4618802cc61c0ec70f" dmcf-pid="78edoHWIjv" dmcf-ptype="general">AI는 데이터를 학습한다. 그러나 과학은 데이터를 넘어 사람을 신뢰하는 시스템이다. AI 시대에도 끝내 지켜야 할 것은 알고리즘이 아니라 신뢰다.</p> <p contents-hash="33aa54b7a5d828efe7c05b95dd457471ff88db55f55ff60b91481a7720f9029c" dmcf-pid="z6dJgXYCgS" dmcf-ptype="general">김종화 기자 justin@asiae.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 아시아경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 전력망 관리에도 ‘준비운동’이 필요하다 07-19 다음 기어이 지구 궤도 띄운다는 ‘우주 거울’ 두고 시끌시끌…왜? 07-19 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
