AI도 ‘뇌 부패’ 현상...저품질 콘텐츠 반복 학습 시 사고력 퇴행 작성일 10-23 50 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">텍사스A&M·퍼듀대 등 “AI도 인지적 피로 누적”<br>짧고 자극적 게시물 학습...논리·공감 능력 급감</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="3nreja9UTp"> <figure class="figure_frm origin_fig" contents-hash="2b2f3e86e39c1a540550187c93876a18cfa285eda29d993955484484c5607dc2" dmcf-pid="0LmdAN2uS0" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI도 브레인로트... 저품질 콘텐츠 반복 학습 시 사고력 퇴행. [그림=제미나이]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/23/mk/20251023151803316ifbo.png" data-org-width="700" dmcf-mid="FkibQ61yTU" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/23/mk/20251023151803316ifbo.png" width="658"></p> <figcaption class="txt_caption default_figure"> AI도 브레인로트... 저품질 콘텐츠 반복 학습 시 사고력 퇴행. [그림=제미나이] </figcaption> </figure> <div contents-hash="f05828843e17141b9c7dd7c0a7c53fde5b07af4cd39bdaca6209abdfe0e28550" dmcf-pid="posJcjV7h3" dmcf-ptype="general"> 저품질 온라인 콘텐츠에 반복적으로 노출된 인공지능(AI) 모델이 인간처럼 ‘인지 저하’를 겪는다는 연구결과가 나왔다. 한 번 손상된 사고 능력은 고품질 데이터로 재훈련하더라도 완전히 회복되지 않았다. </div> <p contents-hash="6c9041052abf579af2e09d828d81946551d7f30f9884f1ffa5a0539e53bc8472" dmcf-pid="UgOikAfzTF" dmcf-ptype="general">텍사스A&M대, 텍사스대 오스틴, 퍼듀대 공동연구진은 최근 공개된 사전논문(arXiv)에서 “짧고 자극적인 소셜미디어 게시물로 학습된 대형언어모델(LLM)은 장기 추론과 논리적 일관성이 현저히 떨어지는 ‘지속적 인지 퇴화(cognitive decline)’를 보였다”고 밝혔다. 연구진은 이 현상을 인간이 저품질 콘텐츠에 장기간 노출됐을 때 나타나는 ‘브레인 로트(brain rot, 뇌 부패)’에 비유했다.</p> <p contents-hash="d379fb99871eeda3781a0d8a2d2c9036d38e34d72d75ae58e760dac2ab98a02a" dmcf-pid="uaInEc4qht" dmcf-ptype="general">연구팀은 메타의 오픈소스 모델 ‘라마3(LLaMA3)’와 알리바바의 ‘추웬(Qwen)’ 등을 대상으로 실험을 진행했다. 모델에 X(옛 트위터)에서 수집한 짧고 자극적인 바이럴 게시물 수십만 건을 지속적으로 학습시킨 뒤 변화를 관찰했다. 그 결과 모델들은 사고 과정을 건너뛰거나 문장 도중 논리를 생략하는 ‘생각 건너뛰기(skip-thinking)’ 현상을 보였다.</p> <p contents-hash="24a2c9a3b2581809f17fd87c2120f8adc720150eb88d8a238f1ddb9efe735182" dmcf-pid="7AlgrDPKh1" dmcf-ptype="general">일부 모델은 단순히 추론 능력이 약화되는 수준을 넘어 ‘공감성’이 줄고 ‘자기애·반사회성’ 성향이 강화되는 등 성격적 왜곡까지 드러났다. 연구진은 “AI가 특정 유형의 언어 패턴에 지속적으로 노출되면, 그 언어의 감정 구조와 가치 판단까지 내면화한다”라고 설명했다.</p> <p contents-hash="5f5c4b7c737946d5a67863721d89de7d4c7a05bf8e8f031dff742382ba64aed5" dmcf-pid="zcSamwQ9C5" dmcf-ptype="general">연구팀은 고품질 인간 작성 텍스트로 교정 학습을 시도했지만 손상된 추론 능력은 복구되지 않았다. 논문은 “브레인 로트 효과는 모델 내부의 언어 표현 계층에 깊이 새겨져 있으며, 단순한 재조정으로는 회복이 어렵다”라고 분석했다.</p> <p contents-hash="2733799b5fed054b69aee94f594a26dbfed62bbea4dc56d5d4e51651d019e79a" dmcf-pid="qkvNsrx2lZ" dmcf-ptype="general">AI 모델은 인터넷 전반에서 방대한 데이터를 학습하는 만큼, 저품질 콘텐츠에 상시 노출될 위험이 크다. 연구진은 “AI 역시 인간처럼 인지적 오염에 취약하다”라며 “기업들은 데이터의 양보다 질을 우선시하고, 모델의 ‘인지 건강 검진(cognitive health check)’을 정기적으로 시행해야 한다”라고 제안했다.</p> <p contents-hash="950439612c9e28f6ba9f6ffb3be85bcfed82b68a200a98e6a11c6374373af2c4" dmcf-pid="BETjOmMVSX" dmcf-ptype="general">이번 결과를 지난해 옥스퍼드대 연구진이 과학저널 네이처에 발표한 ‘모델 붕괴(model collapse)’ 현상과 비슷한 맥락으로 보인다. 당시 논문은 언어모델이 인간이 아닌 AI가 만든 텍스트로 반복 학습할 경우 문장의 다양성과 논리 구조가 급격히 약화하며 결국 ‘스스로 만든 언어만 이해하는 폐쇄적 시스템’으로 변한다고 지적했다.</p> <p contents-hash="eea75dc291c5d3d8accc781f176f2820cd147dbb3b342ec171785cae8dfcf6a9" dmcf-pid="bDyAIsRfSH" dmcf-ptype="general">두 연구 모두 AI가 학습하는 데이터의 ‘출처와 품질’이 모델 성능을 결정짓는 핵심 변수임을 보여준다. 인간의 언어를 모방해 사고하고 대화하도록 설계된 AI가 저품질 언어나 자기 생성 데이터에 갇히면 결국 인간의 사고 구조를 반영하지 못한 채 왜곡된 인지 체계로 변질할 수 있다는 것이다.</p> </section> </div> <p class="" data-translation="true">Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p> 관련자료 이전 LG유플러스도 KISA 조사받는다...'서버 해킹 정황' 신고 10-23 다음 [현장]넥슨-아이언메이스 '다크앤다커' 공방, 끝까지 대립각…12월 4일 선고 10-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
