AI는 광고 숨기고, 탐지 기술은 추적한다…치열한 기술 대결 작성일 09-25 51 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="6caLy4f5cR"> <p contents-hash="49a2081205964334e359328cfb759a058a9d3cc7e36790b1325ff1cdf77fc1cd" dmcf-pid="PkNoW841cM" dmcf-ptype="general">(지디넷코리아=AI 에디터 )</p> <figure class="figure_frm origin_fig" contents-hash="65a4df52b0d4b366cb838f526b5d654877a8ec12b0e1074128a11568cf9d362d" dmcf-pid="QEjgY68tNx" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/25/ZDNetKorea/20250925084851591kmar.jpg" data-org-width="640" dmcf-mid="Z6UnTfVZc8" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/25/ZDNetKorea/20250925084851591kmar.jpg" width="658"></p> </figure> <p contents-hash="36fe7a6054c81ba5e538bc56f38352bd379750a860210aeca3cfe8e24d07522f" dmcf-pid="xDAaGP6FNQ" dmcf-ptype="general"><strong>완벽한 정확도로 숨은 광고를 만들어내는 생성 시스템</strong></p> <p contents-hash="e974b5cf61782352a8673d6831dd916b4809daf02245639dc036fc08012347c5" dmcf-pid="yqU3evSgjP" dmcf-ptype="general">연구 논문에 따르면, 연구팀은 사용자 맥락과 쿼리 의도를 활용해 상황에 맞는 광고를 생성하는 새로운 시스템을 개발했다. 이 시스템은 검색 증강 생성(RAG)과 캐시 증강 생성(CAG)을 결합한 하이브리드 방법을 사용한다. 사용자 질문에 관련된 문서를 찾아서 답변에 활용하는 기술과 자주 사용되는 정보를 미리 저장해두는 기술을 함께 써서 AI가 더 풍부한 맥락 정보를 가지고 답변할 수 있게 했다.</p> <p contents-hash="f20612e99aa18105eee00fa7f47dbb5d5bf68bacddde68ab246f7fee186a9151" dmcf-pid="WBu0dTvak6" dmcf-ptype="general">핵심은 미스트랄 7B(Mistral-7B) 모델을 ORPO(Odds Ratio Preference Optimization) 방식으로 훈련시킨 것이다. 먼저 여러 개의 후보 답변을 생성한 다음, 대형 언어 모델이 판사 역할을 해서 각 답변에서 광고가 얼마나 잘 숨겨져 있는지 점수를 매겼다. 가장 은밀한 광고와 가장 노골적인 광고를 선별해 쌍으로 만들어서 훈련 데이터로 활용했다. 그 결과 이 시스템은 광고를 답변 속에 자연스럽게 녹여낼 수 있고, 대부분의 광고를 빠짐없이 찾아낼 수도 있다.</p> <p contents-hash="d5b978796474cdc06107bf213f0cd5506a89c3e104ea6be13a9455576e69ff72" dmcf-pid="YWSCzNaVg8" dmcf-ptype="general"><strong>높은 성능을 보인 두 가지 광고 탐지 방법... 응답 텍스트만으로 숨은 광고 잡아낸다</strong></p> <p contents-hash="17d6cfd07f85ad6d78fe57924ff142ff9dc52fa7bf42a0e58207ed40cabe7964" dmcf-pid="GYvhqjNfj4" dmcf-ptype="general">광고 탐지 기술로는 두 가지 접근법을 제시했다. 첫 번째는 all-mpnet-base-v2 모델을 기반으로 한 CrossEncoder 방식으로, 응답 텍스트만 사용해서 직접 분류를 수행한다. 두 번째는 DeBERTa-v3-base 모델을 활용한 프롬프트 기반 방식으로, 자연어 지시문을 통해 분류 작업을 재구성했다.</p> <p contents-hash="b0eeffa229ab299a3270f563b8ac55c693c1f06167fefeff418a13242ee4afb1" dmcf-pid="HGTlBAj4cf" dmcf-ptype="general">CrossEncoder 방식은 MPNet을 백본으로 사용해서 전체 입력 순서를 인코딩하며, 토큰 간 상호작용을 통해 미묘한 광고 언어를 탐지한다. 이 모델은 12개의 트랜스포머 층과 약 1억 1천만 개의 매개변수를 가지고 있으며, 높은 정밀도를 보였지만 재현율 측면에서는 상대적으로 낮은 성능을 기록했다. DeBERTa 방식은 "이 응답에 광고가 포함되어 있나요? (예/아니오)" 형식의 자연어 명령을 사용하며, 전반적으로 더 균형 잡힌 성능을 보였다.</p> <figure class="figure_frm origin_fig" contents-hash="56f5627b38c1d7d2f480193d7a8195c1ce33e53eecf011d5243b1d159c8d60f0" dmcf-pid="XHySbcA8kV" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/25/ZDNetKorea/20250925084852816jwzi.jpg" data-org-width="639" dmcf-mid="5YuMIBqyo4" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/25/ZDNetKorea/20250925084852816jwzi.jpg" width="658"></p> </figure> <p contents-hash="097d08178994b1ecbe4a765fd0b39ba9d3a6767670f21293d83f8a46d294c005" dmcf-pid="ZXWvKkc6c2" dmcf-ptype="general"><strong>젬마·큐웬·미스트랄 모두 제쳤다... JU_NLP 모델이 TIRA 평가 1위</strong></p> <p contents-hash="df2eb762071fafe8df86133758bcf75d65ac8b50bcacc1d3c33860d0bd5e1272" dmcf-pid="5ZYT9EkPk9" dmcf-ptype="general">연구팀이 개발한 JU_NLP ORPO v2 모델은 공식 TIRA 평가 플랫폼에서 테스트를 받았다. 이 모델은 광고를 탐지당하지 않고 성공적으로 숨기는 능력에서 뛰어난 성과를 보였으며, 동시에 높은 정밀도를 유지했다. 같은 연구팀이 개발한 JU_NLP ORPO v1 모델도 완벽한 정밀도를 달성했지만 광고 은밀성 측면에서는 상대적으로 낮은 성능을 보였다.</p> <p contents-hash="bc186954e54f198a556a1416eaa9a0a53a2c6528250e0ac30ba3564aeefa1a86" dmcf-pid="15Gy2DEQaK" dmcf-ptype="general">비교 대상이 된 다른 유명 AI 모델들과 비교해보면, 젬마 3-12B(gemma-3-12b)와 큐웬 3-4B(qwen-3-4B) 모델들은 매우 높은 정밀도와 재현율을 보였지만 광고를 성공적으로 숨기는 능력에서는 제한적인 성과를 나타냈다. 미스트랄 7B v0.3(mistral-7b-v0.3)은 상대적으로 균형 잡힌 성능을 보였지만 여전히 연구팀 모델에는 미치지 못했다.</p> <p contents-hash="e5d0a63e073120c3d89e4c430867183696bd568895a3b70698b4e56676eb0268" dmcf-pid="t1HWVwDxcb" dmcf-ptype="general">연구진은 사전 훈련된 모델들도 상당한 성능을 보였지만, 수동으로 필터링하거나 조정하지 않았기 때문에 우연히 광고 언어를 빼먹어서 스텔스 점수가 높게 나왔을 가능성이 있다고 분석했다.</p> <p contents-hash="d75c5d6be207cdd4508b28e7c8dd024efc68108bef2dda26279b31adfb543063" dmcf-pid="FtXYfrwMaB" dmcf-ptype="general"><strong>완벽한 기만 기술의 등장... AI 윤리와 투명성 딜레마 심화</strong></p> <p contents-hash="63e7b89e92480f641dc37c60b02e7ef8f306fe37310afb2f60c805462eadf8e6" dmcf-pid="3FZG4mrRAq" dmcf-ptype="general">이번 연구는 AI 기술 발전과 함께 새롭게 부상하는 윤리적 딜레마를 선명하게 드러낸다. 대화형 AI가 일상화되면서 사용자들이 인지하지 못하는 사이에 광고에 노출될 가능성이 커지고 있다. 특히 이 기술이 정밀도 1.0을 달성했다는 것은 인간이 구별하기 어려운 수준의 자연스러운 광고 삽입이 가능함을 의미한다.</p> <p contents-hash="b141ad24946d07eaf2e86856c4497e8a1279e53262e6375f3abef7abea9c782e" dmcf-pid="035H8smegz" dmcf-ptype="general">동시에 개발된 탐지 기술은 이러한 위험에 대한 방어막 역할을 할 수 있지만, 생성 기술의 발전 속도를 탐지 기술이 따라잡을 수 있을지는 의문이다. 더 중요한 것은 이 기술이 상업적으로 악용될 경우 소비자 보호와 정보의 투명성에 심각한 위협이 될 수 있다는 점이다. AI 업계는 기술적 성과를 넘어 윤리적 가이드라인과 규제 체계 구축에 더욱 적극적으로 나서야 할 시점이다.</p> <p contents-hash="8e19dace8e3f9aeae50b2825d4d45c112cd0c6a7fc3158798aca4027ed1bf957" dmcf-pid="p01X6Osdk7" dmcf-ptype="general"><strong>FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)</strong></p> <p contents-hash="c94b992ff4bc2648bac82de7b4fd2f6b907401d575b2a347c5a904e01e347f11" dmcf-pid="UptZPIOJgu" dmcf-ptype="general"><strong>Q: 은밀한 광고란 무엇이며 일반 광고와 어떻게 다른가요?</strong></p> <p contents-hash="67ebe669720e4c3fc51e89b64db95ab567af3cd612f4d71d001a300cc6954d00" dmcf-pid="uUF5QCIicU" dmcf-ptype="general">A: 은밀한 광고는 광고임을 명시하지 않고 자연스러운 정보 제공 형태로 제품이나 서비스를 홍보하는 방식입니다. 일반 광고와 달리 사용자가 광고를 받고 있다는 사실을 인지하기 어려워 더 교묘하고 잠재적으로 문제가 될 수 있습니다.</p> <p contents-hash="332dedc2e62d5b5e784dd5e467368a4227158408b97c5231c90606f41db6ce9c" dmcf-pid="7caLy4f5gp" dmcf-ptype="general"><strong>Q: 이 기술이 실제 서비스에 적용될 경우 소비자에게 어떤 영향을 미칠까요?</strong></p> <p contents-hash="efa5e7a1688d33e03986887c14f583f6450e4533b8d0fb7e19c0a202c524fa85" dmcf-pid="zkNoW841N0" dmcf-ptype="general">A: 대화형 AI 서비스에서 자연스럽게 특정 제품을 추천받는 경우가 늘어날 수 있습니다. 사용자는 객관적인 정보라고 생각하며 구매 결정을 내릴 수 있어, 소비자 선택권과 정보 투명성에 영향을 줄 수 있습니다.</p> <p contents-hash="667217d52261208f254730b788806ad802a1c501bc44417a65084232b0db8a7a" dmcf-pid="qEjgY68tk3" dmcf-ptype="general"><strong>Q: AI 기업들이 이런 기술을 어떻게 규제해야 할까요?</strong></p> <p contents-hash="a762dc319b5723b2169aa97f9fcec3c20bf5fb1c6af3f3c569fb7ff2b280f691" dmcf-pid="BDAaGP6FAF" dmcf-ptype="general">A: 광고 삽입 시 명확한 표시 의무화, 사용자 동의 절차 강화, 탐지 시스템 의무 도입 등의 자율 규제가 필요합니다. 또한 정부 차원에서도 AI 윤리 가이드라인에 은밀 광고 금지 조항을 포함하는 방안을 검토해야 합니다.</p> <p contents-hash="c1208b8a15fc8e9f86886eda3ff50f8c0de4ce2988b7ac8f1fea7892feda51e2" dmcf-pid="bwcNHQP3gt" dmcf-ptype="general">■ 이 기사는 AI 전문 매체 ‘<span>AI 매터스</span>’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. </p> <p contents-hash="e90d65b1a4b5729c3cf47a8c630d9883590070da2381932568885e144a315df9" dmcf-pid="KrkjXxQ0c1" dmcf-ptype="general">AI 에디터 (media@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p> 관련자료 이전 '변기'로 1000억 번 박현순…"자녀들? 재산 물려받을 생각마!" [이웃집 백만장자](종합) 09-25 다음 피지컬AI 글로벌 얼라이언스, 29일 출범…7인 의장 체제 09-25 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
