"싼 AI모델 통해 베끼고, 개인정보 탈취 가능" 작성일 08-12 22 목록 <div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">독일 튀빙겐대 연구진 논문<br>AI 답내는 추론과정 뒤집으면<br>개인정보·성능 비결 등 나와<br>오픈AI·앤트로픽 등도 해당<br>"中이 美 모델 베낀 방법일 수도"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="PfkeCwu5WW"> <p contents-hash="2ab898ff7d4a598e44afa606cf58ea5d6c1d9b3d91205aef986dea043392a4a6" dmcf-pid="Q4Edhr71vy" dmcf-ptype="general">최첨단 인공지능(AI) 모델이 감춰둔 ‘생각의 과정’을 같은 회사 하위 모델을 이용해 그대로 끄집어낼 수 있다는 연구 결과가 나왔다. AI 기업의 핵심 자산인 추론 과정뿐 아니라 개인정보까지 노출될 수 있어 생성형 AI 보안 체계의 허점이 드러났다는 평가가 나온다.</p> <p contents-hash="4bcb9ed000cd5264050186462e30ebe33ecaa8cd5549ad96c552d4c52190a1d2" dmcf-pid="x8DJlmzthT" dmcf-ptype="general"><strong><span> ◇ 싼 모델 이용하면 쉬워</span></strong></p> <p contents-hash="ef999d31a0b07b91aae4698980b8b3281c0eccb4b637c758250bf2fab675e76c" dmcf-pid="ylqX8KEovv" dmcf-ptype="general">알렉산더 판필로프 독일 튀빙겐대 박사과정 등은 11일(현지시간) ‘응용프로그램인터페이스(API)를 통한 폐쇄형 대규모언어모델(LLM) 추론 과정 탈취’ 논문을 발표했다. 연구진은 논문에서 “첨단 AI 모델의 추론 과정을 같은 회사 하위 모델로 추출할 수 있다”고 밝혔다.</p> <figure class="figure_frm origin_fig" contents-hash="c35b72799d8622cfbb69088504b3f814588f6aaeb5bfbbfd5706b6e6022aaf90" dmcf-pid="WSBZ69DgWS" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202608/12/ked/20260812173811244nlgh.jpg" data-org-width="1036" dmcf-mid="6fJ2ALHlvY" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202608/12/ked/20260812173811244nlgh.jpg" width="658"></p> </figure> <p contents-hash="80255befe13e50c3bb7b7d460293084d0f51a17fb55628285ca8422c1a94168d" dmcf-pid="Yvb5P2wall" dmcf-ptype="general">AI 모델은 사용자의 요청을 받으면 여러 단계로 나눠 문제를 해결한다. “코드를 분석해줘”라고 지시하면, ‘A가 원인인가→아니다→B를 확인해보자’와 같은 방식으로 추론한다. 이를 ‘추론 과정’이라고 한다.</p> <p contents-hash="2a6985ab89d0ac3d8da0f72a1f48d14878a02595c46c46db9dfb88e8dc5eb15b" dmcf-pid="GTK1QVrNlh" dmcf-ptype="general">AI 모델 개발사는 추론 과정을 암호화한다. 이 과정이 공개되면 다른 기업이 자사 모델을 베끼는 ‘증류’가 쉬워진다. 작업 중에 사용자의 이름과 이메일 주소 등을 메모처럼 추론 과정에 쓰기 때문에 개인정보 유출 우려도 있다.</p> <p contents-hash="a09ca31a24aecc4ff24b320200603651f01ad1c069447c2d21f444a14b8026b4" dmcf-pid="Hy9txfmjyC" dmcf-ptype="general">연구진은 추론 과정의 빗장을 벗겨낼 방법을 찾았다고 논문에서 밝혔다. 연구진은 앤트로픽 하위 모델인 하이쿠4.5에 최신 모델인 클로드 오퍼스 4.8의 추론 과정을 코드화되기 전 형태로 돌려놓는 복호화를 하라고 지시한 결과 하이쿠4.5가 추론 과정을 평문으로 풀어 써냈다고 밝혔다. 첨단 모델은 추론 과정을 출력하지 못하도록 강하게 훈련돼 있지만, 하위 모델은 상대적으로 규정이 느슨하다는 점이 드러난 것이다.</p> <p contents-hash="9df3e5e1351f120a60a7b1af111d889d34aeb2935c858504e4f12af94ca3d1cf" dmcf-pid="XW2FM4sAlI" dmcf-ptype="general">연구진은 이를 통해 깃허브·허깅페이스 등에 올라온 6708개의 공개된 AI 에이전트 실행 기록을 수집해 31만5320개의 암호화된 추론 과정을 복원했고, 이 중 1028개의 추론 과정에서 이름·주소·이메일·API키 등의 개인정보를 확인했다고도 밝혔다.</p> <p contents-hash="fd91518d386b541e5cef827772a7e29cd9fd9a95eadfb882c1b848353fb6a3cb" dmcf-pid="ZYV3R8OchO" dmcf-ptype="general"><strong><span> ◇ 中, 추론과정 통해 증류했나</span></strong></p> <p contents-hash="36c30341722f5d9070e451ab77930df1ee7e4290b0b707819b41e863f4b95d8a" dmcf-pid="5spy97Ndhs" dmcf-ptype="general">논문은 중국 AI 모델이 빠르게 미국 모델 성능을 따라잡는 상황에서 더욱 주목받는다. AI 개발자들 사이에서는 중국 기업이 오픈AI·앤트로픽 등의 첨단 모델을 베끼기 위해 추론 과정을 통째로 학습시킬 수 있다는 가능성이 제기된다. 연구진은 “중국 문샷의 키미-K3가 특정 명령문에 클로드 오퍼스4.8이나 GPT-5.6 솔의 추론 과정과 놀랍도록 비슷한 출력을 생성해냈다”고 말했다. 논문은 “오픈AI와 구글 AI모델에도 하위모델을 이용한 방식이 통했다”고 적었다.</p> <p contents-hash="1e96eecc0da9350a0622f38cd909573a60160d73535f2cae47a07f5a33baabc2" dmcf-pid="1OUW2zjJlm" dmcf-ptype="general">연구진은 지난 달 오픈AI, 앤트로픽, 구글에 이같은 문제를 알렸다고 했다. 판필로프는 “정보 추출 문제를 해결하려면 API 작동 방식을 근본적으로 바꿔야 한다”고 했다. 일반 고객의 AI모델 추론 과정은 모델 개발회사 서버에 보관된다.</p> <p contents-hash="ae46dd1c1ca80baf996b14342bcb3c011a288ff8011ea549dd3d17cbfcd38a8a" dmcf-pid="tIuYVqAiWr" dmcf-ptype="general">AI를 통한 개인정보 유출·해킹 등에 대한 우려가 커지는 상황 속에서 오픈AI의 마지막 윤리학자인 클로이 바칼리가 지난달 퇴사하는 등 AI의 보안 문제도 우려된다. 파이낸셜타임즈에 따르면 지난달 오픈AI 안전시스템 책임자인 요하네스 하이데커, 수석 미래학자 조슈아 아치암이 회사를 떠난 데 이어 현재 오픈AI에는 AI 윤리 책임자가 한 명도 없다.</p> <p contents-hash="7d5892a7a3c9511530d6830c3f47c0ce7d4d543647385c1f1627184720a28650" dmcf-pid="FC7GfBcnlw" dmcf-ptype="general">실리콘밸리=김인엽 특파원 inside@hankyung.com</p> </section> </div> <p class="" data-translation="true">Copyright © 한국경제. 무단전재 및 재배포 금지.</p> 관련자료 이전 데이터센터 성장세 탄 통신3사…AIDC 투자 드라이브 08-12 다음 “농사는 느긋하지 않다”. '스카이랜드 파머' 개발한 아케론 소프트 08-12 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
