[과기원NOW] KAIST,‘나만의 AI’ 더 안전하게 만든다...AI 개인화 시대 핵심기술 개발 外 작성일 07-15 43 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="8WjFbqu5JE"> <figure class="figure_frm origin_fig" contents-hash="3cfbbfa603b87d3a411eac60ab987e7d06909449ed2921eb6dca8387ee1e2e18" dmcf-pid="6nBkhImjek" dmcf-ptype="figure"> <p class="link_figure"><img alt="왼쪽부터 이원준 박사과정, 김창익 교수, 함석일 박사과정, 장재혁 박사과정. KAIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/15/dongascience/20260715172010601wesp.jpg" data-org-width="680" dmcf-mid="4cObQ6fzLD" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/15/dongascience/20260715172010601wesp.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 왼쪽부터 이원준 박사과정, 김창익 교수, 함석일 박사과정, 장재혁 박사과정. KAIST 제공 </figcaption> </figure> <p contents-hash="ee5ccc36c7fde7fa12258dfae40405ab394141054957582d586e07c5d8e3db5b" dmcf-pid="PLbElCsALc" dmcf-ptype="general">■ KAIST는 김창익 전기및전자공학부 교수 연구팀이 챗GPT와 같은 대형언어모델(LLM)을 개인이나 기업의 데이터에 맞게 다시 학습시키는 파인튜닝(Fine-tuning, 기존 AI에 새로운 지식이나 업무를 추가로 학습시키는 과정)에서 안전성이 훼손되는 문제를 해결하는 ‘버퍼 앤드 리인포스(Buffer-and-Reinforce)’ 학습 프레임워크를 개발했다고 15일 밝혔다. 기존에는 AI를 맞춤형으로 학습시키면 새로운 업무 능력은 향상되지만 기존의 안전 규칙이 함께 약화되는 문제가 AI 개인화 시대의 가장 큰 과제로 꼽혀왔다. 연구팀은 먼저 AI가 원래 거부해야 할 위험한 요청에도 응답할 수 있도록 만든 ‘탈옥(Jailbreak)’ 상태의 AI를 맞춤형으로 학습시키면 오히려 안전성이 크게 훼손되지 않는다는 기존 연구 결과에 주목했다. 연구팀은 탈옥 상태를 실제 서비스에 사용하는 것이 아니라 완충 모듈인 ‘버퍼로라(BufferLoRA)’를 활용해 맞춤형 학습 과정에서만 일시적으로 적용한 뒤 제거하는 새로운 접근법을 고안했다.연구팀은 왜 이러한 현상이 발생하는지를 세계 최초로 규명했다. 그 결과 탈옥 상태의 AI는 위험한 정보에는 더 이상 쉽게 영향을 받지 않는 반면, 사용자가 원하는 새로운 업무 능력은 그대로 효과적으로 학습한다는 사실을 확인했다. 위험한 정보는 추가로 받아들이지 않으면서 필요한 지식은 계속 학습하는 원리를 밝혀낸 것이다.</p> <p contents-hash="69255e4855f9d179f9f50834cb904b1dde505c14afe8b420491e8e148540e5fd" dmcf-pid="QoKDShOcnA" dmcf-ptype="general">■ 울산과학기술원(UIST)은 안톤 가트너 의과학대학원 교수팀이 기초과학연구원(IBS) 유전체 항상성 연구단과 함께 예쁜꼬마선충의 배아 체세포와 성체 생식세포에서 세포 예정사를 결정하는 방식이 다르다는 사실을 규명했다고 15일 밝혔다. 연구에 따르면, 배아 체세포에서는 죽을 세포에서만 세포 사멸 시작 신호가 켜졌다. 반면 생식세포에서는 DNA 손상을 감지해 사멸 신호를 켜는 단계와 실제 죽음을 실행하는 단계가 분리된 ‘이중 조절’이 작동했다. 방사선으로 DNA를 손상시키자 세포 사멸을 시작하는 egl-1 유전자가 생식세포 전반에서 활성화됐지만, 실제로 죽은 것은 난자로 자라기 전 염색체를 점검하는 단계인 후기 파키텐 단계에 있는 일부 생식세포뿐이었다. 연구진은 이러한 이중 조절이 종 보존에 필수적인 생식세포를 한꺼번에 잃지 않으면서도 손상이 심한 세포는 제거하기 위한 안전장치일 수 있다고 해석했다. 손상 신호에 따라 생식세포 전체가 죽을 준비를 하되, 일정한 발달 단계와 추가 조건을 충족한 세포에서만 죽음을 실행하는 방식을 통해 번식에 필요한 생식세포는 보존하면서 손상된 유전정보가 다음 세대로 전달되는 것을 막는 것으로 볼 수 있다는 설명이다. </p> <p contents-hash="f9bab30bd2a3563c1ca5163dae71050749478a3b22e33a118345005efd027e00" dmcf-pid="xg9wvlIknj" dmcf-ptype="general">■ 포스텍은 김지훈 친환경소재대학원·물리학과·첨단재료과학부 교수, 물리학과 이연규·윤진영 박사·박사과정 이찬영씨 연구팀과 미국 베일러대 루이스 발리카스 교수 연구팀이 반강자성 물질에서 스커미온의 흔적을 처음으로 포착해 차세대 저전력 반도체 개발의 새로운 가능성을 제시했다고 15일 밝혔다. ‘스커미온’은 전자의 자기 방향인 스핀이 소용돌이처럼 꼬여 만들어진 나노미터 크기의 자기 구조다. 연구팀은 코발트를 넣어 반강자성 상태를 만든 2차원 자성체(Fe₃GaTe₂)에 자기장을 걸어가며 물질 내부의 자기 구조가 어떻게 변하는지 세밀하게 관찰한 결과 자기장이 특정 세기에 이르자 지름 약 100~200나노미터(㎚) 크기 원형 자기 구조가 나타났고 전기 신호가 강하게 나타나는 '위상 홀 효과’도 커졌다. ‘위상 홀 효과’와 ‘실제 자기 구조’가 서로 직접 연결된 사실을 보여준 결과다. 자기장이 더 강해지면 일반적인 스커미온으로 변할 수 있다고 분석했다.</p> <p contents-hash="dc3dd0ed3b10b6e66873efb78034cf50a61f7141a02f5b5bbfa76a31fe9cc829" dmcf-pid="yFsBP8V7eN" dmcf-ptype="general">■ 대구경북과학기술원(DGIST)은 송석호 로봇및기계전자공학과 교수가 로봇을 기술적 성능뿐 아니라 환경·사회·경제적 지속가능성에 대한 기여로 평가하는 새로운 학문 분야 ‘지속가능 로봇공학(Sustainability Robotics)’을 국제적으로 제안했다고 15일 밝혔다. 이번 선언문은 AI·로봇 분야의 학술지 ‘네이처 머신 인텔리전스’에 게재됐다. 연구진은 미래 로봇이 지향해야 할 원칙으로 ▲생태계와 사회에 미치는 영향을 최소화하는 ‘최소 침습성(Minimally invasive)’ ▲소득이나 지역에 관계없이 필요한 곳에서 쉽게 활용할 수 있는 ‘보편적 접근성(Universally accessible)’ ▲인간·환경·경제에 모두 긍정적인 관계를 만드는 ‘공생(Symbiotic)’을 제시했다.</p> <p contents-hash="0dcb3c37b8b1712fc3eb1b623316bf1588538906790f77fea56a8a88d6bb1051" dmcf-pid="W3ObQ6fzna" dmcf-ptype="general">■ 광주과학기술원(GIST)은 김승준 AI학과 교수 연구팀이 미국 매사추세츠공대(MIT) 컴퓨터과학·인공지능 연구소(CSAIL)와 함께 추진하는 ‘GIST-MIT 인간중심 피지컬 AI 상호작용 연구센터(PAIR-HCI Center)’가 MIT 내 물리적 거점을 마련하고 공동 워크숍 등을 추진하며 글로벌 협력 체계를 본격 가동하고 있다고 15일 밝혔다. PAIR-HCI센터는 과학기술정보통신부와 한국연구재단이 지원하는 ‘해외 우수 연구기관 협력허브 구축사업’의 일환으로, 2025년 7월부터 2030년 12월까지 GIST와 MIT의 연구 역량을 결집해 사람이 신뢰하고 활용할 수 있는 ‘인간중심 피지컬 AI 상호작용 기술’ 개발을 목표로 하고 있다.<br> </p> <p contents-hash="812f69cce41ab1a827de894789282113d24601ebcdc3518d1d7d154cb60cdeba" dmcf-pid="Y0IKxP4qLg" dmcf-ptype="general">[김민수 기자 reborn@donga.com]</p> </section> </div> <p class="" data-translation="true">Copyright © 동아사이언스. 무단전재 및 재배포 금지.</p> 관련자료 이전 ‘셔틀콕 여제’ 안세영, 왼쪽 발 바깥쪽 부위 통증으로 일본오픈 기권…금일 조기 귀국 후 정밀검사 예정 07-15 다음 "기우 vs 피해 우려"…네이버 플레이스, 별점 도입 공방 재점화 07-15 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
