AI안전연구소 출범 1년…글로벌 평가기관으로 성장 가속 작성일 11-23 37 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HONhPP1ym0"> <figure class="figure_frm origin_fig" contents-hash="c40bbb3a8d7ad9757d59805ced902b5faec90704805c6275be17412d015470e5" dmcf-pid="XIjlQQtWs3" dmcf-ptype="figure"> <p class="link_figure"><img alt="김명주 AI안전연구소장" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/23/etimesi/20251123170258424fomx.jpg" data-org-width="700" dmcf-mid="Yv67wwPKOU" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/23/etimesi/20251123170258424fomx.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김명주 AI안전연구소장 </figcaption> </figure> <p contents-hash="5ed4d46fb7498040287ea730a158a08f145863da8002d3b6a3608710e6538a1a" dmcf-pid="Zbt2hhJ6rF" dmcf-ptype="general">국내 유일의 인공지능(AI) 위험 대응 전담기관인 AI안전연구소가 오는 27일 개소 1주년을 맞는다.</p> <p contents-hash="2721b0da224ca00245c4b0c7fd678268174e45eb7a7885a6e7f521ecbe48bcd9" dmcf-pid="5KFVlliPEt" dmcf-ptype="general">설립 초기 10명 남짓한 인력으로 출발한 연구소는 지난 1년 동안 글로벌 네트워크 확장, 국내외 모델 안전성 테스트 강화, 전문 평가 역량 확보 등에서 가시적 성과를 냈다는 평가를 받는다.</p> <p contents-hash="7ee9d91e3d413df166c61bbe936ffe10c57a62ab15d75554deea63a5d2cee0df" dmcf-pid="193fSSnQs1" dmcf-ptype="general">세계적으로 AI 안전성 확보 요구가 급증하는 가운데, 연구소는 향후 조직 재정비와 인력 확충을 통해 '국민 AI 안전 허브'로서의 역할을 강화할 계획이다.</p> <p contents-hash="1b37e162a453aed363a111ba23db5ee001662931fd674e02907bb433691e3e91" dmcf-pid="t204vvLxD5" dmcf-ptype="general">김명주 AI안전연구소장은 23일 “지난 1년은 한국의 AI 안전 연구가 국제 무대에서 존재감을 확인한 시기”라고 평가했다.</p> <p contents-hash="be0f87a87e239eafd287bd097156287029c505c6a0c9d72d39e3675e6d5f1944" dmcf-pid="FVp8TToMIZ" dmcf-ptype="general">유럽연합(EU)를 포함한 10여개국과의 협력 네트워크에 참여하며 공동 평가·검증 활동을 수행했고, 영국·싱가포르·일본 등 주요 국가들로부터 “같이 일하고 싶은 파트너”라는 반응을 얻었다는 설명이다.</p> <p contents-hash="60d9e39f3c9a2564beb77983ad4caae9c6b5412e00b2231cb18463ed6fb310b2" dmcf-pid="3fU6yygRIX" dmcf-ptype="general">특히 해외 국가들은 한국의 빠른 평가 수행력과 기술적 대응 속도를 높게 평가한 것으로 알려졌다. 김 소장은 “국제 연구소들 사이에서 한국 팀이 매우 열심히 일하고 있다는 인식을 만들었다”고 밝혔다.</p> <p contents-hash="6958cf1bdc184170895651172cf88b4b8d57f4ca33bab64a31d19da9e3aa1394" dmcf-pid="04uPWWaemH" dmcf-ptype="general">연구소는 지난 1년 동안 해외에 흩어져 있던 전문 AI 안전성 평가 기업들을 발굴해 여러 곳과 협업 체계를 구축했다. 이를 통해 국제적으로 쓰이는 데이터셋·평가 도구의 수준을 파악하고, 국내에서도 이를 기반으로 한 안전성 평가 역량을 갖췄다.</p> <p contents-hash="7c288f696245c2db69595943649eb427942961529f14394650de4a76d4f7b90f" dmcf-pid="p87QYYNdOG" dmcf-ptype="general">이를 바탕으로 지난 1년간 국내 주요 AI 모델과 글로벌 모델을 대상으로 안전성 평가를 수행했다. 고위험 프롬프트 대응, 편향 테스트, 리스크 맵 구축 등 실증 기반 평가 방식도 크게 확장됐다.</p> <p contents-hash="23deb98383f63a139dd389aaeb1e210671af6ea0ad041639b4abd8e317afd123" dmcf-pid="U6zxGGjJwY" dmcf-ptype="general">김 소장은 “지금은 영국이 평가하는 것만큼은 당장 하자고 해도 할 수 있을 정도로 역량이 올라왔다”고 자신감을 보였다. 비공개 평가가 많은 구조적 한계에도 불구하고, 데이터셋 구축과 공정성 검증 등 국제 기준에 부합하는 평가 체계를 갖춘 것이 의미 있는 진전으로 평가된다.</p> <p contents-hash="276b727509911a24ccd622385c8de9faab384209d1568d39f3318a2a6f6e5bdc" dmcf-pid="uPqMHHAiOW" dmcf-ptype="general">연구소는 현재 약 20명 규모로 운영되며, 연내 30명 확보를 목표로 하고 있다. 국내 AI 안전성 수요와 내년 초 AI기본법 시행 이후의 공공 검증 업무를 감안해 조직 확대 및 재정비를 준비하고 있다.</p> <p contents-hash="4744520b3411ccf1907d87c5812dbb892d9732ddd88a5ec8b6cfe3f47ef5767a" dmcf-pid="7QBRXXcnOy" dmcf-ptype="general">이는 주요국이 AI 성능 만큼 AI 안전에도 투자하고 있기 때문이다. 영국 AI안보연구소는 200여명의 인력을 확보하고, 연봉 상한선을 없애 구글·앤트로픽 출신 연구자들을 직접 스카우트하는 등 국가 안보 기반의 엘리트 조직으로 운영된다.<br></p> <figure class="figure_frm origin_fig" contents-hash="07cc49acd613c8448ddf3db9e1a2b480f9c476d1f22234b9787b9b232ad17d7d" dmcf-pid="zxbeZZkLmT" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 안전연구소 개소식이 2024년 11월 27일 경기 성남시 판교 글로벌R&D센터에서 열렸다. 김명주 AI안전연구소장이 연구소 개소 선언 및 비전 및 운영계획 소개를 하고 있다. 김민수기자 mskim@etnews.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/23/etimesi/20251123170259703rsnw.jpg" data-org-width="700" dmcf-mid="GojlQQtWmp" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/23/etimesi/20251123170259703rsnw.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 안전연구소 개소식이 2024년 11월 27일 경기 성남시 판교 글로벌R&D센터에서 열렸다. 김명주 AI안전연구소장이 연구소 개소 선언 및 비전 및 운영계획 소개를 하고 있다. 김민수기자 mskim@etnews.com </figcaption> </figure> <p contents-hash="301e37dda0012686161f048ad336c1728fff8cf67a5b24f74f765e4ab45680d8" dmcf-pid="qMKd55EoIv" dmcf-ptype="general">연구소는 향후 '국민 AI 안전 체감도'를 높이는 방향으로 기능을 넓혀갈 계획이다.</p> <p contents-hash="af2ac79d5410712a5fbf146f4520bf401d1950199ece213a6b11a27a9d725dfd" dmcf-pid="BR9J11DgrS" dmcf-ptype="general">김 소장은 “딥페이크, AI 오용 민원, AI 안전 관련 궁금증에 대응할 수 있는 통합 채널을 구축하고, 대국민 AI 안전 교육과 정보 제공을 강화해야 한다”고 전했다.</p> <p contents-hash="452f5ea7d6bac87c8e9d9282933ae33849c44c153aa53929b4c460d7c39bdb92" dmcf-pid="be2ittwaOl" dmcf-ptype="general">AI 위험 신고·상담, 정부·기업 대상 안전 수준 리포트 제공, 국제 안전 표준 정합성 확보 등의 역할도 필요하다는 김 소장의 입장이다. 그는 연구소의 궁극적 목표를 “한국의 AI는 정말 안전하고, 준비가 잘 됐다는 글로벌 신뢰 확보”라고 설명하면서, 그 핵심은 국내 기업의 안전 역량을 실질적으로 높여주는 일이라고 했다.</p> <p contents-hash="1227a8bf705ab736f2cf8bc23c4040790fc13820adce914ad0a8fc1f079e3b9c" dmcf-pid="KVp8TToMrh" dmcf-ptype="general">김 소장은 “AI 안전성 검증은 규제가 아니라 기업들이 숨어 있는 리스크를 미리 파악하고 기술 완성도를 높일 수 있도록 돕는 숨은 조력자 즉, '셰르파'같은 역할”이라며, “국내 기업의 경쟁력을 '안전'이라는 키워드로 끌어올리는 것이 연구소가 존재하는 이유”라고 강조했다.</p> <p contents-hash="5d20bd7c7661f1854bc69c3f6d17bbaf68d71dc48d90fba4c815c57012a9ccab" dmcf-pid="9fU6yygRDC" dmcf-ptype="general">김명희 기자 noprint@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 [챗GPT 3년] <3> '모두의 AI 시대' 열렸다 11-23 다음 박민호, 올해 한국 남자 마라톤 최고 기록으로 우승…국제공인 풀코스 ‘인천마라톤’ 열려 11-23 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.
