서울시, 연내 행정 전용 LLM 구축…AI 강소기업 접전 전망 작성일 08-07 30 목록 <div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="HceVqx1mId"> <figure class="figure_frm origin_fig" contents-hash="7c7b7757c2f4b7a7869acbffb94d4f9f249ab31f530bed5ebbc284c7d5f3ebed" dmcf-pid="XkdfBMtsEe" dmcf-ptype="figure"> <p class="link_figure"><img alt="지난달 AI를 활용해 시민 불편을 개선하기 위한 서울시 '창의행정, AI로 제안하는 아이디어톤' 행사에서 오세훈 서울시장(앞줄 왼쪽 일곱 번째)과 참여자 등이 사진촬영을 하고 있다. 서울시 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202508/07/etimesi/20250807140526622wogf.png" data-org-width="700" dmcf-mid="GXgxfnuSmJ" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202508/07/etimesi/20250807140526622wogf.png" width="658"></p> <figcaption class="txt_caption default_figure"> 지난달 AI를 활용해 시민 불편을 개선하기 위한 서울시 '창의행정, AI로 제안하는 아이디어톤' 행사에서 오세훈 서울시장(앞줄 왼쪽 일곱 번째)과 참여자 등이 사진촬영을 하고 있다. 서울시 제공 </figcaption> </figure> <p contents-hash="c1fe774dcca909778e25ea21c3587b589b61c3038a3510cec3e51de234548b11" dmcf-pid="ZEJ4bRFOrR" dmcf-ptype="general">서울시가 행정 전용 거대언어모델(LLM)을 구축해 공무원 업무 효율성을 강화한다. 시민용 챗봇 '서울톡'에도 생성형 인공지능(AI)을 시범 적용한다.</p> <p contents-hash="9986fa2937087caf99ce1e6dde000becb4328caf9e26a6d0a745c1c81a2ffbf1" dmcf-pid="5Di8Ke3IrM" dmcf-ptype="general">서울시는 7일 경기도에 이어 전국 지방자치단체 두 번째로 전용 AI 서비스를 도입하는 '챗봇 2.0' 프로젝트를 발표했다. 현재 시청 공무원 대상 챗GPT 등 AI 서비스를 업무용으로 지원하고 있지만, 시정 기밀 유출 가능성 등 보안 관점에서 정보보호 강화와 업무 편의 확대를 위한 결정이다.</p> <p contents-hash="2fdef02814dd33d96318fcafecafae149b95b838d88acdcff02baa22d9876591" dmcf-pid="1wn69d0CIx" dmcf-ptype="general">시는 업무에 필요한 주요 문서와 데이터를 기반으로 검색증강생성(RAG) 기술을 적용, 데이터 중심 업무 환경을 구축할 계획이다. LLM으로만 행정지원 시스템을 구축하면 업그레이드 등 향후 운용·고도화 과정에서 AI 학습을 다시 시켜야 하는 비효율 등을 고려한 전략적 판단이다.</p> <p contents-hash="bd81480537b47a06940b047f4aa899ff0facef6321f8e0c5f2880d8cdb9d1000" dmcf-pid="tkdfBMtswQ" dmcf-ptype="general">서울시는 연내 내부망에 자체 LLM을 도입, 일부 부서를 대상으로 시범 운영하고 내년부터는 내부 행정 시스템과 연계한 고도화 기능을 확대할 계획이다. 생성형 AI 기반 유연하고 정교한 'AI 행정 지원체계'로 전환이 목표다.</p> <p contents-hash="4eafb14f874b2341348e5d1a276391335ff5e90c621544a990bae0aed561a916" dmcf-pid="FEJ4bRFOOP" dmcf-ptype="general">그동안 서울톡과 업무 챗봇 등 AI 챗봇 기반 민원·행정 자동화를 선도해왔지만 정해진 규칙과 검색 기반 고정 응답방식으로 운영됐다. 이번 자체 LLM 도입으로 유연한 대화 생성이나 맥락 이해가 필요한 복합적인 질의응답을 가능하게 한다.</p> <p contents-hash="540787a318b308262af7c08a5b5754879ae2895e6d07659818c62ce6fce25963" dmcf-pid="3Di8Ke3II6" dmcf-ptype="general">시는 이번 사업으로 민감한 공공데이터를 안전하게 처리할 수 있는 AI 기반 독립 인프라를 확보할 방침이다. 행정 수요에 최적화된 실용적 생성형 AI 서비스로 공공행정 전반의 AI 전환(AX) 선도를 예고했다.</p> <p contents-hash="9ec2f09f84db92dc9a9a50081ef0934196cafe4d3a206f6fb57d876985f20c96" dmcf-pid="0wn69d0Cr8" dmcf-ptype="general">핵심은 자체 폐쇄망에서 운영되는 LLM 기반 'AI 비서'다. 내부 정보보호 강화 차원에서 독립된 AI 환경을 내부망에 구축한다. 이를 위해 시는 올해 엔비디아 H200 등 그래픽처리장치(GPU) 서버를 도입하고 내년까지 추가 확보를 통해 폐쇄망 내 고도화된 생성형 AI 서비스 가동 인프라를 확보할 계획이다.</p> <p contents-hash="803954fb1adb3b4653330df89667e567c8e2d0dfd44a80e9e30d32fa3da269d8" dmcf-pid="prLP2JphD4" dmcf-ptype="general">사업 예산은 17억원 규모로 오는 9월 발주될 예정이다. 20억원 이하 공공 정보화 사업으로 분류돼 대기업과 중견기업 참여는 제한된다.</p> <p contents-hash="73107503f6d0724547a04798e10dc5908004b678efac8705e968b2613a530901" dmcf-pid="UmoQViUlsf" dmcf-ptype="general">포티투마루, 솔트룩스, 이스트소프트, 코난테크놀로지, 모티프테크놀로지스, BHSN 등 자체 LLM·RAG 기술이 있는 AI 강소기업이 참여 후보군이다. 서울시 AI 구축이라는 레퍼런스를 확보할 수 있는 기회로, 국내외 사업 확장에도 도움이 될 수 있어 치열한 경쟁이 예상된다.</p> <p contents-hash="537ba6ad916785d21255cf1051fce963eb93df4c3f043977866b2f1390e2a098" dmcf-pid="usgxfnuSrV" dmcf-ptype="general">강옥현 서울시 디지털도시국장은 “챗봇 2.0 도입을 시작으로 공무원은 보다 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답 받는 새로운 행정 서비스 시대가 열릴 것”이라며 “공공행정 전반에 AI를 적극 활용해 국내를 넘어 '글로벌 AI 행정도시'로 거듭날 것”이라고 말했다.</p> <p contents-hash="1ee6f64832ee3d8a2921151563756bd39bc1c2ee6422674ec9ed8c47b07448af" dmcf-pid="7OaM4L7vm2" dmcf-ptype="general">박종진 기자 truth@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p> 관련자료 이전 최용수, 후배 폭로 등장…"히딩크 감독이 안 좋아했다" [RE:뷰] 08-07 다음 '보이즈2 플래닛' 돌발상황에 참가자 혼돈…안무도 '미숙' 08-07 댓글 0 등록된 댓글이 없습니다. 로그인한 회원만 댓글 등록이 가능합니다.