서울시 자체 LLM 내부망에 직접 도입
 |
| 서울시는 7일 공무원의 반복 행정업무를 생성형 인공지능(AI)으로 대체하는 새로운 행정 지원 체계 '챗봇 2.0' 사업에 들어간다고 밝혔다. /서울시 |
[더팩트ㅣ설상미 기자] 공무원의 문서 검색부터 규정 확인, 보고서 작성까지 AI가 지원하는 행정지원 시스템이 도입된다.
서울시는 7일 공무원의 반복 행정업무를 생성형 인공지능(AI)으로 대체하는 새로운 행정 지원 체계 '챗봇 2.0' 사업에 들어간다고 밝혔다. 올해 내부망에 자체 LLM(초거대 언어모델)을 도입, 일부 부서를 대상으로 시범 운영한다. 내년부터는 내부 행정 시스템과 연계한 고도화 기능을 순차적으로 확대한다는 계획이다.
이번 챗봇 2.0 사업은 1세대 챗봇의 기술적 한계를 넘어 생성형 AI 기반의 유연하고 정교한 AI 행정 지원 체계로 전환한다는 점이 핵심이다. 예컨대 '공유재산 사용료가 3회 연속 체납된 경우 즉시 계약 해지가 가능 여부' 질문에 대해 AI가 지방세외수입 업무 편람 내용을 종합해 실시간으로 답변하는 방식이다. 이를 통해 직원이 부서에 일일이 문의하거나 자료를 요청하지 않아도 필요한 정보를 즉시 확인할 수 있다.
그간 시는 시민용 챗봇 서울톡과 직원용 업무 챗봇 등 챗봇 기반 민원·행정 자동화를 선도해 왔지만 모두 정해진 규칙과 검색 기반 고정 응답 방식으로 맥락 이해가 필요한 복합 질의에는 한계가 있었다.
사용자가 보유한 기획서나 계획서를 업로드하면 AI가 자동으로 보도자료 초안을 작성해주는 기능도 제공된다. 부서 단위로 '나만의 챗봇'을 생성할 수 있어 반복적인 실무 대응은 물론, 협업 기반 문서 공유에도 폭넓게 활용될 전망이다.
챗봇 2.0 사업은 기술적 측면에서 '서울시 자체 LLM'을 내부망에 직접 도입한다는 점이 가장 큰 특징이다.
시는 이번 사업을 통해 민감한 공공데이터를 안전하게 처리할 수 있는 독립적 인프라를 바탕으로 행정 수요에 최적화된 실용적인 생성형 AI 서비스를 구축, 이를 통해 공공행정 전반의 AI 전환을 선도해 나간다는 방침이다.
시는 연말까지 LLM을 시범 적용한 뒤, 내년부터는 행정 시스템과 연계한 LLM API 및 AI 에이전트를 도입해 문서 자동화·의사결정 지원 등으로 기능을 확대할 계획이다.
챗봇 2.0 시스템이 본격 가동되면 반복적이고 정형화된 업무를 AI가 대체하면서 행정 효율성과 속도가 획기적으로 향상될 것으로 기대된다.
강옥현 서울시 디지털도시국장은 "챗봇 2.0 도입을 시작으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것으로 기대된다"며 "공공행정 전반에 AI를 적극 활용해 국내를 넘어 '글로벌 AI 행정도시'로 거듭날 것"이라고 말했다.
