서울시는 생성형 AI(인공지능)를 행정 전반에 적용한 '챗봇 2.0'을 본격 운영한다고 11일 밝혔다.
챗봇 2.0은 서울시 행정망 내부에 구축한 LLM(대규모 언어모델)을 기반으로 한 직원용 AI 행정 지원 서비스와 생성형 AI를 적용해 기능을 강화한 시민용 챗봇 '서울톡'으로 구성된다.
시는 지난해 9월 사업 착수 이후 약 6개월간 개발과 시범운영을 거쳐 응답 정확도와 사용자 편의성을 중심으로 서비스 완성도를 높였다. 전 직원 대상 AI 활용 교육과 단계적 시범운영을 통해 현장 적용성을 검증하고, 실제 업무 활용 과정에서 도출된 개선 사항을 반영했다. 또 기술 검증과 적용 과정을 거치며 행정 현장에 AI를 적용하기 위한 운영 경험과 데이터를 축적했다.
특히 보안이 요구되는 행정 환경을 고려해 행정망 내부에 자체 LLM을 구축했다. 이를 기반으로 질의응답, 문서 생성·요약·분석 등 다양한 AI 행정 지원 기능을 제공한다. LLM API를 통해 타 행정 시스템에서도 생성·요약·분석 기능을 활용할 수 있게 연계 기반을 마련했다.
시는 보안성과 활용성을 동시에 확보하기 위해 자체 LLM과 외부 생성형 AI 서비스를 병행하는 이원화 운영체계를 구축했다. 보안이 필요한 업무는 자체 LLM이, 정보 검색과 아이디어 도출 등 일반 업무는 외부 상용 생성형 AI 서비스인'서울AI챗'이 담당하는 구조다.
시는 챗봇 2.0을 기반으로 올해 말 AI 에이전트를 시범 적용할 계획이다. AI 에이전트는 내부 시스템과 연계해 필요한 정보를 조회하고, 문서 작성·자료 정리 등 반복 업무를 스스로 수행하는 방식으로 운영한다.
강옥현 서울시 디지털도시국장은 "챗봇 2.0은 공무원에게는 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것" 이라며 "앞으로도 지속적인 고도화를 통해 서울시 행정의 AI 전환을 가속화하겠다"고 말했다.