오세훈 시장 ‘AI 행정혁명’ 현실화…하반기 전용 생성형AI 도입

내부망에 자체 LLM 단계적 도입…생성형 AI 행정지원 체계 구축
市 "공공행정 전반 AI 활용, 국내 넘어 AI행정 선도하는 글로벌 도시 거듭날 것"

오세훈 서울시장이 16일 서울시청 대회의실에서 열린 '민선 8기 취임 3주년 기자간담회'에서 인사말을 하고 있다. /정재훈 기자

오세훈 서울시장이 지난달 민선8기 3주년 기자회견에서 예고한 '인공지능(AI) 행정혁명'이 현실화된다. 서울시는 올해 하반기 민간 대형언어모델(LLM) 기술을 기반으로 한 행정 전용 AI 시스템을 도입한다고 7일 밝혔다.

앞서 오 시장은 "올해는 서울시 'AI 행정혁명의 시작점'으로 기록될 중요한 해"라며 "올해 하반기 서울시 행정 전용 LLM 시스템을 도입할 예정"이라고 밝힌 바 있다. 이번 발표는 이같은 구상을 구체적으로 실행에 옮기는 것이다.

새로 도입되는 'AI 챗봇 2.0' 시스템은 행정 매뉴얼 기반 질의응답, 보고서·보도자료 초안 작성, 업로드 문서 기반 응답 등 실제 실무에 즉시 적용 가능한 기능들을 모두 갖춘다. 공무원들이 규정집을 뒤지거나 보고서를 처음부터 작성하는 대신 AI 챗봇에게 질문하고 문서 초안을 받아 업무를 처리할 수 있게 된다.

예를 들어 "공유재산 사용료가 3회 연속 체납된 경우 바로 해지 가능한가?"라고 물으면 AI가 지방세외수입 업무 편람 내용을 종합해 답변해 준다. 직원이 일일이 부서로 문의하거나 자료를 요청하지 않아도 AI가 내부 시스템과 연계된 정보를 기반으로 실시간 응답하는 것이다. 사용자가 보유한 계획서나 기획안을 업로드하고 보도자료 작성을 요청하면 AI가 양식에 맞춰 초안을 자동 작성해 준다. 부서 단위로 '나만의 챗봇'을 만들어 반복되는 실무 대응이나 협업 기반 문서 공유에도 활용할 수 있다.

이는 기존 규칙 기반 챗봇과 달리 생성형 AI를 활용해 대화 맥락을 이해하고 행정 업무에 실질적인 도움을 제공하는 것이 특징이다. 그동안 시는 시민용 챗봇 '서울톡'과 직원용 '서우리 주무관'을 운영해 왔지만, 복잡한 규정이나 상황에 따라 달라지는 복합 질의에 대한 답변 제공에는 한계가 있었다.

시는 내부망에 자체 LLM을 도입해 일부 부서를 대상으로 시범 운영한 뒤, 내년부터는 내부 행정 시스템과 연계해 문서 자동화, 의사결정 지원 등 기능을 순차적으로 고도화할 계획이다. 올해 GPU 서버를 도입하고 내년까지 GPU 서버 3대를 추가 확보해 폐쇄망 내에서 고도화된 생성형 AI 서비스를 시행할 예정이다.

시 관계자는 "반복적이고 정형화된 업무를 AI가 대체하면서 행정 효율성과 속도가 획기적으로 향상될 것"이라고 기대했다. 다만, 시는 AI 시스템을 대시민 서비스를 포함해 전면적으로 확산하는 것은 신중할 필요가 있다고 보고 단계적으로 추진한다는 방침이다.

강옥현 시 디지털도시국장은 "챗봇 2.0 도입을 시작으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것"이라며 "공공행정 전반에 AI를 적극 활용해 국내를 넘어 '글로벌 AI 행정도시'로 거듭날 수 있도록 노력하겠다"고 말했다.