김포시, 내부문서 AI 챗봇 띄운다…행정 업무 ‘스마트 전환’ 시동

내부망 전용 로컬 LLM 기반…정보화 지원·후생복지 2개 분야 우선 적용
RAG 방식 적용해 지침·규정·매뉴얼 실시간 검색 후 답변 생성
지난해 PoC 검증 마쳐…시범 운영 거쳐 9월부터 활용 범위 확대 검토

Chat GPT 이미지

경기 김포시가 인공지능(AI) 기술을 행정 업무에 도입하며 내부 업무 효율을 끌어올리는 데 속도를 내고 있다.

김포시는 '내부문서 AI 검색 챗봇'을 구축하고 본격적인 시범 운영에 들어간다고 16일 밝혔다. 직원들이 자주 찾는 업무 지침과 규정, 복지 안내 등을 AI가 빠르게 찾아 답변해준다.

이번 사업은 지난해 행정안전부 주관 AI 컨설팅 과정에서 나온 아이디어를 바탕으로 추진됐다. 직원들이 직접 참여해 만든 결과물을 실제 업무에 적용했다는 점도 눈에 띈다.

새로 도입된 챗봇은 외부 유출 우려를 줄인 내부망 전용 로컬 언어모델(LLM)을 기반으로 구축됐다. 여기에 최신 AI 기술인 RAG(검색 증강 생성) 방식을 적용해 방대한 내부 자료를 실시간으로 검색한 뒤 답변을 만들어낸다.

기존 생성형 AI가 학습한 데이터에 기대 답을 내놓는 데 그쳤다면, RAG 방식은 답변 직전 신뢰할 수 있는 자료를 먼저 찾아 반영한다는 점에서 차이가 있다. 그만큼 내부 행정처럼 정확성이 중요한 영역에서 활용도가 높다는 평가를 받는다.

이 시스템이 안착하면 공무원들이 복잡한 업무 편람이나 규정을 일일이 뒤지는 데 들이던 시간을 줄일 수 있을 것으로 보인다. 반복적인 문의 대응 부담도 덜고, 업무 처리 정확성도 함께 높일 수 있다는 기대가 나온다.

시범 운영은 직원들의 문의가 많은 두 분야에 먼저 적용된다. 정보화 지원 챗봇은 PC 장애 처리, 행정전자서명 발급, 출력물 보안 예외 신청 등 IT 서비스 이용 방법을 안내한다.

후생복지 안내 챗봇은 휴양소 신청, 대상자 확인, 출장 중 사고 보상처럼 절차가 복잡한 복지 제도를 설명하는 역할을 맡는다. 필요한 내용을 바로 확인할 수 있어 직원 편의도 한층 높아질 것으로 보인다.

시는 앞서 지난해 10월 기술적 실현 가능성 검증(PoC)을 마쳤다. 이번 시범 운영을 통해 실제 사용성을 점검하고 전 직원이 체감할 수 있는 서비스로 다듬는 데 초점을 맞출 예정이다.

시는 이달부터 챗봇 활용을 본격화하는 한편, 최신 자료를 지속적으로 반영해 답변 정확도를 높여간다는 방침이다. 또 시범 운영 결과를 분석해 오는 9월부터는 AI 기반 업무 활용 범위를 넓히는 방안도 추가로 살필 예정이다.

시 관계자는 "이번 AI 챗봇 도입은 단순한 기술 적용을 넘어 조직 안에 AI 활용 문화를 뿌리내리는 계기가 될 것"이라며 "행정 효율을 높이고 시민들에게 더 나은 서비스를 제공할 수 있도록 첨단 기술 도입을 이어가겠다"고 말했다.