RAG 도입 사례 정리｜서울시·수원시·강서구 공공 챗봇은 어떻게 출처를 붙여 답할까

민원실 모니터 앞에서 시민이 챗봇 화면에 질문을 입력하는 장면

 

RAG(검색증강생성)는 기관 자료를 먼저 찾아 그 근거로 답하는 방식입니다. 서울시는 270종의 행정 업무매뉴얼로 RAG 체계를 구축해 근거 기반 답변과 출처를 함께 제공합니다. 서울 강서구는 2026년 9월 RAG 기술 기반 대화형 챗봇을 본격 가동한다고 밝혔습니다.

 

수원시도 6월 30일 생성형 인공지능 시정 안내서비스(가칭 새빛봇) 구축 착수보고회를 열었습니다. 세 곳의 구조를 견주어 보면 우리 기관에 맞는 방식이 보입니다.

 

이 글의 핵심

 

• ✔ RAG 챗봇은 기관 데이터를 정제·연결해 두고, 질문 의도에 맞춰 출처와 함께 답합니다.
• ✔ 서울시·강서구는 운영 중이고, 수원시는 구축을 시작한 단계입니다.
• ✔ 보안이 중요하면 내부망 자체 모델, 최신 정보가 필요하면 외부 서비스 병행이 선택지입니다.

 

📌 RAG란? 기관 자료에서 찾아 근거와 함께 답하는 방식

서류철이 가득한 서가에서 필요한 문서를 골라 꺼내는 손

 

RAG 챗봇은 흩어진 기관 데이터를 하나로 연결해 질문에 맞춰 답합니다.

 

수원시는 홈페이지의 방대한 데이터를 인공지능으로 통합 연결해 기존 키워드 검색의 한계를 개선한다고 설명했습니다. 강서구는 여러 게시판을 일일이 찾아봐야 하는 불편을 줄이려고 챗봇을 구축했습니다.

 

질문을 받기 전에는 답의 바탕이 될 자료를 준비해 둡니다. 수원시는 홈페이지 핵심 콘텐츠를 선별해 인공지능에 최적화된 데이터로 정제할 계획입니다.

 

질문을 받은 뒤의 흐름은 세 단계로 나눠 볼 수 있습니다.

 

1. 문서 검색
   질문을 받으면 미리 준비해 둔 기관 문서 가운데 관련 내용을 먼저 찾습니다.
2. 근거로 답변
   강서구 챗봇은 대화체 문장으로 물어도 의도를 파악해 맞춤형 답변을 제시합니다.
3. 출처 확인
   강서구 챗봇은 답변과 함께 관련 정보의 출처를 제공합니다.

 

정리하면, 일반 생성형 AI가 학습한 지식으로 답한다면 RAG는 기관 문서를 먼저 찾아 그 근거로 답합니다. 그래서 근거 없이 그럴듯하게 지어낸 답, 즉 환각을 줄이는 데 도움이 됩니다. 출처가 함께 나오니 이용자가 답을 원문과 대조해 근거 없는 내용을 걸러낼 수 있습니다. 다만 출처가 붙어도 답이 틀릴 수 있으므로 중요한 내용은 원문과 대조하는 것이 안전합니다.

 

🏛️ RAG 공공 챗봇 3곳 비교: 서울시·수원시·강서구

 

서울시와 강서구는 운영 중이고, 수원시는 구축에 착수한 계획 단계입니다.

 

기관단계데이터 범위출처·다국어이용 방법

서울시	구축·운영	행정 업무매뉴얼 270종	근거·출처 제공	직원용 행정망 내부
수원시	구축 착수(6월 30일)	홈페이지 핵심 콘텐츠	다국어 지원(계획)	홈페이지(구축 중)
강서구	본격 가동	연관 누리집 10개	출처 제공·다국어	'새로미' 아이콘

 

강서구 챗봇은 대표 누리집과 열린 구청장실, 보건소 등 10개 연관 누리집의 행정 데이터로 작동합니다. 답변 범위는 여권, 세무, 부동산 등 종합 민원부터 고시·채용공고, 복지, 보건 정보까지입니다. 어린이 행사, 쓰레기 배출 안내, 공동주택 현황 같은 생활 밀착형 정보도 제공합니다.

 

이용자는 회원가입 없이 강서구청 누리집 우측 하단의 '새로미' 아이콘을 클릭하면 됩니다. 개인용 컴퓨터(PC)와 모바일 기기로 24시간 이용할 수 있습니다.

 

수원특례시는 홈페이지에 생성형 인공지능 채팅 로봇 서비스(가칭 새빛봇)를 구축합니다. 한국어 특화 거대언어모델을 선정해 RAG를 구현하는 것이 계획의 뼈대입니다. 영어, 중국어, 일본어, 베트남어 등 다국어 소통도 지원하도록 구축됩니다.

 

세 곳 중 서울시는 보안 업무와 최신 정보를 나눠 운영하는 구조라서, 다음 절에서 따로 살펴봅니다.

 

🔒 보안 업무와 최신 정보는 어떻게 나누나: 서울시 이원화 운영

보안 출입문 안쪽 사무실과 바깥의 열린 라운지가 나란히 보이는 청사 복도

 

보안 업무는 자체 LLM이, 일반 업무는 외부 서비스 '서울AI챗'이 맡습니다.

 

서울시가 2026년 5월 발표한 챗봇 2.0은 직원용 AI 행정 지원 서비스와 시민용 챗봇 '서울톡'으로 구성됩니다. 서울시는 행정망 내부에 자체 LLM을 구축하고 상용·오픈소스 기반 내부 언어모델을 활용합니다. 자체 LLM은 외부 데이터 연계를 제한하고, 최신 정보 활용은 외부 AI 서비스가 담당합니다.

 

직원용 기능

 

• My 챗봇
  부서·개인별 업무자료까지 연계한 맞춤형 검색이 가능합니다.
• AI 템플릿
  보도자료, 민원 답변 등 문서 작성을 지원합니다.
• LLM API
  타 행정 시스템에서도 생성·요약·분석 기능을 쓰도록 연계 기반을 마련했습니다.

반응형

시민용 서울톡

 

서울톡은 카카오톡 채널로 이용하던 기존 서비스에 생성형 AI를 적용한 것입니다. 기존 120 상담 중심 안내에서 벗어나 최신 정보를 24시간 자동으로 제공합니다. 'AI에게 물어보기' 기능은 서울시 누리집 정보와 외부 웹 검색을 연계합니다.

 

정리하면, 지켜야 할 내부 문서는 안에서 찾고 최신 정보는 바깥에서 찾도록 역할을 나눈 구조입니다.

 

🧭 우리 기관은 어느 쪽? 상황별 도입 기준과 다음 단계

 

목적을 먼저 정하면 구조는 따라옵니다.

 

중소기업이라면 '시민'을 '고객'으로, '행정 매뉴얼'을 '사내 규정·제품 문서'로 바꿔 읽으면 됩니다.

 

• ✔ 고객·시민 안내가 목적일 때
  수원·강서처럼 누리집 자료를 정제해 연결합니다. 확인 질문: 어떤 자료를 어디까지 정제할 것인가?
• ✔ 내부 문서와 보안이 중요할 때 — 서울시처럼 내부망 자체 모델에 업무 문서 RAG를 붙입니다. 확인 질문: 밖으로 나가면 안 되는 자료는 무엇인가?
• ✔ 최신 정보가 필요할 때
  서울시는 외부 서비스를 함께 쓰는 방식을 택했고, 모든 기관에 필요한 구성은 아닙니다. 확인 질문: 답이 얼마나 최신이어야 하고, 외부 서비스에 넘겨도 되는 자료는 어디까지인가?

 

예산·구축 기간·운영 인력과 개인정보 검토 절차는 사례마다 다릅니다. 정확도를 어떻게 점검하고 오답이 나오면 어떻게 바로잡는지, 민간 도구를 쓸 때 비용이 얼마인지도 세 기관 발표에는 담겨 있지 않습니다. 도입 전에는 이 항목들을 확인할 질문으로 묶어 두는 것이 좋습니다. 수원시 에이아이스마트정책국이나 강서구청 담당 부서에 직접 문의하는 편이 정확합니다.

 

2026년 5월 발표 기준, 서울시는 챗봇 2.0을 기반으로 올해 말 AI 에이전트를 시범 적용할 계획입니다. AI 에이전트는 내부 시스템과 연계해 정보를 조회하고 반복 업무를 스스로 수행하는 방식으로 운영될 예정입니다. 예컨대 직원이 직무교육을 문의하면 인사정보와 교육과정을 연계해 추천하고 신청까지 지원할 예정입니다. 아직 확정된 결과가 아닌 계획 단계입니다.

 

📚 실무자가 직접 배워 보려면: RAG 개발 교재와 문의처

 

RAG를 처음 다루는 입문 단계 실무자라면 개발 교재부터 보는 것이 좋습니다.

 

게시물은 2026년 5월 11일 16:07에 올라왔고, 교육연도는 2026입니다. 첨부 파일은 'RAG를 활용한 LLM Application 개발 교재 .pdf'(3.6M)입니다. 게시물의 관련 링크는 https://edu.openhpc.or.kr/openhpc/eduLoginSuc.do 입니다.

 

교재의 현재 열람·운영 여부는 기관에 확인한 뒤 이용하시기 바랍니다.

 

• 위치
  경기도 성남시 수정구 대왕판교로 815(285-2번지) HPC이노베이션 허브 2층 276호 사업화지원실입니다.
• 연락처
  이메일 admin@k-cia.or.kr, 전화 031-5182-9044입니다.

 

😊 마무리

 

RAG는 기관 자료를 근거로 출처와 함께 답하게 하는 방식입니다. 시민 안내, 내부 보안, 최신 정보 가운데 무엇이 우선인지 먼저 정하고 구조를 고르시면 됩니다. RAG 챗봇 도입을 검토하시는 분들께 도움이 되었으면 좋겠습니다.