AI-Powered Customer Service Center: 신베이시가 민원 전화의 기록·검색·검사·기관 배정을 AI에 맡긴 방식

신베이시 정보관리센터는 민원 전화를 받는 상담원을 그대로 두고 통화 밖에서 하던 기록, 지식 검색, 통화 검사, 담당기관 배정을 AI에 맡겼습니다. 기관 보고 기준으로 기록 처리는 6.5분에서 10초로, 품질검사 범위는 1%에서 100%로 바뀌었습니다. 옮겨 오려면 실시간 전사 품질, 지식 기반을 고치는 책임 규칙, 잘못 배정된 사건을 되돌리는 절차부터 갖춰야 합니다.

요약

New Taipei City Government Information Management Center(신베이시 정부 정보관리센터, 이하 센터)는 시정부의 정보화를 맡는 조직입니다. 2026 Gartner Eye on Innovation Awards 정부 부문에 제출·소개된 사례 자료에 따르면 센터가 운영을 돕는 시정 서비스 핫라인은 한 달에 8만 건 넘는 전화를 받았습니다. 공개된 시 운영 계획에서 이 핫라인은 1999 시정서비스 전용선으로 나옵니다. 통화 한 건은 평균 3분이 넘었고 통화가 끝나면 사람이 하는 감사에 6.5분이 더 들었습니다. 상담원은 통화 중에 지식 기반을 뒤져 답을 찾았고 끝나면 어느 기관에 넘길지 정했습니다. 감사와 기관 배정에 사람이 묶이자 시민의 대기 시간이 길어졌습니다. 센터는 실시간 STT(speech-to-text, 음성을 글로 바꾸는 기술), LLM, RAG(retrieval-augmented generation, 검색한 문서를 근거로 답을 만드는 방식)를 묶어 도구 두 개를 만들었습니다. 통화 중 상담원을 돕는 AI Copilot, 그리고 통화를 전사·요약하고 의도를 판별해 담당기관을 추천하는 AI Quality Inspection입니다. 운영은 클라우드 기반 원격 방식으로 바꿨고 기술 공급사로 중화전신(Chunghwa Telecom)이 이름을 올렸습니다.

성과는 업무 효율과 서비스 지속성 두 갈래로 보고됐습니다(기관 보고 실적). 효율 쪽에서는 기록 처리 시간이 6.5분에서 10초로, 지식 검색 시간이 30초에서 5초로 줄었습니다. 고위험 사안의 오판은 약 20% 줄었습니다. 품질검사 범위는 1%에서 100%가 됐고 수동 검토와 행정 업무는 50% 줄었습니다. 지속성 쪽에서는 대기 시간 90% 감소, 재난·전시에도 끊기지 않는 24시간 서비스, 고령층과 취약계층의 접근 보장을 보고했습니다. 대기 시간과 오판 감소의 기준값과 측정 기간은 사례집에 없습니다. 숫자를 이어 보면 구조가 보입니다. 도입 전에는 상담원 한 명이 한 통에 쓰는 시간 가운데 통화 밖 시간이 통화 자체보다 길었습니다. AI가 그 시간을 걷어 내자 같은 인원이 더 많은 전화를 받을 수 있게 됐습니다. 아래에서는 이 변화를 만든 다섯 가지 메커니즘을 풀고 한국 제조 기업의 고객센터와 사내 헬프데스크에 옮길 때 필요한 기술·실행 디테일을 붙입니다.

핵심 메커니즘

Auto-logging: 통화를 받는 동안 기록이 채워지는 구조

무엇인가: 통화 음성을 실시간으로 글로 바꾸고 통화가 끝나면 LLM이 요약과 접수 기록 초안을 채우는 방식입니다. 어떻게 작동하나: 상담원과 시민의 발화가 STT를 거쳐 문장 단위로 화면에 뜨고 통화가 끝나면 LLM이 민원 요지, 위치, 요청 사항을 기록 칸에 넣습니다. 상담원은 틀린 곳만 고쳐 저장합니다. 사례집의 기록 처리 6.5분 → 10초는 쓰는 일이 확인하는 일로 바뀐 결과로 읽힙니다. 언제 쓰나: 통화 내용이 정해진 양식의 접수 기록으로 남아야 하는 업무에 맞습니다. 길 안내처럼 기록이 거의 필요 없는 짧은 통화에서는 얻는 시간이 작습니다. 작은 예시(가상 예시): 가로등 고장 신고라면 전사문에서 도로명, 고장 증상, 회신 희망 여부가 각 칸에 들어가고 상담원은 도로명 표기만 확인합니다.

AI Copilot: 통화 중에 지식 기반을 찾아 답을 정리해 주는 보조

무엇인가: 상담원이 통화하는 동안 질문에 맞는 안내 문서를 찾아 답변 순서로 정리해 보여 주는 도구입니다. 어떻게 작동하나: 전사문에서 시민의 질문을 뽑고 RAG가 지식 기반에서 관련 문서를 찾고 LLM이 신청 조건과 절차를 순서대로 묶어 출처와 함께 띄웁니다. 상담원은 정리된 답을 읽으며 설명합니다. 사례집 기준 지식 검색 시간은 30초에서 5초로 줄었습니다. 언제 쓰나: 답이 문서에 이미 있는 질문입니다. 분쟁 조정이나 복지 자격처럼 판단이 필요한 민원에서는 답을 대신 정하지 않고 근거 문서만 보여 주는 편이 안전합니다. 작은 예시(가상 예시): 대형 폐기물 수거 신청을 묻는 전화라면 거주 구역별 신청 경로와 수수료 안내 문서 두 건이 출처로 붙은 3단계 답이 뜹니다.

사례집은 Copilot이 어떤 지식 기반을 쓰는지 밝히지 않았습니다. 공개된 신베이시 1999 시정서비스 전용선 정진계획(2023년 9월 개정)에는 지식 기반을 관리하는 규칙이 있습니다. 각 기관은 자기 업무의 FAQ 문답을 매월 한 번 이상 점검하고 수정 요청을 받으면 2영업일 안에 고칩니다. 연구발전고핵위원회(研考會)는 매월 문답 DB와 연락처를 점검해 오류나 누락을 기관 평가의 감점으로 반영합니다. RAG의 답은 검색 대상 문서보다 정확할 수 없습니다. 그래서 문서를 누가 언제 고치는지 정한 이런 규칙이 Copilot과 함께 굴러가야 합니다.

AI Quality Inspection: 일부만 듣던 통화 검사를 전부로

무엇인가: 모든 통화를 전사·요약하고 의도와 긴급도를 판별해 검사하는 기능입니다. 어떻게 작동하나: 녹음과 자동 기록을 입력으로 받아 필수 안내를 했는지, 민원 유형과 긴급도를 맞게 분류했는지 점검합니다. 기록과 판별 결과가 어긋나거나 고위험으로 보이는 통화만 사람 검토 대기열로 보냅니다. 사례집에 따르면 검사 범위는 1%에서 100%가 됐고 수동 검토·행정 업무는 50% 줄었으며 고위험 사안 오판은 약 20% 줄었습니다. 무엇을 오판으로 셌는지(예: 긴급 사안을 일반 사안으로 분류한 경우인지)는 사례집에 나오지 않습니다. 언제 쓰나: 표본 검사로는 드물게 나오는 고위험 통화를 놓치는 조직에 맞습니다. AI 판정이 사람 판정과 얼마나 맞는지 재기 전까지 상담원 인사 평가에 쓰지 않습니다. 작은 예시(가상 예시): 하수구 역류 신고가 일반 민원으로 기록됐는데 전사문에 침수와 노약자라는 말이 함께 나오면 고위험 불일치로 올라옵니다.

Agency Routing: 민원 의도를 읽어 담당기관을 추천

무엇인가: 통화 요약에서 민원 유형을 판별해 처리할 기관을 점수와 함께 추천하는 기능입니다. 어떻게 작동하나: LLM이 요약을 민원 분류표의 유형 코드로 바꾸고 유형별 담당기관 표와 과거 처리 이력을 바탕으로 후보 기관 몇 곳을 근거 문장과 함께 제시합니다. 상담원이 확정하면 사건이 그 기관으로 넘어갑니다. 공개된 정진계획은 신속 처리 대상 사건을 24시간 안에 권한 기관으로 보내고 기관 담당자가 10분 안에 사건을 접수 확인하도록 정해 두었습니다. 기한이 짧으니 첫 배정이 틀리면 처리 시간이 그만큼 깎입니다. 사례집은 추천 정확도를 밝히지 않았습니다. 언제 쓰나: 기관 경계가 겹치는 민원이 많아 상담원이 배정에 시간을 쓰는 곳입니다. 작은 예시(가상 예시): 하천변 악취 신고에 환경보호국과 수리국이 함께 후보로 뜨면, 상담원은 근거 문장을 보고 한 곳을 고릅니다.

Cloud-based Remote Operation: 센터 밖에서도 전화를 받는 운영

무엇인가: 전화 연결, 전사, Copilot을 클라우드에 두고 상담원이 승인된 단말로 원격 접속해 받는 운영 모델입니다. 어떻게 작동하나: 상담 기능이 특정 건물의 장비에 묶이지 않으므로, 재난으로 센터를 쓸 수 없거나 전화가 몰릴 때 다른 장소의 인력이 같은 화면으로 받습니다. 사례집은 이 구조로 재난·전시에도 24시간 서비스를 유지하고 인력 운용을 최적화한다고 밝혔습니다. 대기 시간 90% 감소도 같은 서비스 지속성 항목에 함께 보고됐습니다. 중화전신이 통신망, 클라우드, AI 가운데 어느 부분을 맡았는지는 사례집에 없습니다. 언제 쓰나: 태풍·지진처럼 민원이 한꺼번에 몰리는 사건이 정기적으로 오는 조직에 맞습니다. 원격 접속은 녹취 접근도 함께 여는 일이라 접속 통제를 먼저 설계합니다.

통념과 다른 주장

사례 재구성

신베이시 AI 민원 콜센터

구분	내용
상황	월 8만 건 이상 통화, 건당 3분 이상 상담, 통화당 수동 감사 6.5분. 지식 검색과 기관 배정에 인력이 묶여 대기 증가
한 일	실시간 STT·LLM·RAG 기반 AI Copilot(지식 검색, 답변 구조화)과 AI Quality Inspection(전사, 요약, 의도 판별, 기관 추천). 클라우드 원격 운영. 중화전신 참여
결과	기록 6.5분 → 10초, 지식 검색 30초 → 5초, 고위험 오판 약 20% 감소, 검사 1% → 100%, 수동 검토·행정 50% 감소, 대기 90% 감소, 재난·전시 24시간 서비스(기관 보고 실적)
연결	Auto-logging → 기록 10초, AI Copilot → 검색 5초, AI Quality Inspection → 검사 100%, Remote Operation → 24시간 서비스

공개 자료로 확인한 맥락도 있습니다. 신베이시 정보국 발표(2025년 11월)에 따르면 시는 1999 시정서비스 전용선, 사건 관리 시스템, 디지털 여론 시스템을 묶은 AI 추세 관측·경보 시스템으로 ASOCIO Award 2025 디지털 정부 부문을 받았고 시상식에서는 정보관리센터장이 상을 받았습니다. 이 시스템은 시정부 내부에 둔 LLM, Graph RAG, 지식 그래프, BI 대시보드를 쓰며 275만 건이 넘는 데이터를 처리했다고 같은 발표가 밝혔습니다. 발표는 상담원 오판 감소와 응답 시간 단축을 효과로 들었지만 수치는 적지 않았습니다. 이 시스템은 이번 사례의 Copilot·품질검사와 같은 핫라인 데이터를 쓰지만 별개로 소개된 사업입니다. 이번 사례 자체를 다룬 기관 공식 자료는 찾지 못했고 수상 여부도 공개 자료로 확인하지 못했습니다.

기술 디테일: 민원 전화 AI 보조를 실제로 돌리려면

아래는 센터 사례의 다섯 메커니즘을 우리 환경에서 처음 돌릴 때 챙길 항목입니다. 필드명, 설정값, 기준값은 모두 가상 예시입니다.

Auto-logging을 돌리려면 전사 품질부터 잽니다. 파일럿 첫 주에 통화 100건을 사람이 받아 적은 전사문과 비교해 CER(문자 오류율)과 화자 구분 오류를 셉니다. 한국 고객센터 통화에는 사투리와 제품 모델명, 지명이 자주 섞입니다. 이런 고유어는 STT 사용자 사전에 넣고 기록에 들어가는 위치와 모델명은 LLM이 쓴 그대로 두지 않고 주소 표준 DB나 제품 마스터와 맞춰 정규화합니다. 기록은 자유 문장이 아니라 구조화 출력(JSON)으로 받습니다. 근거 발화 시각이 없는 필드는 저장하지 않고 다시 호출합니다. 통화 신뢰도 점수가 기준 아래면 자동 기록을 띄우지 않고 상담원이 직접 쓰게 합니다.

AI Copilot을 돌리려면 지식 기반 문서를 조각낼 때 doc_id, owner_dept, effective_date, last_reviewed를 함께 저장합니다. 검색은 상위 5건을 가져오고 답변에는 쓴 문서의 doc_id를 반드시 붙이게 합니다. 출처가 없는 문장은 화면에 띄우지 않습니다. 센터의 매월 점검 규칙을 따라 last_reviewed가 31일을 넘은 문서는 노란 표시를 달고 담당 부서에 갱신 요청을 자동으로 보냅니다. 응답 시간은 사례집의 5초를 목표로 삼아 전사, 질문 추출, 검색, 생성 단계별로 나눠 잽니다. temperature는 0~0.2로 둡니다.

AI Quality Inspection을 돌리려면 검사 항목을 예·아니오로 답할 수 있는 문장으로 씁니다(예: 회신 연락처를 확인했나, 긴급 사안 안내 문구를 말했나). 통화마다 항목별 met, evidence_ms, reason을 받고 temperature 0으로 같은 통화를 3회 채점해 판정이 갈리는 항목을 찾습니다. 갈리는 항목은 문장이 모호하다는 신호이므로 고쳐 씁니다. 매주 고위험 대기열 상위 50건과 무작위 50건을 검사자가 다시 채점해 항목 기준 일치율을 따로 냅니다. 무작위 표본이 없으면 AI가 놓친 위험은 끝내 드러나지 않습니다.

Agency Routing을 돌리려면 민원 분류표와 유형별 담당기관 표를 먼저 코드로 만듭니다. LLM은 유형 코드와 후보 기관 상위 3곳, 각 근거 문장을 돌려주고 상담원 확정값은 agency_final로 남깁니다. 핵심 지표는 재배정률, 곧 기관이 반송해 다른 곳으로 다시 보낸 사건의 비율입니다. 반송 사건은 사유와 함께 모아 다음 달 분류 기준을 고칩니다. 기관 경계가 자주 바뀌는 유형은 규칙표를 LLM보다 앞에 둡니다.

Remote Operation과 개인정보를 다루려면 모델 배치부터 정합니다. 사례집은 어떤 LLM을 썼는지 밝히지 않았습니다. 녹취에는 개인정보가 많으므로 내부 배치 모델을 먼저 검토하고 외부 모델에는 가림 처리를 마친 전사문만 보냅니다. 원격 단말에는 다중 인증과 화면 녹화 차단을 걸고 원본 녹음 재생 권한은 검사자로 한정합니다. 전사문 단계에서 주민등록번호, 계좌번호, 전화번호 패턴을 가린 뒤 LLM에 넣습니다. 신베이시 계획은 통화 녹음을 3년 보관하도록 정했습니다. 우리 조직도 녹음 보관 기간과 AI 산출물(전사문, 요약, 점수) 보관 기간을 같은 규정에 함께 적어 둡니다. 재난처럼 전화가 몰리는 상황에서는 Copilot 검색 대상을 재난 안내 문서 묶음으로 바꾸는 모드를 미리 만들어 둡니다.

현업 실행 디테일: 누가, 언제, 무엇을

국내 제조 기업에도 같은 구조가 들어갈 자리가 여럿 있습니다. 가전·자동차 고객센터, 서비스 기사 방문 접수, 사내 IT·인사 헬프데스크, 공장 설비 고장 접수 전화가 대표적입니다. 담당기관 배정은 고객 클레임을 담당 공장이나 품질팀으로 넘기는 일과 같은 모양입니다. 아래 역할과 일정은 이런 조직을 가정한 가상 예시입니다.

역할	담당	하는 일
업무 책임자	고객센터장 또는 헬프데스크 팀장	분류표·검사 항목 확정, 배정 규칙 승인
지식 기반 관리	부서별 FAQ 담당자	문서 월 1회 점검, 갱신 요청 2영업일 내 처리
품질 검사자	기존 QA 인력 2~3명	주간 보정 표본 채점, 고위험 대기열 검토
AX 추진	AX 조직 PM	일정·지표 관리, 경영진 보고
엔지니어	데이터·AI 엔지니어 2명	STT·RAG·LLM 파이프라인, 상담 화면 연동
준법·보안	법무, 개인정보 담당	녹취 이용 고지, 가림 처리, 원격 접속 통제

시작 전 준비물. 최근 3개월 녹취 샘플과 통화 메타데이터, 현재 접수 양식과 민원(문의) 분류표, 부서별 FAQ 문서와 담당자 목록, 지난 분기 재배정 사건 목록, 녹취 이용에 관한 고지 문구를 모읍니다.

12주 일정. 1~2주차 산출물은 CER 측정표와 유형 코드표입니다. 3~6주차에는 상담원 5명에게 Auto-logging과 Copilot을 켜고 기록·검색 시간을 도입 전과 나란히 잽니다. 7~10주차에 전수 검사와 기관 추천을 붙이고 11~12주차에 아래 기준으로 확대를 판정합니다.

검토 회의 질문. 통화가 끝난 뒤 상담원이 가장 오래 붙잡는 작업은 무엇인가? 상담원이 답을 못 찾을 때 주로 어느 부서 문서가 비어 있나? 지난 분기 재배정 사건은 어떤 유형에 몰렸나? AI가 틀린 기관을 추천했을 때 되돌리는 사람은 누구인가?

진행 판정 기준(가상 예시). 파일럿 상담원의 통화당 기록 시간이 도입 전 대비 절반 이하이고 Copilot 답변 중 상담원이 출처를 확인해 쓴 비율이 70% 이상이며 재배정률이 도입 전보다 늘지 않았다면 전 상담원으로 넓힙니다. 품질검사 항목 기준 일치율이 80%에 못 미치면 검사 결과는 코칭 참고로만 쓰고 3주 더 보정합니다.

AX 적용 제언입니다. 이 사례는 상담원을 줄이는 이야기보다 통화 밖 시간을 걷어 내는 이야기로 읽는 편이 맞습니다. 제조 기업이라면 기록과 검색 시간이 긴 사내 헬프데스크나 서비스 접수에서 시작해, 같은 자동 기록·출처 붙은 검색·전수 검사 구조를 협력사 문의 창구와 품질 클레임 접수로 넓히는 순서가 현실적입니다. 먼저 정할 것은 모델보다 지식 기반의 주인입니다. 부서별 문서 담당자와 갱신 기한이 없으면 Copilot의 답은 몇 달 안에 낡습니다. 경영진 보고 지표는 통화당 통화 밖 시간, 검사 범위, 재배정률, 고객 대기 시간 네 가지로 잡으면 센터 사례의 논리와 맞습니다.

원문 사례

항목	내용
기관	New Taipei City Government Information Management Center(대만 신베이시), 정부·공공
출처	Gartner 2026 Eye on Innovation Awards 정부 부문 제출 사례, Greater China 사례집 슬라이드 37
문제	월 8만 건 이상 통화, 건당 3분 이상, 수동 감사 6.5분, 지식 검색·기관 배정 부담으로 대기 증가
기술	AI Agents, API, Communications & Networks, GenAI, LLMs(실시간 STT, RAG)
기술 공급사	ChungHwa Telecom Co.(중화전신)
성과(기관 보고 실적)	기록 6.5분 → 10초, 지식 검색 30초 → 5초, 고위험 오판 약 20% 감소, 검사 1% → 100%, 수동 검토·행정 50% 감소, 대기 90% 감소, 재난·전시 24시간 서비스, 고령층·취약계층 접근 보장
책임자 발언	AI 요약과 자동 기록이 압박과 소진을 줄여 공감 응대에 집중하게 했다는 취지
공개 자료 맥락	1999 정진계획(2023.9 개정): 3회 울림 안 응답, 녹음 3년 보관, FAQ 월 1회 점검, 신속 사건 24시간 내 이관·10분 내 접수, 만족도 90% 이상 목표. 정보국 발표(2025.11): AI 추세 관측·경보 시스템 ASOCIO Award 2025 수상

핵심 개념

CER(character error rate)

전사문에서 틀린 글자 수를 정답 글자 수로 나눈 값. 띄어쓰기 단위가 모호한 중국어·한국어 전사 품질을 잴 때 씁니다.

화자 분리(diarization)

전사문에서 누가 말했는지(상담원, 시민)를 나누는 처리.

구조화 출력

LLM이 자유 문장 대신 정해진 필드의 JSON으로 답하게 하는 방식.

재배정률

처음 배정한 기관이 반송해 다른 기관으로 다시 보낸 사건의 비율. 기관 추천의 정확도를 현장 기준으로 보여 줍니다.

Graph RAG

문서 조각 대신 개체와 관계를 담은 지식 그래프를 검색해 답의 근거로 쓰는 RAG 방식.

내 메모

TODO: 내 생각 추가

근거: 사용자가 제공한 Gartner 2026 Eye on Innovation Awards Greater China 사례 자료(New Taipei City Government Information Management Center, 슬라이드 37, 정부 부문 제출 사례)와 확인한 공개 자료 신베이시 1999 시정서비스 전용선 정진계획(2023.9.12 개정), 신베이시 정보국: ASOCIO Award 2025 디지털 정부 부문 수상(2025.11.12). 링크는 Gartner Eye on Innovation 정부 부문 페이지이며 이번 사례의 수상 여부는 공개 자료로 확인하지 못했습니다. Copilot·품질검사 자체를 다룬 기관 공식 자료는 찾지 못해 해당 내용은 사례집 기준입니다. 요약·메커니즘·사례는 사례집과 공개 자료를 AX Review가 다시 정리했고 기술·현업 디테일, 필드명, 판정 기준, 일정, 인포그래픽은 새로 작성했으며 그 값은 가상 예시입니다.