AI-Forward: 고객서비스 AI로 기대 ROI를 낸 곳은 4%, 앞선 조직은 데이터 기반에 1.8배 투자

고객서비스 AI로 기대한 ROI를 낸 조직은 4%뿐입니다. 통화 시간 단축 같은 효율은 매출이나 점유율로 저절로 바뀌지 않기 때문입니다. Gartner는 사용 사례를 줄여 전략 목표에 묶고, 데이터·지식 기반에 먼저 투자하고, 사람이 가치를 크게 더하는 지점을 다시 정하라고 권합니다. 따라 하려면 사용 사례마다 재무 지표와 중단 기준을 적은 장부부터 만들어야 합니다.

요약

Gartner는 고객서비스·지원 조직 리더 275명을 조사해 2026년 11월 4일 Gartner Customer Service and Support Conference에서 결과를 공개했습니다. CX Dive의 Matt Vartabedian 기자가 이 조사와 같은 날 열린 Gartner 수석 디렉터 애널리스트 Christopher Sladdin의 기조연설을 묶어 전했습니다. 핵심 수치는 하나입니다. AI를 도입한 고객서비스 조직 가운데 기대한 ROI(투자수익률)를 실제로 거둔 곳은 4%였습니다. Sladdin은 AI를 주로 비용을 줄이는 데 쓰지 말고 조직 안에서 가치를 만드는 데 쓰는 “AI-forward”(AI를 앞세워 가치를 만드는) 접근을 권했습니다.

이유는 기대와 실제 효과가 다른 곳을 가리키기 때문입니다. 경영진은 흔히 AI가 사람이 응대할 때보다 비용을 낮춰 주리라 기대합니다. AI는 상담원이 통화를 더 빨리 끝내게 돕고 통화 뒤 메모 시간도 줄여 줍니다. 그렇다고 이 효율이 매출이나 시장 점유율 같은 재무 성과로 곧장 이어지지는 않습니다. 앞서가는 조직은 다르게 움직였습니다. 사용 사례 자체보다 데이터와 지식 같은 기반에 약 1.8배 더 투자했습니다. Gartner의 권고는 넷입니다. 사용 사례를 줄여 전략 목표에 직접 묶고, AI가 기대는 데이터·지식 소스를 통합하고 정비하고, 사람이 우선순위를 정하고 직원에게 도구 쓰는 법을 가르치고, 사람이 가장 가치를 더하는 지점을 다시 정하라는 것입니다. 아래에서 이 넷을 작동 방식으로 풀고, 실제로 돌릴 때 필요한 장부와 일정을 붙입니다.

핵심 메커니즘

Efficiency Gap: 효율 지표가 재무 성과로 바뀌지 않는 이유

무엇인가. AI가 만든 운영 효율과 경영진이 기대한 재무 성과 사이의 거리입니다. 원문이 든 예는 두 가지입니다. 통화 처리 시간이 줄고, 통화 뒤 메모 시간이 줄어듭니다.

어떻게 작동하나. AI가 상담 한 건에 드는 시간을 줄이면 상담원에게 시간 여유가 생깁니다. 이 여유는 인력 재배치나 새 활동으로 옮겨질 때만 돈이 됩니다. 예를 들어 이탈 위험 고객에게 먼저 연락하거나 채용 계획을 줄이는 결정이 따라야 합니다. 그런 결정이 없으면 효율은 운영 지표에만 남고 매출과 점유율은 그대로입니다.

언제 문제가 되나. 사용 사례를 고를 때 처리 시간이나 자동 처리율만 목표로 잡은 경우입니다. 원문은 이런 효율이 재무 결과로 반드시 이어지지는 않는다고 짚습니다.

작은 예시(가상 예시). 상담원 200명 센터에서 통화 후 메모가 건당 1분 줄었다고 합시다. 확보한 시간을 어디에 쓸지 정하지 않으면 손익계산서에는 아무 변화가 없습니다.

Fewer Use Cases: 사용 사례를 줄여 전략 목표에 직접 묶는다

무엇인가. 사용 사례 수를 늘리기보다 적게 고르고, 하나하나를 조직의 전략 목표에 바로 연결하라는 권고입니다.

어떻게 작동하나. 후보 사용 사례마다 “이것이 어떤 전략 목표를 움직이나”를 묻고, 답이 없는 것은 뺍니다. 남은 사용 사례에는 목표에 맞는 재무 지표를 붙입니다. 원문은 어떤 사용 사례를 우선할지, 어떤 전략 목표에 힘을 줄지는 사람이 판단해야 한다고 덧붙입니다.

언제 쓰나. 파일럿이 여럿 돌고 있는데 각각의 기여를 설명하기 어려울 때 씁니다. 목표가 아직 정해지지 않은 조직이라면 목표부터 합의해야 이 거르기가 작동합니다.

Data and Knowledge Foundations: AI가 기대는 데이터·지식 소스를 먼저 고친다

무엇인가. AI가 답을 만들 때 참조하는 데이터와 지식 소스를 통합하고 깨끗하고 최신으로 유지하는 작업입니다. 원문은 이것을 AI가 더 맞춤형이고 관련 있는 통찰을 내놓기 위한 필수 조건으로 봅니다.

어떻게 작동하나. 고객서비스 AI는 FAQ, 정책 문서, 상담 이력, 고객 정보를 근거로 답합니다. 근거가 오래됐거나 서로 다르면 답도 틀리고, 상담원은 AI 답을 다시 확인하느라 시간을 씁니다. 기반을 고치면 같은 사용 사례도 더 나은 답을 냅니다.

원문의 수치. AI-forward 조직은 이 기반에 AI 사용 사례 자체보다 약 1.8배 더 투자했습니다.

Conversational Data: 대화 기록으로 고객을 대규모로 배운다

무엇인가. 고객과 나눈 대화 데이터를 분석해 고객이 무엇을 원하는지, 무엇이 좋은 결과를 만드는지, 고객 여정 어디에서 마찰이 생기는지를 알아내는 쓰임입니다. Sladdin은 AI의 가장 큰 힘을 리더가 고객 상호작용에서 대규모로 배우게 해 주는 데서 찾았습니다.

어떻게 작동하나. 상담 자동화는 대화를 처리하고 끝납니다. 학습 용도는 같은 대화를 모아 요구, 결과, 마찰 지점으로 나누고, 그 결과를 상품·정책·프로세스 개선으로 넘깁니다. 비용 절감 대신 가치를 만드는 경로가 여기서 열립니다.

언제 쓰나. 대화 기록이 텍스트로 쌓여 있고 그 결과를 받아 고칠 부서(상품, 정책, 운영)가 있을 때 효과가 큽니다.

Human Value Points: 사람을 빼는 대신 사람이 가치를 더하는 곳을 찾는다

무엇인가. 사람과 AI가 잘하는 일이 다르다는 전제에서 출발합니다. 리더는 상호작용에서 사람을 어떻게 뺄지 묻지 말고, 사람의 개입이 고객에게 유난히 큰 가치를 주는 곳이 어디인지 물어야 합니다.

어떻게 작동하나. 상담 유형마다 AI가 맡을 부분과 사람이 맡을 부분을 나눕니다. 사람은 우선순위를 정하는 판단도 맡습니다. 원문은 직원에게 주어진 도구를 언제, 어떻게 쓸지 교육해야 한다는 점도 함께 짚습니다.

언제 쓰나. 자동화율 목표를 정하기 전에 씁니다. 사람이 있어야 할 자리를 먼저 정해 두면 자동화 범위가 거기서 거꾸로 정해집니다.

통념과 다른 주장

저자가 든 사례

Gartner 고객서비스·지원 리더 조사 (2026년 11월)

• 상황: 고객서비스 조직이 AI를 빠르게 들이고 있지만, 경영진이 기대한 비용 절감과 실제 성과 사이에 차이가 있습니다.
• 한 일: Gartner가 서비스·지원 리더 275명을 조사했고, Gartner Customer Service and Support Conference에서 결과를 공개했습니다. 조사 시기와 문항 구성은 원문에서 밝히지 않았습니다.
• 결과: 기대한 ROI를 거둔 조직은 4%였습니다. AI-forward 조직은 데이터·지식 기반에 사용 사례보다 약 1.8배 투자했습니다. AI-forward를 가르는 정확한 기준은 원문에서 밝히지 않았습니다.
• 연결: Efficiency Gap과 Data and Knowledge Foundations의 근거입니다.

상담 효율 개선의 예 (통화 단축과 통화 후 메모)

• 상황: 경영진은 AI가 사람 응대보다 비용을 낮추리라 기대합니다.
• 한 일: AI가 상담원의 통화 처리를 빠르게 하고 통화 뒤 메모 시간을 줄입니다.
• 결과: 효율은 좋아지지만 매출이나 시장 점유율이 늘어난다는 보장은 없습니다. 개선 폭과 재무 효과 수치는 원문에서 밝히지 않았습니다.
• 연결: Fewer Use Cases(목표에 묶기)와 Human Value Points(확보한 사람의 시간을 어디에 쓸지)로 이어집니다.

기술 디테일: 사용 사례를 목표에 묶고 대화로 배우는 시스템

아래 필드명, 기준값, 횟수는 실제로 돌릴 때 필요한 것을 새로 작성한 가상 예시입니다.

Fewer Use Cases를 돌리려면 사용 사례 레지스트리부터 만듭니다. 스프레드시트로 시작해도 됩니다. 사용 사례 한 건이 한 행이고, 전략 목표와 재무 지표와 중단 기준이 비어 있으면 등록하지 않습니다. 이 규칙 하나가 사용 사례 수를 자연스럽게 줄입니다.

{
  "use_case_id": "CS-07",
  "name": "해지 문의 상담 요약과 유지 제안 추천",
  "strategic_goal": "고객 유지율 향상",
  "financial_kpi": {"metric": "월 해지율", "baseline": "직전 3개월 평균", "target_delta": "-1%p"},
  "ops_kpi": ["재문의율", "통화 후 처리 시간"],
  "owner": "고객유지팀장",
  "data_dependencies": ["상담 녹취 텍스트", "유지 정책 문서", "고객 계약 정보"],
  "kill_rule": "12주 동안 financial_kpi 변화 없음",
  "review_cycle": "분기"
}

Efficiency Gap을 메우려면 운영 지표와 재무 지표 사이에 연결 장부를 둡니다. AHT(평균 처리 시간) 단축처럼 운영 지표가 좋아지면, 확보한 시간이 어디로 갔는지 같은 장부에 적습니다. 칸은 세 개면 충분합니다. 확보 시간(시간/월), 재배치 대상(능동 연락, 상향 판매, 채용 축소 등), 재무 지표 변화입니다. 재배치 칸이 비어 있으면 그 사용 사례의 효과는 운영 지표에서 멈춘 것으로 봅니다. 재무 파트너가 월 1회 이 장부를 검토해야 숫자가 손익계산서 언어로 바뀝니다.

Data and Knowledge Foundations를 측정하려면 지식 문서마다 상태 필드를 붙입니다. 문서마다 last_reviewed(마지막 검토일), owner(담당자), source_doc(근거 문서), conflicts_with(같은 질문에 다른 답을 주는 문서 id)를 둡니다. 검토일이 90일을 넘었거나 충돌 문서가 있으면 AI 검색 대상에서 빼거나 고칠 목록에 올립니다. AI 답변에는 참조한 문서 id를 함께 남겨, 틀린 답이 나오면 어느 문서를 고칠지 바로 찾게 합니다. 투자 비중을 보려면 예산을 “기반(데이터 통합·지식 정비)“과 “사용 사례(모델·화면·연동)“로 나눠 집계합니다. 원문의 1.8배는 AI-forward 조직의 조사값이고, 우리 조직의 비율을 같은 방식으로 계산해 비교 기준으로 씁니다.

Conversational Data를 돌리려면 대화를 고정된 스키마로 분류합니다. 통화 녹취는 음성 인식으로 텍스트로 바꾸고, 이름·전화번호·계좌 같은 개인정보는 LLM에 넣기 전에 마스킹합니다. 대화 한 건을 LLM 한 번 호출로 처리하고 temperature는 0으로 둡니다. 출력은 JSON으로 고정합니다.

{
  "conversation_id": "C-2026-118204",
  "need": "요금제 변경",
  "outcome": "resolved | unresolved | escalated",
  "success_driver": "상담원이 변경 후 요금을 바로 비교해 줌",
  "friction_step": "앱에서 요금제 변경 메뉴를 못 찾음",
  "evidence_quote_span": [412, 486]
}

첫 달에는 사람이 라벨을 붙인 200건과 LLM 결과를 비교합니다. need와 friction_step의 일치율이 80%에 못 미치면 분류 목록을 다시 짭니다. 같은 대화를 3회 돌려 결과가 갈리는 비율도 봅니다. 갈리는 대화가 10%를 넘으면 분류 이름이 겹친다는 신호입니다. evidence_quote_span은 근거 구간 위치라서 사람이 원문 대화를 바로 찾아 확인할 수 있습니다.

Human Value Points를 정하려면 상담 유형별 배치 매트릭스를 만듭니다. 대화 분류 결과의 need별로 건수, 해결률, 이탈 위험을 붙이고, 유형마다 AI 역할과 사람 역할을 적습니다. 단순·반복 문의는 AI가 처리하고 사람은 표본만 검수합니다. 복잡하거나 금액이 큰 건, 감정이 격하거나 이탈 위험이 큰 건, 정책 예외는 AI가 요약과 근거를 준비하고 사람이 처리하거나 결정합니다. 사람에게 넘길 때는 AI가 만든 요약과 참조 문서 id를 함께 넘겨 고객이 같은 말을 반복하지 않게 합니다.

현업 실행 디테일: 누가, 언제, 무엇을

역할 (가상 예시)

역할	담당	하는 일
스폰서	고객서비스 총괄	전략 목표 확정, 사용 사례 거르기 최종 결정
재무 파트너	재무팀 담당자	재무 지표와 연결 장부 월 검토
지식 관리자	지식 운영 담당 1~2명	문서 상태 필드 관리, 충돌 문서 정리
CX 분석가	분석 담당 1명	대화 분류 스키마 설계, 일치율 점검, 주간 리포트
상담 팀장	현장 팀장 2~3명	사람 배치 매트릭스 작성, 도구 사용 교육
IT·데이터	데이터 엔지니어 1명	녹취 텍스트화, 마스킹, LLM 호출 파이프라인

시작 전 준비물: 현재 운영 중이거나 계획 중인 AI 사용 사례 목록, 회사의 올해 전략 목표 문서, 최근 3개월 상담 지표(AHT, 재문의율, 해결률), 지식 문서 전체 목록, 대화 기록 표본 1,000건, AI 관련 예산 내역.

8주 일정과 산출물 (가상 예시)

기간	할 일	산출물
1~2주	사용 사례 재고 조사, 레지스트리 작성	사용 사례 레지스트리 초안
3~4주	전략 목표에 묶이지 않는 사용 사례 거르기, 재무 지표 붙이기	남길 사용 사례 3~5개와 연결 장부
5~6주	지식 문서 상태 점검, 예산을 기반·사용 사례로 나눠 집계	고칠 문서 목록, 기반 대 사용 사례 투자 비율
7~8주	대화 분류 시범, 사람 배치 매트릭스 작성	마찰 지점 상위 10개, 배치 매트릭스

확인 질문

1. 이 사용 사례가 움직이는 전략 목표는 무엇이고, 그 목표를 재는 재무 지표는 무엇입니까?
2. AI로 확보한 상담원 시간은 지금 어디에 쓰이고 있습니까?
3. 같은 질문에 서로 다른 답을 주는 지식 문서가 몇 건입니까?
4. 지난 분기 AI 예산 가운데 데이터·지식 기반에 쓴 돈과 사용 사례에 쓴 돈은 각각 얼마입니까?
5. 고객이 사람 상담원을 만났을 때 결과가 확실히 좋아지는 상담 유형은 무엇입니까?
6. 상담원은 AI 도구를 언제 쓰고 언제 쓰지 말아야 하는지 교육받았습니까?

진행 판정 기준 (가상 예시): 분기 말마다 사용 사례를 셋 중 하나로 판정합니다. 재무 지표가 기준선보다 움직였고 지식 기반 점검 통과율이 오르고 있으면 계속합니다. 운영 지표만 좋아졌고 확보 시간의 행방이 비어 있으면 재배치 계획을 붙여 한 분기 보완합니다. 전략 목표와 연결이 없거나 12주 동안 재무 지표가 그대로면 중단합니다.

AX 적용 제언. 고객사 고객서비스 AI 과제는 대개 자동화율과 처리 시간을 목표로 출발합니다. 첫 진단에서는 사용 사례 레지스트리와 예산 분해로 두 숫자를 먼저 뽑는 것이 좋습니다. 재무 지표가 붙은 사용 사례 비율과, 기반 대 사용 사례 투자 비율입니다. 이 두 숫자가 낮으면 새 사용 사례를 더하기 전에 지식 정비와 목표 연결부터 합니다. 대화 분류 결과는 고객서비스 안에서 끝내지 말고 상품·정책 부서의 정례 회의 안건으로 넘깁니다. 그래야 AI가 비용 절감 도구에서 고객을 배우는 도구로 자리를 옮깁니다. 현업 스폰서는 고객서비스 총괄이 맡고 재무팀이 지표를 함께 보는 구성이 안정적입니다.

원문 사례

항목	내용
매체·기자	CX Dive · Matt Vartabedian (2026.11.4)
조사	Gartner, 고객서비스·지원 리더 275명
공개	2026.11.4, Gartner Customer Service and Support Conference
발표자	Christopher Sladdin (Gartner 수석 디렉터 애널리스트), 기조연설
핵심 수치	기대한 ROI를 거둔 고객서비스 조직 4%
AI-forward 조직	데이터·지식 기반에 사용 사례보다 약 1.8배 투자
효율 예	통화 처리 단축, 통화 후 메모 시간 감소. 매출·점유율로 이어진다는 보장 없음
권고	사용 사례를 줄여 전략 목표에 묶기, 데이터·지식 소스 통합·정비, 사람이 우선순위 결정과 도구 교육, 사람이 가치를 크게 더하는 지점 재정의, 대화 데이터로 고객 요구·성공 요인·마찰 지점 파악
밝히지 않은 것	조사 시기, 문항, AI-forward 판정 기준, 업종·지역 구성

핵심 개념

ROI

투자수익률. 이 조사에서는 조직이 AI 도입 때 기대한 수익을 실제로 거뒀는지를 물었습니다.

AI-forward

AI를 비용 절감보다 조직 안에서 가치를 만드는 데 앞세워 쓰는 접근. Gartner가 앞서가는 조직을 부르는 말입니다.

AHT

Average Handle Time. 상담 한 건을 처리하는 데 드는 평균 시간으로, 통화 시간과 통화 후 처리 시간을 합칩니다.

Customer journey friction

고객이 목적을 이루는 과정에서 막히거나 되돌아가는 지점. 대화 데이터 분석이 찾으려는 대상입니다.

Knowledge source

AI와 상담원이 답의 근거로 삼는 FAQ, 정책 문서, 상담 이력 같은 자료.

내 메모

TODO: 내 생각 추가

원문: CX Dive, Matt Vartabedian, 「Only 4% of customer service teams have achieved expected ROI from AI. Here’s what needs to change.」(2026.11.4). Gartner 보도자료(2026.11.4)는 열리지 않아 쓰지 않았고, 수치와 권고는 CX Dive 기사에서만 가져왔습니다. 요약·메커니즘·통념과 다른 주장·사례·원문 사례 표는 기사 내용을 AX Review가 다시 정리했고, 직접 인용은 Sladdin의 말 한 번만 실었습니다. 기술·현업 디테일, JSON 예시, 기준값, 역할, 일정, 판정 기준, 인포그래픽은 새로 작성했으며 그 안의 필드명·숫자·예시는 가상입니다. AHT 정의는 업계 일반 용법입니다. 전체 기사는 CX Dive에서 볼 수 있습니다.