Semantic Knowledge Graph: Cosentino는 데이터에 업무 의미를 얹어 보류 주문 지연을 평균 22일에서 최대 1일로 줄였다
Cosentino는 데이터 레이크와 ERP 위에 업무 의미를 정리한 시맨틱 레이어를 3년째 쌓았습니다. 그 위에서 주문별 지연을 예측하는 에이전트를 돌려, 신용한도로 보류된 주문의 지연이 평균 22일에서 최대 1일로 줄었습니다. New York Life는 지식 그래프와 벡터 DB의 역할을 나눠 씁니다.
에이전트가 회사 일을 제대로 하려면 데이터만으로는 부족하고 그 데이터가 업무에서 무엇을 뜻하는지 적어 둔 층(시맨틱 레이어)이 있어야 합니다. Cosentino는 이 층을 사람이 먼저 짓고 AI로 거들게 한 뒤에 주문 에이전트를 올렸습니다. 따라 하려면 부서가 많이 얽힌 업무 흐름 하나를 골라 용어와 관계를 현업이 직접 정의하는 일부터 시작해야 합니다.
요약
CIO.com의 Maria Korolov가 시맨틱 지식 그래프(semantic knowledge graph, 데이터 사이의 관계에 업무상 의미까지 기록한 그래프)를 실제로 쓰는 기업을 취재한 기사입니다. 중심 사례는 Cosentino입니다. 이 회사에는 이미 큰 데이터 레이크와 레이크하우스, ERP와 CRM이 있었습니다. 글로벌 CIO Rafael Domene은 그래도 무슨 일이 벌어지는지 설명하기에는 데이터만으로 모자랐다고 말합니다. 그래서 3년 전부터 데이터 위에 시맨틱 레이어를 쌓았습니다. 프로세스 마이닝 회사 Celonis의 엔지니어와 사내 전문가가 손으로 짓다가 나중에 AI를 보조로 붙였습니다. 기사는 New York Life 단체보험 부문이 지식 그래프와 벡터 DB를 어떻게 나눠 쓰는지도 함께 소개합니다.
이 층 위에서 Cosentino의 에이전트는 어느 고객의 어느 주문이든 열어 제때 도착할지 예측하고 지연이 어디서 생기는지 짚어 냅니다. 예전에는 주문 하나에 15개 부서가 관여했고 부서마다 대시보드가 따로 있어 문제가 늦게 드러났습니다. 지금은 영업 담당이 먼저 알고 고객에게 연락해 대안을 냅니다. 신용한도 초과로 보류된 주문은 평균 22일 늦어지던 것이 지금은 길어야 1일입니다. 이 일을 하던 재무 인력은 고객 응대 업무로 옮겼습니다. 회사는 첫해에 최대 1,000만 달러를 아꼈고 연말까지 1억 달러 절감을 예상합니다. 기사는 예전에는 분석가가 경험으로 데이터의 뜻을 알았기에 이런 층을 따로 만들 이유가 약했지만 에이전트에는 그런 경험이 없다는 점을 이유로 듭니다. 아래에서는 이 구조를 네 가지 장치로 나눠 보고 실제로 돌릴 때 필요한 설계와 일정을 정리합니다.
핵심 메커니즘
Semantic Layer: 데이터에 업무상 의미를 붙이는 층
그래프 데이터베이스는 정보를 표가 아니라 점(노드)과 선(엣지)으로 저장해 무엇이든 서로 이을 수 있습니다. 공급망, 부정 거래 탐지, 추천에 많이 씁니다. 지식 그래프는 그 위에서 “이 데이터가 무엇인가”를 관계로 보여 주는 지도입니다. 시맨틱 지식 그래프는 여기에 업무상 의미를 한 겹 더합니다. 어떤 회사가 지금 고객인지 잠재 고객인지, 어떤 직함이 의사결정에서 얼마나 무게가 있는지 같은 내용입니다. 시맨틱 레이어는 데이터가 회사 안에서 무엇을 뜻하고 실제로 어떻게 쓰이는지를 담습니다.
언제 필요한가: 사람이 아니라 에이전트가 데이터를 읽을 때입니다. 분석가는 경험으로 “보류”가 어떤 상태인지 알지만 에이전트는 일반적인 업무 지식도 이 회사만의 방식도 모릅니다. 작은 예시(가상): ERP에 “보류” 코드가 세 가지 있다면 시맨틱 레이어는 그중 어느 것이 신용한도 때문인지, 누가 풀 수 있는지, 풀리면 어느 단계로 넘어가는지를 적어 둡니다.
Expert-led Build: 사람이 먼저 짓고 AI는 거든다
Cosentino는 처음에 시맨틱 레이어를 거의 수작업으로 지었습니다. 사내 전문가와 벤더로 고른 Celonis의 엔지니어가 함께 했습니다. 시간이 지나 AI가 사람의 작업을 거들게 했습니다. Domene은 SAP의 정해진 업무 흐름 덕에 일이 수월했지만 그래도 사람 손이 많이 갔다고 말합니다. 주요 프로세스와 흐름은 이미 끝났습니다. 남은 일은 주로 재무 쪽으로 물류, 생산, 운영, 고객 서비스, 영업, 구매, HR이 걸려 있습니다. 목표는 올해 말 완료입니다.
기사에 나온 SANS Institute의 David Hoelzer도 같은 순서를 권합니다. 사람이 쓴 문서는 AI가 의미 관계를 뽑아내기 좋게 쓰여 있지 않을 때가 많습니다. AI는 그래프를 짓고 고치는 속도를 높일 수 있지만 혼자 짓게 두면 말이 안 되는 관계를 만들어 냅니다. 그래서 이 일에 맞는 기술을 가진 사람이 계속 필요합니다. 기사는 업무가 바뀌는 만큼 이 층도 계속 고쳐야 하는 일이라고 덧붙입니다.
Order-level Agent: 주문 하나를 끝까지 따라가는 에이전트
부서가 15곳이면 지연의 원인도 15곳 중 어디엔가 있습니다. 부서별 대시보드로는 주문 하나가 지금 어디서 막혔는지 한 번에 보이지 않습니다. KPI가 빨간색이 되면 경험 많은 직원이 조직을 뒤져 원인을 찾아야 했습니다. Cosentino의 에이전트는 시맨틱 레이어 위에서 주문 한 건을 처음부터 끝까지 따라갑니다. 입력은 고객과 주문, 처리는 정시 도착 여부 예측과 지연 지점 찾기, 출력은 영업 담당이 고객에게 먼저 연락할 수 있는 정보입니다.
Domene은 에이전트가 말만 하지 않고 일을 한다는 점을 강조합니다. 다만 아낀 시간이 모두 매출로 바뀌지는 않는다고도 말합니다. 다음 단계는 영업입니다. 영업 직원은 일하는 시간의 3분의 1 이상을 행정 업무에 썼습니다. 회사는 작년에 이를 돕는 에이전트를 만들어 올해 시험했으며 곧 전면 가동할 예정입니다.
Knowledge Graph와 Vector DB: 정확한 사실과 넉넉한 문서를 나눠 맡긴다
1년 전만 해도 LLM에 회사 정보를 넣는 표준 방법은 벡터 DB를 쓰는 RAG(검색 증강 생성)였습니다. 비정형 문서를 벡터로 바꿔 비슷한 주제끼리 모으고 관련 내용을 프롬프트에 붙입니다. 비정형 데이터에는 여전히 잘 맞지만 가져오는 양이 많고 낡았거나 헷갈리는 내용이 섞일 수 있습니다. 에이전트는 LLM을 여러 번 부르므로 불필요한 내용은 그대로 토큰과 비용이 됩니다. 지식 그래프는 에이전트가 필요한 사실만 정확히 가져오게 하고 시맨틱 레이어는 그 사실을 어떻게 써야 하는지까지 알려 줍니다.
New York Life 단체보험 부문(Group Benefits Solutions)의 CIO Matt Marze는 둘을 함께 씁니다. 지식 그래프는 LangChain의 에이전트 프레임워크 LangGraph 위에 지었고 여러 에이전트를 조율하는 데 씁니다. 벡터 DB는 생성형 AI의 RAG 애플리케이션을 맡습니다.
통념과 다른 주장
흔히 이렇게 봅니다데이터 레이크와 ERP·CRM을 갖췄으면 AI 에이전트를 올릴 준비는 끝났다.
저자는 이렇게 봅니다에이전트에는 데이터가 아니라 업무 지식을 줘야 합니다. 데이터가 무엇을 뜻하고 어떻게 쓰이는지를 따로 적어 둬야 합니다.
근거Cosentino는 데이터 레이크, 레이크하우스, ERP, CRM을 모두 갖추고도 KPI가 나빠진 이유를 사람이 뒤져야 했습니다. 시맨틱 레이어를 쌓은 뒤에야 주문별 지연을 미리 잡았습니다.
흔히 이렇게 봅니다회사 문서를 벡터 DB에 넣고 RAG를 붙이면 에이전트에 맥락을 주기에 충분하다.
저자는 이렇게 봅니다에이전트가 정확한 사실을 써야 하는 일은 지식 그래프에, 비정형 문서 검색은 벡터 DB에 맡기는 식으로 나누는 편이 낫습니다.
근거New York Life는 여러 에이전트 조율에는 지식 그래프를, RAG에는 벡터 DB를 씁니다. 기사는 지식 그래프가 일반 chain-of-thought 방식보다 정확도를 26% 이상 높였다는 UC Santa Barbara와 JP Morgan AI Research의 논문도 소개합니다.
저자가 든 사례
Cosentino 신용한도 보류 주문: 지연 지점을 미리 짚는다
| 구분 | 내용 |
|---|---|
| 상황 | 주문 하나에 15개 부서가 관여하고 부서마다 대시보드가 달라 납기 문제가 늦게 드러남. 신용한도 초과로 보류된 주문은 평균 22일 지연 |
| 한 일 | 데이터 레이크·레이크하우스·ERP·CRM 위에 시맨틱 레이어를 쌓고 주문별 정시 도착을 예측하고 지연 지점을 찾는 에이전트 운영 |
| 결과 | 보류 주문 지연 최대 1일. 해당 업무를 하던 재무 인력은 고객 응대 업무로 이동. 첫해 최대 1,000만 달러 절감, 연말까지 1억 달러 절감 예상 |
| 연결 | Semantic Layer, Order-level Agent |
Cosentino 영업 행정: 같은 층을 다음 업무로 넓힌다
| 구분 | 내용 |
|---|---|
| 상황 | 영업 직원이 일하는 시간의 3분의 1 이상을 행정 업무에 씀 |
| 한 일 | 작년에 행정 보조 에이전트를 만들고 올해 시험 |
| 결과 | 곧 전면 가동 예정. 효과 수치는 원문에서 밝히지 않음 |
| 연결 | Expert-led Build, Order-level Agent |
New York Life 단체보험 부문: 그래프와 벡터 DB를 나눠 쓴다
| 구분 | 내용 |
|---|---|
| 상황 | 여러 AI 에이전트를 조율하고 인사이트와 추천을 만들어야 함 |
| 한 일 | LangGraph 기반 지식 그래프에 사업 기본 정보, 데이터, 신호, 브로커 커뮤니티 같은 외부 정보를 넣음. 시맨틱 레이어에는 업무 이해, 데이터 관계, 상품·플랜 공통 정의, 현재 상황과 이력·업무 흐름·우선순위를 담음. RAG는 벡터 DB로 |
| 결과 | 인사이트·예측·추천을 만들고 에이전트를 조율. 정량 효과는 원문에서 밝히지 않음 |
| 연결 | Knowledge Graph와 Vector DB |
기술 디테일: 시맨틱 레이어 위에 주문 에이전트를 올린다면
아래 필드명, 설정값, 기준은 실제로 돌릴 때 필요한 것을 새로 쓴 가상 예시입니다. 원문에서 온 내용은 그렇다고 밝혔습니다.
Semantic Layer를 지으려면 용어 하나를 노드 하나로 정의합니다. 노드마다 업무상 정의, 원천 시스템의 코드, 책임 부서, 정의를 확인한 날짜를 함께 둡니다. 에이전트는 이 정의를 읽고 판단하므로 정의 문장은 사람이 승인한 것만 넣습니다. 관계도 허용 목록을 정해 둡니다(예: blocks, released_by, next_stage, owned_by, measured_by).
{
"node_id": "hold.credit_limit",
"type": "OrderHold",
"label": "신용한도 보류",
"definition": "고객 미수금이 승인 한도를 넘어 출고 전 단계에서 멈춘 주문",
"source_codes": [{"system": "ERP", "field": "hold_reason", "value": "가상 코드 C1"}],
"released_by": "dept.credit_control",
"next_stage": "stage.picking",
"owner": "재무 여신 담당",
"verified_at": "2026-11-01"
}
Expert-led Build에서 AI를 거들게 하려면 제안과 승인을 나눕니다. LLM에는 업무 매뉴얼이나 ERP 설정 문서를 주고 허용된 관계만 JSON으로 제안하게 합니다. temperature는 0, 같은 입력을 3번 돌려 3번 모두 나온 관계만 승인 대기열에 올립니다. 출력 필드는 subject, predicate, object, evidence(문서와 문단 위치), confidence입니다. 근거가 없거나 허용 목록 밖의 관계는 버립니다. 그래프에 들어가는 것은 프로세스 오너가 승인한 것뿐입니다. Hoelzer가 경고한 엉뚱한 관계는 대부분 이 승인 단계에서 걸러집니다.
Order-level Agent는 도구 세 개로 시작합니다. get_order_trace(order_id)는 프로세스 마이닝의 event log(주문이 단계를 지날 때마다 남는 기록)로 단계와 소요 시간을 돌려줍니다. predict_on_time(order_id)는 과거 주문 기록으로 학습한 분류 모델이 정시 도착 확률과 지연 단계를 냅니다. 이때 LLM은 숫자를 만들지 않고 결과를 설명만 합니다. 예측 모델의 입력은 단계별 체류 시간, 보류 사유, 고객의 신용 상태, 출고 공장처럼 event log와 시맨틱 레이어에서 바로 뽑히는 값으로 두고 매주 새 주문으로 다시 학습합니다. get_definition(node_id)는 시맨틱 레이어에서 용어 정의와 담당 부서를 가져옵니다. 에이전트 답은 아래 형식으로 고정합니다.
{"order_id": "가상-SO-58211", "on_time_prob": 0.41, "delay_stage": "hold.credit_limit", "owner": "재무 여신 담당", "evidence": ["event:hold_set", "def:hold.credit_limit"], "suggested_action": "영업 담당이 고객에게 결제 일정 확인"}
Knowledge Graph와 Vector DB는 질문 유형으로 나눕니다. 정확한 사실(주문 상태, 정의, 담당)은 그래프에서, 정책과 계약서 설명은 벡터 검색에서 가져옵니다. 벡터 검색은 상위 3~5개 문단만 붙이고 문단마다 문서 개정일을 함께 넘겨 낡은 내용을 걸러 냅니다. 원문이 짚은 토큰 비용은 질문 유형별 평균 입력 토큰으로 매주 잽니다.
| 막히는 경우 | 증상 | 대응 |
|---|---|---|
| 부서마다 같은 말을 다르게 씀 | “출고”의 기준 시점이 부서별로 다름 | 용어 노드 하나에 부서별 별칭을 달고 정의는 하나로 승인 |
| 정의가 낡음 | 업무가 바뀌었는데 그래프는 그대로 | verified_at이 90일 넘은 노드를 매주 목록으로 뽑아 담당에게 확인 요청 |
| AI가 만든 관계가 틀림 | 존재하지 않는 승인 경로가 생김 | 허용 관계 목록, 3회 일치, 사람 승인 세 단계를 모두 통과한 것만 반영 |
| 예측이 맞지 않음 | 정시 도착 확률이 실제와 어긋남 | 주간으로 예측과 실제 도착을 비교하고 단계별로 오차를 나눠 봄 |
| 근거 없는 답 | 에이전트가 정의를 지어냄 | evidence가 비면 답을 내지 않고 담당 부서를 안내 |
현업 실행 디테일: 누가, 언제, 무엇을
아래 역할, 일정, 기준은 원문 사례를 참고해 새로 짠 가상 예시입니다.
| 역할 | 맡는 일 |
|---|---|
| CIO(스폰서) | 첫 업무 흐름 선정 승인, 프로세스 마이닝 파트너 선정, 절감 효과 보고 |
| 프로세스 오너(주문~수금) | 용어와 관계 정의 승인, 지연 판정 기준 확정 |
| 재무 여신 담당 | 보류 사유와 해제 조건 정의, 에이전트 판단 검토 |
| 영업 운영 리더 | 영업이 묻는 질문 수집, 고객 선제 연락 규칙 결정 |
| 데이터 엔지니어 | event log 추출, 그래프 적재, 에이전트 도구 API |
| AI 엔지니어 | 관계 추출 파이프라인, 예측 모델 연결, 답 형식 검증 |
준비물. 대상 주문 흐름의 ERP 단계 목록과 상태 코드, 최근 6개월치 주문 event log, 부서별 KPI 정의서, 영업과 재무가 실제로 묻는 질문 30개, 지연 주문 사례 20건, 그리고 지금 보류 해제까지 걸리는 평균 일수 기준선이 필요합니다. 기준선이 없으면 나중에 효과를 말할 수 없습니다.
| 기간 | 할 일 | 산출물 |
|---|---|---|
| 1주 | 부서가 가장 많이 얽힌 주문 흐름 하나 선정, 질문 30개 수집, event log 추출 | 대상 흐름 정의서, 질문 목록 |
| 2주 | 용어 30~50개 정의와 승인, 관계 추출 파이프라인 시험, 그래프 적재 | 승인된 용어·관계 목록 |
| 3주 | 도구 3개 연결, 에이전트 시제품, 지연 주문 20건으로 재현 시험 | 시제품, 사례별 정답 대조표 |
| 4주 | 영업·재무 담당 5명이 실제 주문으로 2주간 쓰기 시작, 주간 검토 | 사용 기록, 예측 대 실제 비교 |
현업에 물을 것.
- 주문이 “늦었다”고 판단하는 기준 시점은 부서마다 같나요?
- 신용한도 같은 보류는 누가, 어떤 조건에서 풉니까?
- KPI가 나빠지면 지금은 누가 몇 시간 들여 원인을 찾나요?
- 지연을 미리 알면 영업은 고객에게 무엇을 제안할 수 있나요?
- 업무가 바뀌면 정의를 고칠 책임은 누구에게 있나요?
진행 판정 기준(예시). 지연 주문 20건 중 16건 이상에서 에이전트가 지연 단계를 사람과 같게 짚고 모든 답에 근거 ID가 붙으면 현장 시험으로 넘깁니다. 현장 시험에서 보류 해제까지 걸린 일수가 기준선보다 줄고 영업이 선제 연락한 건수가 늘면 다음 흐름으로 넓힙니다. 넓힐지는 프로세스 오너와 CIO가 4주차 검토에서 함께 정합니다. 승인 안 된 관계가 그래프에 한 건이라도 들어가면 넓히기를 멈추고 승인 절차부터 고칩니다.
AX 적용 제언. 제조와 유통 고객사라면 에이전트를 먼저 고르기보다 부서가 가장 많이 얽힌 업무 흐름 하나를 골라 그 흐름의 용어와 관계부터 정의하는 편이 낫습니다. 프로세스 마이닝을 이미 쓰는 회사는 event log가 있어 출발이 빠릅니다. Cosentino처럼 SAP 같은 ERP의 정해진 흐름이 있으면 뼈대를 거기서 가져올 수 있습니다. 경영진에게는 모델 정확도 대신 “보류 주문 해제까지 걸린 일수”와 “이동한 인력”처럼 업무 숫자로 보고하면 투자 판단이 쉬워집니다. 한 흐름에서 만든 시맨틱 레이어는 재무, 구매, HR로 넓힐 때 그대로 다시 씁니다. 처음부터 정의를 고칠 책임자를 정해 두면 3년짜리 일이 흐지부지되지 않습니다.
원문 사례
| 항목 | 내용 |
|---|---|
| 기사 | 「What is a semantic knowledge graph, and does your AI need one?」, CIO.com, Maria Korolov, 2026.11.18 |
| Cosentino | 글로벌 CIO Rafael Domene. 시맨틱 레이어 3년 전 착수, 연말 완료 목표. Celonis 엔지니어와 수작업으로 시작, 이후 AI 보조. 주문 1건에 15개 부서 관여 |
| Cosentino 결과 | 신용한도 보류 주문 지연 평균 22일에서 최대 1일로. 첫해 최대 1,000만 달러 절감, 연말까지 1억 달러 절감 예상 |
| Cosentino 발언 | “Agentic AI is AI that can do things, not just tell you things.” |
| Cosentino 다음 단계 | 영업 직원 시간의 3분의 1 이상이 행정. 보조 에이전트 작년 구축, 올해 시험, 곧 가동 |
| New York Life | Group Benefits Solutions CIO Matt Marze. LangGraph 기반 지식 그래프는 멀티 에이전트 조율, 벡터 DB는 RAG |
| 전문가 의견 | David Hoelzer(SANS Institute): AI 단독 구축 시 엉뚱한 관계. James Kaplan(McKinsey): 지난 1년 관심 증가. Zakir Hussain(EY): 회사 맥락을 명시해야 함 |
| 인용 연구 | UC Santa Barbara·JP Morgan AI Research 논문(2025년 말): 지식 그래프가 chain-of-thought 대비 정확도 26% 이상 향상 |
핵심 개념
- Graph database
- 정보를 표 대신 노드와 엣지로 저장해 연결을 따라가며 찾는 데이터베이스입니다.
- Knowledge graph
- 그래프 데이터베이스 위에서 데이터가 무엇이고 서로 어떻게 이어지는지를 보여 주는 관계 지도입니다.
- RAG
- 질문과 관련된 문서를 찾아 프롬프트에 붙인 뒤 LLM이 답하게 하는 방식입니다.
- Process mining
- ERP 같은 시스템에 남은 단계별 기록으로 실제 업무 흐름과 병목을 찾아내는 기법입니다. Celonis가 대표 업체입니다.
- LangGraph
- LangChain이 만든 에이전트 프레임워크로, 여러 단계와 에이전트를 그래프 구조로 엮어 실행합니다.
- Multi-agent orchestration
- 여러 에이전트에 일을 나눠 주고 순서와 결과를 맞추는 조율 작업입니다.
내 메모
TODO: 내 생각 추가
원문은 CIO.com에 실린 Maria Korolov의 기사 「What is a semantic knowledge graph, and does your AI need one?」(2026.11.18)입니다. 요약, 핵심 메커니즘, 통념과 다른 주장, 사례는 기사에 나온 내용을 AX Partners가 다시 정리했습니다. 기술·현업 디테일의 필드명, JSON 예시, 도구 이름, 일정, 질문, 판정 기준, 인포그래픽과 표는 실제로 돌릴 때 필요한 것을 새로 작성한 가상 예시입니다. 인용된 논문(UC Santa Barbara·JP Morgan AI Research)은 기사에 소개된 내용만 옮겼고 원 논문은 따로 읽지 않았습니다. 전체 내용은 CIO.com 원문에서 확인할 수 있습니다.