AX Enablement

Neurosymbolic Architecture: 공급망 위험은 그래프 계산이 정하고 LLM은 그 안에서만 말하게 한 이유

공급망 위험을 분류가 아니라 그래프 추론과 물리적 제약의 문제로 보고 지식 그래프와 결정론 엔진이 정답을 정하면 LLM·에이전트·GNN은 그 경계 안에서만 말하게 한 설계의 이유. 판단마다 계층을 나누는 6주 도입안을 붙였습니다.

출처
EcoComityChain.AI 엔지니어링 블로그
원문 제목
Why We Built It This Way: The Neurosymbolic Case for Supply Chain Intelligence
유형
아티클
읽은 날
2026.10.27
원문 발행
2026.06.01

공급망 위험은 협력사마다 등급을 붙이는 분류 문제가 아닙니다. 다단계 의존 그래프를 따라가며 회복 시간 같은 물리적 제약을 지켜야 하는 계산 문제입니다. 그래서 그래프 계산과 제약은 기호 AI가 맡아 정답으로 삼고 LLM과 에이전트는 그 정답이 허락한 범위 안에서만 서술하고 판단하게 해야 합니다. 이렇게 쓰려면 먼저 시스템의 판단 하나하나를 어느 계층이 맡을지 정해야 합니다.

요약

EcoComityChain.AI는 공급망 위험 분석 플랫폼을 만드는 회사입니다. 2026년 6월 엔지니어링 블로그 연재 「신호와 증거(The Signal and the Proof)」를 마무리하는 다섯 번째 글에서, 플랫폼을 왜 neurosymbolic(신경망 AI와 기호 AI를 결합한) 구조로 만들었는지 설명합니다. 출발점은 문제를 어떻게 정의하느냐입니다. 저자는 공급망 위험을 협력사의 재무 비율을 보고 위험 라벨을 붙이는 분류 문제로 보지 않습니다. 8단계 깊이의 소재 의존 그래프에서 구조적 단일 실패점이 어디인지, 노드마다 회복에 걸리는 물리적 시간이 얼마인지, 6차 협력사에서 생긴 교란이 1차 완성차 생산까지 어떻게 번지는지를 묻는 그래프 추론 문제로 봅니다. 이런 질문의 답은 노드 하나의 속성이 아니라 노드 사이의 연결 구조에서 나옵니다.

분류 문제로 볼 때그래프 추론 문제로 볼 때· 입력: 협력사 한 곳의 재무 비율· 출력: 위험 등급 라벨· 노드 하나의 속성만 봄· 입력: 8단계 소재 의존 그래프· 출력: 단일 실패점, 회복 시간, 전파 경로· 노드 사이의 관계(topology)를 봄
저자가 다시 정의한 문제. 답이 노드 속성이 아니라 그래프 구조에서 나옵니다.

이 정의에서 설계가 따라 나옵니다. 그래프 순회, 의존 패턴 탐지, 제약 충족 같은 일은 기호 AI의 본래 영역이고 다시 학습시킬 필요도 근사할 필요도 없이 값을 바로 계산합니다. 반면 통계적 추론은 제약을 지킨다고 보장하지 못합니다. 회복 시간을 지어내거나 대체처가 없는 단일 소싱 노드를 대체 가능하다고 잘못 분류한 모델은 위험 점수가 아니라 법적·운영상 부담을 만든다는 것이 저자의 설명입니다. 그래서 플랫폼의 두 영역 모두 기호 계층을 바닥의 정답으로 두고 그 위에 신경망 계층을 올렸습니다. 운영 중인 Proactive Risk Intelligence(사전 위험 분석)는 결정론 엔진이 점수와 근거를 만들고 LLM이 그 근거를 문장으로 옮깁니다. 개발 중인 Reactive Resilience Intelligence(교란 뒤 대응 분석)는 지식 그래프에서 고른 대응책을 Thinking Agent가 실행할 수 있는지 판단합니다. 저자는 이 구조라면 GNN 같은 모델을 더해도 설명 가능성이 줄지 않고 오히려 커진다고 말합니다. 아래에서는 이 구조의 다섯 가지 작동 원리와 우리 시스템에 옮기는 방법을 정리합니다.

Proactive Risk Intelligence운영 중신경망 계층 · LLM ExplainabilityEngine근거를 감사 추적·Copilot 문장으로기호 계층 · 소재 계보 그래프 · 결정론 점수 엔진ExplanationContext에 근거 누적경계를 정함Reactive Resilience Intelligence개발 중신경망 계층 · Thinking Agent대응책의 실현 가능성 판단기호 계층 · Resilience Intelligence FabricCACM 검색 · 결정론 선택·순위경계를 정함
같은 구조를 두 번 쓴 두 영역. AX Review가 원문 설명을 바탕으로 새로 그린 도식입니다.

핵심 메커니즘

Graph Reasoning Problem: 분류가 아니라 그래프를 따라가는 계산

무엇인가. 공급망 위험의 답이 노드의 속성이 아니라 그래프의 topology(연결 구조)에서 나온다는 문제 정의입니다. 저자는 이 정의를 아키텍처 선택의 출발점으로 삼습니다.

어떻게 작동하나. 입력은 완제품에서 원광까지 8단계로 이어진 소재 의존 그래프입니다. 처리 단계에서는 그래프를 순회해 여러 경로가 한 노드로 모이는 단일 실패점을 찾고 노드별 회복 물리(얼마나 빨리 다시 공급할 수 있나)를 적용하고 하위 차수 교란이 상위 생산으로 번지는 경로를 계산합니다. 출력은 위험 등급 하나가 아니라 “어느 경로로, 얼마나 오래 멈추는가”입니다. 저자는 지식 그래프, 제약 충족, 온톨로지 추론, 그래프 순회 알고리즘이 바로 이런 계산을 위해 만들어진 도구라고 봅니다.

언제 쓰고 언제 안 쓰나. 다단계 BOM(자재명세서)이 있고 위험이 경로를 따라 번지는 제조·조달에 맞습니다. 단골 협력사 수십 곳의 신용 등급만 관리한다면 분류 모델로도 충분할 수 있습니다.

작은 예시 (가상). 배터리 셀 회사의 1차 협력사는 모두 건전하지만 그 아래 6차의 흑연 정제소 한 곳에 세 갈래 조립 경로가 모여 있다면 분류 모델은 1차 협력사만 보고 “안전”이라고 답합니다. 그래프 계산은 정제소가 멈출 때 1차 생산이 언제 서는지를 경로별로 답합니다.

8차원광7차6차교란 발생5차4차3차2차1차완성차 생산전파 경로와 회복 시간은 노드 하나가 아니라 경로 전체에서 계산소재 의존 그래프 8단계 (가상 배치)
저자가 든 질문의 모양. 6차 교란이 어떤 경로로 1차 생산을 멈추게 하는지는 그래프를 따라가야 나옵니다.

Symbolic Layer as Ground Truth: 신경망이 뒤집을 수 없는 바닥

무엇인가. 기호 계층이 플랫폼 전체의 정답 역할을 하고 신경망 계층은 그 정답과 모순되는 말을 할 수 없다는 원칙입니다. 저자는 이를 기호 계층이 신경망의 능력을 제한하는 것이 아니라, 신경망이 “주장해도 되는 범위”를 정하는 것이라고 표현합니다.

어떻게 작동하나. 원문은 두 가지 hard constraint(어떤 경우에도 지켜야 하는 물리적 제약)를 예로 듭니다. 첫째, Time-to-Recover(TTR, 회복 시간)는 물리적 제약이어서 모델의 신뢰구간이 아무리 좁아도 짧아지지 않습니다. 둘째, 자격을 갖춘 5차 대체 공급사가 없는 소재는 학습 데이터가 다르게 보여도 대체 가능으로 바꿔 분류할 수 없습니다. 기호 계층이 이런 사실을 먼저 계산해 두면, 신경망이 무엇을 내놓든 그 사실을 넘는 주장은 채택되지 않습니다.

언제 쓰고 언제 안 쓰나. 틀렸을 때 비용이 큰 판단(생산 중단, 관세, 계약)에 씁니다. 저자는 이 분야에 graph-native topology, 물리적 제약, 고위험 결정에서 환각을 허용하지 않는 조건이 함께 있어서 neurosymbolic 구조는 취향이 아니라 문제에 맞는 선택이라고 정리합니다.

신경망이 말할 수 있는 것기호 계층의 판정Time-to-Recover모델: 신뢰구간상 더 빨리 회복기호 계층: 물리적 회복 시간 유지5차 대체 공급사모델: 학습 데이터상 대체 가능기호 계층: 자격 갖춘 대체처 없음판정 결과신경망 출력은 제안일 뿐제약을 넘는 주장은 채택 안 됨
원문이 든 두 가지 hard constraint(물리적 제약). 모델이 확신해도 제약이 이깁니다.

ExplainabilityEngine: 엔진이 계산한 것만 문장으로 옮기는 LLM

무엇인가. 운영 중인 Proactive 영역의 신경망 구성 요소입니다. 결정론 엔진이 만든 구조화된 근거를 받아 감사 추적 문서와 Copilot(대화형 도우미)이 쓸 맥락으로 바꾸는 LLM입니다.

어떻게 작동하나. 기호 쪽에는 소재 계보 그래프(material genealogy graph), 결정론 점수 엔진, ExplanationContext(근거를 차곡차곡 모으는 공유 기록)가 있습니다. 엔진은 계산하는 순간 근거 기록을 만들고 나중에 재구성하지 않습니다. ExplainabilityEngine은 엔진이 선언한 출력에만 묶여 있어서 엔진이 계산하지 않은 위험 방향을 주장할 수 없습니다. 위험 점수는 신경망 추론이 아니라 결정론 그래프 계산의 결과이고 LLM은 근거를 설명으로 옮길 뿐 근거를 만들지 않습니다. 근거를 모으는 공유 객체(1편에서는 ScoreContext라는 이름으로 소개)의 구조는 연재 1편을 정리한 Cross-Cutting Context Objects 노트에서 다뤘습니다.

언제 쓰고 언제 안 쓰나. 같은 판단을 현업, 경영진, 감사인에게 같은 근거로 설명해야 할 때 맞습니다. 원천 데이터를 LLM에 그대로 넣고 이유를 묻는 방식과는 반대 방향입니다.

결정론 엔진그래프 순회로 점수 계산위험 방향도 엔진이 결정ExplanationContext계산 시점에 근거 기록엔진이 선언한 출력만ExplainabilityEngineLLM이 근거를 문장으로새 방향 주장 금지소비처감사 추적Copilot 맥락
Proactive 영역의 역할 분담. 근거는 엔진이 만들고 LLM은 서술만 합니다.

Thinking Agent와 Resilience Intelligence Fabric: 대응책을 지어내지 않는 에이전트

무엇인가. 개발 중인 Reactive 영역의 구조입니다. 교란이 생긴 뒤 무엇을 할지 고르는 일을, 지식 그래프에 이미 있는 대응책 가운데에서 실행 가능한 것을 판단하는 일로 바꿉니다.

어떻게 작동하나. 기호 쪽에는 세 가지가 있습니다. 연구 논문과 과거 사고 기록으로 만든 지식 그래프인 Resilience Intelligence Fabric, 제약을 고려해 후보를 찾는 CACM 검색 엔진, 정해진 규칙으로 대응책을 고르고 순위를 매기는 결정론 단계입니다. 신경망 쪽의 Thinking Agent는 도메인 추론 기록으로 fine-tuning(추가 학습)된 모델입니다. 이 에이전트는 후보 대응책의 실현 가능성을 검증하고 작업 그래프를 만들고 실행 파라미터를 내놓습니다. 근거는 권위 있는 출처로만 한정하고 새로운 대응책을 지어내지 않습니다. 저자는 에이전트의 추론 단계도 작업 중에 구조화된 근거로 기록되고 기호 제약이 결론의 범위를 정한다고 설명합니다.

언제 쓰고 언제 안 쓰나. 대응책의 종류가 정리돼 있고(대체 소싱, 안전재고 확대, 운송 경로 변경 같은 것) 실행 조건을 따져야 하는 상황에 맞습니다. 원문은 이 영역을 로드맵 단계로 밝히고 있어서 운영 결과나 수치는 아직 없습니다.

Resilience Fabric연구 논문·과거 사고로만든 대응책 지식 그래프CACM 검색제약을 아는 검색으로후보 대응책 추림결정론 선택·순위정해진 규칙으로후보 순서 결정Thinking Agent실현 가능성 검증작업 그래프·파라미터
Reactive 영역(개발 중)의 흐름. 에이전트는 대응책을 지어내지 않고 그래프에 있는 것만 평가합니다.

Explainability by Design: 모델이 늘수록 감사 추적이 두꺼워지는 구조

무엇인가. 설명을 나중에 붙이지 않고 모든 엔진과 모델이 실행되는 순간 근거를 같은 기록에 적게 하는 설계 원칙입니다. 저자는 이 원칙의 근거로 Kosasih, Papadakis, Baryannis, Brintrup(케임브리지, 2024, IJPR)의 리뷰를 듭니다. 이 리뷰는 공급망 AI 대부분이 설명을 거의 제공하지 않아 도입이 늦어진다고 보고 신뢰할 수 있는 AI를 처음부터 넣으라고 권합니다.

어떻게 작동하나. 저자는 ML을 먼저 만들고 사후 설명 도구를 덧대는 방식은 모델이 실제로 계산한 기록이 아니라 “고려했을 법한 것”의 재구성을 내놓는다고 봅니다. 그리고 그 재구성은 모델이 강해질수록 덜 믿을 만해집니다. 반대로 근거를 실행 시점에 받아 두면 모델이 늘어도 문제가 없습니다. 예를 들어 연결 예측, 구조 이상 탐지, TTR 예측을 위해 GNN(그래프 신경망)을 더하면, GNN은 forward pass(한 번의 추론 계산) 중에 나온 attention weights, 추론 시점에 선언한 feature importance, 계산 중에 기록한 graph path influence를 기존 ExplanationContext 스키마에 적습니다. ExplainabilityEngine은 결정론 단계와 GNN 단계를 한 번에 종합합니다.

언제 쓰고 언제 안 쓰나. 앞으로 예측 모델을 계속 더할 계획이 있는 시스템일수록 처음부터 이렇게 잡는 편이 낫습니다. 원문은 GNN 연결을 이미 출시한 기능이 아니라 구조가 허용하는 확장 설계로 소개하고 자세한 방법은 다음 기술 글로 넘깁니다.

결정론 엔진 단계임계값 비교, 가중 합산GNN 단계 (확장 설계)· attention weights· feature importance· graph path influenceExplanationContext같은 스키마에 함께 기록한 번에 종합감사 추적 하나
모델이 늘어도 감사 추적은 하나. GNN 부분은 원문이 밝힌 확장 설계입니다.

통념과 다른 주장

흔히 이렇게 봅니다공급망 위험도 충분히 큰 모델에 협력사 데이터를 넣으면 더 잘 분류하고 예측할 수 있다.

저자는 이렇게 봅니다공급망 위험은 그래프 추론과 물리적 제약의 문제여서, 핵심 계산은 학습하지 않고 바로 계산하는 기호 AI가 맡아야 한다. 신경망은 그 결과를 넘는 주장을 할 수 없다.

근거8단계 의존 그래프에서 6차 교란이 1차 생산으로 번지는 경로, 신뢰구간으로 줄일 수 없는 회복 시간, 대체처 없는 5차 소재처럼 답이 구조와 제약에서 나오는 질문을 예로 듭니다.

흔히 이렇게 봅니다AI가 강해질수록 속은 더 불투명해지므로, 성능과 설명 가능성은 서로 맞바꿔야 한다.

저자는 이렇게 봅니다근거를 실행 시점에 같은 기록에 적게 하면, 모델이 늘수록 감사 추적이 오히려 풍부해진다. 거꾸로 사후 설명은 모델이 강해질수록 믿기 어려워진다.

근거GNN의 attention weights, feature importance, 경로 영향도를 기존 스키마에 적는 확장 설계를 들고 추론 시점 근거로 설명을 제한한 Northeastern 대학 연구가 6개월 물류 데이터에서 방향 일치 99.6%를 보고했다고 인용합니다.

흔한 기대저자의 설계· 더 큰 모델이 위험을 더 잘 분류· 능력이 커지면 설명은 희생· 설명은 사후 도구로 보완· 그래프 계산과 제약이 정답을 정함· 새 모델도 근거를 같은 곳에 적음· 능력과 설명이 함께 늘어남
통념과 저자의 관점 비교.

저자가 든 사례

Proactive Risk Intelligence (운영 중)

상황한 일결과연결
다단계 공급망 위험을 등급 하나로는 설명할 수 없음소재 계보 그래프 위에 결정론 점수 엔진을 두고 계산 시점 근거를 ExplanationContext에 모아 LLM ExplainabilityEngine이 서술위험 점수는 결정론 그래프 계산의 결과이고 LLM은 엔진이 계산하지 않은 위험 방향을 주장할 수 없음. 운영 수치는 이 글에서 밝히지 않음메커니즘 1, 2, 3
상황등급 하나로는 이유 설명 불가한 일그래프 엔진 + 근거 누적 + LLM 서술결과점수마다 엔진이 만든 근거
운영 중인 Proactive 영역.

Reactive Resilience Intelligence (개발 중)

상황한 일결과연결
교란이 생긴 뒤 어떤 대응책을 실행할지 골라야 함논문·과거 사고로 만든 지식 그래프, CACM 검색, 결정론 순위 위에 Thinking Agent를 두어 실현 가능성 판단로드맵 단계. 결과 수치는 원문에서 밝히지 않음메커니즘 4
상황교란 뒤 대응책 선택한 일지식 그래프 후보 + 에이전트 판단결과개발 중, 결과 미공개
개발 중인 Reactive 영역.

Northeastern 대학 연구 (외부 근거)

상황한 일결과연결
사후 설명은 모델이 실제로 계산한 것과 어긋날 수 있음Xue, Wang, Huo(2026년 3월, arXiv)가 Temporal Graph Attention Network에 forward pass 근거로 생성을 제한한 LLM 추론 모듈을 결합실제 물류 데이터 6개월에서 생성 설명과 통계 근거의 방향 일치 99.6%. EcoComityChain.AI 플랫폼이 아닌 별도 프레임워크의 결과메커니즘 5
상황사후 설명은 실제 계산과 어긋날 위험한 일TGAT + 근거 제한 LLM결과방향 일치 99.6%
저자가 인용한 외부 연구(다른 프레임워크).

기술 디테일: 기호 계층과 신경망 계층을 나눠 만들려면

판단마다 담당 계층을 표로 고정합니다 (메커니즘 2). 시스템이 내리는 판단을 하나씩 적고 각 판단에 owner_layer를 붙입니다. 값은 symbolic(계산·제약), neural_narrate(근거 서술), neural_assess(후보 평가), neural_predict(예측) 넷으로 제한합니다. 위험 방향, 단일 실패점 여부, 대체 가능 여부, 회복 시간 하한은 symbolic에 둡니다. 이 표가 이후 모든 검증 규칙의 기준이 됩니다. 아래는 실제로 돌릴 때 쓸 설계 예시입니다(필드 이름도 예시).

{
  "decision_id": "substitutable",
  "owner_layer": "symbolic",
  "inputs": ["qualified_supplier_master", "bom_graph:tier5"],
  "rule": "qualified_alternatives_count >= 1",
  "neural_may": ["narrate"],
  "neural_may_not": ["override", "invent_alternative"],
  "on_conflict": "symbolic_wins_and_log"
}

그래프 계산은 그래프 저장소에서 결정론으로 돌립니다 (메커니즘 1). 소재 의존 관계를 Neo4j 같은 그래프 DB나 NetworkX에 올리고 단일 실패점은 노드로 들어오는 수렴 경로 수와 dominator(모든 경로가 반드시 지나는 노드) 계산으로 찾습니다. 전파는 교란 노드에서 상위 차수로 경로를 따라가며 경로별 회복 시간과 재고 일수를 더해 1차 생산 중단 시점을 구합니다. 같은 입력이면 같은 출력이 나와야 하므로, 실행마다 그래프 스냅샷 ID와 엔진 버전을 근거 기록에 남깁니다.

hard constraint는 신경망 출력 뒤에 코드로 다시 검사합니다 (메커니즘 2). 예측 모델이 회복 시간을 내놓으면 노드별 물리적 하한(예: 대체 설비 인증에 필요한 기간)보다 짧은지 검사하고 짧으면 하한으로 바꾸면서 constraint_override 근거 단계를 하나 적습니다. 대체 가능 여부도 자격 공급사 마스터에서 다시 계산한 값만 씁니다. 제약 위반이 실행당 노드의 1%를 넘으면 모델 재검토 대상으로 올립니다.

LLM은 근거 ID를 인용하게 하고 방향을 대조합니다 (메커니즘 3). ExplainabilityEngine 역할의 LLM에는 원천 데이터가 아니라 근거 기록만 넘기고 출력을 {"claims": [{"text", "step_ids", "direction"}]} 형태의 JSON으로 받습니다. temperature는 0~0.2로 둡니다. 코드로 세 가지를 확인합니다. 인용한 step_id가 실제로 있는가, 주장한 direction이 엔진이 기록한 값과 같은가, 문장 속 숫자가 근거 값과 같은가입니다. 어긋나면 한 번 다시 생성하고 두 번째도 어긋나면 근거 단계를 그대로 나열하는 템플릿 문장을 씁니다. 같은 입력으로 3회 생성해 방향 주장이 한 번이라도 달라지는 노드는 따로 모아 프롬프트를 고칩니다.

LLM 초안주장마다 step_id 인용temperature 0~0.2방향 대조방향 = 엔진 값?learned는 추정 표기?제약 대조숫자 = 근거 값?제약 위반 문장 없음?출력통과: 문장 게시실패 2회: 템플릿 문장
LLM 문장 검증기 설계 예시. 원문에 없는 실행 방법으로 새로 작성했습니다.

에이전트는 후보 목록 밖으로 나가지 못하게 합니다 (메커니즘 4). Thinking Agent 역할의 모델에는 CACM 검색과 결정론 순위를 거친 후보만 candidate_ids로 넘기고 출력은 {"measure_id", "feasible", "blocking_constraints", "task_graph", "parameters", "source_refs"}로 받습니다. measure_id가 후보 목록에 없거나 source_refs가 지식 그래프의 문서·사고 노드를 가리키지 않으면 거절합니다. 지식 그래프의 대응책 노드에는 선행 조건, 필요한 리드타임, 적용했던 과거 사고 ID를 속성으로 둡니다.

학습 모델의 근거는 출처 종류를 표시해 같은 스키마에 넣습니다 (메커니즘 5). 근거 기록에 source_type(deterministic 또는 learned), model_version, confidence 칸을 더합니다. GNN 근거는 상위 k개 attention 간선, feature importance 상위 항목, 영향이 큰 경로를 남깁니다. feature importance는 Integrated Gradients나 SHAP 같은 방법으로 추론 시점에 계산합니다. LLM에는 learned 근거를 “추정”으로 표기하라고 지시하고 검증기가 표기를 확인합니다.

현업 실행 디테일: 누가, 언제, 무엇을

다섯 역할이 필요합니다.

역할누가맡는 일
업무 오너SCM 리스크 팀장판단 목록 확정, 계층 배정 승인, 질문 리허설 판정
조달 카테고리 담당핵심 소재 구매 담당 2~3명대체 공급사 자격 기준, 노드별 회복 시간 가정 제공
그래프·데이터 엔지니어1~2명다단계 BOM 그래프 적재, 결정론 엔진과 근거 기록
ML·LLM 엔지니어1명서술 LLM, 검증기, 에이전트 출력 제한
컴플라이언스감사 대응 담당근거 보관 형식, 감사인이 볼 항목 확정

시작 전에 모을 것. 최소 34차까지 이어진 BOM과 공급사 매핑, 자격을 갖춘 대체 공급사 목록, 핵심 소재별 회복 시간 가정, 지난 23년 교란 사고 목록과 그때 쓴 대응책, 경영진·감사인이 실제로 물었던 “왜 이 공급사가 위험한가” 질문 20건입니다.

1주2주3주4주5주6주판단 목록·계층 배정판단 40개hard constraint 목록제약 표 v1그래프 엔진·근거 기록엔진 2개테스트LLM 서술·검증기검증기 v1질문 리허설·판정판정
6주 일정 예시(가상). 1주차에 판단마다 어느 계층이 맡을지부터 정합니다.
기간할 일산출물
1주시스템이 내리는 판단을 모두 적고 계층 배정판단·계층 표 (예: 40개 판단)
2주카테고리 담당과 hard constraint 확정제약 표 v1, 위반 시 처리 규칙
3~4주판단 비중이 큰 그래프 엔진 2개를 결정론으로 구현, 근거 기록엔진 2개, 제약 테스트
5주서술 LLM과 검증기 연결검증기 v1, 템플릿 대체 문장
6주질문 20건 리허설, 진행 판정판정 보고

확인할 질문.

  1. 판단 표에서 neural_*로 배정한 항목 가운데, 틀렸을 때 생산 중단이나 관세 문제로 이어지는 것이 있나? 있다면 symbolic으로 옮길 수 있나?
  2. 카테고리 담당이 말한 회복 시간과 대체 가능 여부가 제약 표에 그대로 들어갔나? 근거 문서가 있나?
  3. 질문 20건 각각에 그래프 계산 근거만으로 답할 수 있나? 못 하는 질문은 어떤 데이터가 없어서인가?
  4. LLM 설명이 엔진 방향과 어긋난 사례가 리허설에서 몇 건 나왔나?

진행 판정 기준 (예시). 질문 20건 중 18건 이상을 근거만으로 답하고 리허설에서 LLM의 방향 불일치가 0건이며 제약 위반을 검증기가 모두 잡아내면 나머지 엔진과 대응책 영역으로 넓힙니다.

AX 프로젝트에 쓸 때. 자동차·배터리·전자처럼 다단계 소재 의존이 깊은 제조사가 “공급망 리스크 챗봇”을 LLM 하나로 시작하려 한다면, 순서를 바꾸는 편이 안전합니다. 판단을 계산·제약·서술·제안으로 나누는 반나절 워크숍에서 시작하고 계산과 제약을 그래프와 규칙으로 먼저 고정한 뒤 LLM을 서술 역할로 붙입니다. 교란 대응 에이전트는 과거 사고와 대응책을 지식 그래프로 정리한 다음 단계로 둡니다. 이렇게 하면 나중에 예측 모델을 더해도 감사 대응 방식을 다시 만들 필요가 없습니다.

원문 사례

항목내용
글Why We Built It This Way (EcoComityChain.AI 블로그, 2026년 6월), 연재 「The Signal and the Proof」 5편 중 5편, 9분 분량
핵심 주장공급망 위험은 분류가 아니라 물리적 제약이 있는 그래프 추론 문제이므로 neurosymbolic 구조가 맞음
기호 계층지식 그래프, 제약 충족, 온톨로지 추론, 그래프 순회. 정답 역할, 신경망이 뒤집을 수 없음
신경망 계층패턴 인식, 종합, 일반화, 도메인 추론. 기호 계층이 정한 범위 안에서만 주장
hard constraint 예Time-to-Recover는 신뢰구간으로 줄지 않음, 자격 갖춘 5차 대체처가 없으면 대체 불가
Proactive Risk Intelligence운영 중. 소재 계보 그래프, 결정론 점수 엔진, ExplanationContext, LLM ExplainabilityEngine
Reactive Resilience Intelligence개발 중. Resilience Intelligence Fabric, CACM 검색, 결정론 선택·순위, Thinking Agent
확장 설계GNN(연결 예측, 구조 이상 탐지, TTR 예측)의 attention weights, feature importance, graph path influence를 같은 스키마에 기록
인용 연구Kosasih 외(케임브리지, 2024, IJPR), Xue·Wang·Huo(Northeastern, 2026년 3월, 방향 일치 99.6%, 6개월 물류 데이터)
업계 맥락Gartner 2025 AI Hype Cycle에 Neuro-Symbolic AI 등재. 시장 전망 21억 3천만 달러, 연평균 31.4% 성장(원문에 출처 표기 없음)
다음 글GNN·예측 모델로 설명 구조를 넓히는 엔지니어링 글, 2단계 LLM 종합 계층

핵심 개념

neurosymbolic AI
규칙·그래프·논리로 계산하는 기호 AI와, 데이터에서 패턴을 배우는 신경망 AI를 한 시스템에 묶은 구조.
단일 실패점
그 하나가 멈추면 여러 공급 경로가 함께 멈추는 노드.
Time-to-Recover (TTR)
교란된 노드가 다시 공급할 수 있게 되기까지 걸리는 시간. 설비·인증 같은 물리적 조건이 정합니다.
제약 충족
주어진 조건을 모두 만족하는 답만 남기는 계산 방식.
GNN
노드와 간선으로 된 그래프 데이터를 직접 학습하는 신경망. 연결 예측이나 이상 탐지에 씁니다.
post-hoc 설명
모델이 결과를 낸 뒤 별도 도구로 이유를 추정하는 방식. 실제 계산 기록이 아니라 재구성입니다.

내 메모

TODO: 내 생각 추가

원문은 EcoComityChain.AI 블로그의 「Why We Built It This Way: The Neurosymbolic Case for Supply Chain Intelligence」입니다. 요약·메커니즘·사례는 저자가 밝힌 내용을 AX Review가 다시 정리한 것이고 기술·현업 실행 디테일, JSON 설계 예시, 인포그래픽, 표는 새로 작성했습니다. 인용 연구의 세부는 원문에 실린 설명을 따랐습니다. 전체 내용은 원문에서 볼 수 있습니다.

Related

함께 읽으면 좋은 노트

AX Enablement아티클

Cross-Cutting Context Objects: 여러 엔진을 거친 AI 점수의 이유를 한곳에 기록하는 설계

EcoComityChain.AI 엔지니어링 블로그

여러 엔진이 이어 붙은 공급망 위험 점수를, 계산하는 순간 하나의 공유 객체에 근거를 적어 UI·LLM·감사 문서가 같은 근거를 쓰게 만든 설계. 설명 스키마부터 정하는 4주 도입안을 붙였습니다.

CIO·CTO법무현업 리더
#설명 가능성#SCM 2026.10.24 ↗
AX Enablement아티클

More AI Power, More Explainability: 모델이 강해질수록 설명도 두꺼워지게 만드는 설계 원칙

EcoComityChain.AI 엔지니어링 블로그

성능이 좋은 공급망 AI일수록 이유를 대기 어렵다는 통념을 SHAP·LIME의 실패 모드와 최근 연구로 반박하고, 모든 엔진이 계산하는 순간 같은 근거 스키마에 쓰게 하라는 원칙을 제시한 글. 플랫폼을 고를 때 돌릴 재현성·섭동 테스트와 2주 평가 일정을 붙였습니다.

CIO·CTOAX 추진법무
#설명 가능성#감사 추적 2026.10.27 ↗
AX Enablement아티클

The Architecture Your Auditors Will Ask About: 공급망 AI 구매 평가의 통과 조건이 된 감사 추적 설계

EcoComityChain.AI 엔지니어링 블로그

공급망 AI 구매 평가에서 설명 가능성이 기술 평가 전의 통과 조건이 됐다는 글. ISO 42001·CSRD·EUDR·CSDDD가 공통으로 묻는 것과 벤더를 가르는 다섯 가지 설계 시험, 3주 평가 절차를 정리했습니다.

CIO·CTO법무현업 리더
#설명 가능성#감사 추적 2026.10.27 ↗