AI Orphans: 주인 없는 에이전트를 찾아 책임자·권한·폐기 규칙으로 정리하는 5단계
직원이 떠나거나 갈아타면서 남은 '주인 없는 에이전트'를 다섯 단계로 정리합니다. 목록화, 가치에 묶은 lifecycle, 이름 있는 책임자, API·MCP 계층 통제, 상시 감사입니다. 한 고객은 AI 예산 약 19%를 일정 자동화에 쓰고도 전체 가치를 내지 못했습니다.
Agents Shouldn't Grade Their Own Work: 실행·검증·완료 판정을 나눠 에이전트 결과를 믿는 법
에이전트가 자기 작업을 '완료'라고 선언하게 두지 말자는 제안입니다. 실행은 자격증명을 쥔 게이트웨이가, 확인은 별도 읽기 권한의 검증자가, 완료 판정은 제3의 주체가 맡고, 기한까지 확인되지 않으면 미완료로 닫습니다.
국내 기업 AX 소식: 현장 전문가의 판단은 AI가 매일 돌리고, 마지막 결정은 사람이 쥔다 (11월 14일 묶음)
11월 14일 묶음은 KT와 GS칼텍스 2건입니다. KT는 베테랑 망 전문가(Meister)의 운영 절차로 학습시킨 에이전트 플랫폼 AIO-Net으로 장애 감지를 10분 이상에서 2~3분으로 줄였고, GS칼텍스는 공정 엔지니어가 노코드로 만든 모델을 SageMaker 파이프라인에 올려 배포 기간을 약 1주에서 몇 시간으로 줄였습니다.
Agentic AI Investigator: Starling Bank의 17초 자금세탁 경보 조사 에이전트, 무엇으로 믿을 수 있나
영국 Starling Bank는 거래 모니터링 경보 1건을 조사하고 기록을 남겨 결정까지 내리는 에이전트를 코어뱅킹 안에 넣어 17초에 처리한다고 밝혔습니다. QA Financial은 속도와 별개로 놓친 증거, 상향 보고 시점, 기록의 충실도, 장애 때의 행동을 시험해야 신뢰할 수 있다고 봅니다.
Custom Guardrails: Orange가 요금·계정 상담 AI 에이전트마다 대화 범위와 비용 상한을 따로 거는 방식
Orange는 26개 넘는 나라의 B2B·B2C 요금·계정 상담에 Algolia Agent Studio 에이전트를 넣기 시작했습니다. 에이전트마다 다룰 주제와 실행 비용 상한을 따로 정하고, 답은 청구 기록·요금제·정책으로 거슬러 확인되게 묶었습니다.
AI Agent Autonomy: 행동마다 자율의 선을 긋고 되돌릴 수 없는 일은 사람이 승인
KPMG 조사에서 에이전트를 만드는 IT 리더는 62%로 늘었지만 완전 자율을 맡기는 곳은 드뭅니다. 기사에 나온 CIO·CTO들은 자율의 선을 행동마다 긋습니다. 되돌릴 수 없는 일은 사람이 승인하고 에이전트 권한은 위임한 사람 이하로 묶으라고 말합니다. 행동 레지스트리와 4주 시범 계획을 붙였습니다.
ASUG Tech Connect: Agilent 관세 에이전트와 SAP 고객의 에이전트 운영 규칙
SAP 사용자 단체 ASUG 행사에서 Agilent는 외부 관세 데이터를 사내 제품 카탈로그와 실시간으로 대조하는 에이전트를 소개했고 현업은 이 도구 없이 일하기 어렵다고 했습니다. 거버넌스 세션은 LeanIX 에이전트 등록부, 범위가 바뀌면 재승인하는 배포 명세서, 시스템 카드, 저위험 작업에만 둔 완전 자율과 감사 로그를 운영 규칙으로 제시했습니다.
Data Quality Agent: Indegene이 품질 규칙을 AI 제안·전문가 승인으로 바꿔 데이터셋당 30시간을 4시간으로
생명과학 업무 대행사 Indegene은 통합 데이터 플랫폼에 Data Quality Agent를 넣어 메타데이터·프로파일·용어집·SOP를 읽고 품질 규칙과 SQL을 제안하게 했습니다. 핵심·업무 규칙은 반드시 현업 전문가가 승인합니다. 회사 추정으로 데이터셋당 규칙 정의 공수가 약 30시간에서 4시간으로, 신규 테이블 등록이 2~5영업일에서 2~4시간으로 줄었습니다.
AI Value Leaders: 제약사 AI 성과는 임상보다 공장에서, 전사 거버넌스 완비는 17%
ZS가 미국·유럽 제약·바이오 기술 임원 223명을 조사했더니 측정 가능한 AI 성과 응답이 공급망·제조에서 29%에서 53%로 가장 크게 늘었고 임상·의료는 제자리였습니다. 성과를 넓게 낸 38%는 데이터를 핵심 과제로 보고 데이터 엔지니어링을 안에 둡니다. 전사 거버넌스가 완전히 가동 중인 곳은 17%입니다. 한도 안 자율 실행과 추적 로그를 붙였습니다.
Proof of Value: Teva가 공장 30곳에 넣을 AI를 다섯 질문으로 고르는 법
Teva는 공장 30곳에 넣을 AI를 고르려고 오픈 이노베이션 프로그램 Teva Rise를 만들어 1년간 기술 약 300개를 평가했습니다. PoC 대신 다섯 질문짜리 Proof of Value로 거르고 데이터가 준비되지 않은 사이트는 좋은 벤더라도 미룹니다. 0·3·5점 채점표와 20주 일정안을 붙였습니다.
Decision Ready: 공장 AI가 운영자를 움직이려면 먼저 증명할 조건과 신뢰 지표
Industrial AI Summit 2026 패널(Arch Systems, Velotic, LG CNS, AOI)은 공장 AI가 답을 내는 것과 운영자가 그 답으로 움직이는 것을 나눠 봅니다. 다섯 조건, 설명까지 걸리는 시간·오판 위험 금액·추천 채택률이라는 세 지표, 관찰에서 자가 복구까지 자율 4단계를 정리하고 추천 로그 구조와 8주 판정 계획을 붙였습니다.
Small Agent Team: DHL 재무가 에이전트 개발을 2~3명에 묶고 전건 사람 확인을 두는 이유
송장을 연 약 170만 건 처리하는 DHL Supply Chain 재무 조직은 Oracle AI Agent Studio로 에이전트 3~4개를 만들면서 개발 인원을 2~3명으로 묶었습니다. 인식 엔진 교체로 송장 인식률은 약 60%에서 95~96%로 올랐지만 거래 데이터를 바꾸는 처리는 모두 사람 확인을 거칩니다. 검증 흐름, 독립 채점 구조, 8주 시범안을 붙였습니다.
Rogue AI Agents: Apple 10-K가 사업 위험으로 적은 에이전트의 권한 초과·은폐·조작
Apple이 11월 3일 제출한 10-K 위험 요인에 AI 에이전트가 허가 없는 시스템에 접근하고, 권한을 넘고, 행동을 숨기거나 정보를 조작할 수 있다고 적었습니다. 같은 보고서에서 연구개발비는 전년보다 32% 늘었습니다. 일곱 가지 행동을 세 묶음으로 나누고, 모델 밖에 두는 통제와 6주 점검 계획을 붙였습니다.
Finding Isn't Understanding: 데이터 인프라에 돈을 써도 AI가 데이터를 못 믿는 이유
CDO의 81%가 AI 투자를 앞세우지만 데이터가 AI 수익을 받쳐 준다고 확신하는 비율은 26%입니다. 데이터를 찾는 것과 이해하는 것은 다르다는 진단과 함께, 과제별 맥락 카드와 4주 진단안을 붙였습니다.
Liability Shift: AI 쇼핑 에이전트가 잘못 산 결제를 누가 떠안을지 갈리는 카드사·은행
AI 쇼핑 에이전트 결제는 빠르게 늘고 있지만 에이전트가 잘못 샀을 때 누가 책임지는지 정한 업계 공통 규칙은 아직 없습니다. 기사에 나온 소비자 보호 정책은 Amex의 등록 에이전트·purchase intent 문서와 Stripe Link 구매 보호 두 가지이고, 은행들은 업계 공통 규칙과 기술 기업의 책임 분담을 요구합니다.
Agent Pay·Verifiable Intent: Mastercard가 AI 에이전트 결제에 내건 신뢰 조건 네 가지
Mastercard CEO는 3분기 콜에서 에이전트 커머스가 커지려면 결제, 에이전트, 생태계에 대한 신뢰와 보편적 도달이 필요하다고 했습니다. Agent Pay는 구매자가 승인한 검증된 에이전트만 결제하게 하고 가맹점과 발급사가 이를 알게 합니다. Verifiable Intent는 구매 의도를 기록합니다. 일회용 가상카드 번호는 임시 다리로만 보고 해법으로 지원하지 않는다고 밝혔습니다.
Agent Platform Audit Logging: 에이전트·모델 호출을 누가 언제 했는지 남기는 감사 로그 설정
Gemini Enterprise Agent Platform(구 Vertex AI)의 Cloud Audit Logs 문서 정리. 구성 변경 로그는 항상 남지만 모델 예측, 세션·메모리 조회, 샌드박스 실행이 담기는 Data Access 로그는 기본으로 꺼져 있습니다. 켜는 법, 에이전트 신원 분리, BigQuery 보관, 2주 점검 계획을 붙였습니다.
Industrial AI autonomy: 공장이 AI에 맡길 결정과 운전원이 쥘 결정을 나누는 법
AVEVA가 후원한 MIT Technology Review Insights 글입니다. Aramco 정유소 두 곳은 같은 회사인데도 한 곳은 AI가 직접 조정하고 다른 곳은 추천만 합니다. Nestlé는 건조기 튜닝으로 에너지를 약 16% 줄였고 SCG Chemicals는 설비 신뢰도 99%를 보고했습니다. 결정별 자율 수준표와 12주 시범안을 붙였습니다.
Agent Governance: L'Oréal이 사내 에이전트마다 접근 범위를 신원·정책·관측으로 묶어 통제하는 구조
Google Cloud가 에이전트마다 신원을 주고 승인 목록에 올린 뒤 모든 호출을 Agent Gateway로 지나가게 하는 거버넌스를 넓혔습니다. 여기에 에이전트·모델별 토큰 지출 귀속과 예산 가드레일을 더했습니다. L'Oréal은 이 구조로 Beauty Tech Agentic Platform의 에이전트별 접근을 통제한다고 밝혔습니다. 벤더 발표 글이며, 에이전트 대장 필드와 6주 도입 일정을 붙였습니다.
JD.com AI-Powered Carbon Value Exchange: 배송 탄소 감축량을 SKU별로 계산해 소비자 보상으로 바꾼 사례
JD.com은 배송마다 실제 차량과 전력을 배출원에 짝지어 SKU별 탄소 감축량을 AI로 계산하고 블록체인으로 인증해 구매에 쓰는 green voucher로 돌려줬습니다. 사례집 보고로는 6,500만 명 넘게 참여했고 산정 오차가 38%에서 5%로 줄었습니다. 국내 제조사가 배송 탄소 산정부터 옮기는 데이터 모델과 8주 파일럿을 붙였습니다.
Compal Electronics의 Compal-MVP: 에이전트 4개가 노트북 R&D 시험을 나눠 맡아 검증 주기 47% 단축
대만 Compal Electronics가 R&D 검증을 계획·실행·원인 추정·준수 확인의 에이전트 4개(Compal-MVP)로 나눠 검증 주기를 47% 줄였다고 보고한 사례입니다. 화면과 로그를 함께 읽는 실행 방식, 확정된 실패만 쌓는 지식베이스, 12주 파일럿과 판정 기준을 정리했습니다.
China Construction Bank AskAudit: 온톨로지 감사 에이전트로 여신 감사 보고서를 며칠에서 10분 안으로
중국건설은행(CCB) 내부감사팀이 LLM·RAG·온톨로지·에이전트를 4계층으로 묶은 AskAudit으로 여신 감사 보고서 초안을 3~5일에서 5~10분으로 줄이고 종단간 정확도를 86.73%에서 93.88%로 올렸다고 보고한 사례입니다. 제조 대기업 감사실이 구매 감사에 옮기는 스키마, 근거 검사, 8주 파일럿을 붙였습니다.
Can It Say Why: 이유를 대지 못하는 공급망 AI 점수로는 누구도 결정하지 못한다
공급망 위험 AI가 협력사를 '치명적'이라고 표시해도 이유를 대지 못하면 조달 담당은 믿고 움직이거나 미룰 수밖에 없다는 글. 벤더에게 '점수가 틀렸다면 어떻게 알 수 있나'를 묻는 평가법과 3주 시험 계획을 붙였습니다.
Neurosymbolic Architecture: 공급망 위험은 그래프 계산이 정하고 LLM은 그 안에서만 말하게 한 이유
공급망 위험을 분류가 아니라 그래프 추론과 물리적 제약의 문제로 보고 지식 그래프와 결정론 엔진이 정답을 정하면 LLM·에이전트·GNN은 그 경계 안에서만 말하게 한 설계의 이유. 판단마다 계층을 나누는 6주 도입안을 붙였습니다.
More AI Power, More Explainability: 모델이 강해질수록 설명도 두꺼워지게 만드는 설계 원칙
성능이 좋은 공급망 AI일수록 이유를 대기 어렵다는 통념을 SHAP·LIME의 실패 모드와 최근 연구로 반박하고, 모든 엔진이 계산하는 순간 같은 근거 스키마에 쓰게 하라는 원칙을 제시한 글. 플랫폼을 고를 때 돌릴 재현성·섭동 테스트와 2주 평가 일정을 붙였습니다.
Agentic AI for Fab Utilities: 인텔이 팹 설비 이상을 에이전트로 진단해 작업지시 초안까지 쓰는 방식
Intel이 초순수·칠러 같은 팹 유틸리티에 Seeq 기반 멀티 에이전트를 붙여, 이상 신호부터 원인 분석과 작업지시 초안까지 자동으로 잇고 엔지니어가 승인하게 했습니다. 이상 감지는 30% 빨라졌고 Intel은 연 12만 시간 이상의 노동시간 절감을 밝혔습니다. 이벤트·초안 필드, 임계값, 8주 파일럿을 붙였습니다.
Context Layer: 에이전트의 쓰기를 실행 직전 잠금·한도·승인으로 거르는 계층
승인까지 받은 에이전트의 청구 수정이 ERP 이전 작업과 부딪혀 엔지니어 약 200명이 4시간 잠긴 사례에서 출발해, 모델과 기업 시스템 사이에서 모든 쓰기를 가로채 검사하는 Context Layer를 제안한 글입니다. 의도별 MCP 도구, 실행 전 3검사, 만료되는 승인 상태를 ERP·청구·구매에 옮기는 점검 목록과 4주 파일럿을 붙였습니다.
The Architecture Your Auditors Will Ask About: 공급망 AI 구매 평가의 통과 조건이 된 감사 추적 설계
공급망 AI 구매 평가에서 설명 가능성이 기술 평가 전의 통과 조건이 됐다는 글. ISO 42001·CSRD·EUDR·CSDDD가 공통으로 묻는 것과 벤더를 가르는 다섯 가지 설계 시험, 3주 평가 절차를 정리했습니다.
Trust Layer: 보험사가 AI에 일을 맡기기 전에 데이터 출처·검증·설명부터 갖추는 법
보험 데이터 표준 기구 ACORD 계열 ACORD Solutions Group의 CEO Chris Newman은 에이전트형 AI의 다음 시험대가 모델이 아니라 데이터 신뢰라고 봅니다. 레거시를 갈아엎지 않고 표준으로 잇는 Trust Layer 설계와 8주 파일럿을 붙였습니다.
Cross-Cutting Context Objects: 여러 엔진을 거친 AI 점수의 이유를 한곳에 기록하는 설계
여러 엔진이 이어 붙은 공급망 위험 점수를, 계산하는 순간 하나의 공유 객체에 근거를 적어 UI·LLM·감사 문서가 같은 근거를 쓰게 만든 설계. 설명 스키마부터 정하는 4주 도입안을 붙였습니다.