AX Enablement

Token Budgets and Agent Governance: SAP가 사내 AI 비용과 에이전트 확산을 관리하는 법

SAP 최고AI책임자 Jonathan von Rüden은 사내 AI 비용을 직원별 일일 한도, 부서·국가별 예산, 추가 배정 신청으로 묶고 큰 비용 지렛대로 기본 모델 설정을 꼽았습니다. 에이전트 제작 도구 Joule Studio는 교육을 마친 IT·개발 밖 직원 수천 명에게 먼저 열고 중앙 배포 전에는 노사협의회 승인을 거칩니다.

출처
Computerwoche · Manfred Bremmer
원문 제목
SAP-CAIO: Wir müssen präziser werden, den KI-Einsatz zu steuern
유형
아티클
읽은 날
2026.11.21
원문 발행
2026.11.11

SAP는 사내 AI 비용을 "얼마나 쓰게 둘지"부터 정합니다. 직원별 일일 한도와 부서·국가별 예산을 걸고 기본 모델을 비용과 성능의 균형점에 맞춰 둡니다. 에이전트는 교육을 마친 사람에게만 만들 권한을 주고 승인 단계를 거쳐 퍼뜨립니다. 따라 하려면 사용 사례 분류, 소비 추정 공식, 에이전트 등록부를 도구보다 먼저 준비해야 합니다.

요약

독일 IT 매체 Computerwoche의 Manfred Bremmer 기자가 2026년 11월 11일 실은 인터뷰입니다(CIO.com이 영어로 다시 실었습니다). 상대는 SAP 최고AI책임자(CAIO) Jonathan von Rüden입니다. SAP가 베를린 TechEd에서 ‘Autonomous Enterprise’(SAP 데이터 위에서 AI 에이전트가 스스로 분석하고 질의에 답하는 기업) 구상을 더 풀어 놓은 뒤, 비용과 에이전트를 어떻게 통제하는지 물었습니다. von Rüden은 고객사와 SAP 사내에서 함께 쓰는 방식을 설명합니다. 먼저 사용 사례를 세 범주로 나눕니다. 다음으로 인원, 업무가 돌아가는 횟수, 처리할 문서 수로 소비량을 어림합니다. 그 위에 직원별 일일 한도와 부서·국가별 예산을 겁니다. 에이전트 쪽은 Joule Studio(SAP의 에이전트·workflow 제작 도구) 권한을 IT가 주고 SAP AI Agent Hub에서 검토 상태를 관리하며 중앙 배포 전에 노사협의회 승인을 받습니다.

사용 사례 분류일반 생산성전용 에이전트차별화 과제소비 추정인원·업무 빈도문서량·유사 고객한도·예산직원별 일일 한도부서·국가별 예산에이전트 승인Agent Hub 상태노사협의회 단계
인터뷰 내용을 운영 순서로 다시 묶음

그가 강조한 비용 지렛대는 기본 모델 설정입니다. SAP 사내 데이터를 보면 대부분의 직원이 미리 정해진 모델을 바꾸지 않습니다. 기본값을 비용과 성능이 맞는 모델로 두기만 해도 비용이 크게 줄어듭니다. 에이전트가 무분별하게 늘어나는 일(agent sprawl)은 권한을 단계적으로 여는 방식으로 막습니다. 남은 숙제로는 토큰 소비를 그 소비가 만든 가치와 바로 잇는 일을 들었습니다. CFO는 지출로 무엇을 얻었는지 묻는데, 지금은 따로 분석해야 답할 수 있다고 했습니다. 아래에서는 비용 통제 장치와 에이전트 통제 장치가 각각 어떻게 돌아가는지 풀고 우리 회사가 같은 틀을 세울 때 필요한 기술·현업 디테일을 덧붙입니다.

SAP가 이미 하는 것SAP가 더 가야 한다고 본 것· 직원별 일일 한도· 부서·국가별 예산· Agent Mining·Process Mining· 자동 생성 테스트· 소비와 만든 가치 연결· 예산과 효과의 동적 연결· 손익계산서와 연결
von Rüden이 밝힌 현재와 다음 단계

핵심 메커니즘

Use-case Tiering: 사용 사례를 세 범주로 나눠 비용을 따로 본다

무엇인가. AI 사용을 성격이 다른 세 범주로 나눠 범주마다 다르게 관리하는 방식입니다. 첫째는 전사·요약·발표 자료·조사 같은 일반 생산성입니다. 인터넷 정보와 SAP 데이터를 묶어 재무 분석을 하는 일도 여기 듭니다. 둘째는 IT가 중앙에서 배포하고 관리하는 전용 에이전트로, SAP 표준 에이전트이거나 Joule Studio로 만든 고객 맞춤 에이전트입니다. 셋째는 회사만의 차별화 과제로, 자체 솔루션을 만들지 따져 봐야 하는 영역입니다.

어떻게 작동하나. 범주를 정한 뒤 소비량을 어림합니다. 입력은 해당 직원 수, 업무가 돌아가는 횟수, 처리하는 문서 수이고 비슷한 고객과 업종의 경험치로 보정합니다. 비용의 큰 몫은 실제 사용량에 따라 움직이므로, 어림한 값을 바탕으로 예산과 한도를 겁니다.

언제 쓰나. 일반 생산성은 쓰임새가 넓어 범위를 잡기 어렵다고 von Rüden은 말합니다. 이 범주는 사람 단위 한도로 묶는 편이 맞습니다. 전용 에이전트는 업무 횟수와 문서량이 비교적 분명해 업무 단위로 어림하기 쉽습니다.

예관리 방식일반 생산성요약·전사·조사범위 잡기 어려움전용 에이전트IT가 중앙 배포표준 또는 Joule Studio차별화 과제자체 구축 검토회사별 판단
인터뷰가 든 세 범주

Usage Limits and Budgets: 직원별 일일 한도와 부서·국가별 예산

무엇인가. Joule Work(SAP의 업무용 AI 어시스턴트)에서 관리자는 직원마다 하루 사용 한도를 정합니다. 사용자는 한도의 몇 퍼센트를 썼는지 화면에서 봅니다. 회사는 부서별·국가별로 예산을 다르게 줄 수 있습니다.

어떻게 작동하나. 한도가 다 차도 급히 끝내야 할 일이 있으면 직원이 추가 배정을 신청합니다. 쓴 만큼 내는 과금 구조를 유지하면서 중앙에서 비용을 통제하는 장치입니다. 효과가 실제로 났는지는 그 뒤에 에이전트·프로세스 분석으로 확인할 수 있으며 이 단계는 선택 사항입니다.

언제 쓰나. 사용자 수가 많고 쓰임새가 넓은 일반 생산성 도구에 맞습니다. 추가 배정 신청의 승인 절차는 원문에서 밝히지 않았으므로 회사마다 정해야 합니다.

설정관리자가직원별 일일 한도사용사용률을% 로 표시소진급한 업무면추가 배정 신청사후효과 측정(선택)
한도는 막는 장치이면서 신청 창구

Default Model Setting: 기본값이 비용을 정한다

무엇인가. 사용자가 따로 고르지 않을 때 쓰이는 기본 모델을 비용과 성능의 균형점에 맞추는 일입니다. von Rüden은 이 설정이 비용에 큰 영향을 준다고 봅니다.

어떻게 작동하나. Joule Work는 70개 LLM을 지원하지만 사용자는 모델이 아니라 Standard, Extended, Light 세 모드 중에서 고릅니다. 모드 뒤의 모델은 SAP가 과제에 더 맞는 것으로 바꿀 수 있어서 사용자가 모델 버전을 챙길 필요가 없습니다. SAP 자체 어시스턴트에 새 모델을 넣을 때는 대규모 평가로 실제로 나아지는지 확인한 뒤에만 바꿉니다. 유럽 모델만 원하는 고객처럼 지역 요건도 함께 따집니다. 과제에 맞는 모델을 자동으로 고르는 model router는 SAP 사내에서 시험 중이고 나중에 일부 고객에게 먼저 내놓을 계획입니다. 업무 객체를 찾아 서로 잇는 SAP 과제는 문서 요약보다 자동 선택이 어렵다고 합니다.

언제 쓰나. 매일 쓰는 일상 업무에 정말 가장 강한 모델이 필요한지 묻는 데서 출발합니다. 예산이 걸려 있으면 사용자도 모델 선택을 따져 보게 됩니다. 데스크톱 앱은 음성 처리 모델을 이미 로컬에서 돌리며 토큰 예산을 다 쓴 사용자가 로컬 모델로 넘어가는 방식도 그는 가능성으로 언급했습니다. 다만 하드웨어가 받쳐 줘야 하고 IT 부서가 설치에 엄격해 대규모 배포는 어렵다고 덧붙였습니다.

기본 모드Standard대부분 그대로 씀선택 모드Extended·Light필요할 때 바꿈자동 라우팅사내 시험 중고객 제공 예정뒤의 모델70개 LLM 중SAP가 교체
사용자는 모드만 고르고 모델 판은 SAP가 관리

Staged Builder Access: 에이전트 제작 권한을 단계적으로 연다

무엇인가. 개발자가 아닌 직원도 에이전트를 만들 수 있게 되면서 생기는 무분별한 확산을 권한 단계로 막는 방식입니다. Joule Studio 역할은 자동으로 주어지지 않고 IT가 부여합니다. 이것이 첫 번째 통제층입니다.

어떻게 작동하나. SAP는 Joule Studio를 IT와 개발 조직 밖 직원 수천 명에게 먼저 열었고 전원에게 주지는 않았습니다. 도구를 이미 알고 필수 교육을 마친 사람부터 시작했습니다. 개인용 맞춤은 회사 공용 에이전트로 만들 필요가 없고 결과를 어떤 문체로 낼지 정하는 개인 skill(사용자가 정한 작업 규칙)로 먼저 시작할 수 있습니다. 동료에게도 쓸모가 있으면 IT와 상의해 에이전트를 만들고 공유할 권한을 받거나, 아이디어를 CoE(Center of Excellence, 전담 조직)에 넘겨 키웁니다.

언제 쓰나. 접근 규칙은 회사마다 스스로 정한다고 그는 말합니다. 규칙이 분명한 단순 workflow, 예를 들어 특정 메일이 오면 정해진 동작을 하는 흐름은 IT가 정한 틀 안에서 현업이 직접 만들 수 있습니다.

역할 부여IT가 Joule Studio역할을 줌개인 skill결과 문체 같은내 설정부터공유 권한IT와 협의해개발·공유 허용CoE쓸모 큰 아이디어전담 조직이 개발
SAP 사내는 교육 이수자 수천 명부터 시작

Agent Release Lifecycle: 공유에서 중앙 배포와 폐기까지

무엇인가. 에이전트를 만든 뒤 넓게 쓰이기까지 거치는 승인 경로입니다.

어떻게 작동하나. Joule Studio에서 에이전트는 먼저 고른 동료에게만 공유해 시험합니다. 그 뒤의 접근은 역할과 identity provider(사내 로그인·권한 시스템)가 통제하고 버전을 관리하며 더 큰 사용자 집단으로 넓힙니다. SAP AI Agent Hub는 에이전트 목록과 상태를 보여 줍니다. 검토가 필요한 것, 검토를 마친 것, 반려된 것이 나뉩니다. 수명 주기에는 회사별 승인 단계를 넣을 수 있고 SAP 사내에서는 중앙 에이전트를 배포하기 전에 노사협의회(Betriebsrat) 승인 단계를 둡니다. 언제 운영에서 뺄지도 계획에 넣을 수 있고 관련 IT 부품이 함께 보입니다.

언제 쓰나. 여러 부서가 같이 쓰는 에이전트, 직원 업무 방식에 영향을 주는 에이전트에 씁니다. SAP 에이전트와 다른 회사 에이전트를 똑같이 통제하는 표준은 아직 없어서 당분간은 회사가 직접 정해야 한다고 그는 말합니다. SAP는 Joule 에이전트와 도구 사이 통신을 다루는 무료 SAP Agent Gateway를 발표했고 전사 런타임 통제는 SAP Enterprise AI Gateway가 맡습니다. 거래 금액이 일정 수준을 넘으면 어떤 에이전트는 특정 동작만 하게 하는 식의 복잡한 정책은 Enterprise AI Gateway의 유료 기능입니다.

시험 공유고른 동료에게먼저 공유접근 통제역할·IdP버전 관리Agent Hub검토 대기검토 완료·반려중앙 배포노사협의회 승인폐기 시점 계획
SAP 사내 절차 기준

Workflow before Agent: 규칙이 분명하면 에이전트를 쓰지 않는다

무엇인가. 모든 일에 에이전트가 필요하지는 않다는 원칙입니다. Joule Studio는 고전적 workflow용으로 n8n을 함께 제공합니다.

어떻게 작동하나. 규칙이 분명한 일은 고전적 workflow가 더 싸고 빠릅니다. 17단계 workflow에서 한 단계에만 AI가 필요하면 그 단계에만 에이전트를 붙이는 agentic workflow로 만듭니다. 그 위로는 정해진 자원에만 접근하는 범위 한정 에이전트, 지식 그래프 전체를 쓰며 정보를 엮는 열린 에이전트가 있습니다.

언제 쓰나. 몇 개의 에이전트가 필요하냐는 물음에 그는 정의에 따라 다르다고 답합니다. Claude Code가 개발 한 시간에 띄우는 17개 subagent처럼 짧게 사는 것까지 세면 SAP 개발만으로도 수십억 개가 됩니다. 재사용하는 상주 에이전트만 세면, SaaS 앱을 100여 개(세 자릿수 초반) 쓰는 회사가 처음에는 10~30개로 대부분 과제를 덮을 수 있다고 어림합니다. 시간이 지나면 에이전트 하나가 여러 앱을 맡도록 합쳐진다고 봅니다.

선택지예규칙이 분명한 일클래식 workflown8n한 단계만 판단agentic workflow17단계 중 1단계 AI자원이 정해진 일범위 한정 에이전트특정 자원만 접근정보를 엮는 일열린 에이전트지식 그래프 전체
규칙이 분명할수록 싸고 빠른 쪽으로

Agent Mining: 에이전트가 무엇을 바꿨는지 프로세스로 본다

무엇인가. 에이전트가 어떤 결정을 내리고 어떤 경로를 얼마나 자주 타며 단계마다 시간이 얼마나 걸리는지 보여 주는 분석입니다. Process Mining과 함께 써서 이전 프로세스와 비교합니다.

어떻게 작동하나. 사용량과 성능은 기본으로 분석하고 SAP Cloud ALM(애플리케이션 운영 관리 도구)과 연동하면 더 깊은 운영 데이터가 붙습니다. 테스트는 명세와 요구 사항에서 자동으로 만들고 개발자가 고칩니다. 테스트와 운영 결과는 다시 개발로 돌아갑니다. 개발, 공유, 성능 확인, 개선의 순환입니다. Financial Operations 화면에서는 에이전트가 쓰는 토큰, AI Units, 에이전트 동작 수를 볼 수 있습니다.

언제 쓰나. von Rüden은 이것을 출발점으로 보고 다음 단계로 소비를 만든 가치와 바로 잇는 일을 듭니다. 특정 시점에 가상 지원이 더 필요한 부서로 예산이 움직이는 식의 동적 연결, 손익계산서와의 연결이 아직 발전할 여지가 큰 영역이라고 했습니다. SAP도 개발 속도는 얻었지만 자체 AI 사용을 더 정밀하게 조정해야 한다고 말합니다.

운영 기록사용량·성능Cloud ALM 연동Agent Mining어떤 결정·경로단계별 시간이전 프로세스같은 지표로전후 비교개발 환류테스트·운영 결과다음 판에 반영
개발, 공유, 성능 확인, 개선을 한 도구 안에서 돌림

통념과 다른 주장

흔히 이렇게 봅니다AI 비용은 모델 단가를 협상하거나 싼 모델로 바꿔서 줄입니다.

SAP CAIO는 이렇게 봅니다기본 모델 설정이 큰 지렛대입니다. 기본값을 비용과 성능이 맞는 모델로 두고 예산을 걸면 사용자가 스스로 모델을 따지게 됩니다.

근거SAP 사내 데이터에서 대부분의 직원이 미리 정해진 모델을 바꾸지 않았습니다.

흔히 보는 비용 통제SAP CAIO가 본 지렛대· 모델 단가 협상· 싼 모델로 일괄 교체· 사용 후 청구서 점검· 기본 모델 설정· 직원별 일일 한도· 부서·국가별 예산
대부분 기본 모델을 바꾸지 않는다는 SAP 사내 관찰이 근거

흔히 이렇게 봅니다시민 개발자 도구는 모두에게 빨리 열어야 확산됩니다.

SAP CAIO는 이렇게 봅니다제작 권한은 IT가 역할로 주고 교육을 마친 사람부터 엽니다. 개인 skill에서 시작해 쓸모가 확인되면 공유 권한이나 CoE로 넘깁니다.

근거SAP는 Joule Studio를 IT·개발 밖 직원 수천 명에게만 먼저 열었고 중앙 배포 전에는 노사협의회 승인을 거칩니다.

흔히 이렇게 봅니다자동화할 일은 이제 에이전트로 만듭니다.

SAP CAIO는 이렇게 봅니다규칙이 분명한 일은 고전적 workflow가 싸고 빠릅니다. AI가 필요한 단계에만 에이전트를 붙입니다.

근거Joule Studio는 n8n을 함께 제공하며 그는 17단계 중 한 단계에만 AI를 쓰는 예를 들었습니다.

저자가 든 사례

SAP 사내: Joule Studio를 교육 이수자부터 배포

구분내용
상황개발자가 아닌 직원도 에이전트를 만들 수 있게 되면서 무분별한 확산 우려
한 일IT가 역할을 부여, 도구를 알고 필수 교육을 마친 IT·개발 밖 직원부터 배포
결과수천 명 규모로 시작, 전원 배포 아님. 효과 수치는 원문에서 밝히지 않음
연결Staged Builder Access
상황IT·개발 밖에서도에이전트 수요한 일교육 이수자부터Joule Studio 배포규모수천 명전원 아님
원문이 밝힌 범위

SAP 사내: 기본 모델을 바꾸지 않는 직원들

구분내용
상황사용자가 가장 강하고 비싼 모델을 고를 수 있음
한 일사내 데이터로 기본 모델을 바꾸는 사람이 적다는 점을 확인
결과기본값을 비용·성능 균형점에 두면 비용이 크게 준다고 판단. 절감 비율은 원문에서 밝히지 않음
연결Default Model Setting

SAP 사내: 중앙 에이전트 배포 전 노사협의회 승인

구분내용
상황중앙에서 배포하는 에이전트는 많은 직원의 일하는 방식에 영향
한 일수명 주기에 노사협의회 승인 단계를 넣고, 운영에서 뺄 시점도 계획
결과Agent Hub에서 검토 필요·검토 완료·반려 상태로 관리. 처리 건수는 원문에서 밝히지 않음
연결Agent Release Lifecycle
70개Joule Work가 지원하는 LLM 수10~30개SaaS 100여 개 회사의 초기 에이전트 수17개개발 1시간에 생기는 subagent 예약 15개기업 workflow 하나가 다루는 테이블
인터뷰 수치, 마지막 셋은 von Rüden의 어림값

기술 디테일: 한도·기본 모델·등록부를 직접 세운다면

아래는 원문에 없는 내용입니다. 우리 회사가 같은 틀을 실제로 돌릴 때 필요한 것을 정리했고 수치와 필드는 모두 가상 예시입니다.

Use-case Tiering의 소비 추정은 공식 하나로 시작합니다. 범주마다 인원 × 1인당 하루 건수 × 건당 토큰 × 영업일로 월 소비를 어림합니다. 건당 토큰은 대표 문서 20건을 실제로 돌려 입력과 출력 토큰을 재고 중앙값을 씁니다. 첫 달은 추정값과 실제값을 부서별로 나란히 놓고 차이가 30%를 넘는 부서만 공식의 계수를 고칩니다. 전용 에이전트는 사람 수 대신 업무 처리 건수(예: 월 송장 수)를 곱합니다.

인원200명하루 건수1인당 요약 5건건당 토큰6,000하루 합계6,000,000 토큰월 합계21영업일 1억 2,600만 토큰
가상 예시, 인원 × 빈도 × 문서량으로 계산

Usage Limits를 돌리려면 사용 기록을 사람·부서·모드 단위로 남깁니다. AI 게이트웨이나 프록시에서 호출마다 아래 레코드를 쌓고 하루 단위로 한도와 비교합니다. 한도 단위는 토큰보다 금액으로 두는 편이 모드마다 단가가 달라도 비교하기 쉽습니다.

{
  "user_id": "u-10482",
  "dept": "FIN-KR",
  "country": "KR",
  "date": "2026-11-21",
  "mode": "Standard",
  "tokens_in": 182000,
  "tokens_out": 24000,
  "cost_usd": 1.84,
  "daily_limit_usd": 3.00,
  "used_pct": 61,
  "top_up_request": null
}

추가 배정 신청은 top_up_request에 reason, task_ref(업무 번호), amount_usd, approver, decided_at을 남깁니다. 실패하는 경우는 대개 세 가지입니다. 한도가 긴 작업 도중에 차서 결과가 끊기는 경우, 한도를 피해 개인 계정이나 외부 도구로 빠져나가는 경우, 신청이 너무 많아 승인자가 기계적으로 누르는 경우입니다. 80%에서 미리 알리고 100%에서는 막지 않고 Light 모드로 낮추며 신청 사유를 매주 분류해 한도 자체를 고칩니다.

한도 80%사용자에게미리 알림한도 100%Light 모드또는 로컬 모델추가 신청사유·업무 번호부서장 승인주간 집계신청 사유 분류한도 재조정
가상 예시 설정값

Default Model Setting은 수치로 관리합니다. 모드마다 뒤에 둔 모델과 판을 설정 파일 하나에 적고 바꿀 때는 업무별 평가 세트(부서마다 30~50건)로 이전 모델과 점수를 비교한 뒤에만 반영합니다. 같은 질문을 모델마다 3회 돌리고 판정 모델(temperature 0)이 0점(틀림), 3점(일부 맞음), 5점(맞음)으로 채점합니다. 새 모델 평균이 이전보다 0.3점 넘게 낮지 않고 3회 점수 편차가 1점 이하일 때만 교체합니다. 매주 보는 지표는 기본 모드를 바꾼 사용자 비율, 모드별 비용 비중, 모드를 올린 뒤 같은 질문을 다시 한 비율입니다. 마지막 지표가 높으면 기본 모델이 그 업무에 약하다는 신호이므로 그 부서의 기본값만 따로 올립니다.

Agent Release Lifecycle은 등록부 한 장으로 묶습니다. 에이전트마다 agent_id, owner, purpose, data_scope, model_mode, status(review_pending, approved, rejected, deployed, retired), approvals(보안·노사 협의 기록), retire_on, components를 둡니다. retire_on은 비워 둘 수 없게 하고 날짜가 오면 소유자에게 연장 또는 폐기를 묻습니다. 거래 금액 기준 정책은 {"agent_id": "ap-invoice-01", "if": "amount_krw > 50000000", "allow": ["draft", "flag"], "deny": ["post"]}처럼 게이트웨이 규칙으로 따로 둡니다.

review_pending소유자·용도데이터 범위approved보안·노사승인 기록deployedretire_on날짜 필수retired연결 부품함께 정리
가상 예시 필드값, 반려는 rejected로 따로 남김

Agent Mining처럼 효과를 보려면 이벤트 로그 형식을 처음부터 맞춥니다. 에이전트의 동작마다 case_id, activity, timestamp, actor(agent 또는 사람), tokens, cost_usd를 남기면 프로세스 마이닝 도구에 그대로 넣을 수 있습니다. 같은 activity 이름을 에이전트 도입 전 로그에도 써야 처리 시간과 경로를 전후로 비교할 수 있습니다. 비용은 case_id로 합산해 “송장 한 건당 AI 비용”처럼 업무 단위로 보고합니다.

현업 실행 디테일: 누가, 언제, 무엇을

역할맡는 일
CIO·AI 플랫폼 담당기본 모드와 모델 판 결정, 게이트웨이와 사용 기록 운영
재무(FinOps) 담당부서·국가별 예산 배분, 월간 추정 대비 실적 보고
부서장추가 배정 신청 승인, 분기마다 부서 한도 조정 요청
CoE공유 가치가 큰 아이디어를 넘겨받아 개발, 교육 과정 운영
보안·법무 담당에이전트 데이터 범위 검토, 금액 기준 정책 작성
인사·노사 담당직원 업무에 영향을 주는 에이전트의 협의 절차 운영

시작 전 준비물. 지금 쓰는 AI 도구와 계약 목록, 최근 3개월 사용량(사용자·모델별), 부서별 인원표, 대표 업무 20개의 월 처리 건수, 이미 돌고 있는 에이전트·자동화 목록입니다.

기간할 일산출물
1~2주차사용 사례를 세 범주로 분류, 소비 추정 공식 적용범주표, 부서별 월 추정치
3~4주차기본 모드 결정, 일일 한도와 추가 신청 절차 시범 적용(부서 2곳)한도 설정표, 신청 양식
5~6주차에이전트 등록부 작성, 승인 단계와 폐기 날짜 규칙 확정등록부, 승인 흐름도
7~8주차추정 대비 실적, 신청 사유, 업무 단위 비용 비교판정 보고서, 전사 확대안
분류한도승인판정1~2주차사례 분류·추정3~4주차한도·기본 모델5~6주차등록부·승인7~8주차비교·판정
가상 예시 일정

확인 질문. 지금 직원 몇 퍼센트가 기본 모델을 바꾸고 있나? 부서별 AI 비용을 지금 하루 단위로 볼 수 있나? 한도가 차면 누가 몇 시간 안에 추가 배정을 승인하나? 등록부에 없는 에이전트가 몇 개나 돌고 있나? 직원 업무에 영향을 주는 에이전트를 배포하기 전에 누구와 협의하나?

진행 판정 기준(가상 예시). 부서별 월 추정치와 실적 차이 30% 이내, 추가 배정 신청이 사용자 10명 중 1명 이하, 등록부 밖 에이전트 0개, 업무 단위 비용을 대표 업무 5개 이상에서 보고할 수 있으면 전사로 넓힙니다. 하나라도 못 미치면 그 항목만 고쳐 4주 더 돌립니다.

AX 적용 제언. 국내 기업이 생성형 AI를 전사에 열 때 가장 먼저 부딪히는 질문은 “누구에게 얼마까지”입니다. 이 인터뷰는 그 답을 도구 선택보다 앞에 둡니다. 순서는 기본 모델부터 정하는 것이 좋습니다. 설정 하나로 비용 곡선이 바뀌고 직원 교육도 필요 없습니다. 다음으로 부서 예산과 일일 한도를 걸되 추가 신청 창구를 함께 열어 업무가 막히지 않게 합니다. 에이전트 제작 권한은 교육 이수자부터 열고 직원 업무에 영향을 주는 중앙 에이전트는 노사 협의 단계를 둘지 인사와 미리 정합니다. 마지막으로 토큰 소비를 송장 한 건, 상담 한 건 같은 업무 단위 비용으로 바꿔 CFO에게 보고하면 예산을 늘릴지 줄일지 판단할 근거가 생깁니다.

1단계기본 모델정하기2단계부서 예산과일일 한도3단계제작 권한교육 이수자부터4단계소비를업무 지표에 연결
가상 예시 순서, 효과가 빨리 나는 것부터

원문 사례

항목내용
기사Computerwoche, Manfred Bremmer, 2026.11.11 (CIO.com 영어판 재게재)
인터뷰 대상Jonathan von Rüden, SAP 최고AI책임자(CAIO)
배경베를린 TechEd에서 Autonomous Enterprise 구상 발표
사용 사례 범주일반 생산성, 전용 에이전트(SAP 표준 또는 Joule Studio), 차별화 과제
소비 추정 입력인원, 업무 빈도, 문서 수, 비슷한 고객·업종 경험
비용 통제Joule Work 직원별 일일 한도와 사용률 % 표시, 부서·국가별 예산, 추가 배정 신청
모델Joule Work 70개 LLM, Standard·Extended·Light 모드, model router 사내 시험 중, 로컬 모델 지원 확대 중
제작 권한Joule Studio 역할은 IT가 부여, SAP 사내는 IT·개발 밖 교육 이수자 수천 명부터
승인시험 공유, 역할·identity provider, 버전 관리, AI Agent Hub 상태(검토 필요·완료·반려), 노사협의회 승인, 운영 중단 계획
게이트웨이SAP Agent Gateway(무료, 발표), SAP Enterprise AI Gateway(복잡한 정책은 유료 기능)
효과 확인Agent Mining, Process Mining, Cloud ALM 연동, 자동 생성 테스트, Financial Operations(토큰·AI Units·동작 수)
에이전트 수SaaS 100여 개 회사는 처음 10~30개 상주 에이전트로 시작 가능(어림값)
앞으로 볼 것모델이 도구 선택을 직접 배움, 동적 학습, 보안 전용 모델, Yann LeCun의 비LLM 접근

핵심 개념

Joule Work
SAP의 업무용 AI 어시스턴트로, 모드 선택과 직원별 사용 한도를 관리자가 정합니다.
Joule Studio
에이전트와 workflow를 만드는 SAP 도구로, 고전적 workflow용 n8n을 함께 제공합니다.
SAP AI Agent Hub
회사 안 에이전트 목록과 검토 상태를 한곳에서 보여 주는 관리 화면입니다.
Agent sprawl
누구나 에이전트를 만들 수 있게 되면서 관리되지 않는 에이전트가 늘어나는 현상입니다.
Model router
질의마다 과제에 맞는 모델을 자동으로 골라 보내는 장치입니다.
Agentic workflow
규칙대로 도는 workflow 가운데 판단이 필요한 단계에만 에이전트를 넣은 흐름입니다.
AI Units
SAP가 AI 사용량을 세는 과금 단위로, Financial Operations에서 토큰과 함께 봅니다.
Betriebsrat
독일 기업의 노사협의회로, 직원 업무에 영향을 주는 제도 도입에 참여합니다.

내 메모

TODO: 내 생각 추가

원문은 Computerwoche에 실린 Manfred Bremmer의 인터뷰 「SAP-CAIO: Wir müssen präziser werden, den KI-Einsatz zu steuern」(2026.11.11)이며 CIO.com이 「SAP CAIO: We need to be more precise in managing the use of AI」로 영어판을 다시 실었습니다. 이 노트는 독일어 원문을 읽고 썼습니다. 요약, 핵심 메커니즘의 원문 내용, 사례는 인터뷰에서 von Rüden이 밝힌 사실을 AX Partners가 다시 정리했고 작동 설명의 보충, 기술·현업 디테일, 인포그래픽, 표는 새로 작성했습니다(디테일 절의 수치·필드·일정은 가상 예시). 전체 내용은 원문에서 볼 수 있습니다.

Related

함께 읽으면 좋은 노트

AX Strategy아티클

Put Agents on a Budget: 에이전트 작업량에 상한을 걸고 결과 책임자를 정하는 AI 비용 관리

TechTarget · Tim Murphy

Forrester의 Kevin Ogunsua는 AI 청구서가 토큰 단가보다 에이전트가 요청 하나에 하는 일의 양에 따라 흔들린다고 봅니다. 입력량·모델 호출 수·하위 에이전트 수에 상한을 두고 예산이 확인된 지출만 승인하며 확대 전에 매출·비용·리스크 지표와 결과 책임자 1명을 정하라고 권합니다.

CIO·CTOCFOAX 추진
#비용 절감#에이전트 2026.11.08 ↗
AX Strategy아티클

Scale Across the Enterprise: Capgemini 고객이 PoC 대신 묻는 거버넌스·비용·보안 확산법

diginomica · Stuart Lauchlan

Capgemini CEO Aiman Ezzat은 고객이 이제 PoC가 아니라 거버넌스·비용·보안을 지키며 전사로 넓히는 법을 묻는다고 말합니다. 물류사 에이전트 운영은 연 2,700만 건을 처리해 생산성 40~50%를 올리고 회수 기간을 5~8일 줄였습니다. 자산운용사는 앱 180개를 AI 데스크톱 하나로 바꿔 약 300만 유로를 아꼈습니다. AI 비용 귀속 JSON과 8주 확산 계획을 붙였습니다.

CEOCIO·CTOCFO
#에이전트#벤더 전략 2026.11.05 ↗
AX Implementation아티클

Deutsche Bank ADA: 기업 대출 심사를 몇 주에서 몇 분으로 줄인 은행의 AI 운영법

TheStreet · Faizan Farooque

Deutsche Bank는 올여름 기업 대출 심사에 AI를 붙여 단순한 중소기업 건을 몇 주에서 몇 분으로 줄였습니다. 사내 플랫폼 ADA에서 에이전트와 모델을 한곳에서 관리합니다. 엔지니어 1만 5,000명 이상의 AI 코딩, 2028년 비용 목표와의 연결, 심사 보조 JSON 필드와 6주 도입 계획을 붙였습니다.

CEOCIO·CTOCFO
#사례#에이전트 2026.10.29 ↗