AX Strategy

Token Economics: 엔지니어 시간 절감을 회사 가치로 바꾸는 조건, 반도체·네트워크 4사 임원 패널

Imagination in Action 행사의 Deloitte 진행 패널에서 NVIDIA·Cisco·SanDisk·Marvell 임원은 AI ROI의 조건을 짚었습니다. 토큰 청구서는 예상보다 빨리 늘었고, 엔지니어가 아낀 시간이 곧 회사 가치는 아니라는 말이 나왔습니다. 에이전트는 샌드박스·정책·관측성을 갖춘 뒤에야 자율 실행에 들어갑니다.

출처
Forbes · John Werner
원문 제목
Corporate Perspectives: ROI On AI
유형
아티클
읽은 날
2026.11.16
원문 발행
2026.11.14

AI를 가장 많이 쓰는 반도체·네트워크 회사들도 토큰 청구서에 놀랐습니다. 엔지니어가 아낀 시간이 회사 지표로 이어지는지 따로 재지 않으면 ROI를 말할 수 없습니다. 에이전트에 일을 맡기려면 격리된 실행 환경, 글로 쓴 정책, 행동 기록을 먼저 갖춰야 합니다.

요약

Forbes 기고자 John Werner는 2026년 9월 Imagination in Action(IIA) 행사 ‘The Next Endeavor’의 패널 토론을 정리했습니다. Werner는 이 행사의 기획에 참여한다고 밝혔습니다. Deloitte의 Ankur Gaba가 진행했고, NVIDIA의 Rama Akkiraju, Cisco의 Srini Namineni, SanDisk의 Satya Jaydev, Marvell Technology의 Nishit Sahay가 나왔습니다. 네 회사는 모두 AI 인프라를 만들어 파는 쪽이면서, 사내에서도 AI를 크게 씁니다. 질문은 둘이었습니다. 큰 효과는 어디서 나오는가, 그리고 운영해 보니 무엇이 예상과 달랐는가.

회사강조한 조건Gaba (Deloitte)진행운영 전환 현황 추정AkkirajuNVIDIA샌드박스·정책 뒤 자율 실행NamineniCisco토큰 비용·온프레미스JaydevSanDiskscaffolding·관측성SahayMarvell시간 절감 ≠ 회사 가치
2026년 9월 IIA 'The Next Endeavor' 패널 구성. 강조점은 발언을 한 구로 줄임

효과가 난 곳은 칩 설계·검증, 소프트웨어 개발, 수요·공급 계획, 보안, 사내 지원 업무였습니다. 예상과 다른 점은 비용과 통제에서 나왔습니다. Cisco와 Marvell은 토큰 비용이 예상보다 빨리 늘었다고 했습니다. Sahay는 엔지니어가 시간을 아끼는 것과 회사가 가치를 얻는 것은 다르다고 선을 그었습니다. NVIDIA는 에이전트를 자율 실행하기 전에 샌드박스와 정책을 짓고 보안 승인을 받느라 오래 걸렸다고 했습니다. SanDisk는 에이전트를 인증하기 전에 관측성(observability, 에이전트가 무엇을 왜 했는지 들여다보는 능력)을 갖추는 데 시간을 썼다고 했습니다. 진행자는 조직의 약 25%가 AI 유스케이스의 약 40%를 샌드박스에서 운영으로 옮겼다고 추정했습니다. 아래에서 패널이 말한 조건을 다섯 가지 메커니즘으로 나누고, 실제로 돌릴 때 필요한 장부와 게이트를 덧붙입니다.

진행자 추정, 샌드박스에서 운영으로조직 비율운영 전환 조직25%유스케이스 비율그 조직이 옮긴 유스케이스40%0100%
진행자 Gaba의 추정치. 두 막대는 모수가 다름(조직 수, 유스케이스 수)

핵심 메커니즘

Token Economics: 아낀 시간과 늘어난 청구서를 같은 장부에 올린다

Token economics는 AI 호출에 드는 토큰 비용이 회사에 돌아오는 가치보다 작은지를 따지는 셈법입니다. 입력은 토큰 청구서와 업무별 사용량입니다. 이 비용을 업무에 귀속해 매출·원가·품질 같은 회사 지표와 견주고, 계속할지 줄일지 판정합니다. Sahay는 올해 초 토큰 청구서를 보고 놀랐다고 했습니다. 같은 대목에서 엔지니어의 자동화 능력을 얕보지 말라는 말도 했습니다. 그의 결론은 짧습니다. “Your engineers saving time doesn’t mean the company is getting value out of it.” 비용을 더한 만큼 회사의 지표가 움직여야 한다는 것입니다. Namineni도 토큰 비용이 오를 줄은 알았지만 이렇게 빨리 오를 줄은 몰랐다고 했습니다. Cisco는 지금 토큰에 큰돈을 쓰는 단계는 아니지만, 놀란 만큼 온프레미스(사내 설비) 인프라를 최적화하는 방법을 찾고 있습니다. 이 셈법은 사용량이 빠르게 늘어나는 코딩·자동화 업무에 먼저 씁니다. 사용량이 적은 시범 단계에서는 장부를 무겁게 만들 필요가 없습니다. 가상 예시로, 설계팀이 코드 리뷰 에이전트로 주 40시간을 아꼈다면 같은 달 리뷰 리드타임과 결함 유출률이 함께 내려갔는지를 봐야 합니다.

엔지니어코딩·자동화로시간을 아낌토큰 청구서예상보다빨리 늘어남회사 지표매출·원가·품질이움직였나판정비용을 감당할만큼 움직였나
Sahay·Namineni 발언을 새로 그린 흐름도

ROI Fundamentals: 순수한 효과는 네 가지 바탕에서 나온다

Sahay는 순수한 ROI가 기본기에서 나온다고 했습니다. 워크플로를 알고, 기반 모델 구성을 갖추고, 워크플로에 넣을 수 있는 데이터가 있고, 안전하게 자동화하는 절차가 있어야 합니다. 네 가지는 순서가 있습니다. 일이 어떻게 흐르는지 모르면 어떤 모델을 붙일지 정할 수 없습니다. 데이터가 워크플로에 들어가지 못하면 모델은 일반론만 답합니다. 자동화 절차가 없으면 결과를 사람이 다시 손으로 옮겨야 합니다. Marvell은 제품 개발을 에이전트 워크플로의 기준점(north star)으로 삼았습니다. 회사 전체의 데이터 이상(anomaly)을 찾고 싶다는 Sahay의 바람에서 시작한 작업은 투자로 이어졌고, 일부 결과를 실제로 적용했습니다. 네 가지 가운데 하나라도 비면 도입 범위를 넓히기보다 그 칸부터 채우는 편이 낫습니다.

워크플로일이 실제로어떻게 흐르나기반 모델 구성어떤 모델을어떻게 묶나데이터워크플로에넣을 수 있나안전한 자동화자동화를 여는절차가 있나
Sahay가 꼽은 네 가지 바탕. 순서는 이 노트가 정함

Bounded Autonomy: 샌드박스와 정책으로 자율의 범위를 정한다

Bounded autonomy는 에이전트가 스스로 일하되, 정해진 범위 밖으로는 나가지 못하게 묶는 방식입니다. Akkiraju는 질문에 답하던 AI가 일을 끝까지 해내는 에이전트로 넘어간 것을 중요한 도약이라고 봤습니다. 그만큼 NVIDIA는 안전한 에이전트 작업 공간을 따로 지었습니다. 에이전트는 가상 머신(VM)이나 Kubernetes 수준에서 격리한 샌드박스 안에서 돕니다. 회사 콘텐츠나 원장 시스템(system of record, 회계·인사처럼 공식 기록을 담는 시스템)은 건드리지 못합니다. 정책은 글로 명세하고, 실제로 집행하고, 지켜지는지 검증합니다. 스택 전체에 방어를 겹겹이 두는 defense in depth(다층 방어)도 함께 씁니다. 이 환경이 보안 승인을 통과하는 데 오래 걸렸다고 했습니다. 이 방식은 코드를 실행하거나 외부 도구를 부르는 에이전트에 씁니다. 답만 돌려주는 검색형 도우미에는 이만큼 무거운 격리가 필요 없습니다. Namineni는 LLM이 확률적으로 움직여 가끔 엉뚱한 답을 내므로 사람이 늘 루프 안에 있어야 한다고 덧붙였습니다.

격리VM·Kubernetes수준 샌드박스정책 명세허용 범위를글로 정함집행·검증정책이 실제로지켜지는지 확인보안 승인긴 승인 절차통과자율 실행원장 시스템을건드리지 않음
Akkiraju 발언을 새로 그린 흐름도. 각 단계의 기간은 밝히지 않음

Scaffolding and Observability: 인증 전에 에이전트의 행동을 본다

Agent scaffolding은 에이전트가 일할 틀입니다. 어떤 도구를 쓸 수 있는지, 어떤 순서로 일하는지, 언제 멈추는지를 정합니다. Observability는 그 틀 안에서 에이전트가 무엇을 왜 했는지 기록하고 들여다보는 능력입니다. Jaydev는 scaffolding에 쓰는 시간이 늘 결정적이라고 했습니다. 에이전트를 인증(운영에 내보내도 된다고 확정)하기 전에 그 행동을 이해하려면 이 시간이 꼭 든다는 것입니다. 그리고 관측성이 핵심이라고 못 박았습니다. 입력은 에이전트 실행 기록이고, 처리는 예상과 다른 행동을 찾아 틀을 고치는 일이며, 출력은 인증 여부입니다. Marvell의 경험도 같은 쪽을 가리킵니다. 랩의 위험·취약점 관리를 에이전트로 바꾸다가 타당한 이유로 곧바로 멈췄다고 합니다. Sahay는 자율이 지금 가장 큰 위험이라고 봤습니다. 묻혀 있던 문제를 드러내기 때문입니다. 그 뒤로 그는 보안 쪽에 더 무게를 두고, 안팎의 취약점을 막는 일에 힘을 싣고 있습니다.

Scaffolding에이전트가 일할틀을 짬관측무엇을 왜했는지 기록행동 이해예상과 다른행동을 찾음인증운영에 내보낼에이전트 확정
Jaydev 발언을 새로 그린 흐름도

Agent Platform: 모델 관문에서 직원별 에이전트까지

Cisco의 사내 플랫폼은 처음에 LLM gateway(모든 모델 호출이 지나는 관문)로 시작했습니다. 이것이 에이전트와 MCP 서버(Model Context Protocol, 에이전트가 사내 시스템에 접근하는 표준 연결)를 만드는 플랫폼으로 커졌습니다. 패널 3주 전에는 모든 직원에게 개인 에이전트를 내놓았습니다. 이 에이전트는 상시 지시를 받아 두고, Outlook과 일정, 다른 MCP 서버에 연결됩니다. Namineni는 직원 반응이 놀랄 만큼 좋았다고 했습니다. NVIDIA도 비슷한 길을 걸었습니다. 소프트웨어 코딩은 Claude Code, Codex, Cursor 같은 도구로 모두 옮겼고, 엔지니어 전원이 이 도구로 코딩합니다. 사내 데이터 시스템은 MCP와 skills(에이전트가 불러 쓰는 작업 지침 묶음)로 도구에 연결했습니다. 관문을 하나로 모으면 토큰 비용을 한곳에서 재고, 정책을 한곳에서 걸 수 있습니다. 앞의 두 메커니즘이 이 관문 위에서 돌아갑니다.

LLM gateway모든 모델 호출이지나는 관문에이전트 플랫폼에이전트와MCP 서버를 만듦개인 에이전트직원마다 하나,메일·일정 연결
Namineni 발언을 새로 그린 흐름도. 개인 에이전트는 패널 3주 전 출시

통념과 다른 주장

흔히 이렇게 봅니다개발자가 AI로 아낀 시간이 늘면 그만큼 ROI가 났다고 봅니다.

저자는 이렇게 봅니다Sahay는 엔지니어의 시간 절감과 회사의 가치는 다르다고 봅니다. 늘어난 비용만큼 회사의 지표가 움직여야 합니다.

근거그는 올해 초 받은 토큰 청구서에 놀랐다고 했고, 엔지니어의 자동화 능력이 비용을 키운다고 했습니다.

흔히 이렇게 봅니다모델 단가가 계속 내려가니 AI 사용 비용은 점점 덜 걱정해도 된다고 봅니다.

저자는 이렇게 봅니다Namineni는 토큰 비용이 예상보다 빨리 늘었다고 말합니다.

근거Cisco는 아직 큰돈을 쓰는 단계가 아닌데도 비용 증가에 놀라 온프레미스 인프라 최적화를 찾고 있습니다.

흔히 이렇게 봅니다AI를 제대로 쓰려면 쌓인 기술부채부터 정리해야 한다고 봅니다.

저자는 이렇게 봅니다Jaydev는 지금이 기술부채를 청산할 때가 아니라고 봅니다. 꼭 다뤄야 한다면 빠르게 만들 수 있는 force multiplier(힘을 몇 배로 키우는 수단)가 필요하다고 했습니다.

근거그는 어느 조직에서나 기술부채가 크게 불어나 자원을 빨아들인다고 봤습니다.

흔히 이렇게 봅니다패널은 이렇게 봅니다· 엔지니어 시간 절감이 곧 ROI· 토큰 단가가 내려 비용은 준다· 기술부채부터 정리하고 AI· 회사 지표가 움직여야 ROI· 토큰 청구서는 예상보다 빨리 늚· 지금은 부채 청산보다 속도
왼쪽은 흔히 퍼진 생각을 요약. 오른쪽은 Sahay·Namineni·Jaydev 발언

저자가 든 사례

NVIDIA: 칩 설계와 공급망 계획에 AI를 운영 중

  • 상황: 칩 설계와 검증 테스트, 소프트웨어 코딩, 수요·공급 계획이 핵심 업무입니다.
  • 한 일: 코딩을 Claude Code, Codex, Cursor로 모두 옮기고, 사내 데이터 시스템을 MCP와 skills로 연결했습니다. 에이전트용 샌드박스와 정책을 따로 지었습니다.
  • 결과: 칩 설계·검증, 수요·공급 계획과 시나리오 분석이 운영 단계에 있습니다. 보안, IT, 직원 생산성, 개인·팀 비서로도 에이전트를 넓혔습니다. 효과 수치는 원문에서 밝히지 않았습니다.
  • 연결: Bounded Autonomy, Agent Platform.
상황칩 설계·검증, 코딩,공급망 계획한 일코딩 도구 전면 사용,MCP·skills로 데이터 연결결과설계·검증, 수요·공급계획이 운영 중
NVIDIA 사례 재구성. 효과 수치는 원문에서 밝히지 않음

Cisco: 직원별 개인 에이전트와 예상보다 빠른 토큰 비용

  • 상황: 소프트웨어 개발 생애주기(SDLC)가 가장 큰 활용처이고, 영업·HR·재무·법무로 퍼졌습니다.
  • 한 일: LLM gateway를 에이전트·MCP 플랫폼으로 키우고, 패널 3주 전 직원마다 개인 에이전트를 내놓았습니다.
  • 결과: 직원 반응은 예상보다 좋았습니다. 토큰 비용은 예상보다 빨리 늘어 온프레미스 최적화를 찾고 있습니다. 사용자 수와 비용 금액은 원문에서 밝히지 않았습니다.
  • 연결: Token Economics, Agent Platform.
상황SDLC부터 영업·HR·재무·법무까지 확산한 일gateway를 플랫폼으로,직원별 개인 에이전트결과직원 반응은 예상보다좋음, 토큰 비용은 놀람
Cisco 사례 재구성. 사용자 수·비용 금액은 원문에서 밝히지 않음

SanDisk: 인증 전에 관측성부터

  • 상황: Jaydev는 회사가 AI 여정의 변곡점(inflection point)에 있다고 했습니다.
  • 한 일: 생산성 유스케이스와 판을 바꾸는 유스케이스를 아우르는 세 갈래 전략을 세웠고, 설계 자동화에 AI를 씁니다.
  • 결과: 에이전트 인증 전에 scaffolding과 관측성에 시간을 들입니다. 전략의 가운데 갈래는 원문 녹취에서 잘려 있습니다.
  • 연결: Scaffolding and Observability.
상황AI 여정의inflection point한 일세 갈래 전략,설계 자동화에 AI결과인증 전 scaffolding과관측성에 시간 투입
SanDisk 사례 재구성. 전략의 가운데 갈래는 원문 녹취에서 잘림

Marvell: 데이터 이상 탐지와 멈춘 랩 에이전트

  • 상황: Marvell은 스스로를 GPU라는 두뇌에 붙는 신경계라고 소개합니다. 추론·에이전트·학습용 대형 시스템을 만들며 빠르게 크고 있습니다.
  • 한 일: 회사 전체의 데이터 이상을 찾는 작업에 투자했고, 랩의 위험·취약점 관리를 에이전트로 바꾸려 했습니다.
  • 결과: 데이터 이상 탐지는 일부 결과를 적용했고, 랩 에이전트는 곧바로 멈췄습니다. 그 뒤 보안과 생태계 정리에 무게를 옮겼습니다.
  • 연결: ROI Fundamentals, Token Economics, Scaffolding and Observability.
상황회사 전체의 데이터이상을 찾고 싶음한 일이상 탐지에 투자,랩 위험 관리 에이전트화결과일부 결과 적용,랩 에이전트는 곧 중단
Marvell 사례 재구성. 중단 이유의 세부는 원문에서 밝히지 않음

기술 디테일: 토큰 원가 장부와 에이전트 인증 게이트

아래 필드명, 설정값, 기준은 실제로 돌릴 때 필요한 것을 새로 쓴 가상 예시입니다.

Token Economics를 돌리려면 모든 호출을 gateway 한곳에서 기록합니다. Cisco처럼 모델 호출이 하나의 LLM gateway를 지나게 하면, 호출 한 번이 로그 한 건이 됩니다. 핵심은 workflow_id입니다. 이 값이 없으면 청구서는 팀별 합계로만 남고 업무와 이어지지 않습니다. 코딩 도구처럼 gateway를 거치지 않는 상용 도구는 벤더 사용량 리포트를 월말에 받아 같은 필드로 맞춥니다.

{
  "call_id": "gw-2026-11-16-000913",
  "workflow_id": "WF-DESIGN-REVIEW-01",
  "team": "asic-verification",
  "model": "hosted-large",
  "route": "api",
  "input_tokens": 18400,
  "output_tokens": 2100,
  "cost_usd": 0.41,
  "agent_run_id": "run-77812",
  "outcome_metric": "review_lead_time_hours"
}

회사 지표와의 연결은 업무마다 하나만 고릅니다. outcome_metric은 리드타임, 결함 유출률, 재작업 건수처럼 재무나 품질 팀이 이미 재는 숫자 하나로 정합니다. 엔지니어 설문으로 잰 “아낀 시간”은 보조 지표로만 둡니다. Sahay가 말한 시간 절감과 회사 가치의 차이를 장부에서 바로 보이게 하려는 장치입니다. 월별로 workflow_id마다 토큰 비용과 지표 변화를 나란히 놓고, 비용이 두 달 연속 늘었는데 지표가 움직이지 않으면 경보를 띄웁니다.

기록호출마다 gateway에토큰·비용 1건귀속workflow_id로업무에 묶음연결업무별 회사 지표(리드타임 등)판정비용 대비 지표변화를 월별 비교
가상 예시. 필드와 단계는 새로 제안한 것

온프레미스 전환은 route 필드로 시험합니다. Cisco가 온프레미스 최적화를 찾는 것처럼, 같은 workflow_id의 호출 일부를 사내 모델로 보내 route를 onprem으로 적습니다. 2주 동안 두 경로의 품질 점수와 건당 비용을 비교합니다. 품질은 같은 평가 세트 50건을 두 경로에 각각 3회씩 돌려 평균과 편차를 봅니다. temperature는 0~0.2로 낮춰 편차를 줄입니다. 반복 실행 사이 점수 차가 10%를 넘는 업무는 사내 모델로 옮기지 않습니다.

Bounded Autonomy는 정책을 코드로 씁니다. 에이전트마다 허용 도구 목록, 쓰기 가능한 경로, 외부 네트워크 허용 주소를 설정 파일로 둡니다. 예를 들어 Open Policy Agent 같은 정책 엔진이나 Kubernetes 네트워크 정책으로 집행할 수 있습니다. 원장 시스템은 읽기 전용 복제본만 샌드박스에 붙입니다. 검증은 일부러 금지된 행동(원장 쓰기, 허용 밖 주소 호출)을 시키는 시험 세트 20건으로 하고, 차단률 100%가 나와야 통과입니다.

Observability는 실행마다 trace(단계별 실행 기록)를 남깁니다. 에이전트 실행 한 번에 agent_run_id를 붙이고, 도구 호출, 입력 요약, 출력, 정책 판정, 사람 개입 여부를 단계별로 기록합니다. OpenTelemetry 같은 표준 형식으로 남기면 기존 모니터링 도구로 볼 수 있습니다. 인증 전 평가 세트는 실제 업무에서 뽑은 50건으로 꾸리고, 성공률 90% 이상과 정책 위반 0건을 기준으로 둡니다. 실패 사례는 scaffolding 수정 목록으로 바로 넘깁니다.

확인 대상통과 기준실패하면Sandbox격리 환경원장 쓰기 0건환경 재설계Policy허용 도구 목록금지 시험 차단 100%정책 보강Observetrace·평가 세트 50건성공 90%, 위반 0건scaffolding 수정Human승인 지점고위험 작업 사람 확인승인 지점 추가
가상 예시. 네 게이트를 모두 통과해야 운영으로 보냄
막히는 경우증상대응
업무 귀속 실패청구서에 workflow_id 없는 호출이 30% 넘음gateway에서 workflow_id 없는 호출을 경고 후 거부
지표가 늦게 움직임분기 지표라 월별 판정이 안 됨같은 업무의 주간 선행 지표(대기 건수 등)를 함께 기록
승인 지연샌드박스 보안 승인이 길어짐표준 샌드박스 템플릿 하나를 먼저 승인받고 에이전트는 그 위에 얹음
랩·운영 환경 에이전트 이상 행동예상 밖 접근 시도즉시 중단 스위치, 실행 기록 보존, 정책 보강 후 재인증

현업 실행 디테일: 누가, 언제, 무엇을

아래 역할, 일정, 기준은 실제로 돌릴 때 필요한 것을 새로 짠 가상 예시입니다.

역할맡는 일
CFO·재무토큰 청구서를 업무별로 나누고, 회사 지표 대비 판정
CIO·플랫폼 팀LLM gateway 로그와 workflow_id 부여, 온프레미스 경로 시험
CISO샌드박스 표준과 정책, 인증 게이트 운영
현업 리더대상 업무와 outcome_metric 선정, 효과 측정
AX 추진판정 보고와 확대·축소안 정리

준비물. 최근 3개월 AI 청구서(API, 코딩 도구, 클라우드), 모델 호출 경로 목록, 에이전트 후보 업무 목록, 업무별로 이미 재고 있는 지표, 원장 시스템 목록과 접근 권한표가 필요합니다.

1~2주3~4주5~6주7~8주CFO·재무청구서 분해판정CIO·플랫폼gateway 로그원가 장부CISO샌드박스 정책게이트 점검현업 리더업무·지표 선정효과 측정AX 추진보고·확대안
가상 예시. 2주 단위 간트
기간할 일산출물
1~2주청구서 분해, gateway 로그 확인, 대상 업무 3개와 지표 선정업무별 비용표, 대상 업무 목록
3~4주workflow_id 부여, 원가 장부 가동, 샌드박스 정책 초안원가 장부 첫 달치, 정책 파일
5~6주인증 게이트 점검, 효과 측정, 온프레미스 경로 시험게이트 통과 기록, 경로별 비교표
7~8주비용 대비 지표 판정, 확대·축소안판정 보고, 다음 분기 예산안

확인할 질문.

  1. 지난달 토큰 비용 가운데 어느 업무에 귀속되는지 모르는 비율은 몇 %입니까?
  2. 대상 업무에서 엔지니어가 아낀 시간이 어떤 회사 지표로 이어져야 합니까?
  3. 에이전트가 원장 시스템에 쓸 수 있는 경로가 하나라도 열려 있습니까?
  4. 에이전트를 즉시 멈추는 스위치는 누가 누릅니까?
  5. 사내 모델로 옮겼을 때 품질이 얼마나 떨어지면 되돌립니까?

진행 판정 기준(예시). 대상 업무에서 토큰 비용 대비 지표 개선이 두 달 연속 확인되고 인증 게이트 네 칸을 모두 통과하면 다음 분기에 사용 범위를 넓힙니다. 지표는 움직였지만 비용 증가율이 지표 개선률의 2배를 넘으면 온프레미스 경로나 작은 모델로 옮겨 다시 4주를 봅니다. 지표가 움직이지 않으면 그 업무의 에이전트 예산을 동결하고 ROI Fundamentals의 네 칸 중 빈 곳부터 채웁니다.

AX 적용 제언. 이미 코딩 도구와 사내 에이전트를 넓게 깔아 둔 제조·하이테크 기업이라면 다음 예산 편성 전에 이 순서를 따라 볼 만합니다. 첫 단계는 새 유스케이스가 아니라 청구서 분해입니다. 토큰 비용을 업무에 귀속하는 장부가 생기면 CFO와 현업이 같은 숫자로 대화할 수 있습니다. 에이전트 확대는 CISO가 표준 샌드박스 하나를 먼저 승인하게 해 두면 승인 대기 시간을 줄일 수 있습니다. 효과 보고는 아낀 시간이 아니라 리드타임, 결함률 같은 회사 지표로 하는 편이 경영진의 지지를 얻기 쉽습니다.

원문 사례

항목내용
원문Forbes 기고, John Werner, 2026.11.14
행사Imagination in Action ‘The Next Endeavor’, 2026년 9월
진행Ankur Gaba(Deloitte)
진행자 추정조직의 약 25%가 AI 유스케이스의 약 40%를 샌드박스에서 운영으로 옮김
NVIDIA (Rama Akkiraju)칩 설계·검증, 수요·공급 계획과 시나리오 분석 운영 중. 코딩은 Claude Code·Codex·Cursor로 전면 전환. VM·Kubernetes 격리 샌드박스, 정책 명세·집행·검증, 긴 보안 승인
Cisco (Srini Namineni)SDLC가 최대 활용처, 영업·HR·재무·법무로 확산. LLM gateway에서 에이전트·MCP 플랫폼으로. 패널 3주 전 직원별 개인 에이전트 출시. 토큰 비용이 예상보다 빨리 늘어 온프레미스 최적화 검토. 사람은 늘 루프 안에
SanDisk (Satya Jaydev)세 갈래 AI 전략, 설계 자동화. 인증 전 scaffolding과 관측성. 지금은 기술부채 청산 시점이 아님
Marvell (Nishit Sahay)제품 개발이 기준점. 데이터 이상 탐지에 투자해 일부 적용. 랩 위험·취약점 관리 에이전트는 곧 중단. 토큰 청구서에 놀람. 시간 절감과 회사 가치는 다름. 토큰 지출이 일부 기업의 조 달러 IPO 가치를 떠받칠 수 있다는 의견
수치진행자 추정치 외에 비용·효과 금액은 공개되지 않음

핵심 개념

Sandbox
에이전트를 회사의 실제 시스템과 떼어 놓고 돌리는 격리 환경입니다.
System of record
회계, 인사, 생산처럼 회사의 공식 기록을 담는 시스템입니다. 에이전트가 여기에 직접 쓰면 되돌리기 어렵습니다.
Defense in depth
한 겹이 뚫려도 다음 겹이 막도록 여러 층에 방어를 두는 방식입니다.
Human in the loop
AI의 결과가 실행되기 전에 사람이 확인하는 지점을 두는 운영 방식입니다.
Technical debt
빨리 만들려고 미뤄 둔 설계·코드 정리가 쌓여 나중에 비용으로 돌아오는 것입니다.
On-prem
클라우드 API 대신 회사가 직접 운영하는 서버에서 모델을 돌리는 방식입니다.

내 메모

TODO: 내 생각 추가

원문은 Forbes에 실린 John Werner의 「Corporate Perspectives: ROI On AI」(2026.11.14)입니다. 2026년 9월 Imagination in Action ‘The Next Endeavor’ 패널을 정리한 글이며, 저자는 이 행사의 기획에 참여한다고 밝혔습니다. 요약, 핵심 메커니즘, 통념과 다른 주장, 사례는 패널에서 나온 내용을 AX Partners가 다시 정리했습니다. 기술·현업 디테일의 필드명, 설정값, 도구 예시, 일정, 질문, 판정 기준, 인포그래픽과 표는 실제로 돌릴 때 필요한 것을 새로 작성한 가상 예시입니다. 발언의 전체 맥락은 원문에서 볼 수 있습니다.

Related

함께 읽으면 좋은 노트

AX Strategy아티클

Put Agents on a Budget: 에이전트 작업량에 상한을 걸고 결과 책임자를 정하는 AI 비용 관리

TechTarget · Tim Murphy

Forrester의 Kevin Ogunsua는 AI 청구서가 토큰 단가보다 에이전트가 요청 하나에 하는 일의 양에 따라 흔들린다고 봅니다. 입력량·모델 호출 수·하위 에이전트 수에 상한을 두고 예산이 확인된 지출만 승인하며 확대 전에 매출·비용·리스크 지표와 결과 책임자 1명을 정하라고 권합니다.

CIO·CTOCFOAX 추진
#비용 절감#에이전트 2026.11.08 ↗
AX Strategy아티클

AI Portfolio Pruning: 미국 IT·데이터 리더 500여 명 중 거의 4분의 1이 성과 없는 AI 과제를 줄이거나 멈췄다

CIO Dive · Paige Gross (Ocient 조사)

데이터 플랫폼 기업 Ocient가 Propeller Insights와 미국 IT·데이터 리더 500여 명을 조사했습니다. 4분의 3이 AI 비용이 늘고 있다고 답했고 큰 ROI를 본 곳은 38%였습니다. 거의 4분의 1은 부진한 과제를 줄이거나 멈췄고 약 45%는 잘되는 과제에 투자를 늘렸으며 남길 과제는 보안 위험·재무 수익·정확도·확장 비용을 거의 같은 무게로 따져 골랐습니다.

CFOCIO·CTOAX 추진
#가치 평가#비용 절감 2026.11.07 ↗
AX Strategy아티클

Human-Agent Workforce: 사람과 에이전트가 함께 일할 직무를 다시 짠 CIO는 4%뿐

CIO Dive · Roberto Torres

Gartner가 CIO·기술 임원 2,002명을 조사한 결과, 사람과 AI 에이전트가 섞인 조직에 맞춰 직무를 재설계할 계획이 있는 곳은 4%였고 이들은 AI 상위 성과 그룹일 확률이 2.4배 높았습니다. 비용 압박이 인력 문제를 가리는 구조와 함께, 업무 단위 인벤토리·중단 기준·실행 비용 계측으로 6주 안에 첫 재설계안을 만드는 방법을 붙였습니다.

CIO·CTOCHROCEO
#조직 설계#에이전트 2026.10.26 ↗