As Many Models as Firms: 회사마다 자기 모델을 두고 팀장은 에이전트를 부리는 조직으로
Microsoft CEO 사티아 나델라는 Ignite 간담회에서 회사 수만큼 모델이 있어야 한다며 고객이 MAI 모델 가중치를 받아 자기 데이터로 고쳐 쓰게 하겠다고 했습니다. 팀장은 에이전트를 관리하는 개인 기여자가 되고 토큰 예산을 받으며 보수는 올라야 한다고도 했습니다. 자체 모델 비교 평가와 토큰 예산 설계를 붙였습니다.
사티아 나델라는 회사 하나가 세상을 돌리는 구도는 오지 않는다고 봅니다. 그래서 고객이 MAI 모델 가중치를 받아 자기 Azure에서 자기 데이터로 고쳐 쓰는 쪽으로 Microsoft의 모델 사업을 바꾸겠다고 했습니다. 조직에서는 팀장이 에이전트를 부리는 개인 기여자가 되고 토큰 예산과 더 높은 보수를 받아야 한다고 했습니다. 따라 하려면 업무 하나에서 자체 모델이 범용 모델보다 싸고 나은지 재는 평가 세트와, 토큰을 사람 단위로 나누고 기록하는 규칙이 먼저 필요합니다.
요약
Every의 뉴스레터 Context Window에 Grant Harvey가 11월 18일 쓴 글입니다. 11월 17일(화) Microsoft Ignite 기조연설이 끝난 뒤 나델라가 기자·크리에이터와 연 간담회에 필자가 앉아 들은 내용을 정리했습니다. 나델라는 자신을 AGI-pilled(AGI가 온다고 진지하게 믿는 쪽)라고 불렀습니다. 다만 초지능에 거는 흔한 뜻과는 달랐습니다. 한계 없는 모델 하나가 생기면 그 모델이 의료 회사나 금융 회사가 되고 정부까지 차지할 수 있으며 그런 세상의 정치경제가 어떻게 짜일지가 그의 걱정이었습니다. Anthropic의 모델이 스스로 나아지기 시작하면 따라잡을 수 있느냐는 질문에는, 세상이 회사 하나 이상을 요구하므로 한 회사가 세상을 돌리는 구도는 구조적으로 오지 않는다고 답했습니다.
기조연설의 축은 여러 회사가 번성하려면 지능이 넓게 퍼져야 한다는 생각이었습니다. 나델라는 이를 “as many models as firms”(회사 수만큼 모델)라는 말로 줄였습니다. 그는 Microsoft의 모델 사업을 database business(데이터베이스 사업)로 바꾸려 한다고 했습니다. 기업 고객은 MAI 모델 가중치를 라이선스해 자기 Azure 환경에서 돌립니다. 자체 데이터로 파인튜닝하고 업그레이드 시점도 직접 고릅니다. Microsoft는 AT&T의 맞춤형 MAI 모델이 표준 5G 네트워크 작업에서 Sol 6.1보다 나은 결과를 50분의 1 비용으로 냈다고 밝혔습니다. 조직 이야기도 이어졌습니다. 이상적인 팀은 풀스택 빌더, 인프라 인력, 과학자로 꾸려지고 기존 팀장은 에이전트를 관리하는 개인 기여자가 됩니다. 나델라는 이들에게 토큰 예산을 주고 보수를 올려야 한다고 했습니다. 20만 명 규모를 이점으로 바꾸되 Microsoft도 AI 네이티브 스타트업처럼 일하도록 바뀌어야 하며 자신을 포함한 모두가 일하는 방식을 처음부터 다시 익혀야 한다고 했습니다. 필자는 Microsoft가 이 베팅에 맞춰 모델 사업과 제품과 팀을 함께 다시 짜고 있다고 봅니다. 아래에서는 네 가지 메커니즘과, 실제로 돌릴 때 필요한 평가와 예산 설계를 정리합니다.
핵심 메커니즘
As Many Models as Firms: 지능을 회사마다 나눠 갖는 구도
범용 모델 하나에 모든 회사가 기대는 대신, 회사마다 자기 업무와 데이터로 다듬은 모델을 갖는 구도입니다. 모델 공급자는 기반 모델을 만들고 회사는 그 모델을 자기 데이터로 고쳐 자기 자산으로 둡니다. 여러 회사가 서로 다른 모델로 경쟁하므로 모델 하나가 경제 전체를 차지하기 어렵습니다. 나델라가 이 구도를 내세운 배경은 기술보다 정치경제였습니다. 한계 없는 모델 하나가 의료·금융·정부로 번지는 상황을 막으려면 지능이 여러 회사로 흩어져 있어야 한다는 논리입니다.
실제로 적용할 때는 모든 업무에 자체 모델을 두지 않습니다. 업무 범위가 좁고 건수가 많고 회사만 가진 기록이 쌓인 일에서 효과가 큽니다. AT&T가 고른 표준 5G 네트워크 작업이 이런 조건에 가깝습니다. 넓은 범위의 질의응답이나 건수가 적은 일은 범용 모델을 빌려 쓰는 편이 계산이 맞을 수 있습니다. 가상 예시로, 설비 경보를 하루 수만 건 분류하는 제조사라면 경보 분류만 자체 모델로 옮기고 보고서 초안 작성은 범용 모델에 남기는 식입니다.
Database Business: 가중치를 받아 자기 환경에서 운영한다
나델라가 말한 database business의 조건은 넷입니다. 고객은 MAI 모델 가중치를 라이선스해 자기 Azure 환경에서 돌립니다. 자체 데이터로 파인튜닝하며 업그레이드 시점도 직접 고릅니다. 원문은 비유를 더 풀지 않았습니다. 네 조건을 이어 보면, 기업이 데이터베이스를 자기 서버에 두고 버전 교체를 스스로 정하듯 모델도 자기 쪽에 두고 운영한다는 뜻으로 읽힙니다.
넷 가운데 실무에서 가장 무게가 큰 조건은 업그레이드 시점입니다. API로 빌려 쓰는 모델은 공급자가 버전을 바꾸면 결과가 함께 바뀝니다. 가중치를 자기 환경에 두면 새 버전이 나와도 평가를 다시 돌려 본 뒤 옮길 수 있습니다. 데이터가 회사 환경 밖으로 나가지 않는다는 점도 규제 산업에서는 따로 셀 만한 이점입니다. AT&T 사례가 이 메커니즘의 원문 예입니다.
Agent-managing IC: 팀장이 에이전트를 부리는 개인 기여자가 된다
나델라는 기존 팀장이 에이전트를 관리하는 IC(individual contributor, 사람을 관리하지 않고 자기 결과물을 내는 실무자)가 된다고 했습니다. 사람을 관리하던 시간이 에이전트에게 일을 맡기고 결과를 확인하는 시간으로 바뀝니다. 그는 이들에게 토큰 예산(에이전트를 돌리는 데 쓸 수 있는 모델 사용량 몫)을 주고 유인으로 보수를 올려야 한다고 했습니다. 구체적인 예산 규모나 인상 폭은 밝히지 않았습니다.
이 메커니즘에서 토큰 예산은 비용 통제 수단이면서 권한이기도 합니다. 사람 수가 아니라 토큰 몫으로 일의 규모가 정해지기 때문입니다. 원문은 9월에 Ryan Sloan이 Microsoft가 Copilot 에이전트를 조직도에 올렸다고 보도한 일도 함께 전했습니다. 에이전트가 조직도에 올라가면 그 에이전트를 맡은 사람이 누구인지도 함께 정해야 합니다.
Full-stack Builders, Infra, Scientists: 이상적인 팀과 20만 명의 재학습
나델라가 그린 이상적인 팀은 세 부류입니다. 풀스택 빌더, 인프라 인력, 과학자입니다. 원문은 과학자가 머신러닝 연구자를 뜻하는지 더 넓은 범위인지 밝히지 않았습니다. 모델을 회사마다 갖는 구도라면 가중치를 운영할 인프라 인력과 모델을 고치고 평가할 사람이 팀 안에 있어야 한다는 점에서 앞의 두 메커니즘과 이어집니다.
그는 Microsoft의 20만 명 규모를 이점으로 바꾸고 싶다고 했습니다. 동시에 AI 네이티브 스타트업처럼 일하도록 회사가 바뀌어야 하며 자신을 포함해 모두가 일하는 방식을 첫 원리부터 다시 익혀야 한다고 했습니다. 규모의 이점은 살리고 일하는 방식은 작은 팀처럼 바꾸겠다는 말로 읽힙니다.
통념과 다른 주장
흔히 이렇게 봅니다가장 앞선 범용 모델 하나를 API로 빌려 쓰는 편이 가장 낫고 싸다.
나델라는 이렇게 봅니다회사 수만큼 모델이 있어야 하며 고객이 가중치를 받아 자기 데이터로 고쳐 쓰는 쪽으로 간다.
근거Microsoft는 AT&T의 맞춤형 MAI 모델이 표준 5G 작업에서 Sol 6.1보다 낫고 비용은 50분의 1이었다고 밝혔습니다. 필자도 Every의 Monologue 팀이 직접 파인튜닝한 모델로 바꿔 더 빠르고 싸졌다고 전했습니다.
흔히 이렇게 봅니다AI를 들이면 관리자 자리가 줄고 인건비도 내려간다.
나델라는 이렇게 봅니다팀장은 에이전트를 관리하는 개인 기여자로 바뀌고 토큰 예산을 받으며 보수는 올라야 한다.
근거그는 20만 명 규모를 이점으로 바꾸는 것을 목표로 들었고 보수 인상을 역할 전환의 유인으로 설명했습니다.
저자가 든 사례
AT&T 맞춤형 MAI 모델: 좁은 작업에서 범용 모델을 앞서다
| 구분 | 내용 |
|---|---|
| 상황 | AT&T가 표준 5G 네트워크 작업에 쓸 모델이 필요함 |
| 한 일 | Microsoft의 MAI 모델을 바탕으로 AT&T 맞춤형 모델을 만듦(세부 방법은 원문에서 밝히지 않음) |
| 결과 | Sol 6.1보다 나은 성능, 비용은 50분의 1. Microsoft가 밝힌 수치 |
| 연결 | Database Business, As Many Models as Firms |
Monologue: 2인 팀이 큰 모델을 자기 모델로 바꾸다
| 구분 | 내용 |
|---|---|
| 상황 | Every의 받아쓰기 앱 Monologue가 약 1조 파라미터 규모 모델을 쓰고 있었음 |
| 한 일 | 2인 팀이 직접 파인튜닝한 모델로 교체 |
| 결과 | 더 빠르고 훨씬 저렴해짐. 속도·비용 수치는 원문에서 밝히지 않음 |
| 연결 | As Many Models as Firms |
Microsoft 자신: 조직도와 제품을 함께 바꾸다
| 구분 | 내용 |
|---|---|
| 상황 | 20만 명 조직이 AI 네이티브 스타트업처럼 일해야 한다는 과제 |
| 한 일 | Copilot 에이전트를 조직도에 올림(9월 Ryan Sloan 보도). Copilot은 Office 사이드바에서 Office 앱 전체를 안에서 돌리는 환경이 됨. Copilot Workspaces로 사람과 에이전트가 같은 맥락을 공유. Autopilot은 Dots·Duet 같은 제품에 대한 Microsoft의 답 |
| 결과 | 원문에서 수치로 밝히지 않음. 필자는 Claude가 더 나은 Office를 만들기 전에 Microsoft가 더 나은 Claude 데스크톱을 만들어야 하는 처지로 봄 |
| 연결 | Agent-managing IC, Full-stack Builders, Infra, Scientists |
기술 디테일: 자체 모델과 토큰 예산을 실제로 돌린다면
아래 필드명, 건수, 기준값은 실제로 돌릴 때 필요한 것을 새로 쓴 가상 예시입니다. 원문에서 온 사실은 그렇다고 밝혔습니다.
자체 모델이 맞는지 가리려면 업무 하나의 평가 세트부터 만듭니다(As Many Models as Firms, AT&T 사례). AT&T처럼 범위가 좁고 반복되는 작업을 하나 고릅니다. 월 1만 건 이상 처리되고 정답을 사람이 판정할 수 있는 일이 좋습니다. 최근 6개월 운영 기록에서 400건을 뽑아 업무 담당자가 정답 라벨을 달고 그중 80건은 파인튜닝에 쓰지 않는 시험용으로 떼어 둡니다. 비교 구성은 둘입니다. 지금 쓰는 범용 API를 그대로 두는 구성과, 라이선스한 가중치를 자체 데이터로 파인튜닝한 구성입니다. 두 구성 모두 temperature 0, 같은 프롬프트로 3회씩 돌려 점수 편차를 잽니다. 비용은 1,000건당 추론비에 파인튜닝비와 호스팅비를 월 처리량으로 나눠 더해 계산합니다. 학습·호스팅비를 빼면 자체 모델이 실제보다 싸 보입니다.
{"task": "equipment_alarm_triage", "eval_set": "v1-400", "config": "licensed-weights+ft-v3", "run": 2,
"accuracy": 0.91, "cost_per_1k_usd": 3.4, "p95_latency_ms": 820, "baseline_accuracy": 0.89, "baseline_cost_per_1k_usd": 41.0}
업그레이드 시점을 고르려면 버전 고정과 재평가 규칙을 둡니다(Database Business). 운영 환경에는 기반 모델 버전(base_version)과 파인튜닝 결과물 버전(adapter_version)을 고정해 기록합니다. 공급자가 새 기반 버전을 내면 같은 평가 세트로 다시 파인튜닝하고 3회 반복해 점수를 잽니다. 어느 항목도 반복 편차의 2배 넘게 나빠지지 않을 때만 교체를 승인합니다. 평가 세트 자체도 버전을 매겨 두어야 지난 결과와 비교할 수 있습니다.
토큰 예산을 사람 단위로 주려면 호출마다 사람과 업무를 남깁니다(Agent-managing IC). 에이전트의 모델 호출이 모두 한 게이트웨이를 지나게 하고 호출마다 아래 필드를 남깁니다. 사람별 월 예산을 정하고 80%에 닿으면 본인과 승인권자에게 알립니다. 예산을 다 쓰면 호출을 막지 않고 승인을 받게 해야 일이 멈추지 않습니다. 월말에는 토큰 총량보다 산출물 1건당 비용을 봅니다. 이 숫자가 나델라가 말한 보수 인상을 논의할 때 근거 자료가 됩니다.
{"ts": "2026-11-19T09:12:04+09:00", "owner_id": "u-1042", "agent_id": "ag-quote-draft", "task_type": "견적 초안",
"model": "ft-v3", "tokens_in": 5200, "tokens_out": 900, "cost_usd": 0.021, "output_ref": "QT-88731", "budget_used_pct": 46}
| 막히는 경우 | 증상 | 대응 |
|---|---|---|
| 라벨 데이터 부족 | 시험용 80건에서 점수가 회차마다 크게 흔들림 | 라벨을 400건에서 1,000건으로 늘리고 반복 횟수를 5회로 |
| 파인튜닝 뒤 다른 능력 저하 | 업무 밖 질문에 엉뚱한 답 | 자체 모델은 그 업무에만 연결하고 나머지는 범용 모델로 보냄 |
| 비용 계산 누락 | 자체 모델이 실제보다 싸 보임 | 학습·호스팅·운영 인력 비용을 월 처리량으로 나눠 포함 |
| 예산이 일을 막음 | 월말에 에이전트 작업 중단 | 차단 대신 승인 요청, 다음 달 예산 재배분 |
| 에이전트 결과 품질 미확인 | 토큰은 늘고 반려도 늘어남 | 산출물마다 반려율을 함께 기록하고 예산 판단에 반영 |
현업 실행 디테일: 누가, 언제, 무엇을
아래 역할, 일정, 기준은 원문의 발언을 바탕으로 새로 짠 가상 예시입니다.
| 역할 | 맡는 일 |
|---|---|
| CEO 또는 AX 추진 책임자 | 자체 모델 후보 업무와 팀장 IC 파일럿 승인 |
| CIO·CTO | 가중치 라이선스 조건 검토, 운영 환경과 버전 관리 규칙 |
| 업무 오너 | 후보 업무 선정, 정답 라벨 검수, 결과 판정 |
| ML 엔지니어·인프라 담당 | 데이터 추출, 파인튜닝, 평가 반복, 호스팅 |
| 팀장 IC 3명 | 사람 관리 대신 에이전트로 일하는 파일럿, 업무 기록 |
| CHRO | 팀장 IC 역할 정의와 보상 원칙 초안 |
| CFO | 토큰 예산 단위, 자체 모델 비용 계산 방식 승인 |
준비물. 후보 업무 2~3개의 월 처리 건수와 현재 모델 비용, 최근 6개월 운영 기록, 현재 쓰는 모델의 계약 조건, 파일럿에 참여할 팀장 3명의 지금 업무 목록, 에이전트 호출을 모을 게이트웨이가 필요합니다.
| 기간 | 할 일 | 산출물 |
|---|---|---|
| 1~2주 | 후보 업무 하나 선정, 평가 세트 400건 라벨, 팀장 IC 3명의 업무 목록과 예산 규칙 작성 | 평가 세트 v1, 토큰 예산 규칙 초안 |
| 3주 | 가중치 파인튜닝, 범용 API와 3회 반복 비교 | 정확도·1천 건당 비용·지연 비교표 |
| 4~5주 | 팀장 IC 3명이 토큰 예산으로 2주간 업무 운영 | 사람별 사용 기록, 산출물 1건당 비용, 반려율 |
| 6주 | 결과 검토, 확대 여부와 보상 원칙 결정 | 확대 계획, 보상 원칙, 교체 규칙 |
업무 오너와 팀장에게 물을 것.
- 이 업무의 정답을 누가, 어떤 기준으로 판정하나요?
- 이 업무에서 회사만 가진 기록은 무엇이고 몇 건이나 쌓여 있나요?
- 지금 모델이 바뀌었을 때 결과가 달라져 곤란했던 적이 있나요?
- 팀장으로서 쓰던 시간 가운데 에이전트에 넘길 수 있는 일과 넘길 수 없는 일은 무엇인가요?
- 토큰 예산이 모자라면 어떤 일부터 미루겠나요?
진행 판정 기준(예시). 자체 모델이 시험용 데이터에서 범용 API와 같거나 높은 점수를 내고 학습·호스팅비를 포함한 1천 건당 비용이 30% 이상 낮으면 운영 이관을 검토합니다. 팀장 IC 파일럿은 산출물 1건당 비용이 내려가고 반려율이 오르지 않을 때 다음 분기로 넓힙니다. 어느 쪽이든 결과가 반복 편차 안에 있으면 결정을 미루고 데이터를 더 모읍니다.
AX 적용 제언. 대형 모델 계약을 갱신할 시점이 다가온 기업이라면 계약 전에 업무 하나로 이 비교를 해 두는 편이 낫습니다. 범용 모델과 자체 모델의 성적표가 있어야 공급자와 가격·버전 조건을 협상할 수 있습니다. 시작은 통신의 망 작업처럼 건수가 많고 회사 기록이 쌓인 좁은 업무가 맞습니다. 조직 쪽은 인사 제도부터 바꾸기보다 팀장 3명 규모의 파일럿으로 토큰 예산과 산출물 1건당 비용을 먼저 기록합니다. 그 기록이 있어야 나델라가 말한 보수 인상을 실제 숫자로 논의할 수 있습니다. 경영진 보고에는 모델 정확도보다 업무별 1천 건당 비용과 팀장 IC의 산출물 1건당 비용 두 숫자를 올리면 투자 판단이 쉬워집니다.
원문 사례
| 항목 | 내용 |
|---|---|
| 원문 | Every 뉴스레터 Context Window, 「Microsoft’s CEO Wants Every Company to Own Its Own Model」, Grant Harvey, 2026.11.18 |
| 자리 | Microsoft Ignite 기조연설 뒤 간담회(11월 17일 화요일), 기자·크리에이터 참석 |
| 모델 구도 | 회사 수만큼 모델. 한 회사가 세상을 돌리는 구도는 구조적으로 오지 않음 |
| 모델 사업 | database business로 전환. MAI 가중치 라이선스, 고객 Azure에서 실행, 자체 데이터 파인튜닝, 업그레이드 시점 선택 |
| AT&T | 맞춤형 MAI 모델이 표준 5G 네트워크 작업에서 Sol 6.1보다 나은 성능, 비용 50분의 1(Microsoft 주장) |
| 조직 | 이상적인 팀은 풀스택 빌더·인프라 인력·과학자. 기존 팀장은 에이전트를 관리하는 IC, 토큰 예산 지급, 보수 인상 |
| Microsoft 규모 | 20만 명을 이점으로 바꾸되 AI 네이티브 스타트업처럼 일하도록 전환 |
| 제품 | Autopilot, Office 앱을 품은 Copilot, Copilot Workspaces. 9월 Copilot 에이전트 조직도 편입(Ryan Sloan 보도) |
| Every 사례 | Monologue 2인 팀이 약 1조 파라미터 모델을 직접 파인튜닝한 모델로 교체, 더 빠르고 저렴(수치 없음) |
핵심 개념
- AGI-pilled
- AGI가 온다고 진지하게 믿는 사람을 부르는 말입니다. 나델라는 초지능에 거는 쪽이 아니라 그 이후의 권력 구조를 걱정하는 쪽이라는 뜻으로 썼습니다.
- MAI
- Microsoft가 직접 만드는 AI 모델 계열 이름입니다. 원문에서는 고객이 가중치를 라이선스할 수 있는 모델로 나옵니다.
- Model weights
- 학습이 끝난 모델의 숫자 값 전체입니다. 이것을 받으면 자기 환경에서 모델을 돌리고 고칠 수 있습니다.
- Fine-tuning
- 이미 학습된 모델을 회사 데이터로 조금 더 학습시켜 특정 업무에 맞추는 일입니다.
- Token budget
- 한 사람이 정해진 기간에 에이전트를 돌리는 데 쓸 수 있는 모델 사용량 몫입니다.
- AI native startup
- 처음부터 AI와 에이전트를 전제로 일하는 방식과 조직을 짠 회사입니다.
- Copilot Workspaces
- 사람과 에이전트가 같은 맥락을 공유하며 함께 일하는 Microsoft의 작업 공간입니다.
내 메모
TODO: 내 생각 추가
원문은 Every 뉴스레터 Context Window에 실린 Grant Harvey의 「Microsoft’s CEO Wants Every Company to Own Its Own Model」(2026.11.18)입니다. 원문은 일부만 무료로 공개돼, 이 노트는 공개된 나델라 간담회 부분만 읽고 썼습니다. 유료 구간에 있는 소프트웨어 좌석 수, Every 팀의 모델 선택, Notion CEO 인터뷰는 읽지 않았고 싣지 않았습니다. 나델라의 발언은 필자가 간담회에서 듣고 전한 내용이며 AT&T 수치는 Microsoft가 밝힌 것입니다. 요약, 핵심 메커니즘, 통념과 다른 주장, 사례는 원문에 나온 내용을 AX Partners가 다시 정리했습니다. 기술·현업 디테일의 필드명, JSON 예시, 건수, 판정 기준, 일정, 질문, 인포그래픽과 표는 실제로 돌릴 때 필요한 것을 새로 작성한 가상 예시입니다. 전체 글은 Every 원문에서 볼 수 있습니다.