Industrial AI autonomy: 공장이 AI에 맡길 결정과 운전원이 쥘 결정을 나누는 법

산업 AI에서 물어야 할 것은 "AI냐 사람이냐"가 아니라 "어느 공정의 어떤 결정을 얼마나 맡기느냐"입니다. Saudi Aramco는 정유소 한 곳에서는 AI가 생산을 직접 조정하게 하고 다른 한 곳에서는 추천만 하게 합니다. 따라 하려면 결정마다 자율 수준, 허용 운전 범위, 감사 기록 방식을 먼저 정해야 합니다.

요약

이 글은 MIT Technology Review의 맞춤 콘텐츠 조직인 Insights가 산업 소프트웨어 기업 AVEVA의 후원을 받아 썼습니다. 편집국 기사가 아닙니다. 글은 공장을 계속 변하는 시스템으로 봅니다. 디지털 트윈도 설계 때 한 번 만들고 마는 정적 모델에서 벗어나, 운영 데이터와 함께 갱신되는 living digital twin(운영과 계속 동기화되는 디지털 트윈)으로 옮겨 간다고 설명합니다. 트윈을 현장과 맞춰 두는 수단으로는 digital thread(설계부터 운영·정비까지 데이터를 잇는 연결), 값이 내려간 센서, AI와 물리 기반 모델의 결합을 듭니다. 그 위에서 agentic AI(스스로 판단해 다음 행동을 고르는 AI)가 변경안을 추천하거나 직접 조정합니다. 글이 붙드는 질문은 하나입니다. 어디까지 AI에 맡기고 어디서 사람이 통제를 쥐느냐입니다. 이름을 밝혀 인용한 사람은 AVEVA의 최고제품책임자 Rob McGreevy 한 명입니다.

원문이 그린 산업 AI의 층위 (배치는 새로 그림)

원문은 정유, 식품, 화학, 전력망 사례로 답합니다. Saudi Aramco의 Yanbu 정유소에서는 최적화 알고리즘이 생산을 폐루프로 조정하고 운전원은 감독하다가 필요할 때 개입합니다. 같은 회사의 Ras Tanura 정유소에서는 알고리즘이 추천만 하고 적용 여부는 운전원이 정합니다. Nestlé는 Nesquik 공장 건조기를 AI로 튜닝해 에너지 사용을 약 16% 줄이면서 품질과 수율도 높였습니다. SCG Chemicals는 AI 디지털 트윈으로 설비 신뢰도 99%, 6개월 안에 투자 대비 9배 효과를 보고했습니다. 조사 수치도 같은 방향을 가리킵니다. 제조사의 66%가 agentic AI를 쓰거나 계획하지만 2030년까지 공장 일부라도 자율로 돌릴 것으로 보는 곳은 40%입니다. 경영진의 65%는 운영 리스크를 최상위 우려로 꼽습니다. McGreevy는 산업 AI가 대부분 조언 역할에 머물고 완전 자율은 좁고 반복적인 작업에 그칠 것으로 봅니다. 그래서 운전원의 일은 조치를 하나씩 승인하는 데서 허용 범위를 정하고 AI의 실수를 일찍 잡는 쪽으로 바뀝니다. 아래에서는 이 구조를 여섯 가지 작동 원리로 풀고 결정별 자율 수준표, 범위 스펙, 감사 기록 필드, 12주 시범안을 덧붙입니다.

원문이 인용한 조사 수치. 조사 기관과 모집단이 서로 다름

핵심 메커니즘

Living digital twin: 운영과 함께 갱신되는 트윈

무엇인가. 공장 설비와 공정을 본뜬 모델을 설계 시점에 고정하지 않고 운영 데이터가 들어올 때마다 맞춰 고치는 디지털 트윈입니다.

어떻게 작동하나. 센서와 제어 시스템이 실측값을 보냅니다. digital thread는 설계 도면 운전 이력, 정비 기록을 같은 설비 기준으로 이어 줍니다. 물리 기반 모델은 열·물질 수지처럼 원리로 계산하고 AI 모델은 그 계산이 현장과 어긋나는 부분을 데이터로 메웁니다. 이렇게 갱신된 트윈이 있어야 AI의 추천이나 조정이 지금의 공장을 기준으로 나옵니다.

언제 쓰나. 원료 성상, 설비 노후, 계절에 따라 공정 특성이 바뀌는 연속 공정에 맞습니다. 조건이 거의 바뀌지 않는 단순 조립 라인이라면 정적 모델로도 충분할 수 있습니다.

원문의 예. SCG Chemicals는 엔지니어링, 운영, 정비를 하나의 AI 지원 트윈으로 묶어 설비 상태를 감시하고 고장 징후를 미리 알립니다.

Living digital twin으로 가는 세 가지 동기화 수단 (원문 기준)

Autonomy spectrum: 폐루프와 추천형을 공정별로 나눈다

무엇인가. AI에 맡기는 정도를 회사 전체가 아니라 공정이나 결정 단위로 정하는 방식입니다. 한쪽 끝은 AI가 직접 조정하는 closed loop(폐루프), 다른 끝은 AI가 추천만 하는 advisory(추천형)입니다.

어떻게 작동하나. 폐루프에서는 알고리즘이 제어 설정값을 바꾸고 운전원은 결과를 지켜보다가 이상하면 개입합니다. 추천형에서는 알고리즘이 변경안을 내고 운전원이 적용할지 정합니다. 같은 모델이라도 어느 쪽에 두느냐에 따라 책임 소재와 필요한 검증이 달라집니다.

언제 쓰나. 폐루프는 반복적이고 결과를 바로 확인할 수 있으며 잘못돼도 범위 안에서 되돌릴 수 있는 결정에 맞습니다. 추천형은 모델이 새롭거나, 영향이 크거나, 운전원의 현장 판단이 더 정확한 결정에 맞습니다.

원문의 예. Saudi Aramco는 Yanbu 정유소에서는 폐루프를, Ras Tanura 정유소에서는 추천형을 씁니다. 두 곳이 왜 다르게 정했는지는 원문에서 밝히지 않았습니다.

자율 수준을 네 칸으로 나눈 개념도. 두 정유소 위치만 원문 기준, 칸 나눔은 새로 정리

Supervisory control: SCADA처럼 사람이 감독하는 AI

무엇인가. McGreevy가 산업 AI를 설명하며 쓴 비유입니다. SCADA(Supervisory Control and Data Acquisition, 원격 감시·제어 시스템)의 S는 supervisory, 즉 사람이 감독한다는 뜻입니다.

어떻게 작동하나. SCADA에서도 제어는 시스템이 실행하지만 사람이 화면으로 상태를 보고 필요하면 끼어듭니다. 산업 AI도 같은 자리에 놓으면 AI는 조언하거나 정해진 범위에서 실행하고 사람은 감독 위치를 지킵니다.

언제 쓰나. 사고 비용이 크고 규제가 엄격한 정유, 화학, 전력에서 기본값으로 둘 만한 구조입니다.

원문의 예. McGreevy는 산업 AI가 대부분 조언에 쓰이고 완전 자율은 좁고 반복적인 작업에 한정될 것으로 봅니다.

원문의 SCADA 비유를 좌우로 나눠 정리

Operator role shift: 건별 승인자에서 범위 설정자로

무엇인가. AI가 들어온 공장에서 운전원의 일이 바뀌는 방향입니다.

어떻게 작동하나. 예전에는 일상 조치를 운전원이 하나씩 승인하거나 직접 했습니다. 원문은 앞으로 세 가지 일이 중심이 된다고 봅니다. 허용 운전 범위(acceptable operating limits)를 정하는 일, AI의 실수를 일찍 잡는 일, AI가 무엇을 보고 무엇을 했는지 해석하는 일입니다. 사람이 결과를 하나하나 누르는 대신 규칙과 경계를 맡습니다.

언제 쓰나. 조치 빈도가 높아 건별 승인이 병목이 되는 루프에 맞습니다. 하루 몇 번뿐인 큰 결정이라면 건별 승인을 그대로 두는 편이 낫습니다.

작은 예시(가상). 건조기 출구 온도를 AI가 시간마다 조정한다면 운전원은 매번 승인하는 대신 “온도 범위, 한 번에 바꿀 수 있는 폭, 시간당 조정 횟수”를 정하고 그 밖으로 나가는 제안만 봅니다.

원문이 말한 운전원 역할의 변화

Governance boundary: AI 단독 결정의 범위와 감사

무엇인가. 어떤 결정을 AI가 혼자 내릴 수 있는지, 그 조치를 어떻게 감시하고 감사할지 미리 정한 규칙입니다.

어떻게 작동하나. 결정마다 AI 단독 가능 여부를 분류하고 경계와 변경 권한을 정하고 실시간으로 감시하고 조치를 기록해 나중에 따져 볼 수 있게 합니다. 원문은 많은 기업이 아직 이런 안전장치를 두루 갖추지 못했다고 전합니다.

언제 쓰나. AI가 실제 설비를 움직이는 모든 경우에 필요합니다. 추천형이라도 운전원이 그대로 따르는 비율이 높아지면 사실상 실행과 같아지므로 기록을 남겨야 합니다.

원문의 예. EU AI Act는 핵심 기반시설의 안전 구성 요소로 쓰이는 일부 AI를 고위험으로 분류해 사람의 감독을 요구합니다. AVEVA는 사내에 책임 있는 AI 거버넌스 위원회를 두고 있다고 밝혔습니다.

원문이 말한 거버넌스의 네 요소를 순서로 정리

Cross-plant coordination: 공장 밖으로 넓어지는 조율

무엇인가. 한 공장 안의 최적화를 넘어 여러 공장, 협력사, 가치사슬 전체를 AI로 조율하려는 다음 단계입니다. 원문은 physical AI(물리 세계에서 움직이는 AI)와 함께 이를 미래 방향으로 듭니다.

어떻게 작동하나. 공장 사이, 기업 사이에 데이터가 오가야 조율이 됩니다. 그런데 원문이 인용한 AVEVA·IMD 조사에서는 AI가 파트너 사이의 의사결정과 책임을 거의 바꾸지 않았다는 응답이 43%로, 크게 바꿨다는 23%보다 많습니다. 파트너와 데이터를 많이 공유한다는 곳은 27%입니다.

언제 쓰나. 단일 공장에서 자율 수준과 감사 체계가 자리 잡은 뒤에 넓힐 대상입니다.

AVEVA·IMD 조사 (원문 인용). 세 막대는 서로 다른 질문의 응답

통념과 다른 주장

흔히 이렇게 봅니다agentic AI가 공장에 들어오면 결국 사람 없이 돌아가는 무인 공장으로 간다.

원문은 이렇게 봅니다산업 AI는 대부분 조언 역할에 머물고 완전 자율은 좁고 반복적인 작업에 한정됩니다. Aramco처럼 자율 수준을 공정마다 다르게 둘 수 있습니다.

근거SCADA도 이름부터 감독형입니다. 제조사 가운데 2030년까지 일부라도 자율을 기대하는 곳은 40%이고 경영진 65%는 운영 리스크를 가장 걱정합니다. Aramco는 같은 회사 안에서도 정유소마다 자율 수준을 다르게 둡니다.

흔히 이렇게 봅니다사람이 통제한다는 것은 AI의 조치를 사람이 하나씩 승인한다는 뜻이다.

원문은 이렇게 봅니다통제는 승인 횟수가 아니라 허용 범위를 정하고 AI의 실수를 일찍 잡고 AI가 한 일을 해석하는 능력에서 나옵니다.

근거Yanbu에서는 알고리즘이 조정하고 운전원은 감독하다가 필요할 때 개입합니다. 원문은 운전원 역할이 이 방향으로 바뀐다고 설명합니다.

통념과 원문 주장을 세 줄로 대비

저자가 든 사례

Saudi Aramco: 두 정유소, 두 가지 자율 수준

구분	내용
상황	같은 회사의 두 정유소에서 AI 최적화를 운영
한 일	Yanbu: 최적화 알고리즘이 생산을 폐루프로 조정, 운전원은 감독·개입. Ras Tanura: 알고리즘이 변경을 추천, 운전원이 적용 여부 결정
결과	원문에서 수치를 밝히지 않음
연결	Autonomy spectrum, Operator role shift

Saudi Aramco 두 정유소의 역할 분담 (원문 기준, 수치는 원문에 없음)

Nestlé Nesquik 공장: 건조기 AI 튜닝

구분	내용
상황	분말 음료 원료를 만드는 산업용 건조기
한 일	AI 최적화로 건조기 운전 조건을 튜닝
결과	에너지 사용 약 16% 감소, 품질과 수율 개선. 사람 통제 방식은 원문에서 밝히지 않음
연결	Living digital twin, Autonomy spectrum(좁고 반복적인 루프)

Nestlé Nesquik 공장 사례 (원문 수치)

SCG Chemicals(태국): 엔지니어링·운영·정비를 잇는 트윈

구분	내용
상황	화학 설비의 상태 관리와 고장 대응
한 일	엔지니어링, 운영, 정비를 아우르는 AI 지원 디지털 트윈을 만들어 설비 상태를 감시하고 고장 가능성을 경고
결과	설비 신뢰도 99%, 6개월 안에 투자 대비 9배 효과
연결	Living digital twin

SCG Chemicals 사례 (원문 수치)

National Laboratory of the Rockies(미국): 전력망 관제실

구분	내용
상황	재생에너지 비중이 늘며 전력망 관제가 복잡해짐
한 일	생성형 AI 모델이 재생에너지 발전 예측과 계통 상태 추정을 내 관제실 운전원을 지원
결과	원문에서 수치를 밝히지 않음
연결	Supervisory control (AI는 판단 근거, 결정은 운전원)

National Laboratory of the Rockies 사례 (원문 기준, 수치 없음)

기술 디테일: 결정별로 자율 수준을 정해 돌리려면

결정 목록에 자율 수준을 붙이려면 (Autonomy spectrum, Aramco 사례) 먼저 공정의 조작 변수를 결정 단위로 나열합니다. 예를 들어 “건조기 출구 온도 설정”, “증류탑 환류비 조정”처럼 한 줄에 한 결정입니다. 줄마다 L0~L3 가운데 하나를 배정합니다. 아래 정의는 가상 예시이며 원문의 추천형은 L1, 폐루프는 L3에 해당합니다. 처음에는 모든 결정을 L0이나 L1에서 시작하고 운영 기록으로 승격 여부를 따집니다. 추천은 정해진 주기(예: 15분)마다 트윈으로 후보 설정값 몇 개를 계산하고 범위 스펙으로 걸러 가장 나은 하나만 근거와 함께 내는 식으로 만듭니다. 같은 입력에 같은 답이 나오도록 최적화 설정과 모델 버전을 고정해 둡니다.

가상 예시: 결정 목록에 붙일 자율 수준 정의

허용 운전 범위를 스펙으로 남기려면 (Operator role shift) 운전원이 정한 경계를 문서가 아니라 기계가 읽는 형식으로 남깁니다. AI 실행 전에 이 스펙으로 제약을 검사하고 범위를 넘는 제안은 실행하지 않고 운전원 화면으로 보냅니다. 아래 스키마는 가상 예시입니다.

{
  "loop_id": "DRYER-02-OUTLET-TEMP",
  "autonomy_level": "L2",
  "limits": {"low": 82.0, "high": 90.0, "unit": "degC"},
  "max_step_per_move": 0.5,
  "max_moves_per_hour": 4,
  "owner": "교대 반장",
  "approved_by": "공정 엔지니어",
  "valid_until": "2026-12-31",
  "fallback": "기존 PID 설정값으로 복귀",
  "spec_version": 3
}

범위 값은 공정안전 검토를 거친 운전 한계 안쪽에 둡니다. 스펙이 바뀌면 버전을 올리고 누가 언제 바꿨는지 남깁니다.

트윈이 현장과 어긋날 때 멈추게 하려면 (Living digital twin) 물리 모델은 기본 수지를 계산하고 ML 모델은 그 계산과 실측의 차이(잔차)를 학습해 보정하는 식으로 나누면 어디서 틀렸는지 추적하기 쉽습니다. 운영 중에는 세 가지를 계속 봅니다. 센서 품질 flag, 트윈 예측과 실측의 잔차, 범위 이탈입니다. 잔차가 정해 둔 기준(예: 최근 30일 표준편차의 3배)을 넘거나 핵심 센서 품질이 나빠지면 자율 수준을 자동으로 한 단계 낮추고 위험 신호면 L0로 내려 기존 제어로 돌아갑니다. 강등은 자동, 복귀는 사람 승인으로 둡니다.

가상 예시: 자율 수준 자동 강등 흐름

감사 기록을 남기려면 (Governance boundary, EU AI Act) AI가 낸 추천과 실행마다 한 줄씩 남깁니다. 필드 예시는 timestamp, loop_id, model_version, input_snapshot_id, recommendation, constraint_check(통과·위반 항목), action(실행·보류·거부), actor(AI 또는 운전원 ID), override_reason입니다. 운전원이 추천을 거부한 이유는 고르기 쉬운 코드(원료 변화, 설비 이상, 모델 불신, 기타)로 받습니다. 이 기록이 있어야 승격 심의와 규제 대응을 같은 데이터로 할 수 있습니다.

추천형에서 실행형으로 올리려면 (Ras Tanura에서 Yanbu 방향) 먼저 그림자 운영을 합니다. AI는 추천만 기록하고 운전원 실제 조치와 결과를 나란히 쌓습니다. 판정 기준은 예시로 둡니다. 4주 이상 추천 수용률 80% 이상, 범위 위반 제안 0건, 추천을 따랐을 때 목표 지표(에너지, 수율)가 기존보다 나쁘지 않을 것. 셋을 채운 결정만 L2로 올립니다.

관제실에 생성형 AI를 붙이려면 (National Laboratory of the Rockies 사례) 생성형 모델은 예측과 상태 추정을 설명하는 역할에 두고 제어 명령은 기존 제어 시스템이 내리게 분리합니다. 출력에는 근거가 된 예측값, 데이터 시각, 확신 구간을 함께 붙여 운전원이 따를지 판단할 수 있게 합니다.

현업 실행 디테일: 누가, 언제, 무엇을

역할.

역할	맡는 일
공정 엔지니어	결정 목록 작성, 자율 수준 초안, 범위 스펙 승인
교대 반장·운전원	허용 범위 제안, 추천 수용·거부와 사유 입력, 이상 시 개입
제어(APC) 엔지니어	모델 연결, 강등·복귀 로직, 기존 제어와의 전환 시험
공정안전 담당	범위가 안전 운전 한계 안에 있는지 검토, 승격 심의 참여
OT 보안 담당	AI가 제어망에 쓰는 경로와 권한 점검
공장장	승격·확대 최종 승인, 성과 지표 확정

시작 전 준비물. 대상 단위 공정 하나, 그 공정의 조작 변수와 운전 한계 목록, 최근 6~12개월 운전 이력과 정비 기록, 기존 제어 로직 문서, 목표 지표 하나(에너지, 수율, 신뢰도 가운데 하나)를 준비합니다.

가상 예시: 단위 공정 하나의 12주 일정

현장에 물을 것.

교대마다 가장 자주 손대는 설정값은 무엇이고 하루에 몇 번 바꾸나요?
그 조정을 잘못했을 때 몇 분 안에 알 수 있고 되돌릴 수 있나요?
지금 운전 한계는 어디에 적혀 있고 누가 바꿀 수 있나요?
모델 추천을 믿지 못하는 상황은 언제인가요(원료 변경, 기동·정지, 정비 직후)?
사고 조사 때 지금은 어떤 기록을 꺼내 보나요?

진행 판정 기준(예시). 12주 끝에 세 조건을 봅니다. 첫째, 그림자 운영 기간에 범위 위반 제안이 0건입니다. 둘째, 운전원 추천 수용률이 80% 이상이고 거부 사유가 기록돼 있습니다. 셋째, 목표 지표가 기존 운전보다 나빠지지 않았습니다. 셋을 채우면 같은 결정을 다른 라인에 넓히고 하나라도 못 채우면 L1에 두고 원인을 고칩니다.

AX 적용 제언. 국내 정유·화학·식품 공장이라면 “AI 자율화율” 같은 회사 단위 목표보다 결정 목록과 자율 수준표를 먼저 만드는 편이 낫습니다. Aramco처럼 같은 회사 안에서도 공정마다 답이 다르기 때문입니다. 첫 대상으로는 Nestlé의 건조기처럼 좁고 반복적이며 결과를 바로 재는 루프가 적당합니다. 에너지 같은 지표로 효과를 보이고 그 사이 범위 스펙과 감사 기록을 다듬으면 고위험 공정으로 넓힐 때 쓸 근거가 쌓입니다. 협력사까지 잇는 조율은 그다음 순서입니다.

원문 사례

항목	내용
발행	MIT Technology Review Insights, 2026.10.28. AVEVA 후원, 편집국 기사 아님
인용 인물	Rob McGreevy(AVEVA 최고제품책임자)
핵심 주장	산업 AI는 대부분 조언 역할, 완전 자율은 좁고 반복적인 작업에 한정. 운전원은 범위 설정·조기 포착·해석으로 역할 이동
Saudi Aramco	Yanbu 폐루프 최적화(운전원 감독·개입), Ras Tanura 추천형(운전원 결정). 수치 없음
Nestlé	Nesquik 공장 건조기 AI 튜닝, 에너지 약 16% 감소, 품질·수율 개선
SCG Chemicals	엔지니어링·운영·정비 AI 디지털 트윈, 설비 신뢰도 99%, 6개월 안 ROI 9배
National Laboratory of the Rockies	생성형 AI로 재생에너지 예측·계통 상태 추정, 관제실 운전원 지원
조사 수치	제조사 66% agentic AI 사용·계획, 40% 2030년까지 일부 자율 기대(Manufacturing Leadership Council 2026). 경영진 65% 운영 리스크 최상위 우려(Deloitte 2025). 파트너 간 결정·책임 거의 안 바뀜 43%, 크게 바뀜 23%, 데이터 많이 공유 27%(AVEVA·IMD)
규제·거버넌스	EU AI Act, 핵심 기반시설 안전 구성 요소 AI 일부를 고위험으로 분류해 사람 감독 요구. AVEVA 책임 있는 AI 거버넌스 위원회

핵심 개념

digital thread: 설계, 생산, 운영, 정비 데이터를 같은 설비 기준으로 이어 한 흐름으로 보게 하는 연결입니다.
physics-based model: 열·물질 수지 같은 원리로 공정을 계산하는 모델. 데이터가 적은 구간에서도 그럴듯한 값을 냅니다.
closed loop: AI의 계산 결과가 사람 승인 없이 제어 설정값으로 바로 들어가는 운전 방식입니다.
advisory: AI가 변경안을 내고 사람이 적용 여부를 정하는 운전 방식입니다.
physical AI: 로봇이나 설비처럼 물리 세계에서 직접 움직이는 AI. 원문은 산업 AI의 다음 단계로 듭니다.
EU AI Act 고위험 분류: EU AI 규제에서 사람의 감독, 기록, 위험 관리를 더 엄격히 요구하는 등급입니다.

내 메모

TODO: 내 생각 추가

원문은 MIT Technology Review Insights의 「Pairing industrial AI autonomy and human control」(2026.10.28)입니다. AVEVA가 후원한 맞춤 콘텐츠이며 MIT Technology Review 편집국이 쓴 기사가 아닙니다. 요약, 핵심 메커니즘, 통념과 다른 주장, 사례는 원문이 언급한 내용을 AX Partners가 다시 정리했습니다. 자율 수준 L0~L3 정의, 범위 스펙과 감사 기록 필드, 강등 로직, 12주 일정, 역할 표, 판정 기준, 인포그래픽과 표는 실제로 돌릴 때 필요한 내용으로 새로 작성했고 가상 예시를 포함합니다. 전체 내용은 원문에서 볼 수 있습니다.