Agentic Finance at Runtime: 싱가포르 금융권이 AI 에이전트에 권한을 단계적으로 넘기고 실행 전에 검증하는 법
싱가포르 Insights 2040 첫날 논의를 정리한 글입니다. 금융사가 AI로 돈을 벌려면 업무 하나가 아니라 프로세스 전체를 바꾸고 운영비를 사용 사례별로 나눠 따져야 한다고 봅니다. 또 에이전트마다 책임자와 결정 한도를 정해 권한을 보조, 권고, 감시 하 실행 순으로 넓히라고 제안합니다. 실행 직전 행동을 검증하고 기록하는 SAFR 체크포인트도 함께 다룹니다.
AI가 금융사의 매출과 이익으로 이어지려면 빨라진 업무가 프로세스 전체를 앞당겨야 합니다. 숨은 운영비까지 사용 사례별로 계산하고 에이전트에 넘기는 권한에 한도를 그어야 합니다. 이 세 가지를 실제로 돌리려면 에이전트마다 책임자·목표·결정 한도를 적은 등록부와, 실행 직전에 행동을 검증하고 남기는 체크포인트가 필요합니다.
요약
The Asian Banker의 Nanda Lakhwani가 11월 16일 싱가포르에서 열린 Insights 2040 첫날 논의를 정리해 11월 17일에 실었습니다. 특정 은행의 성과를 보고한 글이 아니라 금융사가 AI의 상업적 가치를 얻으려면 무엇을 바꿔야 하는지를 다섯 질문으로 묶었습니다. 무엇이 싸게 제공 가능해지나, 생산성이 어디서 수익이 되나, 무엇을 직접 만들고 사고 통제하나, 에이전트가 결정 권한을 어떻게 바꾸나, 민관 협력이 무엇을 줄 수 있나입니다. 출발점은 AI가 같은 비용으로 더 많은 일을 가능하게 한다는 점입니다. 금융범죄 경보를 더 많이 조사하고 소규모 기업에도 자금 관리를 지원하며 금융 서류를 더 빨리 만들 수 있습니다.
글의 결론은 세 줄로 요약됩니다. 업무 흐름을 다시 설계하고 운영 비용을 빠짐없이 재며 위임한 권한에 분명한 한도를 두라는 것입니다. 시범 사업이 실험에서 멈추는 이유도 기술이 아니라 운영 쪽에서 찾습니다. 운영 예산, 운영 책임자, 성공 기준이 정해지지 않으면 좋은 데모도 실험으로 남는다는 설명입니다. 에이전트가 정보를 내놓는 데서 그치지 않고 행동까지 하면 조직이 바뀝니다. 이때 시스템 이름보다 실제로 얼마나 위임했는지가 중요하다고 봅니다. 싱가포르 통화청(MAS)과 업계가 만든 SAFR(Safeguards for Agentic Finance at Runtime, 실행 시점 에이전트 안전장치)는 그 위임을 실행 직전에 통제하는 장치로 소개됩니다. 아래에서는 여섯 가지 메커니즘과, 실제로 돌릴 때 필요한 등록부·체크포인트 설계와 일정을 정리합니다.
핵심 메커니즘
Process Redesign: 업무 하나가 아니라 흐름 전체를 앞당긴다
범용 AI 도구는 문서 작성과 분석을 돕습니다. 원문은 더 큰 기회를 일이 기관 안에서 흘러가는 방식을 바꾸는 데서 찾습니다. 서류 한 장을 빨리 써도 다음 부서로 넘기는 인계와 승인 대기가 그대로면 거래 전체는 빨라지지 않습니다. 기업금융이 예입니다. 서류 작업이 빨라진 효과는 거래가 심사와 실행을 더 빨리 통과할 때 비로소 매출을 앞당깁니다. 그래서 효과를 따질 때 영업(관계 관리)팀, 운영, 법무, 컴플라이언스를 모두 포함한 프로세스 전체를 봐야 한다고 말합니다.
언제 쓰나: 여러 부서를 거치는 승인형 업무(여신, 무역금융, 계좌 개설)에 맞습니다. 한 사람이 처음부터 끝까지 처리하는 업무라면 업무 단위 측정으로도 충분합니다. 작은 예시(가상): 기업 여신 서류 초안 작성이 2일에서 반나절로 줄어도 신용심사 대기열이 5일이면 전체 기간은 거의 그대로입니다.
Full Cost Accounting: 숨은 비용까지 사용 사례별로 나눈다
운영 단계에서 모델은 작업의 작은 부분인 경우가 많습니다. 커넥터, API, 주변 시스템과 업무 방식의 변경에 큰 투자가 들 수 있습니다. 배포 뒤에도 평가, 유지보수, 모델 사용료가 계속 나갑니다. 모델을 올리면 품질, 응답 지연, 사용자 경험이 달라질 수 있으니 요건을 일찍 정하고 통제 장치를 재사용해야 반복 평가와 늦은 재설계를 줄인다고 봅니다. 공유 모델과 인프라 비용은 특정 사용 사례와 사용자에게 배분한 뒤 편익과 비교해야 합니다. 전사 도입률 같은 합계 지표로는 앱 하나가 제 운영비를 감당하는지 알 수 없기 때문입니다.
Layered Sourcing: 층마다 만들지 살지 정하고 통제권은 남긴다
무엇을 직접 만들고 무엇을 살지는 어떤 역량이 서비스를 차별화하는지부터 정합니다. 판단 기준은 개발비만이 아니라 고객 결과(정확성, 적시성, 유용성)입니다. 선택은 층마다 다릅니다. 은행은 외부 인프라와 파운데이션 모델을 쓰면서 지식 자원, 애플리케이션, 결정 프로세스는 직접 만들 수 있습니다. 개발비가 내려가면 만들 만한 앱이 늘지만 지속적인 유지보수와 업그레이드 부담은 구매 쪽에 유리할 수 있습니다. 더 나은 모델로 바꿀 때는 운영비와 교체 평가 작업까지 정당화돼야 합니다. 장애 때 대체 모델로 넘어가려면 그 모델이 해당 앱에서 쓸 만한지 미리 시험해 둬야 합니다.
어느 층이든 데이터 접근, 허용된 행동, 배포 결정은 금융사가 쥐고 있어야 합니다. MAS의 AI 위험관리 지침은 외부에서 가져온 시스템까지 포함해 서비스에 쓰인 AI의 책임이 금융사에 있다고 봅니다. 확인할 수 없는 부분이 있으면 보완 통제를 두고 위험 성향을 벗어나면 서비스를 제한, 중단, 교체할 수 있어야 합니다.
Staged Delegation: 권한은 보조, 권고, 감시 하 실행 순으로 넓힌다
원문은 에이전트마다 네 가지를 정하라고 합니다. 이름이 있는 업무 책임자(business owner), 정해진 결과, 분명한 결정 한도, 사람이 개입해야 하는 조건입니다. 권한은 한 번에 주지 않고 단계로 넓힙니다. 처음에는 사람을 돕는 보조, 다음은 사람이 고르는 권고, 그다음은 감시를 받으며 직접 실행하는 단계입니다. 정해진 한도 안에서 성과가 받아들일 만하다는 근거가 쌓일 때만 다음 단계로 갑니다.
사람 책임에는 조건이 붙습니다. 책임자에게 판단할 정보, 멈출 권한, 들여다볼 시간이 없으면 서명만 남고 보호 효과는 작습니다. 반대로 단계마다 사람 확인을 요구하면 자동화가 무너집니다. 그래서 확인 지점을 어디에 두고 어떤 제한을 강제로 걸지가 운영 모델의 중심이 됩니다.
SAFR Checkpoints: 실행 직전에 행동을 검증하고 기록한다
SAFR는 MAS가 BuildFin.ai(금융사, 기술 기업, 연구기관 협업체) 아래에서 업계와 만든 백서로, 2026년 7월 3일 공개됐습니다. 핵심은 거버넌스 체크포인트입니다. 에이전트가 행동을 제안하면 실행 전에 그 행동이 미리 정한 위임 범위(mandate), 정책, 위험 한도 안에 있는지 검증하고 기록합니다. MAS 발표는 안전장치를 정책에 묶인 실행, 실시간 검증, 감사 가능성, 상호운용성 네 가지로 설명합니다. 원문은 여기에 싱가포르의 Model AI Governance Framework for Agentic AI를 더해, 에이전트 권한의 경계를 긋고 사람의 책임을 실질적으로 남기는 보완 지침으로 소개합니다.
고객 쪽 에이전트가 들어오면 검증 대상이 바뀝니다. 요청을 받는 금융사는 에이전트가 누구를 대리하는지, 요청한 행동이 유효한 위임 범위 안인지 확인해야 합니다. 확인은 당사자마다 나뉩니다. 은행은 결제 권한과 한도는 확인할 수 있지만 그 구매가 고객 지시에 맞았는지는 알 수 없습니다. 승인이 유효해도 책임 소재가 정리되지는 않으므로 사업자, 상대방과 책임과 손실을 나누는 약정과 분쟁 처리 절차가 따로 필요합니다.
Shared Assurance: 공동 시험 결과를 재사용하고 바뀌면 다시 시험한다
AI 서비스를 다른 기관과 시장으로 넓히면 비용이 늘어납니다. 기술 스택은 국경을 쉽게 넘어도 서비스는 현지 인가, 데이터 현지화, 감독 기대를 따라야 합니다. 원문은 금융사가 운영 문제를 내놓고 기술팀이 통제를 만들어 시험하며 당국이 기대를 분명히 하는 협력을 제안합니다. 정책 기대가 엔지니어가 구현하고 감독자가 시험할 수 있는 통제로 바뀌는 구조입니다. 공통 시험 방법이 있으면 상대 기관은 모든 평가를 반복하지 않고도 에이전트가 허가 한도 안에서 움직이는지 확인할 수 있습니다. 다만 모델, 도구, 권한이 바뀌면 이전 평가가 무효가 될 수 있어 다시 시험해야 합니다. 비슷한 모델과 인프라를 쓰는 기관들이 같은 방향으로 결정하거나 동시에 멈출 위험도 공동 시험에서 함께 봐야 한다고 덧붙입니다.
통념과 다른 주장
흔히 이렇게 봅니다AI로 업무 하나가 빨라지면 그만큼 비용이 줄고 수익이 난다.
저자는 이렇게 봅니다인계와 승인이 그대로면 업무 단위 단축은 수익에 거의 보탬이 되지 않습니다. 흐름 전체를 바꾸고 사용 사례별 운영비를 따져야 합니다.
근거기업금융 서류가 빨라져도 거래가 심사와 실행을 빨리 통과해야 매출이 앞당겨집니다. 전사 도입률로는 앱 하나가 운영비를 감당하는지 알 수 없다는 설명입니다.
흔히 이렇게 봅니다에이전트가 하는 일마다 사람이 확인하면 안전하다.
저자는 이렇게 봅니다모든 단계 확인은 자동화를 무너뜨립니다. 정보와 권한과 시간이 없는 사람의 책임은 보호가 되지 못합니다. 확인 지점의 위치와 강제 제한이 운영 모델의 중심입니다.
근거원문은 그 대안으로 에이전트별 결정 한도와 개입 조건, 단계적 위임, 실행 전에 행동을 검증하는 SAFR 체크포인트를 제시합니다.
저자가 든 사례
원문은 특정 은행의 사례나 수치를 싣지 않았습니다. 대신 업무 장면 세 가지를 예로 들었습니다. 아래는 그 장면을 상황, 원문이 제시한 방향, 결과로 다시 짠 것입니다.
금융범죄 경보 조사: 인력이 커버리지를 정하던 구조
| 구분 | 내용 |
|---|---|
| 상황 | 조사 인력 규모가 어떤 경보를 살펴볼지 정함 |
| 원문이 제시한 방향 | 에이전트가 정보를 모으고 사건을 분석해 인원을 비례로 늘리지 않고 조사 범위를 넓힘. 열린 추론을 제한하고 핵심 점검은 지정된 도구로만 거치게 해 조사를 일관되게 함 |
| 결과 | 원문에서 밝히지 않음. 같은 비용으로 탐지가 나아질 가능성으로 서술. 범죄자도 사칭과 허위 신청에 AI를 쓴다는 점을 함께 따지라고 함 |
| 연결 | Staged Delegation, SAFR Checkpoints |
기업금융 서류: 빨라진 작성이 거래 실행으로 이어지는가
| 구분 | 내용 |
|---|---|
| 상황 | AI로 금융 서류 작성은 빨라졌지만 거래는 여러 부서 심사를 거침 |
| 원문이 제시한 방향 | 영업, 운영, 법무, 컴플라이언스를 포함한 프로세스 전체로 효과를 평가 |
| 결과 | 원문에서 밝히지 않음. 심사와 실행을 빨리 통과할 때 매출이 앞당겨질 수 있다고 서술 |
| 연결 | Process Redesign, Full Cost Accounting |
고객 대리 에이전트: 예금 이동과 위임 범위 확인
| 구분 | 내용 |
|---|---|
| 상황 | 고객을 대신하는 개인 에이전트가 사람용 화면으로 금융 서비스와 거래하기 시작함 |
| 원문이 제시한 방향 | 받는 쪽 금융사가 대리 관계와 유효한 위임 범위를 확인하고 책임·손실 분담과 분쟁 처리 절차를 따로 정함 |
| 결과 | 원문에서 밝히지 않음. 금리 비교와 자동 이체로 예금 이동이 빨라져 자금 조달 가정이, 더 나은 조건을 찾는 에이전트로 심사 가정이 흔들릴 수 있다고 서술 |
| 연결 | SAFR Checkpoints, Shared Assurance |
기술 디테일: 에이전트 등록부와 실행 전 체크포인트를 직접 만든다면
아래 필드명, 설정값, 기준은 실제로 돌릴 때 필요한 것을 새로 쓴 가상 예시입니다. 원문과 MAS 발표에서 온 개념은 그렇다고 밝혔습니다.
Staged Delegation을 돌리려면 에이전트 등록부부터 만듭니다. 원문이 꼽은 네 항목(업무 책임자, 결과, 결정 한도, 개입 조건)을 필드로 고정하고 현재 위임 단계를 함께 적습니다. 체크포인트는 이 등록부를 읽어 판정하므로, 등록부에 없는 에이전트는 실행 권한을 받지 못하게 합니다.
{
"agent_id": "fcc-alert-triage-01",
"business_owner": "금융범죄대응팀장",
"outcome": "경보 1건당 조사 메모와 종결·상향 권고",
"autonomy_stage": "recommend",
"decision_limits": {"max_auto_close_risk_score": 30, "actions_allowed": ["close_low_risk", "request_docs"]},
"intervention_triggers": ["sanctions_hit", "pep_match", "confidence < 0.7"],
"tools_required": ["sanctions_screen", "kyc_lookup"],
"model": {"primary": "모델 A v3", "fallback": "모델 B v2", "fallback_tested_at": "2026-11-10"},
"last_assessed_at": "2026-11-12",
"cost_center": {"use_case_id": "FCC-01"}
}
SAFR식 체크포인트는 LLM이 아니라 규칙 엔진으로 둡니다. 에이전트가 행동을 제안하면 구조화된 제안서(action_type, target, amount, mandate_ref, evidence)를 내게 하고 체크포인트가 등록부의 한도와 정책을 결정론적으로 대조합니다. 제안서는 JSON 스키마를 강제하는 구조화 출력으로 받습니다. 스키마 검증에 실패하면 한 번 다시 요청한 뒤에도 실패하면 hold로 돌립니다. 판정은 allow, hold_for_human, deny 셋 중 하나로 하고 사유 코드를 남깁니다. 기록은 수정할 수 없는 저장소에 두고 제안서, 판정, 실행 결과를 같은 action_id로 묶습니다. 원문의 금융범죄 예처럼 핵심 점검(제재 명단, 고객 확인)은 지정 도구 호출 기록이 없으면 hold로 돌립니다.
Full Cost Accounting을 하려면 호출마다 비용 꼬리표를 답니다. 모델 호출, 검색, 도구 실행 로그에 use_case_id와 user_id를 붙이고 토큰 비용, 인프라 배분액, 평가·유지보수 인건비를 월 단위로 합칩니다. 사용 사례별로 처리 건수당 비용과 편익(절감 시간, 앞당긴 거래 일수)을 나란히 놓으면 합계 도입률이 가리던 적자 앱이 드러납니다.
Shared Assurance를 지키려면 재시험 트리거를 자동으로 겁니다. 등록부의 model, tools_required, actions_allowed 가운데 하나가 바뀌면 last_assessed_at을 무효로 표시하고 재시험이 끝날 때까지 위임 단계를 한 칸 낮춥니다. 대체 모델도 같은 시험 묶음을 통과해야 fallback_tested_at을 갱신합니다.
| 막히는 경우 | 증상 | 대응 |
|---|---|---|
| 등록부와 실제 권한이 어긋남 | 등록부에 없는 API를 에이전트가 호출 | 체크포인트가 API 게이트웨이 앞에 서서 등록되지 않은 호출을 막음 |
| hold가 너무 많음 | 사람 대기열이 쌓여 자동화 효과가 사라짐 | 사유 코드별 hold 비율을 주간 집계해 한도나 개입 조건을 조정 |
| 대체 모델 품질 저하 | 장애 때 넘어간 모델이 형식을 못 맞춤 | 분기마다 대체 모델로 같은 시험 묶음을 돌려 통과 여부 기록 |
| 비용 배분 누락 | 연동·평가 인건비가 IT 공통비로 사라짐 | 프로젝트 코드에 use_case_id를 의무화 |
| 외부 에이전트 요청 | 대리 관계를 확인할 수 없음 | 위임 증명이 없는 요청은 사람용 절차로 돌림 |
현업 실행 디테일: 누가, 언제, 무엇을
아래 역할, 일정, 기준은 원문의 논의를 참고해 새로 짠 가상 예시입니다.
| 역할 | 맡는 일 |
|---|---|
| 업무 책임자(현업 부서장) | 에이전트별 결과와 결정 한도 승인, 단계 승격 결정 |
| AX 추진 조직 | 등록부 운영, 사용 사례별 비용·편익 보고 |
| 플랫폼 엔지니어 | 체크포인트 규칙 엔진, 비용 꼬리표, 재시험 트리거 구현 |
| 리스크·컴플라이언스 | 개입 조건과 정책 규칙 정의, MAS 지침 대응 기록 |
| 법무 | 외부 에이전트 위임 확인 기준, 책임·손실 분담 약정 |
| CFO 조직 | 공유 모델·인프라 비용 배분 기준 승인 |
준비물. 운영 중이거나 시범 중인 AI 사용 사례 목록, 사례별 프로세스 흐름도(인계·승인 지점 표시), 현재 처리 기간과 처리 건수 기준선, 모델·인프라 청구서, 외부 AI 공급사 목록과 계약서가 필요합니다.
| 기간 | 할 일 | 산출물 |
|---|---|---|
| 1주 | 사용 사례 목록화, 상위 3개 사례의 프로세스 흐름도에 병목 표시 | 사례 목록, 병목 지도 |
| 2주 | 에이전트 등록부 작성(책임자·결과·한도·개입 조건), 호출 로그에 비용 꼬리표 | 등록부 v1, 사례별 월 비용표 |
| 3주 | 사례 1개에 체크포인트 시범 적용, hold 사유 집계 | 판정 로그, hold 비율 |
| 4주 | 위임 단계 승격 심사, 재시험 트리거와 대체 모델 시험 일정 확정 | 승격 결정서, 재시험 계획 |
업무 책임자와 리스크 담당에게 물을 것.
- 이 에이전트가 사람 없이 끝내도 되는 결정은 무엇이고 금액·위험 점수 한도는 얼마인가요?
- 어떤 신호가 나오면 반드시 사람이 개입해야 하나요?
- 개입하는 사람에게 판단할 정보와 멈출 권한, 시간이 실제로 있나요?
- 서류가 빨라진 뒤 거래가 가장 오래 기다리는 곳은 어느 부서인가요?
- 외부 공급 모델이 바뀌거나 멈추면 누가 언제 알 수 있나요?
진행 판정 기준(예시). 권고 단계에서 4주 동안 사람이 에이전트 권고를 뒤집은 비율이 5% 미만이고 정책 위반이 0건이면 감시 하 실행으로 올립니다. 사용 사례별 월 운영비가 측정된 편익을 넘는 상태가 2개월 이어지면 범위를 줄이거나 중단을 검토합니다. 모델·도구·권한 변경 뒤 재시험을 통과하지 못하면 한 단계 낮춘 채 운영합니다.
AX 적용 제언. 금융사라면 새 에이전트를 늘리기 전에 이미 돌고 있는 사례부터 등록부에 올리는 편이 빠릅니다. 시작은 경보 조사처럼 건수가 많고 판정 규칙이 분명한 업무입니다. 경영진 보고는 도입률 대신 사례별 처리 건수당 비용과 프로세스 전체 기간으로 바꿉니다. 고객 대리 에이전트는 아직 요청이 적어도 법무와 함께 위임 확인 기준과 분쟁 절차를 먼저 정해 두는 것이 좋습니다. 금융 외 업종도 구매 승인, 지급 처리처럼 돈이 움직이는 에이전트에 같은 순서를 쓸 수 있습니다.
원문 사례
| 항목 | 내용 |
|---|---|
| 기사 | 「What must financial institutions change to capture AI’s commercial value?」, The Asian Banker, Nanda Lakhwani, 2026.11.17 |
| 배경 행사 | Insights 2040 첫날, 싱가포르, 2026.11.16 |
| 구성 | 제공 가능한 서비스, 생산성과 수익, 구축·구매·통제, 에이전트와 결정 권한, 민관 협력 다섯 질문 |
| 예로 든 업무 | 금융범죄 경보 조사, 중소기업 자금 관리·해외 송금 지원, 기업금융 서류, 소액 계좌 자문, 투자 서비스 |
| 에이전트 운영 | 업무 책임자·결과·결정 한도·개입 조건, 보조→권고→감시 하 실행 |
| 인용 프레임워크 | MAS AI 위험관리 지침, SAFR(MAS·업계), Model AI Governance Framework for Agentic AI(싱가포르) |
| SAFR 보충(MAS 발표) | 2026.7.3 공개, BuildFin.ai 아래 업계 백서, 안전장치 네 가지(정책에 묶인 실행·실시간 검증·감사 가능성·상호운용성) |
| 수치 | 원문에 은행별 사례나 수치 없음 |
핵심 개념
- Insights 2040
- 2026년 11월 16일 싱가포르에서 첫날 논의가 열린 금융 산업 행사로, 이 기사의 바탕이 된 자리입니다.
- MAS
- Monetary Authority of Singapore. 싱가포르의 중앙은행이자 금융 감독 기관입니다.
- Mandate
- 고객이나 기관이 에이전트에게 맡긴 행동의 범위와 한도입니다.
- BuildFin.ai
- MAS가 금융사, 기술 기업, 연구기관과 꾸린 협업 틀로, SAFR 백서를 이 아래에서 만들었습니다.
- Compensating control
- 외부 시스템을 충분히 확인할 수 없을 때 그 빈자리를 메우려고 금융사가 따로 두는 통제입니다.
- Correlated risk
- 여러 기관이 비슷한 모델과 인프라를 써서 같은 방향으로 판단하거나 동시에 멈추는 위험입니다.
내 메모
TODO: 내 생각 추가
원문은 Nanda Lakhwani의 「What must financial institutions change to capture AI’s commercial value?」(The Asian Banker, 2026.11.17)입니다. 요약, 메커니즘, 원문 예시는 원문이 다룬 내용을 AX Partners가 다시 정리했습니다. SAFR의 공개일과 안전장치 네 가지는 MAS 보도자료(「MAS Partners Industry to develop Safeguards for AI Agents in Finance」, 2026.7.3)로 보강했습니다. 기술·현업 디테일, 등록부와 체크포인트 예시, 일정, 판정 기준, 인포그래픽과 표는 새로 작성한 가상 예시입니다. 전체 내용은 원문에서 볼 수 있습니다.