P paper2skillsPlaybook
AI 路线图 →

人工审批门控标签系统 — 高影响Action的分级审批、工作流设计与审计追踪

Skill-Human-in-Loop-Approval-Gate-Tag · 24-标签工程

causalexperimentmulti_agentfraud_detectionMAS与智能体工程风控与合规WF-I 智能体工程WF-K 全域风险防御
年化 ROI50-100万元
实现难度⭐⭐⭐☆☆
业务视角
适用角色数据架构师 / 供应链数字化负责人 · CTO · 数据工程师 · 供应链团队
什么情况下用多平台数据孤岛导致断货识别延迟8小时;标签覆盖率不足使AI决策触发率<30%;想实现分析→行动自动闭环但不知从何下手
成功是什么样的统一 Tag Schema + 传播引擎将标签覆盖率从 30% 提升至 97%;Palantir 风格 Object-Action-Writeback 将补货响应从 2 天缩短至 4 小时自动触发
业务痛点
多平台 SKU 编码混乱无法统一合规标签手工维护遗漏频繁预测模型有了但结果无法自动触发采购标签打了但没有质量监控

1. 解决的问题

AI自动化团队面临"全自动系统触发误操作风险"——分级审批门控(Auto/Manager/VP/Legal)防止高影响错误操作,保障合规留痕,防范潜在50-100万元损失

2. 核心算法逻辑

人工审批门控(HumaninLoop Approval Gate) 是AI自动化系统的安全阀——确保高影响、高风险的决策必须经过人工确认,防止自动化系统失控。

3. 业务应用场景

未自动抽取;请查看原始 Skill 卡片。

4. 输入数据要求

请查看原始代码模板获取输入规格。

5. 输出结果

请查看原始代码模板获取输出规格。

6. 业务价值 / ROI

  • ROI预估:人工门控防止一次大规模误操作(如错误触发全仓紧急补货订单),潜在损失防范约50-100万元;审批SLA监控确保关键决策不被搁置,提升运营响应效率约40%
  • 实施难度:⭐⭐⭐☆☆(审批工作流系统较成熟,主要是规则配置和系统集成)
  • 优先级评分:⭐⭐⭐⭐⭐(AI自动化系统的安全基础,没有门控的自动化是危险的;合规要求审批留痕)
  • 评估依据:AI/ML系统事故分析:90%的严重生产事故发生在"没有人工审批门控的全自动化流程"中

7. 代码模板

代码块数量:3 · 路径:未检测到

"""
人工审批门控标签系统
功能:审批级别计算 / 审批工作流管理 / SLA监控 / 超时升级 / 审计日志
输入:待执行Action + 风险评估Tags
输出:审批工单 + 工作流状态 + 审计追踪
"""
from dataclasses import dataclass, field
from datetime import datetime, timedelta
from typing import Optional
from enum import Enum
import warnings
warnings.filterwarnings('ignore')


class ApprovalLevel(Enum):
    AUTO = ("AUTO", 0, None)
    L1_SUPERVISOR = ("L1", 2, "supervisor")
    L2_MANAGER = ("L2", 8, "manager")
    L3_VP = ("L3", 24, "vp")
    L4_LEGAL = ("L4", 48, "legal")

    def __init__(self, code, sla_hours, role):
        self.code = code
        self.sla_hours = sla_hours
        self.role = role


@dataclass
class ApprovalRequest:
    request_id: str
    action_id: str
    action_type: str
    entity_id: str
    estimated_impact_yuan: float
    risk_tags: dict
    level: ApprovalLevel
    created_at: datetime = field(default_factory=datetime.now)
    deadline: Optional[datetime] = None
    approver: Optional[str] = None
    status: str = "PENDING"
    decision: Optional[str] = None
    decision_reason: Optional[str] = None
    decision_at: Optional[datetime] = None

    def __post_init__(self):
        if self.level != ApprovalLevel.AUTO and self.deadline is None:
            self.deadline = self.created_at + timedelta(hours=self.level.sla_hours)

    def is_overdue(self) -> bool:
        return (self.deadline is not None and
                datetime.now() > self.deadline and
                self.status == "PENDING")


class ApprovalGateEngine:

    IMPACT_THRESHOLDS = {
        ApprovalLevel.AUTO: 5_000,
        ApprovalLevel.L1_SUPERVISOR: 20_000,
        ApprovalLevel.L2_MANAGER: 100_000,

8. 论文来源

  • 2310.11423
  • 2404.08234