前言Agent 能跑 Demo但能跑生产吗前几周我们写了手搓 Agent 系列——从 ReAct 到 MCP技术栈完整。但技术能跑 Demo 是一个问题能跑生产是另一个问题。最近三个真实案例值得关注首钢热轧产线计划单审核从 1 小时缩到秒级安全隐患识别效率提升60%京东云通过推理优化同样业务从 2700 元降到10 元CSDN 创始人预判未来一两年99% 的代码可能由 AI 智能体生成这篇文章讲的是 Demo 到生产的鸿沟怎么跨。一、Demo 和生产之间差了什么维度Demo 阶段生产阶段任务确定性“帮我分析这段代码”“分析 PR #342 的安全性只关注 SQL 注入和 XSS输出 JSON 格式”错误处理打印异常信息自动重试→降级→告警→人工介入成本不管每次调用追踪到分日预算硬上限可观测性print 语句结构化日志 链路追踪 成本仪表盘人机协作全自动高风险操作人工审批低风险自动集成方式命令行REST API / Webhook / 企微/钉钉/飞书二、任务拆分不要让 Agent 一口吃成胖子生产环境中最常见的错误给 Agent 一个模糊的大任务期待它自己搞定一切。错误示范帮我优化这个系统的性能Agent 不知道从哪里开始可能会读取所有文件 → 分析所有代码 → 给出 5000 字的建议 → Token 超限 → 任务失败。正确做法任务原子化classTaskDecomposer:将大任务拆分为 Agent 可执行的原子任务defdecompose(self,task:str)-list[dict]:LLM 辅助拆分 人工确认promptf将以下任务拆分为 Agent 可执行的原子步骤。 每个步骤应单一职责、有明确输入输出、可独立验证。 任务{task}输出 JSON 数组每项包含 - id: 步骤编号 - title: 简短描述 - input: 需要的输入数据 - output: 期望的输出 - tool: 需要的工具 - risk: low/medium/high # 实际调用 LLM 获取拆分结果stepsself._call_llm(prompt)# 高风险步骤标记需要人工确认forsinsteps:ifs[risk]high:s[require_approval]Truereturnsteps以优化系统性能为例正确拆分为Step 1: 获取慢查询日志工具read_log, 风险low Step 2: 分析TOP 5 慢查询工具analyze_sql, 风险low Step 3: 为每个慢查询生成优化SQL工具generate_sql, 风险medium Step 4: 检查优化SQL是否安全工具validate_sql, 风险high需确认 Step 5: 输出优化报告工具write_report, 风险low三、成本控制从 2700 到 10 元京东云的实际案例同样的业务逻辑通过以下优化把成本从 2700 元降到 10 元。优化手段节省原理模型降级60%80% 的请求不需要旗舰模型缓存复用25%相似问题直接返回缓存结果Prompt 精简10%去掉冗余指令Token 减半批量合并5%多个小请求合并为一次大请求classProductionCostController:生产成本控制器def__init__(self,daily_budget:float50.0):self.daily_budgetdaily_budget self.spent_today0.0self.cache{}defbefore_call(self,task:str,complexity:str)-str:调用前检查预算 缓存 模型选择# 1. 预算检查ifself.spent_todayself.daily_budget:returnBUDGET_EXCEEDED# 2. 缓存命中cache_keyhashlib.md5(task.encode()).hexdigest()ifcache_keyinself.cache:returnCACHE_HIT# 3. 模型选择ifcomplexitylow:returnluna# $1/1Melifcomplexitymedium:returnterra# $2.5/1Melse:returnsol# $5/1Mdefafter_call(self,task:str,result:str,cost:float):调用后记录成本 缓存结果self.spent_todaycost cache_keyhashlib.md5(task.encode()).hexdigest()self.cache[cache_key]{result:result,cost:cost,time:time.time()}四、人机协作不要全自动生产环境中Agent 应该能区分可以自己做和需要问人。classHumanInTheLoop:人机协作决策器AUTO_APPROVE_RISK[low]REQUIRE_APPROVAL_RISK[high,critical]ASK_IF_UNCERTAIN_RISK[medium]defdecide(self,action:dict,confidence:float)-str:返回: auto / ask / blockriskaction.get(risk,medium)ifriskinself.AUTO_APPROVE_RISKandconfidence0.8:returnautoifriskinself.REQUIRE_APPROVAL_RISK:returnblock# 必须人工审批ifriskinself.ASK_IF_UNCERTAIN_RISKandconfidence0.7:returnask# 弹窗问用户returnauto审批流程示例Agent: 检测到 SQL 注入风险建议修复方案参数化查询。是否执行 ┌─────────────┐ │ [自动修复] │ ← 低风险直接执行 │ [审核后修复] │ ← 中风险人工确认 │ [仅标记] │ ← 高风险不做改动 └─────────────┘五、企业集成架构┌────────────────────────────────────────────┐ │ 企业 AI 智能体平台 │ ├────────────────────────────────────────────┤ │ 接入层 │ │ 企微 Bot | 钉钉 Bot | 飞书 Bot | API │ ├────────────────────────────────────────────┤ │ 智能体层 │ │ 任务拆分 → 模型路由 → 工具调用 → 结果合成 │ ├────────────────────────────────────────────┤ │ 安全层 │ │ 权限校验 | 数据脱敏 | 操作审批 | 审计日志 │ ├────────────────────────────────────────────┤ │ 基础设施层 │ │ 模型网关 | 成本追踪 | 日志监控 | 告警通知 │ └────────────────────────────────────────────┘六、总结Demo → 生产的五个关键跨越任务拆分大任务拆原子步骤每步可验证成本控制模型路由 缓存 Prompt 精简成本降 99% 不是梦人机协作低风险自动、高风险审批、中风险看置信度安全合规权限校验 数据脱敏 全链路审计企业集成对接企微/钉钉/飞书Agent 融入现有工作流核心原则不要让 Agent 做它不确定的事不确定就问人。如果觉得有用欢迎点赞 收藏 关注。手搓 Agent 系列已完结本文是生产落地篇的补充。 下午AI 编程工具市场格局——ChatGPT 份额跌破 50% 后的生态变化