拒绝 Token 越用越贵：企业如何用“小模型+工作流”搭出精准私域自动化 Agent？

私域 Agent 从演示进入日常运营后，会持续处理表单、会话、客户标签、跟进任务和 CRM 同步。如果每一步都携带完整聊天记录、知识库片段和复杂提示，并反复调用同一个大模型，调用量与上下文长度会同时增长。

另一个常见问题是把流程控制交给模型：模型重复判断下一步、重试时再次读取全部上下文、简单字段抽取也使用长推理。成本增长的根因往往不是单次价格，而是任务没有分层、上下文没有裁剪、失败路径缺少约束。

小模型适合输入输出明确、样本可验证的任务，例如意图分类、字段抽取、情绪与风险初筛、摘要压缩、文案格式适配。工作流则保存客户状态，决定调用顺序、超时、重试、审批、幂等与人工接管。

大模型仍然有价值，但应集中到复杂需求理解、多轮语义整合、方案草拟或边界不清的异常任务。系统可以先由规则和小模型处理，只有置信度不足、风险较高或业务价值较高时才升级。

先列出完整私域流程，把每个步骤标记为确定性规则、轻量语义任务、复杂推理任务或外部写入动作。为每类任务定义允许模型、最大上下文、结构化输出、超时与升级条件。

例如渠道识别直接使用规则；行业和需求字段由小模型抽取；多个会话合并后的复杂方案需求交给能力更强的模型；报价、批量发送和客户数据修改则进入人工审批。

Agent 不需要每次读取客户全部历史。工作流应先根据当前任务选择必要字段，再从知识库检索少量相关内容，并使用摘要保存长期会话状态。原始记录保留在业务系统中，需要时再按权限读取。

对于重复出现的服务介绍、FAQ 和政策说明，可以缓存检索结果或预生成结构化片段。上下文越短、越相关，小模型越容易稳定完成任务，也能减少无效 Token。

小模型输出不能直接驱动业务动作。分类、标签和字段抽取应符合明确 schema，并检查枚举、长度、必填字段与业务规则；校验失败时有限重试，仍失败则升级模型或转人工。

线索评分要保存分项理由和规则版本，不能因关键词重复出现就判定高意向。对外消息、报价和敏感内容必须基于最终载荷审批，审批后内容变化则重新确认。

每次运行记录模型、提示版本、输入输出 Token、工具次数、耗时、重试、人工修改与最终状态。成本不能只看模型账单，还要结合自动完成率、返工率、错误分流和人工接手时间。

优化时先找高频且低价值的调用，再判断能否用规则、小模型、缓存或批处理替代。若节省 Token 却导致大量返工，整体成本反而可能上升。

建议先选择一个入口和一个目标，例如官网线索进入后完成去重、需求抽取、标签、负责人分配与跟进草稿。先在辅助模式运行，用固定样本和真实漏斗比较不同路由策略。

当分类准确性、人工修改、响应时间和单位合格线索成本达到团队要求后，再扩展到企微会话、客户培育和内容触达。不要一次把所有渠道接入同一条无限上下文的 Agent。

模型选择应跟随任务，而不是跟随宣传热度。企业需要先盘点现有数据、调用频率、风险等级、响应要求与部署条件，再决定云端模型、本地小模型、规则引擎和人工审核的组合。

简复简 AI 可从一条真实私域流程开始，完成任务拆分、模型路由、知识检索、工作流编排、成本追踪和生产部署，让企业在质量可控的前提下逐步降低无效调用。