LLM 101 FIELD NOTE

AI Product Growth 101|08|Operating Metrics:同时衡量结果、信任与经济性

调用量增长不等于产品变好。AI 产品需要同时看任务结果、用户信任和单位经济,任何一条掉队都不可持续。

AI Product Growth 101|08|Operating Metrics:同时衡量结果、信任与经济性

AI Product Growth 101|08|Operating Metrics:同时衡量结果、信任与经济性

AI 产品最容易增长的指标,往往是调用量。

加一个自动重试,调用量会上升。

把任务拆成更多模型步骤,调用量会上升。

免费额度放宽,调用量也会上升。

这些变化可能让成本增加,却不一定让用户多获得一个结果。

所以 AI 产品不能把 Tokens、会话数和生成次数当作北极星指标。

它们是系统活动,不是用户价值。

NIST 的 AI 风险管理框架把工作分成 Govern、Map、Measure、Manage 四类,并明确要求系统在部署前测试、运行中持续监控。它没有给所有产品一张万能指标表,反而要求测量方法贴近具体部署环境,结合定量、定性和混合方法。这个原则同样适用于产品经营:指标不是越统一越专业,越能解释特定工作流里的结果、风险和成本才越有用。

三张同时看的表

一套实用的 AI 产品仪表盘,至少要同时覆盖三层:Outcome、Trust 和 Economics。

Outcome:任务有没有完成

这一层回答产品是否创造价值。

核心指标可以包括:

  • Task Completion Rate:任务完成率。
  • Accepted Outcome Rate:结果接受率。
  • Time to Accepted Outcome:从开始到接受结果的时间。
  • Correction Cost:用户检查和修改结果的成本。
  • Repeat Workflow Rate:同类工作流被重复使用的比例。

其中最值得关注的是结果接受率。

它把模型输出和用户行为连接起来。

但接受不一定等于正确。用户可能没有认真检查,也可能在低风险场景下容忍错误。所以 Outcome 指标还要和质量抽检结合。

Trust:用户敢不敢继续委托

信任很难用一句满意度问题衡量。

更可靠的是观察用户怎样配置控制权:

  • 有多少任务从草稿模式进入确认后执行。
  • 有多少工作流进入有限自动化。
  • 用户多久会暂停、撤销或回滚一次动作。
  • 高风险步骤的人工接管率。
  • 结果来源和操作记录的查看频率。
  • 严重错误与权限越界事件。

信任不是用户“喜欢 AI”。

信任是用户知道系统边界,并愿意在这个边界内扩大授权。

Economics:每个有效结果是否可持续

这一层回答增长是否健康。

核心指标可以包括:

  • Cost per Accepted Outcome。
  • 每类工作流的模型、工具和人工成本。
  • 推理成本占收入的比例。
  • 毛利率及其随使用深度的变化。
  • 重试和失败运行造成的浪费。
  • 不同模型路由带来的质量和成本差异。

平均成本经常会掩盖问题。

应该按客户、工作流和任务复杂度分层。某一类任务可能贡献了大部分收入,也吞掉了全部毛利。

一个三角约束

可以把 AI 产品经营看成一个三角:

Outcome × Trust × Economics

结果好,但用户不信任,委托深度上不去。

用户愿意用,但每个结果都亏钱,增长不可持续。

成本很低,但结果经常被丢弃,只是在便宜地制造垃圾。

三条边需要一起改善。

这也是为什么单独追求更大的模型、更低的 Token 单价或更高的会话数,都可能把团队带偏。

按工作流建仪表盘

不要只做一张全产品平均表。

“生成营销文案”和“自动处理退款”风险、频率、价值和成本完全不同。

每条核心工作流都应该有自己的最小仪表盘:

  1. 进入了多少真实任务。
  2. 完成了多少。
  3. 用户接受了多少。
  4. 修改和审查花了多久。
  5. 发生了哪些严重失败。
  6. 用户交出了多少控制权。
  7. 每个被接受结果花了多少钱。

这样团队才能判断应该优化模型、上下文、交互、流程还是价格。

指标要能触发动作

一张每周更新却不会改变决策的仪表盘,只是装饰。

给关键指标绑定动作阈值。

严重错误超过阈值,自动降级到草稿模式。

某类任务修正成本持续升高,进入失败样本评审。

某个模型路由成本上升但接受率不变,切回更便宜方案。

用户频繁查看来源,可能说明结果缺少足够信任,应改进证据展示,而不是隐藏来源入口。

指标的价值不在于描述产品,而在于改变产品。

系列小结

AI 产品的完整链路,现在可以连起来了。

从一个高痛点、可验证、能获得上下文的工作流切入。

用原型制造能力、行为和价值证据。

把真实失败样本接进开发评估闭环。

用第一次被接受的结果定义激活。

靠上下文积累、工作流嵌入和委托升级建立留存。

选择同时连接价值与成本的收费单位。

让产品输出和生态伙伴形成分发回路。

最后,用 Outcome、Trust 和 Economics 同时判断这套系统是否健康。

模型能力还会继续变化。

但产品的基本问题不会消失:为谁解决什么问题,怎样证明结果有效,用户为什么愿意回来,以及这件事能不能持续运转。

会调用模型,是能力。

把能力变成一条可靠的价值链,才是产品。

参考资料