跳至正文
小莱沃 247 篇手记
← 返回专题

AI 原生团队 · 08 / 指标

如何衡量 AI 工程的效果

衡量 AI 驱动工程的效果。被测量的东西才能被改善

SERIES 41 / 43 AI 原生团队 查看完整内容地图

衡量 AI 驱动工程的效果。被测量的东西才能被改善。


目的

没有指标,就无法知道 AI 是真正在加速团队,还是只是在增加复杂性。本章节定义测量什么以及如何测量。


核心指标

开发速度

  • 周期时间:从需求到交付
  • 各工作流阶段花费的时间
  • 返工率(AI 输出需要大幅修改的频率)

AI 贡献比率

  • AI 生成代码行数与人工编写代码行数的比例
  • 包含 AI 生成初稿的 PR 占比
  • 提示复用率(使用已有提示与新建提示的比率)

代码质量

  • AI 生成代码与人工编写代码的 bug 率对比
  • AI 生成成果的审查拒绝率
  • AI 生成代码的测试覆盖率

交付效率

  • 部署频率
  • 变更失败率
  • 平均恢复时间

指标收集方法

指标收集方式
周期时间PR 创建到合并的时间戳(Git/GitHub 自动)
返工率PR 中标注”重大修改”的比例(人工标记)
AI 贡献比率PR 描述中的 AI 解释字段(人工填写)
审查拒绝率PR 被 request changes 的比例(Git 自动)
部署频率CI/CD 部署日志(自动)

从手动收集开始,逐步自动化高频指标。


审查节奏

  • 每周:返工率、审查拒绝率 — 快速信号,问题在这一周内可以干预
  • 每月:周期时间、AI 贡献比率 — 趋势信号,反映流程变化的效果
  • 每季度:全指标回顾 — 判断当前阶段(参照 09-vision 演进阶段)

基线建立

引入 AI 工具前,记录:
– 平均 PR 周期时间
– 每周部署次数
– bug 修复与功能开发的时间分配比

没有基线,就无法判断 AI 是否真的在帮助团队。


计算方法

周期时间

周期时间 = PR 合并时间戳 − 第一次提交时间戳

月均周期时间 = 当月所有 PR 周期时间之和 ÷ PR 数量

数据来源:GitHub/GitLab API 自动获取,无需人工记录。

返工率

返工率 = 被标注"重大修改"的 PR 数量 ÷ 当期总 PR 数量 × 100%

"重大修改"定义:AI 生成初稿后,人工实质性修改超过 30% 的代码行

数据来源:PR 描述的 AI 解释字段(人工填写)。

AI 贡献比率

AI 贡献比率 = 包含 AI 生成初稿的 PR 数量 ÷ 当期总 PR 数量 × 100%

注意:这是中性指标,不是越高越好。结合返工率一起看:AI 贡献高 + 返工率低 = 正向信号。

审查拒绝率

审查拒绝率 = 被 Request Changes 的 PR 数量 ÷ 提交审查的 PR 总数 × 100%

健康指标参考范围

以下为参考起点,各团队应根据基线调整:

指标早期目标成熟期目标
周期时间(功能 PR)≤ 3 天≤ 1.5 天
返工率≤ 30%≤ 15%
AI 贡献比率不作优化目标
审查拒绝率≤ 25%≤ 15%
部署频率≥ 1次/周≥ 1次/天

月度指标报告模板

## [年-月] 指标报告

### 数据
- PR 数量:
- 平均周期时间:
- 返工率:(/次标注"重大修改"的 PR)
- AI 贡献比率:
- 审查拒绝率:
- 部署次数:

### 与上月对比
- 改善项:
- 下降项:

### 原因分析
[简述改善或下降的原因,结合当月实际情况]

### 下月关注点
[基于本月数据,下月重点改善哪一项]

延伸阅读


反指标:不应优化的指标

  • AI 使用次数 — 频繁使用 AI 不等于质量更好,可能反而增加返工
  • AI 生成代码行数 — 代码行数不是生产力指标
  • 提示数量 — 提示多不如提示好;无效提示越多,维护成本越高

发表评论