T3权衡取舍阶段 01 · AI 基础与模型边界

64/ 90已答 0 / 90错 0

认知链路第 1 站 · 地基 · 模型是什么第 4 站 · 给手脚 · 怎么让它做事

T3 · 第 4 / 30 题 · 阶段 01 第 4 / 5 题

客服机器人要多接问题,还是要少答错?

情境

客服团队希望机器人多覆盖用户提问、少转人工,但错误回答会带来投诉,而机器人只在一部分问题上足够可靠。

  1. 01转人工率是团队考核项
  2. 02错误回答会引发投诉
  3. 03部分问题类型质量不足
  4. 04用户对答错容忍度低

你会选择哪一种决策?

先做选择,再展开每条路径的判断。键盘按 1–4 作答。

  1. 查看这条路径的判断

    推荐路径

    把能力边界显式写进产品,可靠范围内自助、范围外快速转人工。代价是转人工率短期下不去,但错答带来的投诉与返工明显减少。

    🎯 评审反诘 · 项目立项评审委员会

    「该推荐路径在保证业务确定性的同时,把大模型用在了最具杠杆价值的核心环节。如何量化并向管理层证明 ROI?」

    PM 论据:以最小的工程研发复杂度锁定 90%+ 的核心诉求,风险完全隔绝在可控沙箱内,交付确定性最高。

  2. 查看这条路径的判断

    有条件成立

    覆盖面上去了,但「答不上」由模型自己判断并不可靠,它常在不确定时仍然作答,把错误成本转嫁给了用户与售后团队。

    ⚖️ 评审反诘 · 业务运维 Leader

    「这套方案只在特定理想条件下成立。如果前置依赖(如网络质量、向量切片准确度或并发负载)发生波动,降级预案是什么?」

    PM 审视:不可把假设当成事实。必须在前置方案中明确定量成立指标,并随附故障回退 Runbook。

  3. 查看这条路径的判断

    有条件成立

    覆盖面提升明显,但知识补全不能保证每类问题都答得对,把质量风险摊薄后隐藏起来,出问题时更难判断是哪一类失效。

    ⚖️ 评审反诘 · 业务运维 Leader

    「这套方案只在特定理想条件下成立。如果前置依赖(如网络质量、向量切片准确度或并发负载)发生波动,降级预案是什么?」

    PM 审视:不可把假设当成事实。必须在前置方案中明确定量成立指标,并随附故障回退 Runbook。

  4. 查看这条路径的判断

    高风险路径

    两个目标都没守住:用户先承受一批错误回答,而投诉数据只能事后归因、无法挽回体验,收敛动作通常也没有明确负责人。

    ⚡ 评审反诘 · 技术架构师 / 风控评审人

    「该方案明显引入了不可控的不确定性、调用延迟与接口成本。一旦长尾样本发生幻觉或服务超时,由谁对业务资损与客诉担责?」

    PM 审视:切忌盲目“为 AI 而 AI”,确定性问题坚持规则优先,高风险链路必须设置安全熔断阀。

不只记答案,记住判断方法

核心原则答完后展开
覆盖与可靠不可兼得时,先守住错误成本高的那部分边界,把扩张当作有条件的后续动作,并接受短期覆盖率的代价。

下次遇到类似问题,检查

  1. 01哪些错误用户无法自行发现
  2. 02边界由谁判定且是否可靠
  3. 03扩张的触发条件是什么

PM 落地

如果你是产品经理,下一步做什么

列出可靠问题类型清单与转人工判定规则,把覆盖率目标与错答上限一起写进上线验收标准与复盘点。

工业实战落地Gate 01 · 判断 AI 边界

想在真实业务场景中看本题的落地推演?

在《智能客服知识库与回答辅助》案例中,完整推演该阶段的事实依据、盲区核验、方案三选一与决策影响天平。

进入实战案例 Gate 01 →