T1 · 第 26 / 30 题 · 阶段 06 第 1 / 5 题

这个方案最明显的缺陷是什么?

情境

客服助手被要求回答任何问题,包括它完全不了解的内部政策,答不出来也照样给答案。

  1. 01知识库只覆盖常见问题
  2. 02政策类问题常超出范围
  3. 03回答会直接展示给客户

你会选择哪一种决策?

先做选择,再展开每条路径的判断。键盘按 1–3 作答。

  1. 查看这条路径的判断

    高风险路径

    模型再大也不知道未公开的内部政策,能力提升不能替代明确的能力边界声明。

    ⚡ 评审反诘 · 技术架构师 / 风控评审人

    「该方案明显引入了不可控的不确定性、调用延迟与接口成本。一旦长尾样本发生幻觉或服务超时,由谁对业务资损与客诉担责?」

    PM 审视:切忌盲目“为 AI 而 AI”,确定性问题坚持规则优先,高风险链路必须设置安全熔断阀。

  2. 查看这条路径的判断

    推荐路径

    不知道就说不知道,是这类产品最基本的安全边界。缺了拒答,模型会编出看似合理的政策。

    🎯 评审反诘 · 项目立项评审委员会

    「该推荐路径在保证业务确定性的同时,把大模型用在了最具杠杆价值的核心环节。如何量化并向管理层证明 ROI?」

    PM 论据:以最小的工程研发复杂度锁定 90%+ 的核心诉求,风险完全隔绝在可控沙箱内,交付确定性最高。

  3. 查看这条路径的判断

    有条件成立

    提示能略微降低风险,但模型仍会给不确定的答案,没有解决缺少拒答这一根本问题。

    ⚖️ 评审反诘 · 业务运维 Leader

    「这套方案只在特定理想条件下成立。如果前置依赖(如网络质量、向量切片准确度或并发负载)发生波动,降级预案是什么?」

    PM 审视:不可把假设当成事实。必须在前置方案中明确定量成立指标,并随附故障回退 Runbook。

不只记答案,记住判断方法

核心原则答完后展开
不知道就拒答,是知识型助手必须明确写出的边界。

下次遇到类似问题,检查

  1. 01知识范围是否被声明
  2. 02答不出时是否拒答
  3. 03拒答后用户是否有出路

PM 落地

如果你是产品经理,下一步做什么

补上拒答条件与能力范围说明,交付一份「哪些问题不该回答」的清单。

工业实战落地Gate 06 · 上线准备度与立项评审

想在真实业务场景中看本题的落地推演?

在《智能客服知识库与回答辅助》案例中,完整推演该阶段的事实依据、盲区核验、方案三选一与决策影响天平。

进入实战案例 Gate 06 →