T2场景判断阶段 05 · 质量与商业约束

54/ 90已答 0 / 90错 0

认知链路第 3 站 · 给知识 · 怎么让它知道你家的资料第 5 站 · 给接口 · 怎么标准化地接系统

T2 · 第 24 / 30 题 · 阶段 05 第 4 / 5 题

成本超预算时,应该先砍哪一块?

情境

上线后单次调用成本超出预算,团队提出三个方向:缩短提示词、换小模型、减少检索条数,需要排出先后。

  1. 01单次成本超出预算
  2. 02提示词含大量固定说明
  3. 03检索条数可以调整

你会选择哪一种决策?

先做选择,再展开每条路径的判断。键盘按 1–3 作答。

  1. 查看这条路径的判断

    推荐路径

    提示词里的固定说明不产生新信息,精简并缓存这部分能直接降本,又不影响答案质量。

    🎯 评审反诘 · 项目立项评审委员会

    「该推荐路径在保证业务确定性的同时,把大模型用在了最具杠杆价值的核心环节。如何量化并向管理层证明 ROI?」

    PM 论据:以最小的工程研发复杂度锁定 90%+ 的核心诉求,风险完全隔绝在可控沙箱内,交付确定性最高。

  2. 查看这条路径的判断

    有条件成立

    减少检索条数确实省成本,但召回不足会直接拉低答案质量,需要先确认质量是否还能接受。

    ⚖️ 评审反诘 · 业务运维 Leader

    「这套方案只在特定理想条件下成立。如果前置依赖(如网络质量、向量切片准确度或并发负载)发生波动,降级预案是什么?」

    PM 审视:不可把假设当成事实。必须在前置方案中明确定量成立指标,并随附故障回退 Runbook。

  3. 查看这条路径的判断

    高风险路径

    直接换最小模型会把成本和质量的取舍一次性做死,质量下降之后还得再改回来。

    ⚡ 评审反诘 · 技术架构师 / 风控评审人

    「完全缺少人机协同与内容安全过滤,若模型吐出敏感数据或被 Prompt 注入攻击越狱,安全防线在哪里?」

    PM 审视:切忌盲目“为 AI 而 AI”,确定性问题坚持规则优先,高风险链路必须设置安全熔断阀。

不只记答案,记住判断方法

核心原则答完后展开
先砍不改变信息量的开销,再动会影响答案质量的部分。

下次遇到类似问题,检查

  1. 01哪些开销不产生信息
  2. 02削减是否影响质量
  3. 03成本能否按调用分摊

PM 落地

如果你是产品经理,下一步做什么

做一份成本拆解表,标出可削减项与不可削减项,附质量影响说明。

工业实战落地Gate 05 · 安全护栏与质量评测

想在真实业务场景中看本题的落地推演?

在《智能客服知识库与回答辅助》案例中,完整推演该阶段的事实依据、盲区核验、方案三选一与决策影响天平。

进入实战案例 Gate 05 →