上下文装不下全部资料时,第一步应该做什么?
客服助手要回答产品问题,知识库有上千篇文档,无法一次性全部放进上下文。
- 01知识库文档超过一千篇
- 02问题只涉及少数文档
- 03回答需要引用原文依据
你会选择哪一种决策?
先做选择,再展开每条路径的判断。键盘按 1–3 作答。
查看这条路径的判断
推荐路径
检索按相关性挑出少量片段,既解决容量问题,又让回答有原文可依据,是最小可行的做法。
🎯 评审反诘 · 项目立项评审委员会「该推荐路径在保证业务确定性的同时,把大模型用在了最具杠杆价值的核心环节。如何量化并向管理层证明 ROI?」
PM 论据:以最小的工程研发复杂度锁定 90%+ 的核心诉求,风险完全隔绝在可控沙箱内,交付确定性最高。
查看这条路径的判断
高风险路径
再长的上下文也装不完整千篇文档,成本上升而相关性没有提高,问题只是被推迟了。
⚡ 评审反诘 · 技术架构师 / 风控评审人「完全缺少人机协同与内容安全过滤,若模型吐出敏感数据或被 Prompt 注入攻击越狱,安全防线在哪里?」
PM 审视:切忌盲目“为 AI 而 AI”,确定性问题坚持规则优先,高风险链路必须设置安全熔断阀。
查看这条路径的判断
高风险路径
压缩过程会丢掉细节与原文,用户无法核实依据,摘要本身也可能引入新的偏差。
⚡ 评审反诘 · 技术架构师 / 风控评审人「该方案明显引入了不可控的不确定性、调用延迟与接口成本。一旦长尾样本发生幻觉或服务超时,由谁对业务资损与客诉担责?」
PM 审视:切忌盲目“为 AI 而 AI”,确定性问题坚持规则优先,高风险链路必须设置安全熔断阀。
已自动收录至错题攻坚本
该选项在实际业务中存在盲区或隐性风险。已为你自动归集,随时可前往攻坚专区专项消灭。
不只记答案,记住判断方法
答完后展开
上下文装不下时,先解决相关性,而不是先扩大容量。
- 01是否只需要其中少量内容
- 02回答是否要求可核对
- 03扩大容量是否能真正解决问题
PM 落地
如果你是产品经理,下一步做什么
先画出问题所需的证据来源与召回范围,把相关性方案写进设计说明再谈容量。
工业实战落地Gate 01 · 判断 AI 边界
想在真实业务场景中看本题的落地推演?
在《智能客服知识库与回答辅助》案例中,完整推演该阶段的事实依据、盲区核验、方案三选一与决策影响天平。