用户控制权

它是什么

用户控制权是让使用者能够发起、调整、纠正、暂停、拒绝或关闭 AI 行为，并管理相关偏好、反馈和数据设置的产品能力。它不是页面上的控件数量，而是用户能否理解当前状态，并通过操作真实改变接下来会发生什么。[S1][S2]

为什么需要它

AI 输出具有概率性，也可能误解用户情境。如果用户只能接受结果或离开产品，一次错误就会变成失控感；如果每个细节都要求设置，又会把工作负担推回用户。恰当的控制让人保留重要决定，同时把低风险、重复步骤交给系统，并通过纠正逐步形成符合个人需要的体验。

它如何工作

先找出 AI 会改变内容、偏好、数据或外部状态的节点，再按影响和可撤销性决定控制强度。界面要说明当前状态、操作范围和生效时间，支持编辑、忽略、退出、重置或回到手动路径；收集反馈时还要说明它会用于本次调整、个人偏好还是模型改进。高风险与不可逆动作需要更明确的确认、权限和恢复方案。[S1][S2]

必须澄清的误会

用户控制权 ≠ 撤销操作。 撤销操作是控制权里最具体的一种（把已发生的动作收回来）；控制权还包括事前改参数、事中打断、事后追溯。

用户控制权 ≠ 用户信任。 用户信任是结果，控制权是达成它的手段之一；系统的自主性越高，控制权对信任的影响越大。

真实例子

邮件助手生成回复后，用户可以逐句编辑、切换语气或完全关闭建议。点击“不喜欢”时，产品说明这只会减少相似建议，还是会提交给团队改进模型；用户也能查看和重置已保存的写作偏好。真正发送邮件仍由用户触发，并提供短时间撤销操作，避免把“生成完成”误当成“已获授权发送”。

什么时候适合与不适合

创作、沟通、个性化以及结果会影响他人的任务，通常需要较强用户控制。低风险、可轻松撤销且频繁发生的操作可以减少确认次数。控制过少会迫使用户接受错误，控制过多则增加认知负担；一个开关若不说明控制对象，或反馈无法修改实际结果，就只是表面控制。隐式行为数据也不能因为叫作“反馈”就跳过告知和许可。[S1]

亲自试一下

选一个 AI 功能，列出它可能改变的五类对象，例如文本、排序、偏好、数据记录和外部动作。为每类写出用户何时能看到状态、如何修改、如何退出、是否可撤销，以及反馈的用途与生效时间。让一名未参与设计的人完成一次纠错；若他无法预测操作后果，控制设计尚未通过。

接下来学什么

先学习人机协作确定用户与 AI 的职责，再学习撤销操作和降级体验补齐恢复路径；当系统无法继续自动处理时，用人工升级处理把任务交给合适人员。

来源与修订

反馈用途、影响时间、退出、手动路径、偏好编辑与重置参考 Google PAIR 的反馈与控制指南 [S1]；让用户纠正、忽略、调整和理解系统行为的通用交互原则参考 Microsoft 人机交互指南 [S2]。权限、数据用途、个性化机制和可撤销范围会随产品与法规变化，需按当前实现复核。