在整理 FocusMate 的产品理念时,我重新意识到一件事:AI 对人的预测,不只是观察未来,也可能改变接下来发生的事。
Carissa Véliz 关于预测的 TED 演讲提到,关于人的预测会进入贷款、保险和社会判断,并反过来塑造人的处境。对产品设计来说,这意味着“模型认为会发生什么”不能被直接包装成事实。
让不确定性进入界面
AI 输出通常带有不同程度的确信,但普通界面会把它们渲染成相同的文字。用户于是很难区分:哪些来自原始证据,哪些是可靠归纳,哪些只是模型推断。
更诚实的设计应该保留三层:
- 原始证据可以随时核对。
- 结论与推断在视觉或结构上有所区分。
- 影响用户行动的建议必须允许拒绝、修正和追问。
自动化不等于主动打断
预测一个人“可能需要帮助”,不代表系统应该立刻弹窗。自动化真正困难的部分,是决定什么时候保持安静。
在 FocusMate 里,我更愿意先验证手动触发的恢复卡片,再考虑轻量的主动提示。即使未来加入自动触发,它也应该默认收起、容易忽略,并明确告诉用户依据是什么。
三条产品约束
- 对人的预测是建议,不是事实。
- 重要判断必须能回到证据。
- 用户退出和纠正系统的成本,要低于接受系统建议的成本。
AI 可以持续准备,但不能以“更懂你”为理由拿走用户的判断权。