用户零容忍AI“聪明过度”行为：苹果研究揭示勿擅自操作我的钱包

发布时间：2026-02-13 11:15:38 | 责任编辑：张毅 | 浏览量：1 次

苹果机器学习研究团队近日发布了一篇名为《绘制计算机操作智能体用户体验设计空间》的研究论文，深入探讨了用户在与 AI 智能体（Agent）交互时的真实心理和信任边界。
研究指出，虽然当前行业都在竞相提升 AI 的操作能力，但往往忽略了用户对“自动化”与“控制权”之间的微妙平衡。为了捕捉最真实的反馈，研究员采用了“绿野仙踪法”——即让真人躲在幕后冒充 AI 故意犯错或陷入死循环，以此观察用户在不知情情况下的反应。
研究的核心发现：
反感“静默假设”：用户极其讨厌 AI 在面对模糊选项时擅自做主。比起为了追求所谓的“全自动化”而随机选择，用户更希望 AI 在关键时刻停下来询问。
透明度的平衡点：用户希望了解 AI 正在做什么，但拒绝被事无巨细的每一个步骤刷屏。在熟悉任务中用户看重结果，但在涉及金钱（如支付、修改账户信息）的任务中，用户要求拥有绝对的确认权。
信任崩塌迅速：一旦 AI 在未经告知的情况下偏离原定计划，用户建立的信任会瞬间瓦解。尤其在网购、转账等场景下，AI 的一点点“自作聪明”都会让用户感到强烈的不安。
苹果研究员强调，未来的 AI 智能体设计不应只追求功能强大，更需要建立完善的“用户控制”和“活动可解释性”机制，避免 AI 成为一个不受控的“黑盒”。