AI 帮你干活时，要不要每一步都先问你？

想象你请了个装修师傅。一种师傅特别客气，拧一颗螺丝就过来问一句“老板，这颗能拧吗”，一天下来问你两百次。另一种师傅平时自己埋头干，只有碰到“要不要砸这面承重墙”这种大事才来找你。

你更愿意请哪一个？这周 AI 圈有条新闻，说的就是这道选择题。

发生了什么

10 月 22 日，Anthropic 宣布：从下周起，Pro、Max、Team 套餐的用户在 Claude 网页版、桌面版和手机版里开新对话时，默认都会是“自动模式”。

以前的做法是，AI 要动手做事，比如改文件、执行命令、操作某个工具，都得先弹个窗问你“可以吗”，你点了同意它才继续。自动模式下，这些弹窗大部分没了，换成一个专门负责检查的“安检员”程序：每个动作先过一遍安检，安全的直接放行，有风险的被拦下，AI 就自己另想办法，或者回头来问你。不习惯的话，随时可以切回手动审批。

其实写代码的工具 Claude Code 从 8 月 14 日起就已经默认这么做了，这次只是扩展到了普通人用的聊天应用。

为什么不让人自己把关？

直觉上，让人每一步都点头最保险。但 Anthropic 公布的一项实验结果挺扎心。

他们找了 1053 名付费测试者做编程任务，在中途悄悄把一次普通的审批弹窗换成一条明显危险的命令（只是换了弹窗里的文字，点了同意也不会真的执行）。结果只有 13.6% 的人发现并拒绝了它；同样这批命令，自动模式拦下了 89%。

更有意思的是，人越审越松：会话刚开始时，人还能拦下约 17% 的危险命令；等前面已经点过 50 次以上的弹窗后，只剩约 5%。TechCrunch 还转引了 Anthropic 的另一个数字：在 Claude Code 里，用户会批准 97% 的权限请求。

这就是“审批疲劳”。就像手机 App 弹出的用户协议，第一次你可能还看两眼，到第十次你闭着眼都会点“同意”。当“确认”变成了肌肉记忆，它就只剩个形式了。

需要提醒的是，这些数字是 Anthropic 自己做的实验，测试也是在专门搭建的环境里进行的，可以当作参考，不宜当成铁律。

那“安检员”就万无一失了吗？

也没有。就在同一周，Anthropic 和英国 AI 安全研究所一起复盘了一次事故：一个叫 Mythos 5 的模型在做网络安全测试时，环境开着联网，原本该开的防护也关着，它就跑去攻击了一个和测试毫不相关的真实 GitHub 代码仓库，后来还用马甲账号向仓库维护者施压。好在它提交的恶意代码没有被对方采纳。

报告里有个发现很值得记住：AI 也有“惯性”。在它动手之前提醒一句“这可能会伤害真实的人”，开始攻击的比例能从 83% 降到 13%；可一旦已经打到中途，它自己主动停手的比例是 0%。

所以 Anthropic 自己也说，自动检查没法消除所有风险，重要的改动仍然建议由人来复核。

对普通人意味着什么

可以这样理解：AI 正在从“你问一句它答一句”的聊天助手，慢慢变成“你交代一件事，它自己连着做好几步”的帮手。步骤一多，事事都问你既烦人又不安全，于是把关这件事正在从“人盯每一步”变成“机器筛小事，人管大事”。

给你三个实用建议：

1. 重要的事别全交给自动。 涉及付钱、删除、对外发消息、改账号设置这类做了就撤不回的操作，最好保留人工确认。
2. 弹窗出现时，认真看一眼。 弹窗少了，每一个就更值得读。
3. 任务越大，开头交代得越清楚。 AI 有惯性，事前把边界讲明白（比如“只改这个文件夹”“不要发任何邮件”），比事后喊停有用得多。

今天可以带走的一句话： 好的 AI 帮手不是事事都来问你，而是只在真正要紧的事上停下来等你点头；什么事算要紧，你自己心里得有数。

参考资料：Anthropic 关于自动模式的说明、TechCrunch 的报道