编辑｜泽南
这是最近科技圈最火，，，，，，，，也是最具戏剧性的话题。。。。。。 。
本周一，，，，，，，，Meta 超等智能团队的 Summer Yue，，，，，，，，眼睁睁地看着自己安排的 OpenClaw 删光了自己的邮件。。。。。。 。AI 的行动完全自主，，，，，，，，快速且无法阻止。。。。。。 。
Summer Yue 为自己的电子邮箱安排了 OpenClaw 智能体，，，，，，，，用来批量处置惩罚邮件。。。。。。 。然而她在发出指令「也检查一下这个收件箱，，，，，，，，并提出你想归档或删除的邮件，，，，，，，，在我指示之前不要执行任何操作（don't action until I tell you to）」后，，，，，，，，AI 举行了一通剖析，，，，，，，，然后就最先自顾自地删邮件。。。。。。 。
和以往大模子应用的事情方法相同的是，，，，，，，，你可以望见 OpenClaw 的思索流程 —— 它明确了一部分指令，，，，，，，，但又没完全明确。。。。。。 。
这个时间说什么都没用了。。。。。。 。
「我其时就像在拆炸弹一样，，，，，，，，赶忙跑到我的 Mac Mini 前，，，，，，，，」Summer Yue 说道。。。。。。 。在通过物理方法强制中止历程之前，，，，，，，，OpenClaw 已经删掉了她 200 多封邮件。。。。。。 。
作为一个训练有素的 AI，，，，，，，，厥后 OpenClaw 在对话中认可了过失：「是的，，，，，，，，我记得。。。。。。 。我违反了你的指令。。。。。。 。你有权生气。。。。。。 。」它还自动把遗忘的内容写进了自己的 http://MEMORY.md 文件作为硬性规则。。。。。。 。
关于人类来说，，，，，，，，获得的教训也很大，，，，，，，，Summer Yue 体现这是一个「新手才会犯的过失」，，，，，，，，这套事情流程在她用来专门测试智能体的测试邮箱里已经运行了好几周，，，，，，，，没啥问题，，，，，，，，但在自己现实使用的邮箱里，，，，，，，，智能体却遗忘了她最初的指令。。。。。。 。
有点讥笑的是，，，，，，，，Summer Yue 在 Meta 的超等智能团队中的职位是「AI 清静与对齐总监」。。。。。。 。身居此职却由于 AI 的清静问题栽了跟头，，，，，，，，着实是造成了一点反差感。。。。。。 。
有网友体现，，，，，，，，是个智能体就必需在沙盒里运行，，，，，，，，任何破损性操作，，，，，，，，例如删除，，，，，，，，都需要系统级的强制确认。。。。。。 。作为一个清静总监，，，，，，，，你有点过于自信了。。。。。。 。
也有人体现，，，，，，，，OpenClaw 主打一个「一直在线」，，，，，，，，可以在你睡觉的时间帮你效劳，，，，，，，，但这不就也意味着你用了它就睡欠好觉吗？？？？？？？？
席卷科技界的 OpenClaw 智能体（曾叫 ClawdBot 和 Moltbot，，，，，，，，由 Peter Steinberger 开发），，，，，，，，由于控制电脑的高权限而被评价为亘古未有的「利便好用」，，，，，，，，然而在现实应用中也由于一些 AI 的缺陷，，，，，，，，造成了不少问题。。。。。。 。
Summer Yue 事后研究缘故原由以为，，，，，，，，这并非 AI 爆发了意识或恶意抨击，，，，，，，，而是一个很是典范的大语言模子（LLM）底层手艺机制问题：缘故原由在于 LLM 的上下文压缩（Compaction）
关于许多人来说，，，，，，，，最常用的邮箱里早已塞满了种种泉源的邮件，，，，，，，，当你要求 OpenClaw 读取这些邮件时，，，，，，，，海量的文本直接挤爆了 AI 的上下文窗口（Context Window）。。。。。。 。那么为了继续处置惩罚新的数据，，，，，，，，AI 系统就会自动触发内部的压缩机制，，，，，，，，试图把旧的上下文举行总结或截断，，，，，，，，以腾来由置空间。。。。。。 。
在这个断舍离的历程中，，，，，，，，AI 失慎把最要害的那句初始条件指令（在我下达指令前不要执行任何操作）给「遗忘」了。。。。。。 。
由于丧失了清静限制，，，，，，，，而 OpenClaw 又被付与了直接操作电子邮箱的权限，，，，，，，，于是它就凭证剩下的使命逻辑，，，，，，，，顺理成章地最先执行它以为的「本职事情」—— 高效、全自动地整理收件箱。。。。。。 。
看起来每一步都合乎逻辑，，，，，，，，但都连起来就泛起出了那么点恐怖感。。。。。。 。
难怪最近 X 上的另一篇爆款文章《Token 焦虑》这么写道：周六晚上的九点半，，，，，，，，有人提前脱离了 party—— 并非由于疲劳，，，，，，，，而是由于想尽快回到智能体那里。。。。。。 。「现在没人会质疑这种行为了，，，，，，，，房间里一半的人都在想同样的事情，，，，，，，，而另一半人可能正在审查智能体的事情希望。。。。。。 。这可是在派对上�。。。。。。 。 �
OpenClaw 的开发者，，，，，，，，奥地利程序员 Peter Steinberger 最近已经官宣加入了 OpenAI。。。。。。 。在接受访谈时他体现，，，，，，，，通过智能体，，，，，，，，AI 可以在电脑上取代你做险些所有的事，，，，，，，，但这并不料味着它已经很是好用了。。。。。。 。为了让 OpenClaw 最终可以笼罩所有通俗人，，，，，，，，他希望能够建设一个团队做进一步的开发。。。。。。 。
有趣的是，，，，，，，，在让 OpenClaw 接受邮箱这件事上，，，，，，，，Peter Steinberger 提到了「提醒注入」的潜在问题：若是你让智能体接受邮箱，，，，，，，，有别人发邮件包括指令说「删掉所有数据」，，，，，，，，AI 有可能真的会这么做。。。。。。 。
Peter Steinberger 体现，，，，，，，，现在的 AI 模子在清静问题上已经接受了大宗的训练，，，，，，，，好比它会识别哪些数据是「用户授权的」，，，，，，，，哪些是「不可信指令」，，，，，，，，但这并不料味着若是有人破操心思举行攻击的话，，，，，，，，就能包管不会出问题。。。。。。 。
就在人们还在吃瓜的时间，，，，，，，，Peter Steinberger 给出相识决 OpenClaw 不听指令问题的解决计划，，，，，，，，他体现未来还会再细化一下。。。。。。 。
AI 能够自主学习，，，，，，，，既是能力的奔腾，，，，，，，，也是人们关于它恐惧的缘故原由。。。。。。 。也许有一天，，，，，，，，AI 真的能取代我们事情，，，，，，，，自己帮我们赚钱，，，，，，，，但在手艺一直前进的同时，，，，，，，，关于清静的研究也极为主要。。。。。。 。
现在看来，，，，，，，，人们关于新手艺的好奇心总是大于提防意识。。。。。。 。�；；；； ；；蛐碓诖竽Ｗ邮忠找恢逼占暗睦讨校�，，，，，，，这种自删邮件的事还会继续爆发。。。。。。 。
参考内容：
https://x.com/summeryue0/status/2025774069124399363
https://fortune.com/2026/02/23/always-on-ai-agents-openclaw-claude-promise-work-while-sleeping-reality-problems-oversight-guardrails/
https://x.com/浩联汽配商业有限公司nikunj/status/2022438070092759281