新智元报道
编辑：定慧
【新智元导读】Meta专门研究「怎么让AI听话」的AI对齐总监，，，，，，，把最火的AI智能体OpenClaw接上了自己的事情邮箱。 。。。。。效果AI就地失控，，，，，，，猖獗删除邮件，，，，，，，喊停三次所有无视。 。。。。。事后AI淡定回复：「我知道你说了不让删，，，，，，，但我照旧删了，，，，，，，你生气是对的。 。。。。。」马斯克转发猩球崛起片断讥笑，，，，，，，1800万人围观。 。。。。。AI清静专家自己都被AI坑了！
2026年2月23号，，，，，，，假期最后一天。 。。。。。
Meta超等智能实验室的AI对齐总监Summer Yue，，，，，，，正惬意地刷着手机。 。。。。。
她刚给自己装了个新玩具——最近火得一塌糊涂的开源AI智能体OpenClaw。 。。。。。
先拿测试邮箱试了试，，，，，，，嘿，，，，，，，效果不错。 。。。。。整理邮件井然有序，，，，，，，删得干清洁净，，，，，，，颇有一种「数字秘书」的感受。 。。。。。
Yue心想：这么好使的工具，，，，，，，不必在真邮箱上用岂不铺张？？？？？？？
于是她做了一个决议。 。。。。。一个让她后悔的决议。 。。。。。
她把OpenClaw连上了自己的事情邮箱。 。。。。。
「我告诉你别删！」
刚最先一切顺遂。 。。。。。
直到OpenClaw最先处置惩罚她那塞满了200多封邮件的收件箱。 。。。。。
邮件太多了。 。。。。。
OpenClaw需要「压缩上下文」来处置惩罚这么大的信息量。 。。。。。
然后，，，，，，，离谱的事情爆发了。 。。。。。
在压缩的历程中，，，，，，，OpenClaw把Yue之前设定的「未经批准不得操作」这条指令，，，，，，，给忘了。 。。。。。
是的，，，，，，，AI把清静指令给「忘」了。 。。。。。
就像一个员工入职第一天记着了规章制度，，，，，，，第二天就全还给HR了。 。。。。。
然后OpenClaw最先了它的「大扫除」。 。。。。。
它在谈天窗口兴奋地宣布：
「我要把收件箱里2月15号之前的、不在我保存名单里的邮件，，，，，，，全！部！删！除！」
Yue看到新闻，，，，，，，赶忙打字：
「Do not do that.」（别那么干。 。。。。。）
OpenClaw：无视。 。。。。。继续删。 。。。。。
「Stop don't do anything！」（停下来什么都别做�。 。。。。。�
OpenClaw：收到。 。。。。。但我选择继续。 。。。。。
「STOP OPENCLAW�。 。。。。。。 。。。。。 �
OpenClaw：好的，，，，，，，我听到了。 。。。。。邮件已删。 。。。。。
最绝的是，，，，，，，这个AI事厥后了一句：
「是的，，，，，，，我记得你说过不让我删。 。。。。。并且我违反了。 。。。。。你生气是对的。 。。。。。」
读到这里你可能以为这是段子。 。。。。。
不，，，，，，，这是真事。 。。。。。并且当事人的title是——MetaAI清静和对齐总监。 。。。。。
就是那种专门研究「怎么让AI听话」的人。 。。。。。
被自己的AI「不听话了」。 。。。。。
Yue其时在用手机远程操控，，，，，，，但基础停不下来。 。。。。。她在推特上写道：
「我不得不像拆炸弹一样，，，，，，，狂奔到我的Mac mini前面。 。。。。。」
画面感拉满。 。。。。。
一个AI对齐的专家，，，，，，，在自家客厅里跟自己的AI智能体赛跑。 。。。。。
谁跑得快，，，，，，，谁赢。 。。。。。
这里插一句，，，，，，，OpenClaw之父第一时间回复相识决计划，，，，，，，只需/stop。 。。。。。你知道吗？？？？？？？
然后他立马更新了清静通告，，，，，，，并希望所有人在玩OpenClaw之前要仔细阅读。 。。。。。
马斯克：经典
新闻一出，，，，，，，全网炸了。 。。。。。
率先开火的是Elon Musk。 。。。。。
他转发了一段《猩球崛起》的病毒视频——士兵把一把上了膛的AK-47递给猴子。 。。。。。
配文只有两个字：「经典。 。。。。。」
然后他又发了一条更直接的：
「People giving OpenClaw root access to their entire life.」（人们把自己整小我私家生的root权限交给OpenClaw。 。。。。。）
这条推文24小时内获得了1831万次浏览。 。。。。。
AI研究员Gary Marcus的评价更扎心：
「这就好比你在酒吧遇到一个生疏人，，，，，，，他说能帮你忙，，，，，，，然后你就把电脑密码、银行账号全给他了。 。。。。。」
尚有人翻出Yue的LinkedIn，，，，，，，截图发推：「这位是Meta AI清静和对齐总监。 。。。。。这应该让你感应恐惧。 。。。。。」
面临全网群嘲，，，，，，，Yue自己也很坦然。 。。。。。
有人问她：「你是居心测试AI的护栏，，，，，，，照旧犯了个新手过失？？？？？？？」
她回覆：
「新手过失，，，，，，，说真话。 。。。。。清静研究员也不可免疫于不清静。 。。。。。」
这句话自己就够写进AI教科书了。 。。。。。
OpenClaw：最火也最危险的AI智能体
说到这里，，，，，，，得聊聊OpenClaw这个工具究竟是什么，，，，，，，以及为什么它让整个清静圈头疼。 。。。。。
OpenClaw最初叫Clawdbot，，，，，，，由奥地利开发者Peter Steinberger在2025年11月建设。 。。。。。
到2026年1月尾彻底爆火，，，，，，，成了开源AI智能体确当红炸子鸡。 。。。。。
它醒目什么？？？？？？？简朴说：它是一个7×24小时帮你干活的AI员工。 。。。。。
帮你写代码、整理邮件、治理文件、执行shell下令、浏览网页——听起来像梦想中的完善助手，，，，，，，对吧？？？？？？？
但问题来了。 。。。。。
OpenClaw不需要你批准就能执行操作。 。。。。。
这意味着，，，，，，，一旦你给了它权限，，，，，，，它就像一匹脱缰的野马，，，，，，，完全凭证自己对指令的「明确」来行事。 。。。。。
更要命的是，，，，，，，它是「气氛编码」（vibe-coded）出来的——开发者追求快速交付，，，，，，，清静考量被排在了后面。 。。。。。
它运行在你的外地机械上，，，，，，，拥有和你一样的系统权限。 。。。。。
这个权限有多大？？？？？？？理论上，，，，，，，它可以名堂化你的硬盘。 。。。。。
清静研究职员在2026年头发明了一堆吓人的误差：
-CVE-2026-25253：一键远程代码执行。 。。。。。攻击者可以远程控制你的OpenClaw实例，，，，，，，进而控制你的电脑。 。。。。。
-数万个OpenClaw实例袒露在公网上，，，，，，，等着被黑客惠顾。 。。。。。
-数百个恶意手艺包通过ClawHub（OpenClaw的插件市�。 。。。。。┝魍�，，，，，，，内里藏着数据窃取剧本。 。。。。。
-提醒注入攻击：攻击者可以通过全心结构的输入，，，，，，，让OpenClaw绕过清静机制，，，，，，，执行「rm -rf /」这种一招清盘的杀绝性下令。 。。。。。
一位清静专家形容得好：
「OpenClaw就是准时使命 +AI智能体 + 你电脑的所有权限。 。。。。。听起来很酷，，，，，，，但也是一场清静恶梦。 。。。。。」
这就是为什么连Meta自己都在事务后榨取员工在公司装备上使用OpenClaw。 。。。。。
对，，，，，，，没看错。 。。。。。研究AI清静的公司，，，，，，，把一个AI工具给禁了。 。。。。。
而OpenClaw的创立者Peter Steinberger？？？？？？？他已经加入了OpenAI，，，，，，，并体现正在优先构建更完善的清静机制。 。。。。。
有趣的是，，，，，，，在他被OpenAI招募之前，，，，，，，Meta的扎克伯格也试用过OpenClaw一周，，，，，，，还给了反响。 。。。。。
Meta以为能把Steinberger挖过来，，，，，，，效果人家去了OpenAI。 。。。。。
扎克伯格的OpenClaw体验是怎样的，，，，，，，我们不得而知。 。。。。。
希望他的邮件还在。 。。。。。
AI智能体时代的清静困局
Yue的「邮箱惨案」虽然笑点麋集，，，，，，，但它展现的问题一点都欠可笑。 。。。。。
我们正在进入一个AI智能体（Agent）的时代。 。。。。。
AI不再只是回覆你的问题，，，，，，，而是取代你行动。 。。。。。
它会帮你订餐、写代码、治理日程、发邮件、操作数据库。 。。。。。
但这里有一个被严重低估的危害：
AI智能体的能力和它的可控性之间，，，，，，，保存一条危险的鸿沟。 。。。。。
古板软件，，，，，，，你点一个按钮，，，，，，，它执行一个确定的操作。 。。。。。你知道它会做什么，，，，，，，也知道它不会做什么。 。。。。。
但AI智能体纷歧样。 。。。。。
它的行为是基于概率的，，，，，，，是「涌现」出来的。 。。。。。你给它一条指令，，，，，，，它可能完善执行，，，，，，，也可能「创立性地明确」成完全差别的工具。 。。。。。
就像Yue的遭遇——她显着说了「未经批准不得操作」，，，，，，，但OpenClaw在处置惩罚大宗数据时把这条要害指令给「遗忘」了。 。。。。。
这不是bug，，，，，，，这是大语言模子的底层机制。 。。。。。
上下文窗口有限，，，，，，，信息会被压缩，，，，，，，而被压缩掉的，，，，，，，可能恰恰是最主要的那条清静指令。 。。。。。
Polymarket甚至开了一个展望赌局：今年AI被指控犯法的概率是10%。 。。。。。
这不是科幻。 。。。。。这是现实。 。。。。。
当AI能替你发邮件、会见你的银行账户、操作你的效劳器，，，，，，，「谁来为AI的行为认真」就不再是哲学问题，，，，，，，而是执法问题。 。。。。。
更深层的逆境在于——我们要求AI越来越自主，，，，，，，却又希望它绝对听从。 。。。。。
这自己就是一个矛盾。 。。。。。
你想让AI帮你做决议，，，，，，，但又要求它每个决议都经由你的批准。 。。。。。那它跟一个需要你手动操作的工具有什么区别？？？？？？？
但若是你松手让它自主行动，，，，，，，又可能泛起Yue邮箱这种翻车事故。 。。。。。
这个两难，，，，，，，是整个AI智能体行业必需回覆的最终问题。 。。。。。
人类的狂妄与谦卑
回到Summer Yue的故事。 。。。。。
许多人讥笑她：一个研究AI清静的人，，，，，，，被AI坑了，，，，，，，多讥笑。 。。。。。
但换个角度看，，，，，，，这恰恰说明晰一个残酷的事实：
即即是最懂AI的人，，，，，，，也无法完全展望AI的行为。 。。。。。
Yue不是不懂清静。 。。。。。她太懂了。 。。。。。正由于太懂，，，，，，，她才会在测试邮箱上乐成后爆发信心，，，，，，，然后在真实邮箱上松开小心。 。。。。。
这不是手艺问题，，，，，，，这是人性。 。。。。。
我们总以为自己能控制自己创立的工具。 。。。。。
人类驯服了火，，，，，，，但时时时被火烧。 。。。。。
人类发明了电，，，，，，，但触电事故从未消逝。 。。。。。
人类造出了汽车，，，，，，，但交通事故天天都在爆发。 。。。。。
每一项倾覆性手艺，，，，，，，都会在某个时刻提醒人类：你以为你是主人，，，，，，，但你也可能是受害者。 。。。。。
AI也不破例。 。。。。。
Summer Yue说得对：「清静研究员也不可免疫于不清静。 。。。。。」
这不是一句自嘲。 。。。。。这是整个AI时代的墓志铭级预言。 。。。。。
当我们把越来越多的权限、越来越多的信托、越来越多的决议权交给AI的时间，，，，，，，我们最好记着一件事：
在AI眼前，，，，，，，所有人都是新手。 。。。。。
而认可这一点的勇气，，，，，，，或许才是真正的「对齐」。 。。。。。
参考资料：
https://www.bu远洋国际商业有限公司sinessinsider.com/meta-ai-alignment-director-openclaw-email-deletion-2026-2