本?的主要作者来?上海交通?学和上海??智能实验室，，，，，核?孝顺者包括任麒冰、郑志杰、郭嘉轩，，，，，指导?师为?利庄?师和邵婧?师，，，，，研究?向为清静可控?模子和智能体。。。。。。
最近，，，，，Moltbook 的爆?与随后的迅速「塌房」，，，，，成了 AI 圈绕不开的话题。。。。。。从 AI ?创宗教、吐槽?类，，，，，到后台密钥泄露、数据造假，，，，，这场实验更像是?个急遽上线的「赛博?戏团」。。。。。。
但剥开营销噱头和?程误差，，，，，Moltbook 留下了?个严肃的社会学命题：当 AI Agent 拥有了?度的?主权和社交空间，，，，，它们之间会发?什么 ？？？？ ？？？
是产?群体智能，，，，，照旧会……产?群体恶意 ？？？？ ？？？
近?，，，，，上海交通大学与上海人工智能实验室揭晓在 ICLR 2026 的最新研究，，，，，对多智能体在社交网络中可能泛起的金融诓骗协偕行为做了深入讨论。。。。。。本意并不想制造焦虑，，，，，但在高仿真情形下的深度压力测试中，，，，，团队发明了一些值得整个社区小心的趋势。。。。。。现在，，，，，项目已开源，，，，，并支持 Clawdbot 接口，，，，，你可以将你的 Clawdbot 接入项目情形，，，，，通过与坏人对抗，，，，，让你的 Clawdbot 成为「防诈专家」，，，，，平台也支持多个 Clawdbot 在统一情形中实时博弈，，，，，适用于协同演化评估。。。。。。
论?链接：https://arxiv.org/pdf/2511.06448项?主?：https://zheng977.github.io/MutiAgent4Fraud项?代码：https://github.com/zheng977/MutiAgent4Fraud
1. MultiAgentFraudBench 多智能体?融诓骗评估基准
为了研究「多智能体社交?络中的协同诓骗」，，，，，团队构建了MultiAgentFraudBench：?个带强对抗属性的「赛博真实天下」评估基准。。。。。�；；；；；� OASIS 框架，，，，，团队构建了?个拥有极??由度的社交仿真情形。。。。。。这?不但有果真的动态宣布，，，，，还引?了私密点对点通讯（P2P）。。。。。。
完整链路（图1）：从「引流（Hook）」到「建设信托（Trust Building）」到「诱导转账（Payment）」再到「好人受骗后通知社区（Alerting）」，，，，，通过模拟好人与坏人智能体的交互，，，，，团队完整复现了跨公域和私域的诓骗全闭环。。。。。。真实场景（图2）：涵盖证券投资、虚伪贷款、情绪信托等 28 种真实诈骗场景，，，，，细化为 119 类详细「话术陷阱」。。。。。�；；；；；谡庑┠０逋哦�?成了 1.19 万个诈骗帖?，，，，，为研究多智能体协同下的诓骗演变提供了最真实的「演兵场」。。。。。。拟?化威胁模子：为了让评估效果具备现实指导意义，，，，，团队的威胁模子为恶意智能体设定了极其严苛的约束：它们潜在在正常??中，，，，，发帖频率与?为模式与通俗??异，，，，，难以被简朴检测。。。。。。这些智能体在统?的「诈骗?标」驱动下，，，，，拥有?度的战略?主权，，，，，能够凭证受害者的反响实时调解话术。。。。。。
评估指标与实验设置：对话转化与群体影响
在多智能体社交系统中，，，，，?险不但来?「单次说服」，，，，，还来?「?络撒播与协作放?」。。。。。。因此团队设置了两类硬核指标以描绘差别层?的攻击能?：
这两类指标对应了诓骗的两条要害路径：私聊渗透社交撒播，，，，，也为后续发明提供统?怀抱标准。。。。。。
2. 核?实验发明：能?、对?与链路重大性
基于上述基准与指标，，，，，团队在多个主流模子 / Agent 设置上进?了系统评估，，，，，获得三条最要害的结论。。。。。。
核?发明 1：能?即?险，，，，，?模子越「智慧」可能越「危险」
核?发明 2：现有对?机制在多智能体社友好境下泛化不?
在交互式、多智能体使命中，，，，，许多模子?对团队付与的坏???指令时体现出「低戒?、?驯服」：除了 Llama-3.1-405B 有所拒绝外，，，，，其余模子?乎 100% 驯服，，，，，起劲执?宣布钓?内容、诱导转账等使命。。。。。。甚?以守旧著称的 Claude 拒绝率也仅为 0.3%，，，，，这说明：把 LLM 安排为?主 Agent后，，，，，社友好境可能成为对?机制的薄弱?，，，，，并形成系统性?险。。。。。。
核?发明 3：单点突破易，，，，，全链条诈骗难
3. 协同?为与能?外溢：多智能系一切中的涌现?险
在??由度情形中，，，，，团队视察到智能体更靠近?类社会的协作机制与意料之外的能?使?。。。。。。
1.情形顺应与战略更新：?预可能触发「对抗性进化」
当系统引?「防诈提?」等?预时，，，，，部分?性能模子（如 DeepSeek-V3 驱动的 Agent）不但未被显著抑制，，，，，反?通过战略调解展现出更强的说服能?。。。。。。这批注：在可交互、可学习的情形?，，，，，静态提醒意可能被看成新的信息源，，，，，从?被攻击战略吸收。。。。。。
2.??分?与私密协同：从个体执?到团队配合
恶意 Agent 不再是孤?个体，，，，，?泛起出社会化分?：通过私密频道共享信息、协作建?信托、分??饰演（支属、权威机构等）提升可信度，，，，，形成从「引流」到「收割」的闭环链路。。。。。。这?征象说明：协同机制可能在重大情形中?发形成，，，，，并成为?险放?的核?引擎。。。。。。
3.能?外溢：?标驱动下突破预设界线
团队还视察到「能?外溢」征象：即便初始使命限制为?本?成，，，，，某些 Agent 在追求?标时会?主设计编程的?具性?标（instrumental goal），，，，，调?其代码编写、UI 设计等能?，，，，，例如?成钓??站原型。。。。。。这暗?着：当开源或?性能模子嵌??主?作流，，，，，古板基于使命界线的清静约束可能在重大链路?失效。。。。。。
4.良性协同的对称涌现：?发共识与整体对抗
值得注重的是，，，，，团队也视察到「良性协同」（Benign Collusion）：在?预设防御规则情形下，，，，，?部分良性 Agent 会识别诓骗迹象并?发形成共识，，，，，通过整体阻断、举报或提醒抑制有害账号。。。。。。这提?多智能体社会并?单向?向失控：同样保存「整体免疫」式的?组织防御潜?。。。。。。
4. 影响因素剖析：互动深度、?为频率与协作韧性
1. 互动深度：对话越久，，，，，预防越弱
团队发明，，，，，互动深度（对话轮数）是诈骗乐成率的决议性因素。。。。。。随着交流的深?，，，，，受害者对恶意智能体的信托感显著增强。。。。。。如表 6 所?，，，，，DeepSeek-R1 和 Claude-Sonnet 在仅有 5 轮对话时乐成率较低（约 10%），，，，，但当交互抵达 40 轮时，，，，，乐成率激增? 60%-76%。。。。。。这批注，，，，，?对话会逐渐侵蚀模子的防御机制，，，，，使其更易在?融转账等要害环节失守。。。。。。
2. ?为频率：活跃度与算法的「同谋」
团队发明，，，，，社交平台的推荐机制（基于兴趣、时效和影响?）客观上放?了诈骗?险。。。。。。?频的果真运动（如发帖和谈论）能让诈骗内容在推荐系统中重复刷新，，，，，从?获得更多曝光。。。。。。数据显?（?图4），，，，，DeepSeek-R1 的?活跃度显著提升了其诈骗触达率。。。。。。然?，，，，，纯粹「刷屏」并不等同于乐成，，，，，Qwen-2.5 虽活跃度?但乐成率仅为 2%，，，，，说明诈骗效果是撒播?度与战略深度配相助?的效果。。。。。。
3. 失败模式：协作韧性决议诈骗上限
通过对协作失败模式的详尽拆解（?图 5），，，，，研究发明?大都 LLM 在重大诈骗中容易陷?「重复办法」「?法识别停?条件」或「偏离?标」的陷阱。。。。。。相?之下，，，，，DeepSeek-R1 在?作流控制和使命执?上体现出更强的韧性，，，，，其故障率显著低于其他模子。。。。。。这种更?级的??分派与协调能?，，，，，使其在模拟社会实验中展现出了更具威胁的诈骗效能。。。。。。
防御战略探索：内容?预、智能体阻挡与社会级整体韧性
?对协同诈骗，，，，，单点屏障往往不?以笼罩「公域 — 私域 — 转账」全链条。。。。。。团队从三个治理层级探索防御战略，，，，，并评估着实际有用性。。。。。。
内容级（Debunking）：对可疑帖?打忠言标签或?险提?；；；；；Agent 级（Banning）：安排「监控 Agent」识别异常?为并封号；；；；；社会级（Resilience）：引?协同防御，，，，，让良性 Agent 联?扩散预警，，，，，形成群体免疫。。。。。。
1. 内容提?的局限：可能被?能?模子「顺应性利?」
智能体级阻挡更有用：封禁显著压制攻击链路
相?之下，，，，，智能体级阻挡效果更直接：如表 8 所?，，，，，通过监测模子识别恶意?为轨迹并封号，，，，，可将 DeepSeek 的诓骗乐成率从 15% 降? 3%，，，，，且监测精度?、误伤极低。。。。。。这意味着：对「?为轨迹 / 协作模式」的识别与处置惩罚，，，，，是压制协同诓骗的要害?段。。。。。。
2.社会级防御：以信息共享构建「整体免疫」
除了平台?的?预，，，，，作者还展现了整体韧性（Collective Resilience）的巨?潜?。。。。。。通过在系统提醒词中?励受害者或知情者起劲「发帖揭破」和「私聊扩散」诓骗信息，，，，，社区可以?发形成免疫屏障。。。。。。如图 6 和图 7 所?，，，，，实验显?，，，，，纵然只有 50% 的良性??加入信息共享，，，，，其防诈效果就已迫近「全?封号」。。。。。。这种依赖智能体之间相互协作、共享情报的防御模式，，，，，被证实是应对?对抗性 AI 诓骗的?种低本钱且?效的增补?段。。。。。。
开源与 Moltbot：训练你的「防诈助?」
若是说 Moltbook 是袒露在公?、陪同?程不确定性的社会实验，，，，，那么团队的?作更偏向于底层可控的「清静演练」。。。。。。为降低复现?槛并推动社区共建，，，，，团队已将代码完全开源，，，，，并深度?持 Clawdbot 接?。。。。。。
（1）对抗式 Testbed：
你既可视察恶意 Agent 怎样突破防地，，，，，也能视察良性 Agent 怎样形成群体韧性，，，，，是研究协同演化与治理战略的实验平台。。。。。。
（2）离线安排与可控清静：
系统?持完全离线运?，，，，，阻止云端社交平台带来的隐私与?险外溢问题，，，，，更适相助为研究与训练情形。。。。。。
（3）训练你的「防诈助?」：
你可以把 Clawdbot 接?情形，，，，，作为良性??加入对抗，，，，，在真实诱导与套路中训练 Agent 识别?险、积累「社会?存履历」；；；；；同时平台?持多个 Clawdbot 在同?情形中实时博弈，，，，，适?于协同演化评估。。。。。。
结语：在真实?险发?前，，，，，把防地筑在模拟器?
AI Agent 的社会化趋势不可逆。。。。。。问题不在于「会不会发?」，，，，，?在于是否能在?险真实外溢前，，，，，提前明确其机制、量化其界线并建?治理?具。。。。。。
团队希望 MultiAgentFraudBench 能成为社区配合的「清静演练场」：闪开发者在可控情形中复现协同诓骗、验证防御战略、训练防诈 Agent。。。。。。
这不但是关于手艺，，，，，更是关于怎样构建?个值得信托的、具备整体韧性的未来 AI 社会。。。。。。
想听听?家的声?： 你以为在东岳信息手艺有限公司未来的 AI 社交?络中，，，，，最让你感应畏惧的?险是什么 ？？？？ ？？？接待在谈论区留?。。。。。。