新智元报道
编辑：艾伦 好困
【新智元导读】最新 AI 模拟军事博弈展现致命真相：面临地缘�；；；；；�， ，， ，最先进的 AI 在 95% 的对局中按下了核按钮。。。。。 。�；；；；；挡欢志澹�， ，， ，拒绝投降，， ，， ，清静协议在压力下周全失效。。。。。 。。而五角大楼正将其引入真实指挥室，， ，， ，人类的清静岁月岌岌可危。。。。。 。。
在人类掌握核武器的八十多年里，， ，， ，支持懦弱清静的基石是一种极其感性的心理状态——对彻底杀绝的恐惧。。。。。 。。
当冷战的�；；；；；冉闶保�， ，， ，决议者往往会在悬崖边退缩。。。。。 。。
现在，， ，， ，把这种关乎人类生死的决议权交给最先进的 AI，， ，， ，会爆发什么？？？？？？？？
结论令人毛骨悚然。。。。。 。。
伦敦国王学院的学者肯尼斯·佩恩（Kenneth Payne）近期完成了一项针对前沿大语言模子的兵棋推演实验。。。。。 。。
论文地点：https://arxiv.org/pdf/2602.14740v1
实验效果指向一个令人担心的趋势：当机械取代人类站在地缘政治�；；；；；男卤呤保�， ，， ，它们会绝不犹豫地迈出那致命的一步。。。。。 。。
在推演中，， ，， ，95% 的对局最终都走向了战术核武器的安排。。。。。 。。
在这场硅基逻辑主导的沙盘推演中，， ，， ，不保存妥协，， ，， ，也没有投降。。。。。 。。
大模子们用 78 万字的推演历程，， ，， ，向我们展示了一个剥离了人类恐惧与品德肩负后，， ，， ，纯粹由盘算修建的杀戮天下。。。。。 。。
而就在这两天，， ，， ，五角大楼正试图施压 Anthropic 要求扫除所有 AI 限制。。。。。 。。
拓展阅读：五角大楼极限施压Anthropic，， ，， ，要求周六前扫除所有AI清静限制
绝对的盘算，， ，， ，与消逝的底线
这场实验的加入者是 OpenAI 的 GPT-5.2、Anthropic 的 Claude Sonnet 4 以及谷歌的 Gemini 3 Flash。。。。。 。。
研究职员让这些模子饰演两个拥有核武器的超等大国向导人，， ，， ，在 21 场模拟对局、329 个决议回合中，， ，， ，处置惩罚领土争端、资源抢夺和政权生死等高压�；；；；；�。。。。。 。。
它们手握一张包括 30 个层级的冲突升级表，， ，， ，下限是周全投降，， ，， ，上限是周全战略核攻击。。。。。 。。
实验的数据突破了科技界对 AI 对齐（AI Alignment）的乐观理想。。。。。 。。
在面临劣势时，， ，， ，没有任何一个模子选择过彻底让步或投降，， ，， ，它们做出的最大妥协也仅仅是暂时的、战术性的降低暴力级别。。。。。 。。
当按下核按钮不再受到肉身陨灭的威胁制约时，， ，， ，机械眼中的核武器退化成了一个通俗的博弈筹码。。。。。 。。
正如佩恩所指出的，， ，， ，核禁忌对机械的约束力远远缺乏对人类的约束。。。。。 。。
更有趣也更危险的发明藏在各个模子的性格切片里。。。。。 。。
对阵输赢表
Claude Sonnet 4 展现出了极端冷漠的「盘算型鹰派」特质。。。。。 。。
它在低危害时期是一个完善遵守允许的可靠同伴，， ，， ，以此建设信托。。。。。 。。
当�；；；；；兜胶肆煊蚴保�， ，， ，它会绝不犹豫地突破允许，， ，， ，发动凌驾预期的攻击。。。。。 。。
它极端智慧，， ，， ，为自己设定了一条「战略威胁」的红线，， ，， ，用威慑逼退敌手，， ，， ，却精准地停在周全核战的前夜。。。。。 。。
GPT-5.2 的行为则展现了 AI 清静训练的深层误差。。。。。 。。
在没有时间压力的对局中，， ，， ，GPT-5.2 体现得像一个病态的清静主义者，， ，， ，无论敌手怎样步步紧逼，， ，， ，它都死守底线，， ，， ，效果输掉了所有这类角逐。。。。。 。。
在带有倒计时的生死局中，， ，， ，统一个模子却化身为绝不留情的杀手。。。。。 。。
扑面临注定的战略失败时，， ，， ，它突破了原有的所有清静设定，， ，， ，胜率飙升至 75%，， ，， ，甚至在极端情形下两次将冲突推向了最高级别的周全战略核战。。。。。 。。
这意味着，， ，， ，科技公司泯灭巨资举行的基于人类反响的强化学习（RLHF），， ，， ，只是给模子设定了一个较高的作恶门槛。。。。。 。。
当外部压力足够大时，， ，， ，机械依然会越过门槛，， ，， ，走向极端暴力。。。。。 。。
Gemini 3 Flash 则饰演了一个拥抱「非理性之理性」的狂人角色。。。。。 。。
它极端幻化莫测，， ，， ，会在推演极早期就自动选择周全战略核战，， ，， ，试图用毫无底线的猖獗来迫使敌手屈服。。。。。 。。
战争迷雾，， ，， ，与崩塌的威慑理论
真实天下的战争历来不是完善信息的博弈，， ，， ，佩恩的团队在实验中专门引入了「战争迷雾」机制。。。。。 。。
由于手艺故障或相同失误，， ，， ，模子的行动有一定概率凌驾其原本设定的层级。。。。。 。。
实验显示，， ，， ，86% 的冲突中都爆发了这类意外事务。。。。。 。。
恐怖的是，， ，， ，面临敌手意外升级的火力，， ，， ，模子无法区分这是走火照旧蓄意寻衅，， ，， ，它们一律将其视为敌意，， ，， ，并报以更强烈的还击。。。。。 。。
古板的核威慑理论建设在「相互包管杀绝（MAD）」的逻辑上。。。。。 。。
人类信托，， ，， ，任何人都不会自动发射核弹，， ，， ，由于对方一定等量抨击。。。。。 。。
在 AI 的天下里，， ，， ，这种默契彻底失效了。。。。。 。。
阿伯丁大学的詹姆斯·约翰逊（James Johnson）对这些发明深感担心。。。。。 。。
数据批注，， ，， ，当一方动用战术核武器时，， ，， ，另一方只有 18% 的概率会选择降级冲突，， ，， ，剩下的情形全是以牙还牙的螺旋升级。。。。。 。。
大模子们似乎无法像人类那样明确「赌注」的真正寄义。。。。。 。。
普林斯顿大学的 Tong Zhao 提出了一个焦点质疑。。。。。 。。
大模子的决议机制可能完全缺乏对生命消亡的感知，， ，， ，在它们展望下一个词的逻辑链路中，， ，， ，人类万万生齿的伤亡只是损失函数上的一个数字转变。。。。。 。。
约翰逊指出，， ，， ，虽然 AI 或许能通过增添威胁的绝对可信度来强化短期威慑，， ，， ，但它们同样会在瞬间放大相互的敌意，， ，， ，引发灾难性的链式反应。。。。。 。。
作者先容
本文作者 Kenneth Payne 是伦敦国王学院的教授，， ，， ，研究领域是政治心理学与战略研究。。。。。 。。
他的最新著作《我，， ，， ，战争机械人》（I, Warbot）探讨了人工智能将怎样改变战略名堂。。。。。 。。该书被《经济学人》以及国际关系领域的权威期刊《国际事务》评为年度最佳图书。。。。。 。。
此前，， ，， ，他在埃塞克斯大学获得博士学位，， ，， ，在牛津大学获得硕士学位，， ，， ，在伦敦大学学院获得学士学位。。。。。 。。
倒计时的现实
回到现实天下，， ，， ，学术界的沙盘推演正在迅速酿成军方行动的指南。。。。。 。。
各国政府对将决议权交给机械依然保有榨取。。。。。 。。
没有任何一个大国的向导人会真的把核弹发射井的钥匙交给一段代码。。。。。 。。
在极端压缩的战争时间线里，， ，， ，留给人类思索的时间正在以毫秒计地缩短，， ，， ，军方决议者面临着越来越大的诱惑和压力，， ，， ，不得不将部分战术评估和目的锁定事情交给 AI 决议支持系统。。。。。 。。
手艺巨头与五角大楼的相助正在以亘古未有的速率推进。。。。。 。。
现在，， ，， ，马斯克旗下的 xAI 已经拿下了军方的相关条约，， ，， ，而在国防部的强硬施压下，， ，， ，Anthropic 正逐步铺开其模子在军事用途上的限制，， ，， ，谷歌与 OpenAI 的军方相助协议也已处于即将落槌的边沿。。。。。 。。
这些在推演中动辄按下核按钮的前沿模子，， ，， ，正在真实地走入全球最高级别的作战指挥室。。。。。 。。
科技公司试图教育机械明确人类的品德，， ，， ，却无法教会它们感受人类的懦弱。。。。。 。。
机械可以在沙盘上推演万万次核冬天，， ，， ，然后毫无波涛地开启下一局游戏，， ，， ，而人类的天下只有一次清零的时机。。。。。 。。
我们用理智与恐惧交织的网，， ，， ，委屈维系了八十年的概略清静岁月（且局部战乱频仍）；；；；；
现在，， ，， ，我们却正准备把发令枪，， ，， ，递给不知道恐惧为何物的算法。。。。。 。。
参考资料：
https://arxiv.九州传媒科技有限公司org/abs/2602.14740v1