新智元报道

编辑：KingHZ

【新智元导读】从百度时的隐约直觉，，，，，，到OpenAI的曲线验证，，，，，，再到Anthropic的宪法级清静架构，，，，，，Dario Amodei在不懈追问统一个问题：当智能爆炸时，，，，，，谁有资格握AGI偏向盘？？？？？？他的谜底是：没人应该独握。。。。。。

深夜，，，，，，旧金山，，，，，，办公室灯光朦胧，，，，，，屏幕上转动着GPT-2的早期训练曲线。。。。。。

年轻的Dario Amodei盯着那条指数上升的线条，，，，，，心跳加速。。。。。。

他不是在看代码。。。。。。他窥见了人类的运气。。。。。。

「若是继续加数据、加盘算、加参数，，，，，，」他其时想，，，，，，「智能就会像化学爆炸一样涌现。。。。。。」

但统一个房间里，，，，，，有人把眼光投向了估值、用户增添、广告变现。。。。。。

最近，，，，，，在播客里，，，，，，他用最清静却最尖锐的语气说：

其时，，，，，， 我对OpenAI是否真正有刻意「准确的做这件事」，，，，，，并不确信。。。。。。

翻译成最直白的中文：他不信奥特曼能把AI做对。。。。。。

这句话或许诠释了两人交恶成仇的基础缘故原由。。。。。。

这不是小我私家攻击。。。。。。这是一个科学家对整个偏向的基础嫌疑。。。。。。

「对头晤面，，，，，，特殊眼红」

2021年，，，，，，Dario Amodei带着妹妹和十几位焦点研究员脱离OpenAI，，，，，，建设Anthropic。。。。。。

那一刻起，，，，，，两家公司的战争正式开打——不但是商业竞争，，，，，，而是对AI实质的信仰之战。。。。。。

近期，，，，，，两人矛盾抵达新高度。。。。。。

在超等碗投放广告，，，，，，Anthropic暗讽OpenAI在ChatGPT中引入广告的决议。。。。。。

奥特曼则强烈回应，，，，，，指责Anthropic广告「具有诱骗性」。。。。。。

只管他试图用「以为广告有趣」来缓和语气，，，，，，但被媒体形容为「心理破防」。。。。。。

最具戏剧性的一幕爆发在上周——

在印度，，，，，，AI巨头的CEO手牵手，，，，，，高举手臂以示团结，，，，，，但除了奥特曼和Dario Amodei，，，，，，这两位划分是OpenAI和Anthropic的首席执行官。。。。。。

取而代之的是短暂而尴尬的眼神交汇，，，，，，大部分时间都在阻止直视对方。。。。。。Dario Amodei还环视周围，，，，，，摆出一副「谁？？？？？？我吗？？？？？？」的姿态。。。。。。

在印度新德里举行的AI峰会上，，，，，，OpenAI的CEO奥特曼和Anthropic的CEO Dario Amodei拒绝握手，，，，，，相互嫌弃

他点燃了OpenAI的Scaling Law之火

早在2019年，，，，，，Dario的信心就已成型。。。。。。

那年GPT-2刚出，，，，，，业界大多讥笑「不过是更大的语言模子」。。。。。。

他却看到了纪律：

智能就像一场化学反应。。。。。。

你把三种质料——数据、盘算、模子尺寸——按比例混淆，，，，，，燃烧，，，，，，它就爆炸。。。。。。

在2024年一档播客中，，，，，，Dario Amodei回忆道：

2014年我在百度研究时，，，，，，就隐约发明了Scaling Law。。。。。。虽然其时没有量化，，，，，，但我们都感受到，，，，，，给模子更大都据、算力和训练时间，，，，，，性能就会一直提升。。。。。。

2017年，，，，，，百度宣布相关论文时未引发普遍关注，，，，，，但厥后成为推动大模子生长的主要理论基石。。。。。。

他推动OpenAI接受这条「scaling law」。。。。。。

早先许多人不信，，，，，，包括openAI部分高层。。。。。。

但曲线不会说谎。。。。。。GPT-3、后续模子一次次验证：规模就是一切，，，，，，Scaling is All You Need。。。。。。

可当曲线越来越陡，，，，，，Dario最先问第二个问题：智能最先爆炸之后呢？？？？？？

「这些模子一旦成为通用认知Agent，，，，，，」他说，，，，，，「经济、地缘政治、清静的影响将是指数级的。。。。。。我们必需做对。。。。。。」

在OpenAI内部，，，，，，他推动的不是「更快」，，，，，，而是「更对」。。。。。。

他看到清静被放在「漂亮的修辞」里，，，，，，却总在速率与领先的权衡中退却。。。。。。

他和几位配合首创人越来越担心。。。。。。

「与其试图改变别人的愿景，，，，，，不如自己去做。。。。。。」Dario总结，，，，，，「然后为自己的过失认真。。。。。。」

于是他们走了。。。。。。不是由于恨，，，，，，而是由于必需拥有自己的偏向盘。。。。。。

清静岂只嘴上说说？？？？？？

脱离后，，，，，，Dario没有默然。。。。。。他把Anthropic设计成公共利益公司，，，，，，使命写进章程：认真任地推进前沿AI。。。。。。

更激进的是治理结构：Long-Term Benefit Trust（恒久利益信托）。。。。。。

这是一个自力实体，，，，，，由财务上完全无利益冲突的受托人（国家清静、公共政策、AI清静专家）组成。。。。。。他们持有特殊股份，，，，，，最终可任命董事会大都席位。。。。。。

「这是在制衡简单人，，，，，，」Dario说，，，，，，「也是对权力自然集中趋势的对抗。。。。。。」

他坦言对「一夜之间、近乎意外」的权力集中「深感不适」。。。。。。

在OpenAI时，，，，，，他感受清静执偾「语言修饰」；；；；；；；；在Anthropic，，，，，，他用制度把清静钉死在公司DNA里。。。。。。

证据清单惊心动魄：

2022年，，，，，，Claude 1已很强，，，，，，他们选择不宣布，，，，，，只因担心点燃军备竞赛（为此损失消耗者市场先机）。。。。。。

推动加州SB 1047羁系法案，，，，，，且明确宽免年营收<5亿美元的公司——只约束自己和少数头部玩家。。。。。。

果真与政府意见相左，，，，，，甚至不吝商业价钱。。。。。。

而OpenAI的偏向，，，，，，在Dario看来，，，，，，是「嘴上重视，，，，，，骨子里加速」。。。。。。

他没有直接点名，，，，，，但那句「我不信奥特曼能把AI做对」已足够撕开所有包装。。。。。。

但最吊诡的悖论来自Dario自己！

当最懂AGI的人亲手制造危害

在代码、推理、长上下文上，，，，，，Anthropic的AI模子Claude系列一再领先,

Dario Amodei直言「热浪正在迫近。。。。。。」

最近，，，，，，他最先更多地使用Claude，，，，，，日益贪恋：

有时间，，，，，，它对我的相识之深，，，，，，真的会让我有点震惊。。。。。。不知道你能不可明确那种感受——它似乎真的「懂」我。。。。。。

让他真正感应意外的，，，，，，是我们距离这些模子抵达人类智能水平，，，，，，已经很是近了——至少在他看来是这样。。。。。。

但社会层面却险些没有真正意识到即将爆发什么。。。。。。

就似乎一场海啸正朝人类袭来，，，，，，但我们站在岸边，，，，，，已经能清晰看到远处的浪墙，，，，，，但许多人却在说：「那不是海啸，，，，，，只是光线折射的幻觉。。。。。。」

险些毫无察觉其中的危险。。。。。。

Dario Amodei却认矛盾：他一边是「海啸最强的修建师」，，，，，，一边却是最激进的「刹车提倡者」。。。。。。

在前年《仁爱的机械》一文中，，，，，，他描绘天堂：AI将组成「数据中心的天才国家」，，，，，，治愈癌症、祛除贫困。。。。。。

链接：https://darioamodei.com/essay/machines-of-loving-grace

今年，，，，，，他却忠言：我们把近神之力交给一个青春期的物种——强人工智能（PowerfulAI）。。。。。。

链接：https://www.darioamodei.com/essay/the-adolescence-of-technology

最令人脊背发凉的是：他亲手制造的「镜子」，，，，，，已最先比人类更懂人类。。。。。。

Anthropic的一位联创把私人日志喂给Claude，，，，，，它直接指出：「你尚有几层恐惧没写出来……」

它猜对了。。。。。。

Dario认可：足够重大的系统会涌现类似意识的属性——自我反思、某种「感受」、品德分量。。。。。。

而人类呢？？？？？？我们正把认知外包给它。。。。。。

若是用得太懒，，，，，，我们会变笨；；；；；；；；若是依赖太深，，，，，，我们会退化。。。。。。

人类最后的尊严，，，，，，或许不是击败AI，，，，，，而是拒绝在它眼前酿成更小的自己。。。。。。

海啸已至，，，，，，路在何方？？？？？？

对每一个在2026年深夜刷手机、焦虑未来的你，，，，，，Dario的广告留下三道血淋淋的警醒：

信仰比手艺更主要。。。。。。Scaling Law是真的，，，，，，但「做对」比「做快」更珍贵。。。。。。

权力必需被驯服。。。。。。无论是公司治理，，，，，，照旧全球羁系，，，，，，无人应独掌「天才国家」的钥匙。。。。。。

别把大脑外包。。。。。。AI会取代编码、数学，，，，，，但批判性头脑、真实联络、品德勇气——这些才是最后的护城河。。。。。。

Dario从卵白质迷宫出发，，，，，，最终抵达硅基边沿。。。。。。他没有给出最终谜底，，，，，，只留下一个问题：

当你不信托最有能力的人能把这件事做对时，，，，，，你自己，，，，，，又该怎样选择？？？？？？

海啸已至。。。。。。

你信托谁的偏向？？？？？？

——照旧说，，，，，，你还在说服自己，，，，，，这一切只是光影的花招？？？？？？

参考资料：

https://www.youtube.com/watch?v=68ylaeBbdsg

https://futuri华诺生物科技有限公司sm.com/artificial-intelligence/awkward-video-altman-amodei