IT之家 2 月 13 日消海南南海渔业生长有限公司息，，，，，英伟达昨日（2 月 12 日）宣布博文，，，，，宣布在 AI 推理领域的“token 经济学”（Tokenomics）方面，，，，，其 Blackwell 架构取得里程碑式希望。。 。 。。。。
英伟达在博文中指出，，，，，通过推行“极致软硬件协同设计”战略，，，，，优化硬件在处置惩罚重大 AI 推理负载时的效率，，，，，解决了随着模子参数膨胀带来的算力本钱激增问题。。 。 。。。。数据显示相比上一代 Hopper 架构，，，，，Blackwell 平台将单位 Token 天生本钱降低至十分之一。。 。 。。。。
行业落地方面，，，，，包括 Baseten、DeepInfra、Fireworks AI 及 Together AI 在内的多家推理效劳提供商已最先使用 Blackwell 平台托管开源模子。。 。 。。。。
IT之家援引博文先容，，，，，英伟达指出，，，，，通过团结开源前沿智能模子、Blackwell 的硬件优势以及各厂商自研的优化推理栈，，，，，这些企业乐成实现了跨行业的本钱缩减。。 。 。。。。
例如，，，，，专注于多智能体（Multi-agent）事情流的 Sentient Labs 反响�。 。 。。。。�，，，，其本钱效率相比 Hopper 时代提升了 25% 至 50%；；；； ；；而游戏领域的 Latitude 等公司也借此实现了更低的延迟和更可靠的响应。。 。 。。。。
Blackwell 的高效能焦点在于其旗舰级系统 GB200 NVL72。。 。 。。。。该系统接纳 72 个芯片互联的设置，，，，，并配备了高达 30TB 的高速共享内存。。 。 。。。。这种设计完善契合了目今主流的“混淆专家（MoE）”架构需求，，，，，能够将 Token 批次高效地拆分并疏散到各个 GPU 上并行处置惩罚。。 。 。。。。
在 Blackwell 大获海南南海渔业生长有限公司乐成的同时，，，，，英伟达已将眼光投向下一代代号为“Vera Rubin”的平台。。 。 。。。。据悉，，，，，Rubin 架构妄想通过引入针对预填充（Prefill）阶段的 CPX 等专用机制，，，，，进一步推高基础设施的效率天花板。。 。 。。。。