婉君

直播吧07月25日讯 美加墨世界杯，美国前锋巴洛贡曾在染红后获特赦解禁，成功出战比利时，不过最终美国仍遭比利时淘汰。今日，福克斯新闻记者Peter Doocy以巴洛贡红牌解禁为例，问及特朗普对体育的介入。英伟达高级总监迪翁 · 哈里斯（Dion Harris）告诉记者，Groq 机架将与 Vera 中央处理器和 Rubin 图形处理器一起部署在新型云服务商 Nebius 的平台，并将于今年晚些时候上线。

B | 记者：“当年泰格·伍兹面临被捕时，他给你打了电话。英伟达正在加速生产 Groq 芯片并向客户提供该产品，这凸显出低延迟推理的重要性日益提升。而本周，当布赖森·德尚博在比赛中与裁判发生争执时，他也想给你打电话。低延迟推理对于让人工智能智能体能够快速响应、避免用户遭遇长时间等待至关重要，尤其是在编程场景中。此外，你还介入了美国男足的那张红牌。

C | 英伟达表示，云计算公司可以针对这类 Token 收取更高的费用。对于像你这样职位的人来说，充当世界顶尖运动员的‘问题解决者’，这有先例吗？”特朗普：“这可不是说当裁判就能左右结果。哈里斯表示：“对于那些提供 Token 服务的人来说，这让他们能够为那些真正要求对延迟高度敏感的服务协议的用户和客户，提供高级服务等级。”去年 12 月，英伟达以 200 亿美元（注：现汇率约合 1,347.74 亿元人民币）收购了芯片初创公司 Groq 的相关资产，这是该公司有史以来规模最大的一笔收购。Groq 的架构在芯片裸片本身集成了 500MB 高速 SRAM，以减少与内存相关的瓶颈。比如，我觉得德尚博那个判罚（德尚博因在长草区踩草违规被罚）挺难的。我看到他在场地上走来走去，我见过很多人，他们都在场地上走来走去，找自己的球、清除杂草。好吧，但我一直在关注这一幕。Groq 芯片由三星制造，而英伟达的 GPU 则由台积电生产。

D | 英伟达将 256 颗独立的 Groq 3 芯片封装到其 LPX 机架中。所以，我觉得对他的那次判罚很严苛。”“我觉得那张红牌的判罚也非常严苛，而且最终的结果出奇地好。你看，假设当时不让他（巴洛贡）上场，结果我们输了，大家肯定都会生气，对吧？而实际情况是，他们是在最佳球员上场的情况下输掉了比赛，现在皆大欢喜，包括比利时。英伟达表示，根据 Artificial Analysis 的一项基准测试，其 Groq 3 LPX 机架能够达到每秒 3,400 个 Token 的处理速度。这是一个竞争激烈的领域。

E | 今年早些时候，AMD 宣布，将把其机架级系统与 Cerebras 的芯片进行整合。Cerebras 最近上市，并将低延迟推理作为重点。当然，他们输掉了后面那场比赛，所以他们可能也没那么高兴。

F | OpenAI 新近宣布的“Ultrafast”模式目前承诺可达到每秒 750 个 Token，并由 Cerebras 提供支持。低延迟芯片并不会取代 GPU，后者仍然是 AI 芯片领域的主力。GPU 既可以执行训练，也可以执行推理，同时具备足够的灵活性，能够适应新技术和新模型。但结果真的很棒，因凡蒂诺那个判罚做得很好。

G | Groq 这类低延迟芯片主要专注于模型服务过程中的一个环节，即所谓的“解码”（decode）阶段。哈里斯表示：“这并不是要取代 GPU，而是要针对工作负载的不同部分，使用价格合适、处理能力合适的处理器。”目前，英伟达正在逐步增加 Vera Rubin 系统的出货量，该系统已于今年早些时候开始生产。我所做的只是要求复核，我觉得那个判罚不是一个好的判罚。在 3 月份发布 Vera Rubin 和 Groq 3 LPX 时，英伟达首席执行官黄仁勋预计，到 2027 年，当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计销售额将达到 1 万亿美元（现汇率约合 6.74 万亿元人民币）。黄仁勋当时表示，他计划将数据中心中用于编程应用的空间的四分之一分配给 Groq 芯片。”