Google推出两款新AI芯片，迎接“代理时代”

Source: Slashdot

Google的新TPU系列，面向“代理时代”

Google宣布了两款全新张量处理单元（TPU），旨在迎接新兴的“代理时代”。这两款芯片是专门为不同任务打造的，一款用于训练，另一款用于推理。

“随着AI代理的兴起，我们认为社区会受益于专门针对训练和服务需求的独立芯片，”Google AI与基础设施高级副总裁兼首席技术官 Amin Vahdat 在博客文章中表示。两款芯片预计将在今年晚些时候上市。

性能声明

• 训练芯片 的性能是第七代 Ironwood TPU（去年十一月发布）的 2.8 倍，且价格相同。
• 推理处理器 的速度比前代提升 80 %。

这些数据来源于 CNBC 的报道，报道指出 Google 正在从单一芯片兼顾训练和推理转向使用独立处理器，以在 AI 硬件市场与 Nvidia 竞争。

架构细节与竞争格局

• Nvidia 已暗示其即将推出的 Groq 3 LPU 硬件，将大量使用静态随机存取存储器（SRAM）。
• 另一家近期申请上市的 AI 芯片公司 Cerebras 也在其设计中使用 SRAM。
• Google 的推理芯片被称为 TPU 8i，同样依赖 SRAM，配备 384 MB——是 Ironwood 的三倍。

据 Alphabet CEO Sundar Pichai 表示，该架构旨在“提供大规模吞吐量和低延迟，以成本效益高的方式同时运行数百万个代理”。

参考资料

• Google 的博客公告：
• CNBC 文章：