GPU 君主制的终结？为何专用加速器是 AI 计算的未来

Source: Dev.to

概览

GPU 在过去十年里一直是 AI 的不可否认的主力军，为机器学习和深度神经网络的巨大进步提供动力。但如果通用加速的时代正悄然走向终点呢？

我最近阅读了一篇引人深思的文章——《Domain‑Specific Accelerators 的崛起：GPU 之后的 AI 将何去何从？》，深入探讨了我们当前计算范式为何正遭遇根本性瓶颈。现在不再仅仅是 FLOPs 的问题；功耗、成本以及关键的数据移动正成为新的瓶颈。

关键要点

• 通用 GPU 正在变得低效 – 虽然在早期计算狭窄的 AI 任务（如矩阵乘法）上表现出色，但现代 AI 工作负载要复杂得多。GPU 常常只能实现其理论性能的 35‑45 %，因为存在停顿和同步问题，而且其高功耗正成为主要难题。
• Domain‑Specific Accelerators（DSA）的崛起 – 随着 AI 工作负载在生产环境中趋于稳定，专用硬件正逐步出现。例子包括 Google 的 TPU（高吞吐张量计算）、用于边缘低延迟推理的 NPU，以及针对固定、超高效生产任务的 ASIC。
• 定制硅芯片是战略必需 – Google、AWS、Apple、Tesla 等科技巨头正自行设计芯片（Inferentia、Trainium、Neural Engine、AI5/6）。这关乎对成本、产能、定价的掌控，以及让硬件精准匹配持续的 AI 工作负载。
• 经济与竞争优势 – DSA 能提供高达 4 倍的性能‑每‑美元，并将推理的运营成本降低至 65 % 以内。这将杠杆重新交还给平台拥有者，降低对外部供应商的依赖，缓解地缘政治风险。
• 工作负载分化 – 训练与推理的需求根本不同。训练需要吞吐量；推理要求低延迟且持续运行。DSA 可以针对这些截然不同的需求进行优化。
• 单一加速器的终结 – 未来的 AI 系统将是异构的，结合用于计算、存储和互连的专用“芯粒”。这实现了软硬件协同设计，使硬件与模型共同优化，达到前所未有的效率。

文章认为，AI 的未来并不是 AI 本身的短缺，而是 运行效率 的差距将不断扩大。由智能硬件专用化驱动的高效 AI 将成为终极竞争优势。

如果你正在构建 AI 应用、从事 MLOps，或仅仅对计算的未来感兴趣，这篇文章值得一读。它揭示了 AI 热潮背后正在发生的根本性转变。

完整文章： https://igorvoronin.com/the-rise-of-domain-specific-accelerators-what-comes-after-gpus-for-ai/