TensorFlow 2.21 新特性

Source: Google Developers Blog

TensorFlow 2.21 已发布！您可以在 GitHub 上的完整发行说明 中找到所有更改的完整列表。

LiteRT 堆栈有什么新特性？

在 Google I/O ‘25 上，我们展示了 LiteRT 演进的预览：一个专为高级硬件加速设计的高性能运行时。今天，我们很高兴宣布，这些高级加速能力已 完全进入 LiteRT 生产堆栈，现已对所有开发者开放。

这一里程碑巩固了 LiteRT 作为 AI 时代通用的设备端推理框架 的地位，相比 TFLite 实现了显著的跨越：

• 更快 – GPU 性能比 TFLite 提升 1.4 倍，并引入了全新的、最先进的 NPU 加速。
• 更简 – 为边缘平台上的 GPU 与 NPU 加速提供统一、简化的工作流。
• 更强 – 支持在流行的开源模型（如 Gemma）上进行卓越的跨平台生成式 AI 部署。
• 更灵活 – 通过无缝模型转换提供一流的 PyTorch/JAX 支持。

所有这些都在保持您自 TFLite 以来信赖的 可靠、跨平台部署 的前提下交付。

阅读 完整公告 并开始使用。

tf.lite

• 多个算子现在支持更低精度的数据类型，以提升性能和效率，包括 SQRT 算子的 int8 和 int16x8，以及比较算子的 int16x8。
• 对更小数据类型的支持已扩展到多个算子：
  • tfl.cast 现在支持 INT2 和 INT4 的转换；
  • tfl.slice 新增对 INT4 的支持；
  • tfl.fully_connected 现在包含对 INT2 的支持。

社区更新

我们听取了社区对更快 bug 修复和更及时依赖更新的需求，因此将增加资源投入这些工作。今后，我们将专注于：

• 安全性和 bug 修复 – 加速安全漏洞和关键 bug 的解决，必要时发布小版本和补丁。
• 依赖更新 – 根据需要发布小版本，以支持新的 Python 发行版和其他依赖。
• 社区贡献 – 继续审查并接受来自开源社区的关键 bug 修复。

这些承诺适用于 TF.data、TensorFlow Serving、TFX、TensorFlow Data Validation、TensorFlow Transform、TensorFlow Model Analysis、TensorFlow Recommenders、TensorFlow Text、TensorBoard 和 TensorFlow Quantum。

注意： TF Lite 项目已更名为 LiteRT 并在单独的活跃开发中。

虽然 TensorFlow 继续为生产提供稳定性，但我们建议您探索最新的 Keras 3、JAX 和 PyTorch 更新，以开展生成式 AI 的新工作。