谷歌的Tensorflow路线图包括更好的XLA编译和分布式计算

by

• Claudio Masolo

摘要：

谷歌宣布TensorFlow开发的下一轮迭代。TensorFlow是由谷歌开发并在七年前开源的机器学习平台。未来几个TensorFlow发布版本的开发路线图将基于四个支柱，分别是快捷与扩展性、机器学习应用、部署就绪和简单性。

谷歌宣布TensorFlow开发的下一轮迭代。TensorFlow是由谷歌开发并在七年前开源的机器学习平台，现在是GitHub上star数量最多的项目之一。另外一个方案是Pytorch，它是由Facebook开发和开源的ML平台。未来几个TensorFlow发布版本的开发路线图将基于四个支柱，分别是快捷与扩展性、机器学习应用、部署就绪和简单性。

对于快捷和可扩展的支柱来说，开发工作将主要关注XLA编译，因为谷歌认为XLA将成为深度学习编译器的行业标准。其目标是使模型训练和推理工作流程在CPU和GPU上更快地执行。开发也将关注分布式计算方面：借助DTensor，模型将能够在多个设备上进行训练，以解锁未来超大型模型的训练和部署。此外，性能也很重要，所以谷歌将对算法性能的优化进行投资，如mixed-precision和reduced-precision计算，以提高在GPU和TPU上的速度。

对于机器学习应用支柱，谷歌将投资KerasCV和KerasNLP包，这些包是为应用CV和NLP使用场景设计的，包括大量的预训练模型。该支柱也将以开发者资源为基础：对于流行的和可应用的机器学习场景添加更多的代码样例、指南和文档，以降低机器学习的进入门槛。

对于部署就绪支柱，努力的方向主要在于更便利地将模型导出到移动端、边缘端、服务后端以及JavaScript中。尤其是，将模型导出到TFLite和TF.js将会更易于调用。C++原生API正处于开发阶段，它会更易于部署使用JAX和TensorFlow Serving开发的模型，并使用TFlite和TF.js部署到移动端和web中。

NumPy API和更便利的调试体验将是第四个支柱的核心特征，即简单性。Tensorflow将采用NumPy API的数值标准，以使其更加一致和易于理解。Tensorflow还会实现更好的调试器功能，以最大限度地减少开发人员解决问题的时间。

谷歌承诺，新的Tensorflow版本将100%向后兼容，这样，工程师可以立即采用最新的版本，而不用担心现有的代码库会出现问题。

Tensorflow新功能的预览版计划在2023年第二季度推出，生产版本计划在同一年推出。关于路线图和相关更新的更多信息可以参阅官方博客。

查看英文原文：Google’s Tensorflow Roadmap Includes Better XLA Compilation and Distributed Computing