PyTorch 1.5 发布 C++ 前端重大更新、引入新存储格式提高性能

PyTorch 1.5 发布了，此版本包括新增加了几个主要的燗PI 和一些改进、对 C++ 前端有重大更新、用于计算机视觉模型的“通道维持（channels last）”存储格式，以及用于模型并行训练的分布式 RPC 框架的稳定版本。

同时，此版本还提供了针对 hessian 和 jacobian 的 autograd 的新 API，以及一个受 pybind 启发的允许创建 Custom C++ Class（定制类）的 API。

C++ FRONTEND API (STABLE)

之前被标记为实验性质的燙++ 前端 API 现在已经与 Python 地位相当，并且总体特性已移至“稳定”状态。一些主要亮点包括：

‘CHANNELS LAST’ MEMORY FORMAT FOR COMPUTER VISION MODELS (EXPERIMENTAL)

用于计算机视觉模型的“通道维持（channels last）”存储格式，目前处于实验阶段。该格式的内存布局可以充分发挥性能高效的卷积算法和硬件（NVIDIA 的 Tensor Core、FBGEMM、QNNPACK）的能力。此外，它被设计为通过运算符自动传播，从而允许在内存布局之间轻松切换。

CUSTOM C++ CLASSES (EXPERIMENTAL)

此版本添加了一个新的 API torch.CutomClassHolder，用于将自定义 C++ 类同时绑定到 TorchScript 和 Python，该 API 的语法与 pybind11 几乎相同。它允许开发者向 TorchScript 类型系统和运行时系统暴露其 C++ 类及其方法，以便他们可以实例化和操作 TorchScript/Python 中的任意 C++ 对象。C++ 绑定示例：

它暴露了可以在 Python 和 TorchScript 中使用的类，如下所示：

DISTRIBUTED RPC FRAMEWORK APIS (NOW STABLE)

分布式 RPC 框架在 1.4 版本中以实验性形式出现，现在它已经处于稳定状态。此过程涉及许多增强功能和 bug 修复，以使分布式 RPC 框架总体上更可靠和更健壮。同时还添加了两个新特性，包括概要分析支持，在 RPC 中使用 TorchScript 函数以及一些易于使用的增强功能。

此外，从 1.5 开始，PyTorch 不再支持 Python 2，今后，对 Python 的支持将仅限于 Python 3，特别是 Python 3.5、3.6、3.7 和 3.8。

更多具体的细节见发布公告：https://pytorch.org/blog/pytorch-1-dot-5-released-with-new-and-updated-apis

原文标题：PyTorch 1.5 发布，C++ 前端重大更新、引入新存储格式提高性能

原文地址：https://www.oschina.net/news/115100/pytorch-1-5-released