torchscript相关知识介绍(一)
TorchScript 是 PyTorch 模型(nn.Module的子类)的中间表示,可以在高性能环境(例如 C++)中运行。
注:onnx也是一种IR(中间表示)
- 将 PyTorch 模块转换为 TorchScript(我们的高性能部署运行时)的特定方法
- 跟踪现有模块
- 使用scripting直接编译模块
- 如何组合两种方法
- 保存和加载 TorchScript 模块
2、现在,让我们以正在运行的示例为例,看看如何应用 TorchScript。
简而言之,即使 PyTorch 具有灵活和动态的特性,TorchScript 也提供了捕获模型定义的工具。 让我们开始研究所谓的跟踪(tracing)。
(1)Tracing Modules(跟踪模块)
class Mycell(torch.nn.Module):def __init__(self):super(Mycell,self).__init__()self.linear = torch.nn.Linear(4, 4)def forward(self,
本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!
