torchscript相关知识介绍(一)

TorchScript 是 PyTorch 模型(nn.Module的子类)的中间表示,可以在高性能环境(例如 C++)中运行。

注:onnx也是一种IR(中间表示)

  1. 将 PyTorch 模块转换为 TorchScript(我们的高性能部署运行时)的特定方法
  • 跟踪现有模块
  • 使用scripting直接编译模块
  • 如何组合两种方法
  • 保存和加载 TorchScript 模块

2、现在,让我们以正在运行的示例为例,看看如何应用 TorchScript。

简而言之,即使 PyTorch 具有灵活和动态的特性,TorchScript 也提供了捕获模型定义的工具。 让我们开始研究所谓的跟踪(tracing)

(1)Tracing Modules(跟踪模块)

class Mycell(torch.nn.Module):def __init__(self):super(Mycell,self).__init__()self.linear = torch.nn.Linear(4, 4)def forward(self,


本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部