pytorch模型转tensorRT8的executeMemcpy::1334报错

pytorch模型转成tensorRT后,运行时出现报错:

ERROR: 1: [genericReformat.cu::genericReformat::executeMemcpy::1334] Error Code 1: Cuda Runtime (invalid argument)

 后来发现是torch.cat算子引起的,替换成torch.stack后正常

原因还不清楚,可能是tensorRT8的bug,注意避坑

报错的本质是trt不支持cat这个算子,所以需要曲线救国,找个别的办法实现cat的功能


本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部