admin 管理员组文章数量: 887021
TensorRT是可以在NVIDIA各种GPU硬件平台下运行的一个C++推理框架。我们利用Pytorch、TF或者其他框架训练好的模型，可以转化为TensorRT的格式，然后利用TensorRT推理引擎去运行我们这个模型，从而提升这个模型在英伟达GPU上运行的速度。速度提升的比例是比较可观的。
————————————————
0.根据我这边是踩坑实验结论
1.在windows是使用tensorrt加速还要通过python进行调用的话，需要选择tensorrt （windows版本） 8或以上的版本，然后才能在python里面如下进行调用
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
import tensorrt as trt
if __name__ == "__main__":
print(trt.__version__)
print("hello trt!!")
2.python版本用的话可以不需要使用vs2019进行编译，vs2019只是通过运行tensorrt加速模块里面的手写数字的例子进行验证用的
一.下载tensorrt安装包并移动文件
官网的tensorrt连接
注意：EA 版本代表抢先体验（在实际发布之前）。GA 代表一般可用性。GA 是稳定版，经过全面测试。
所以我们建议您使用 TensorRT 最新版本的 GA 版本。如下是cuda11.3对应的
cuda10.0
我上传的0积分tensorrt windwos下的8.2版本cuda内的添加文件下载
我上传的0积分tensorrt windwos下的8.2版本python3.7whl文件下载
————————————————————————————————
cuda11.3
我上传的0积分tensorrt windwos下的8.4版本全
官方链接
--------------------------------------------------
然后将下载好后的部分，
如我这的TensorRT-8.2.0.6文件夹中的include文件移动到你的CUDA文件夹下的include，我这是（C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0），
如我这的TensorRT-8.2.0.6文件夹中的lib中的dll与lib文件分别放到CUDA下的bin与lib\x64文件夹中
否则按照别的链接里面说的为其添加环境变量
二.pip安装包内的whl文件
一共需要安装4个whl文件如下箭头的文件夹里面，安装方式如下，注意安装tensorrt的whl的时候，要根据你python环境来，我这里是3.7版本，所有就选的cp37
pip install tensorrt-8.2.0.6-cp37-none-win_amd64.whl
三.运行例子
如果你运气好的话就可以成功运行下面的了，也就代表tensorrt安装好了
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
import tensorrt as trt
if __name__ == "__main__":
print(trt.__version__)
print("hello trt!!")
然而我运气比较差，报错说缺了一堆dll文件，具体在bin文件夹下
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin
如下我直接该改了加载dll文件的那部分代码（报错后你点击报错点可以直接跳过去的哈，不要傻乎乎的按照我下面的路径翻），打印了下加载的那个部分，然后缺什么dll补什么dll进bin文件夹里面…
bin的路径如下
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin
以下图片内容就是我上传的dll文件，下载自取，缺啥补啥
我打包的dll文件
——————————————————————————
dll文件缺失查找网址
补VS2019验证
上面成功了也可以不验证，不过如果还是出错搭建个这个环境验证下也行
参考这个链接vs2019运行内部数字识别例子的流程
成功如下效果
注意vs2019里面配置弄对，不然 右击生成不出来
补2 pytorch和torchvision各版本下载地址：
pytorch和torchvision各版本下载地址传送门
pytorch版本对应关系查看网址
cuda11.3下torch与torchvison版本选择
参考链接：
TensorRT（一）Windows+Anaconda配置TensorRT环境 （Python版 )
linux下一键安装环境教学视频
版权声明：本文标题：windows下安装tensorrt（python调用） 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.freenas.com.cn/jishu/1725049300h856403.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。
发表评论