模型部署的一些实践和想法
Published:
You May Also Enjoy
[译]使用 NVIDIA Triton 推理服务器为 TensorRT 模型提供服务
2 minute read
Published:
原文链接：Serving TensorRT Models with NVIDIA Triton Inference Server
通过预训练模型初步了解AI和pytorch
2 minute read
Published:
通过预训练模型了解pytorch
以GauGAN模型为例，该模型是nVidia团队对语义图像合成的一个研究。该模型可以将用户通过基于语义的画笔画成的图像生成一个相对真实的图像。
软件开发视角看AI-碎片想法整理
less than 1 minute read
Published:
（…碎片化想法太多，只能先零散的记录，慢慢整合） **
wsl2记录
less than 1 minute read
Published:
wsl2中使用docker运行cuda加持下的模型
在本地(wsl2)使用模型的时候因为已经装好了cuda驱动，所以推理较快，但是在docker环境下由于没有安装对应的驱动 nvidia-docker ，导致模型跑在cpu上非常慢。