TensorRT

TensorRT精品文章

• 

  TensorRT安装及使用--通用模型

          TensorRT是Nvidia为了加速基于自家GPU训练模型的推理而设计的，当我们将模型训练好后，TensorRT可以直接对模型进行网络层的一一对应，从而加速比较大模型的推理部署。最近使用...

  fancyLuo 2021-09-22 10:02 评论0 收藏0
• 

  从人工智能鉴黄模型，尝试TensorRT优化

  ...实时过滤。最近在研究nvidia的Jetson Nano以及推理加速框架TensorRT，因此想尝试一下，看能否应用一些加速方法，加速推理。 虽然我的最终目标是应用到Jetson Nano，但是TensorRT其实适用于几乎所有的Nvidia显卡，为了方便起见，我还是...

  LinkedME2016 2019-05-23 17:29 评论0 收藏0
• 

  TensorFlow 1.11.0 已正式发布！

  ...据 TensorFlow 1.11）预构建的二进制文件是针对 cuDNN 7.2 和 TensorRT 4 构建的。请查看升级的安装指南：Installing TensorFlow on Ubuntu（https://www.tensorflow.org/install/install_Linux#tensorflow_gpu_support）Google Cloud TPU：针对 Goog...

  ybak 2019-04-25 18:29 评论0 收藏0
• 

  PyTorch一周年战绩总结：是否比TensorFlow来势凶猛？

  ...rFlow 等其他框架，或直接搭载至硬件加速库，如 CoreML 或 TensorRT。今年，我们将更多地利用 JIT 编译器提升性能。原文链接：http://pytorch.org/2018/01/19/a-year-in.html欢迎加入本站公开兴趣群商业智能与数据分析群兴趣范围包括各种让数...

  ymyang 2019-04-25 18:23 评论0 收藏0
• 

  滴滴机器学习平台架构演进

  ...大量的 OP 做了优化，使得 IFX 的性能远高于 Tensoflow 乃至 TensorRT。 IFX 针对移动端的不同硬件配置，比如：流水线长度、顺序乱序、超标量等特点进行指令重排、访存优化，结合业务的计算特点，使得 IFX 的性能取得不俗的表现：...

  entner 2019-06-26 18:58 评论0 收藏0