在计算机视觉与模式识别(CVPR)大会上，NVIDIA发布了TensorRT 4，它能够加速常见推理应用，如神经机器翻译、推荐系统和语音。用户还可通过ONNX格式轻松地从常见的深度学习框架(如Caffe 2、Chainer、MxNet、Microsoft Cognitive Toolkit和PyTorch)导入模型。
TensorRT特性包括：
· 借助针对多层感知器(MLP)和递归神经网络(RNN)的新层，吞吐量高达CPU的45倍
· 对于TensorRT中使用ONNX解析器导入的ONNX模型，在Tesla V100 GPU上的推理性能相当于仅使用CPU的50倍
· 支持面向自动驾驶汽车的AI计算平台NVIDIA DRIVE Xavier
· 借助用于在Volta Tensor Core上运行的API，FP16自定义图层可实现3倍的推理加速
其他功能包括可使用FP16精度执行自定义神经网络层，以及通过NVIDIA DRIVE AI平台支持Xavier SoC。
资讯是全球知名展览公司百科展览集团旗下的专业媒体平台，自1994年品牌成立以来，一直专注于安全&自动化产业前沿产品、技术及市场趋势的专业媒体传播和品牌服务。从安全管理到产业数字化，资讯拥有首屈一指的国际行业展览会资源以及丰富的媒体经验，提供媒体、活动、展会等整合营销服务。
粤公网安备 44030402000264号
