(相关资料图)
金山办公与NVIDIA团队合作,通过NVIDIATensorCoreGPU、TensorRT提升图像文档识别与理解的推理效率;借助NVIDIATriton推理服务器的部署,成功优化GPU利用率,提供高推理吞吐量。相比于CPU其pipeline耗时共下降84%;采用NVIDIATriton推理服务器部署,其部署成本节省了23%。
标签:
Copyright © 2015-2022 北冰洋兽药网版权所有 备案号:沪ICP备2020036824号-3 联系邮箱:562 66 29@qq.com