（ChinaZ.com）6月30日 消息:金山辦公宣布與 NVIDIA 團(tuán)隊(duì)合作，通過(guò) NVIDIA Tensor Core GPU、TensorRT 提升圖像文檔識(shí)別與理解的推理效率;
借助 NVIDIA Triton 推理服務(wù)器的部署，成功優(yōu)化 GPU 利用率，提供高推理吞吐量。相比于 CPU 其 pipleline 耗時(shí)共下降84%;采用 NVIDIA Triton 推理服務(wù)器部署，其部署成本節(jié)省了23% 。
金山辦公表示，我們有多個(gè)業(yè)務(wù)后邊的 AI 服務(wù)已經(jīng)通過(guò)采用該方案提高了速度和資源利用率，不僅給用戶端帶去了更高的速度響應(yīng)，提高了用戶體驗(yàn)，也為公司節(jié)約了大量的服務(wù)端 GPU 資源，收獲了更高的效益。我們?cè)谖臋n識(shí)別與理解領(lǐng)域的應(yīng)用案例也可以啟發(fā)到 OCR 和版式識(shí)別領(lǐng)域的其他公司和學(xué)者，相信隨著更多客戶通過(guò)采用 TensorRT 加速會(huì)給行業(yè)帶來(lái)很大的收益。
