用Python或C++让NVIDIA TensorRT引擎构建过程可观测、可取消

NVIDIA TensorRT引擎构建耗时从数秒到数分钟不等，开发者往往面临进度不透明、无法中途取消的困境。本文介绍如何通过TensorRT提供的IProgressMonitor API，在Python和C++中实现最小...

TAO系列13-执行部署的TensorRT加速引擎

很多开发人员在转换完TensorRT加速引擎之后，最后准备调用起来执行推理任务的时候，就遇到一些障碍。这个环节是需要开发人员自行撰写相关代码，去执行读入数据（前处理）、执行推理、显示结果（后处理）等工作。