TensorRT Edge-LLM在MLPerf边缘智能体基准测试中提速6.4倍

NVIDIA TensorRT Edge-LLM运行Qwen3.6-27B在MLPerf Edge Agentic基准测试中，于单个Jetson AGX Thor上以24分36秒完成全部1007轮测试，较llama.cp...