Tensorrt Edge Llm
主题归档 • 1 条结果
2026-09-17
科技
英伟达TensorRT Edge-LLM在Jetson平台运行速度提升6.4倍: NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 平台上完成 MLPerf Edge Agentic Benchmark 的速度快 6.4 倍。这一进展支持 AI 智能体从云数据中心向车辆和机器人等边缘设备迁移。
Hardware • NVIDIA Generative AI
永久链接
主题归档 • 1 条结果
英伟达TensorRT Edge-LLM在Jetson平台运行速度提升6.4倍: NVIDIA 的 TensorRT Edge-LLM 在 Jetson AGX Thor 平台上完成 MLPerf Edge Agentic Benchmark 的速度快 6.4 倍。这一进展支持 AI 智能体从云数据中心向车辆和机器人等边缘设备迁移。
Hardware • NVIDIA Generative AI
永久链接