Nvidia发现，简单的线性数学可以替代昂贵的AI模型交接

来源简报

Nvidia发现，简单的线性数学可以替代昂贵的AI模型交接: Nvidia研究人员引入了一种跨模型KV缓存传输技术，可在模型之间映射预填充缓存，从而在智能体工作负载交接时取代昂贵的重新计算。该方法利用简单的线性数学来降低多LLM工作流中的计算成本和延迟。