研究人员推出Blindspot基准评估多步骤工具型智能体安全性能

来源简报

研究人员推出Blindspot基准评估多步骤工具型智能体安全性能: 研究人员推出了Blindspot，一个旨在评估长时程、使用工具的AI代理的安全性和拒绝校准的基准。该基准通过自适应对抗交互和有状态工具执行来评估完整的用户-代理-环境轨迹。