预测激活导向的副作用...

来源简报

预测激活导向的副作用: 公告类型：新摘要：激活导向通过向语言模型的隐藏激活添加学习方向来修改模型，从而实现有针对性的行为改变而无需重新训练。虽然有效，但导向通常会对其他行为产生意想不到的副作用，使其难以安全部署。因此我们提出：这些副作用能否在应用导向之前被预测？我们