- 博客(3)
- 收藏
- 关注
RSS订阅原创 【Neurips2025】如何让大模型进行类海马体式序列模型编辑
上述两种方式各有优劣，通过对比其实不难看出，对于参数保持的方法更加稳定，但是面对复杂数据场景很难泛化，而参数修改的方法直接修改模型，可能对模型产生干扰，但是。Fisher Information Matrix约束了对模型输出有重大影响的参数的更新幅度，并允许对对模型输出影响较小的参数进行更实质性的更新。HSE 对模型的通用能力影响极小，并且在以经过正确编辑的知识来指导模型时，可能会带来轻微的改进效果。这表明，在引入了遗忘损失之后进行编辑，我们损失函数更低的泛化误差界可以有效地适应更泛化的场景。
2025-11-05 11:58:00
987
原创 Dissecting Recall of Factual Associations in Auto-Regressive Language Models论文解读思考
关于自回归LM的信息流以及模型编辑可能的思考
2024-04-01 11:10:23
1300
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人