面向大语言模型的参数内记忆增强综述

该综述关注在部署阶段为 LLM 及 LLM Agent 注入预训练后知识（领域事实、用户偏好、文档、交互经验）的参数化记忆方法。作者指出，上下文学习（ICL）虽灵活，但占用上下文容量且随长度增长带来重复的离散编码成本；参数内记忆则将可复用记忆信息表示在模型参数、适配器或其他类参数对象中，并在推理时组合进前向计算。综述以参数放置位置（Embedding、Attention、FFN 层或混合）等正交维度组织现有工作。

AI推荐理由 这是一篇关于 LLM 参数内记忆增强的综述，提出以 Parameter Placement（Embedding、Attention、FFN、Hybrid）等正交维度组织部署期参数化记忆方法，并对比 ICL 在上下文容量与重复编码成本上的局限。作为综述，其价值在于框架梳理而非新实验结果，摘要未给出具体方法性能或验证数据，实际效果仍需看正文。