神经网络如何记忆和回忆?一篇 Nature 给的新启发
原创 王庆法 2026-08-02 10:00 美国

记忆,其实是把人类体验,按照时空索引组织起来;回忆,就是沿着这套时空索引结构,采样回溯。
笔者对记忆回忆机制有一个简单的理解:
记忆,其实是把人类体验,按照时空索引组织起来;回忆,就是沿着这套时空索引结构,采样回溯。
这里的时空,包括位置、时间,还有事件发生时的整体情境:环境、语义以及当时的内部状态。
Nature机器智能一篇关于自由回忆的研究【文献1】,给这个想法提供了计算模型支持。

回忆策略
心理学有个经典实验,实验者依次读出一组单词:苹果 → 火车 → 医生 → 钢琴 → 大海,几分钟后,请被试者自由回忆。
不少人的回忆过程像这样:苹果 → 医生 → 火车 → 大海……
类似现象很多,例如,如果首先想到C,下一步往往更容易想到B或D;想到猫,又容易继续想到狗。
认知心理学经过大量实验,总结出很多稳定规律,比如首因效应、近因效应、时间邻近效应、语义聚类等等,但通常需要不同模型分别解释。
预测生成
论文直接把自由回忆表示成一个序列生成问题。
学习阶段:学习序列 → 更新隐状态 → 更新隐状态→ 更新隐状态→ …
回忆阶段:当前隐状态→ 回忆一个项目 → 更新隐状态→ 回忆下一项 → …
整个过程与大模型生成很相似,只是把预测下一个Token改成预测下一段记忆。
不同的是,大模型有文本提示,但自由回忆几乎没有外部提示,网络须依靠内部状态维持整个搜索过程。
论文采用了循环神经网络(RNN),随着学习进行,隐状态不断变化:苹果 → h₁ → 火车 → h₂ → 医生 → h₃ → 钢琴 → h₄ → 大海 → h₅
这些隐状态同时融合了当前内容、学习顺序、已知历史、当前上下文,
整个学习过程逐渐形成一条连续的隐状态轨迹,h₁ ── h₂ ── h₃ ── h₄ ── h₅。后续回忆,都在这条轨迹附近展开。
上下文
回忆开始之后,模型不能重新查看学习列表,只能依赖当前隐状态。整个过程是:当前状态 → 采样下一段记忆 → 更新状态 → 再采样下一段记忆 → …
每一次回忆,都会改变下一段回忆,比如首先回忆出C,新的状态更容易继续激活B或者D。
回忆不是一次性读取全部内容,更像沿着内部状态空间不断搜索。这一点与笔者的理解非常接近:
回忆其实也是标准生成任务,只是采样的策略与内容受已存储内容限定;
采样是构建上下文的过程,完全复现上下文不可能,但足够颗粒度和覆盖度的上下文复现,将能够产生足够好的回忆;
各种采样策略融合、及时切换,一切都是为了更好的复现上下文,而上下文主要是记忆的时间索引结构。
位置索引
论文发现,当训练目标要求模型尽可能完整地回忆整个列表,并加入干扰任务削弱近因效应后,
性能最好的神经网络逐渐形成了一种与具体刺激无关的位置索引。
可以理解成,位置1 → 苹果 | 位置2 → 医生 | 位置3 → 火车 | 位置4 → 大海;
如果换一组单词,位置1 → 香蕉 | 位置2 → 飞机 | 位置3 → 法官 | 位置4 → 湖泊。
位置保持稳定,绑定内容发生变化。
据此论文认为,这说明神经网络能够根据任务要求,自发形成不同的记忆策略,位置索引是其中一种高效策略。

记忆宫殿
一个常见解释是记忆宫殿。
首先建立一条固定路线,家门 → 客厅 → 厨房 → 卧室 → 阳台,再把需要记忆的信息依次放进去:
家门→苹果 | 客厅→医生 | 厨房→火车 | 卧室→合同 | 阳台→钥匙,
之后回忆时,只需要重新沿着路线走一遍,内容就会依次浮现。
论文没有证明神经网络学会了记忆宫殿,但两者有一个显著共同特点:稳定的是索引,变化的是内容。
笔者看来,记忆宫殿可能是一种记忆的空间索引结构,结合上下文的时间索引结构,才是完整的记忆索引。
所谓记忆,其实是按照人类体验的时空,逐步将相关内容索引并存储起来,未来按照这个时空索引回溯生成。
邻近和语义
论文还发现,隐状态在高维空间形成连续轨迹。学习顺序相邻的项目,隐状态通常也更接近:
A ●──● B ──● C ──● D ──● E,所以当回忆来到C附近,更容易继续移动到B或D。
另一方面,词向量又把语义相近的内容拉近,猫 ─ 狗 ─ 狮子。
回忆受到这两种结构共同影响:时间邻近 + 语义邻近 + 当前状态 → 下一次采样。
时间邻近和语义聚类效应,很自然的在同一个模型中出现。考虑到大模型学到的富集范畴,“语义相近”不局限在词向量。
预测下一段回忆,需复现对应时间结构,也就是上下文;也离不开空间结构和语义,需复现记忆宫殿和语义关联。
连续采样
读完论文,笔者越来越偏向这个理解:回忆更像沿时空索引结构连续采样。
体验进入大脑,被嵌入一个连续变化的内部状态空间。回忆不像数据库查询,更像是在当前状态约束下,不断沿着内部状态空间搜索。
整个过程可以表示成,真实体验 → 建立时空索引 → 形成内部状态空间 → 连续采样 → 重建体验。
这里的采样,每一步都会受到当前索引的影响,当前索引,又决定下一步更容易走向哪里。
这也可能是自由回忆实验中大量统计规律能够稳定出现的原因。
延伸思考
神经网络学习的重点,可能不仅是保存每一条记忆,更重要的是形成一种能够组织这些记忆的内部结构;
回忆也不简单读取存储内容,而是在当前状态的约束下,沿着这套内部结构不断搜索。
把这些与海马体对时间空间的编码、记忆宫殿利用空间组织信息的方法放一起看,很容易得到文章开头笔者的理解:
记忆,是把体验组织到一套时空索引结构中;回忆,在这套时空索引结构上连续采样,逐步重建过去的经历。
文献1,A neural network model of free recall learns multiple memory strategies,https://www.nature.com/articles/s42256-026-01274-0
-
08.03
甜瓜游乐场药水融合配方一览
-
08.03
《黑神话悟空》最强BOSS排名TOP10
-
08.03
《明末渊虚之羽》结局条件与NPC支线整理
-
08.03
口袋妖怪格查尔详细联机操作步骤
-
08.03
星露谷物语打铁任务如何做?
-
08.03
《明末渊虚之羽》全成就注意事项与建议
-
- 狂奔4天半的神秘AI,奥特曼宣判“永久停用”
- 08.03
-
-
- 什么是Physical AI?智能机器时代已来临
- 08.03
-
-
- 鸣潮梦州玄方地界地图分享 鸣潮梦州玄方地界有什么
- 08.03
-
- 豆包ai生成工作汇报ppt操作步骤
- 08.03
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏