AI的记忆真的是记忆吗？

现在好像没有任何模型是有记忆的，记忆的原理要么是context上下文，每次对话都把你所有的历史记录全发给模型重新生成，浪费巨多token，或者从rag数据库中检索，但是会丢失信息 想实现真正的记忆只能从模型权重本身下手，每次输入输出都调整权重，就像大脑神经元建立新的连接一样，这才叫记忆，当然会用掉巨量的算力，和巨量存储空间 我有个想法，但我没深入学习过人工智能原理，姑妄言之 如果把模型的输入和输出分成两部分，输入之后在单独的一层形成一个向量，由这层向量就可以计算输出，并且保证对于输入具有线性可加性，那我们就只需要保存这单独一个向量就可以得到模型的全部记忆了，又由于线性可加性我们只需要把新的内容经过输入层之后加到记忆向量，效果跟输入全部内容就完全相同了 希望了解原理的大佬可以讲一下能不能实现

♥ 207 ↩ 16

这就不得不提传奇记忆王manba了。 一般模型架构出了厂就无法改变自身，从而无法模拟神经元连接。 mamba：欸！🤓👆，那我把记忆专门存放到一个专门的空间，那不就可以模拟神经元连接了吗。 一般的模型架构在遗忘记忆时会遗忘最老的记忆，从而产生对于旧记忆的幻觉现象。 mamba：欸！🤓👆，那我模拟神经元遗忘，动态的选取一些不重要的记忆进行遗忘不就行了吗？ 一般的模型架构在长记忆下会消耗平方增长式的算力。 mamba：欸！🤓👆，我就不一样了，我消耗的是线性增长式的算力。

♥ 56 ↩ 2

还是没讲到点子上，现在 AI 的局限性是因为，llm 是“对话模型”，只有你问，它才会答。你的提示词就是它的全世界。它没办法自己去探索现实世界。我记得有个很有名的词嵌入，“窗户”和“走廊”几乎就是一个意思，说明 AI 根本不知道这些“实体”

♥ 49

弹幕好人机[doge]

♥ 34 ↩ 9

我觉得记忆里面是有很多情感联系的，AI能记住的只是一些数据，那种微妙的情感肯定是没有的，所以就算他具备长期记忆又如何，还是跟人类是不同的

♥ 24 ↩ 6

要是能实时生成lora文件 不知道记忆效果会不会比向量更好

♥ 16

人类会遗忘掉，有时候是部份，有时候是完整的一件事，AI不会

♥ 14 ↩ 5

正好近几个月在优化和制作拟人bot项目，关于记忆的部分up说的很好，不过只说到了最基础的关键词查询记忆和语义向量记忆两种 语义向量确实可以解决“周末的约定”和“星期天咱们去哪儿”的回忆问题，但是无法解决：“我们前几天聊了什么？”这种需要时间感知，或者“上次生气的时候你说的话”这种需要情绪感知，或者“a是个很好的人”“但我不喜欢他”这种上下文感知（向量只能想起来a是个很好的人）的问题，因此向量记忆的方式并不好 目前简单一点的优化方式，是讲对话上下文再通过ai进行一次总结，总结成日记本或者记忆归纳内容，可以一定程度缓解问题，但还是并不完美 所以有没有一种办法，可以纯本地的，让拟人bot可以拥有天然感受和理解时间关系，情绪状态，不使用一问一答的形式而是透明的无限思维流，以及可以天然对自己的想法，行动或者话语产生自内而外的“违和感”和“正确感”，天然不用区分短期和长期记忆但是可以实现和有记忆一样的效果的模型框架呢？ 有的兄弟，有的，而且理论已经完善了，在验证过程中了，后期可以期待一下，目前起名是情绪驱动的异步激活扩散图模型+拟人llm自训练框架

♥ 14

花子居然开这么专业的话题

♥ 13

一般也不希望跨对话记忆吧，不然就串了啊

♥ 11

为什么非要认为灵魂要有记忆存在[笑哭]

♥ 8 ↩ 19

一来弹幕就绷不住了，全是某六字游戏[微笑]

♥ 8 ↩ 1

ai确实没有真正的记忆，现在的ai都是在伪装有记忆，顶多就是联系上下文，或者通过软件创建每次聊天的关键词进行短记忆关联。想让ai有记忆现还没有模型能做到，除非你和ai聊天的所有内容能被软件添加到ai的模型里面随时进行训练，但至少目前是不可能的。训练ai模型的那些数据才能算作ai的记忆。

♥ 6 ↩ 1

我不懂哈，我瞎猜一下，意思是每个ai对话都有个专门的临时sql？然后向量编码是运用了图论之类的算法？还是拓扑[热]我觉得稍微讲深入一点比较好

♥ 6

[星星眼]学到了

♥ 4

纯玩文字游戏，超忆症的记忆也是不被丧失的，你通过记忆的普遍人属性作为定义本身混淆了个体性经历，个体作为ai它的经历就是存储的过程，这确实就是记忆，甚至是记忆的进化版，而真正在于记忆的是重构性和使用性，灵活使用的拼接区别于纯粹数据库的拿，这具有概念性差异，所以ai恰恰具有一定程度的使用性，至少这个程度超越了普遍人的存在，而重构性是ai一个缺失的结构而不是ai所不能，它在于的是一个知识与知识的联系，最终的替代或升华，然而ai其实不是有了拿，它的解决方式是信息库的提取与信息库的动态性，而作为本体的存在是一个待检验的客体，在于它是否掌握了可以不动态的客体，除非它具有了动态性，ai的缺陷可能在于作为本体的原初记忆不被信息库所重构，导致知识作为独立或者有限链接的存在，而不是超越有限的时时更新

♥ 4

其实，Ai的引擎搜索是一种感官学习，Ai学习后没有权利调动忘记。 而我们也同样，其中，你看见的1+1学习也是种感官学习，只不过，添加了乱七八糟的处理工程，在学习的角度中，是捕捉域，而且不浪费没必要能量，会简化不必信息，因此我们调动的记忆也是一种感官。 然而Ai没必要忘记，没阀门引动，信息极精确 只是不像人，学习还要浮动值调动

♥ 4

国内好像还没有哪个是支持长期记忆？

♥ 4 ↩ 1

我想这么做，我家有一台x86电脑，我想在里面放一个AI，他可以学任何东西，可以上网，但不能关机，每天要生成1000个单词，而且必须得是连贯的句子，每10个月强制一次关机，并生成一份日志，日志导入AI后可以让AI恢复以前的记录，人类随时可以打字跟AI交谈，我打算这么做，让AI在电脑里待10年

♥ 3 ↩ 2

昨天的传感器的信号不能直接作为今天的AI知识等着被明天使用 昨天的信号如同刚挖出的矿必须经过精炼也就是人工标注后才能用于AI训练

♥ 3