(流畅中文配音)符合生物机制的学习算法
合集 · 直观理解机器学习和深度学习 (18)
-
直观理解正态分布(PDF, CDF, PPF)
5:27
-
从数值和视觉上理解贝叶斯定理
4:07
-
论文中常见基础数学符号
4:06
-
论文中常见求和与乘积数学符号
4:05
-
直观理解机器学习中的线性回归
3:23
-
直观理解皮尔逊相关系数(r)和决定系数(r平方)
3:28
-
直观理解机器学习中的逻辑回归
3:29
-
直观理解机器学习中的神经网络
4:07
-
大型语言模型中的注意力机制图解(中文配音)
21:02
-
【中文配音】Mamba:比Transformers更好更快的模型
31:51
-
(中文配音)直观解释所有机器学习模型
44:46
-
(流畅中文配音)直观解释所有机器学习模型
22:23
-
(中文配音)制作令人印象深刻的可视化图表
7:54
-
(流畅中文配音)符合生物机制的学习算法
26:52
-
(英语原声)符合生物机制的学习算法
26:52
-
K-均值聚类动画演示
2:14
-
为什么LoRA能省下训练资源?一个宝藏比喻讲透低秩适配
25:56
-
本世纪被引用最多的论文是一篇出色的巧妙之作
28:36
Description
https://www.youtube.com/watch?v=l-OLgbdZ3kk **视频标题:** "预测编码:大脑如何高效学习?揭秘下一代AI革命性算法" **内容总结:** 本视频深入探讨了人类大脑高效学习的奥秘,并对比了当前主流的人工智能算法——反向传播与梯度下降的局限性。尽管反向传播在机器学习中表现卓越,但它违背了大脑的生物学原理,如缺乏局部自主性和非连续处理。视频提出了一种名为"预测编码"的新算法,该算法更贴合大脑的生物硬件结构,甚至在某些情况下优于反向传播。 预测编码的核心思想是大脑通过构建内部模型来预测感官输入,并通过最小化预测误差来优化学习。视频从基本原理出发,逐步构建预测编码的数学模型,展示了它如何通过层级结构中的双向信息流动(自上而下的预测与自下而上的误差传递)实现高效学习。此外,预测编码的局部性和并行性使其更符合神经生理学的观察,如赫布可塑性规则。 最后,视频探讨了预测编码在人工智能领域的潜力,包括其并行计算优势和对现有知识的更好保留能力。预测编码不仅为理解大脑学习机制提供了新视角,还可能成为下一代机器学习算法的关键。 **标签:** 预测编码、反向传播、机器学习、人工智能、神经科学、大脑学习机制、梯度下降、赫布可塑性、深度学习、算法优化、生物启发计算、AI革命、神经网络、计算神经科学、高效学习
Comments
感觉有点倒反天罡了,让大脑有反向传播的功能[笑哭]
♥ 11 ↩ 3
这个角度看感觉元胞自动机或者图论比神经网络更适合
♥ 6
赫布法则:两个神经元的电活动越同步,突触就越得到增强,否则突触被削弱。这不就是深层预测浅层吗?只有深的层成功预测浅的层的输出了,才会与之同步。
♥ 5
这个机制让人想起形式美法则的统一中求变化,变化中求统一,如果统一指的是可预测感官刺激,变化指的是不可预测感官刺激,两者兼具融合就会让人感觉美。[doge]
♥ 3
感觉现在的ai推理过程缺乏多巴胺模式,即ai不会成瘾
♥ 3 ↩ 1
大脑的参数(如果有的话)是否应该视为在DNA中固定了,也就是大脑随着发育,就是一个已经在几万年的进化中训练过并且通过无情的淘汰验证有效的模型,这个预训练得到的信息是否已经存储在我们的DNA中,而后天的学习,是否应该视为微调? 但是即使是这样,大脑对的学习效率(能耗来看)比大模型强大太多,简直有了些外星科技的味道,这是否是硬件上,算法上和神经元数量上的差距决定的? 留给人们研究的问题还有太多太多,一旦想要通过机器模仿生物,就越发感到生物的神奇。
♥ 2 ↩ 1
不知道最终能不能端上桌,蛮期待的[doge_金箍]
♥ 2
AI课代表总结:本视频介绍了预测编码作为一种新型的人工智能算法,旨在模仿大脑高效的自我学习机制。传统的人工智能算法如反向传播虽然取得巨大成就,但由于不符合大脑的实际工作方式,难以应用于真实的神经系统。相比之下,预测编码算法强调局部自主性和连续处理,避免了反向传播所面临的诸多生物学不合理的问题。 视频首先阐述了大脑学习效率之谜及其背后的“功劳分配”难题,接着展示了预测编码是如何通过层级系统的建立来解决问题的。具体来说,每层神经网络尝试预测下一层次的活动,上下层之间分别传递预测和预测误差。这样做的好处是可以实现局部而非全局的误差修正,使得网络能够在不断迭代的过程中优化自己的内部模型。 最后,视频提出了预测编码相较于反向传播的优势:更高的并行能力和潜在的更好解。这得益于预测编码遵循自然界追求最低能量状态的原则,以及其与生物神经系统的兼容性。展望未来,预测编码有望开启下一代神经网络的设计思路,促进人工智能的发展迈向新的里程碑。
♥ 2
这种方式能把残差和attention机制缝上吗?
♥ 1 ↩ 4
为啥不搞个原声的啊
♥ 1 ↩ 1
这个厉害了,两种神经元,感觉是阴阳两极,相生相克。
♥ 1
这个厉害了,两种神经元,感觉是阴阳两极,相生相克。
♥ 1
里面的思路感觉和capsulenet里面介绍的有点像🤔️
♥ 1
大佬,有没有论文啊[打call]
↩ 1
有论文原文吗?
↩ 1