【看一遍就会Transformer】一次吃透多头注意力机制,0基础直达NLP前沿! | QKV原理详解 | 算法实战 | 架构精讲

Parts

  1. P1 · 00 看一遍就学会Transformer
  2. P2 · 01 3分钟认识Transformer
  3. P3 · 02 自注意力机制的本质
  4. P4 · 03 为什么要判断样本重要性?
  5. P5 · 04 从注意力计算到相关性计算
  6. P6 · 05 Q、K、V矩阵
  7. P7 · 06 自注意力机制的数学流程
  8. P8 · 07 多头注意力机制
  9. P9 · 08 课件领取 + 更多公开课福利!
Description
看一遍就学会Transformer啦~一次性看完自注意力机制的本质、多头注意力机制、LoRA微调…………我用了和其他机构完全不一样的方式来讲解,直击注意力机制的本质,能让你“哇哦”一下!真正理解Attention的本质!咱们技术人拿代码说话,下一期就会为大家分享一套可以实践的Transformer实现代码!点赞越多更新越快!请不要吝啬你的一键三连呀~
✅公开课视频节选自《深度学习实战》课程,完整版课为付费课程,感兴趣的小伙伴感兴趣的小伙伴“置顶评论扫码”回复“菜菜”咨询课程详情哦~

Comments

打跑球的羽毛人 2024-12-11

一个晚上2倍速刷完了,客观+主观的说,真的讲得很好,不是一上来就摆公式讲原理,慢慢由浅入深的讲解,非常好理解,不懂的地方也倒回去多看了几遍,基本把注意力机制搞懂了,老师也关键讲解了注意力机制的公式和多头muti-head,之前看李沐的视频看的一知半解,一直不知道原理,不知道注意力的核心,很有收获,关注了,三连奉上~ 多多更新!

♥ 30 ↩ 4

卖牛杂の阿晴 2024-09-10

老师非常漂亮,讲的也非常好.我看了几个博客都没看明白,今天第一次看懂.老师从为什么需要这个功能讲到如何实现这个功能,可以说是由浅入深,讲的非常透彻.我之前以为attention就是transformer的专属机制,一直不了解为什么CNN可以结合处理文本的transformer的使用.听到老师讲到才知道这只是transformer的特色而已,可以单独拿出来用,总之谢谢老师,一键三连了[打call][打call][打call]

♥ 10 ↩ 2

菜菜TsaiTsai 2024-09-05

欢迎来到【5天连更】通关Transformer新番,第一弹!看完今天的视频就能彻底吃透注意力机制原理、轻松应对深度学习技术面试~为学习Transformer、大模型技术以及LoRA微调等技术打下坚实的基础!没有评论,我就默认你们都学会了哦 本期重点内容(值得反复观看): 1. 自注意力机制的本质 2. 为什么要判断样本重要性? 3. 从注意力计算到相关性计算 4. Q、K、V矩阵 5. 自注意力机制的数学流程 6. 多头注意力机制 下一期更新PyTorch实现Transformer,逐行代码为你讲解,课件代码还能无缝迁移到任何场景!点赞越多更新越快~

♥ 5

五实 2024-09-06

建议精简话语量,想一想哪些表达是必要的,减少不必要的语言重复。降低一下语速。

♥ 4 ↩ 4

九天Hector 2024-09-05

能把技术知识讲的让人上瘾,唯有我菜菜老师

♥ 4 ↩ 1

男大罢了 2024-09-04

不愧是菜菜老师

♥ 4

灼眼的菖蒲 2025-04-13

这么流弊的视频为何今日始得初见?自学了一段时间,发现有很多地方都很迷糊,今天一次全部听明白了,感谢大神姐姐

♥ 3

红色边缘 2025-01-18

找了很久,听了很多,流程知道是什么,但是qkv一直没有能给自己一个理由去解释,今天听了这个小姐姐的讲解,感觉有点能说服自己了,其他讲解博主也只是流于表面不知道自己是否真的懂了

♥ 3

田花花同学 2024-09-08

我觉得老师讲的很好,内容也不错,就是语速和气口有点压抑,让人喘不上气。

♥ 3 ↩ 8

只是想改名而已--- 2025-01-31

这是我到目前为止看到过的最好的教程了,老师的语速和声音都很容易帮助人集中注意力,内容设计也是由浅入深,非常赞,期待更多分享

♥ 2

一只墨子吖 2025-01-03

菜菜老师,和你讲个好消息~我终于找到合适的算法工程师的工作啦。虽然是实习岗,但可以直接跟各位大佬学习

♥ 2 ↩ 2

旧时溯洄 2025-06-13

看到UP这么实诚的教授知识,却没法很好的变现我真的好着急,感觉这个领域越来越偏应用层了,不再像前几年言机器学习必说算法,很少再有企业去训练或者微调自己的模型了,只剩一些垂直的场景金融啊医疗啊这些有私有数据的场景还在训练自己模型,但同时他们这些垂直领域的人又不是很专业,基本只会用个皮毛,没法深度整合,和九天老师可以互补搭配一个讲通用大模型一个讲垂直领域,如果能和做量化的UP搞个合作出几期专业的研报精读复现,我是愿意充电的

♥ 1

bili_11865599948 2025-02-24

全是反复废话

♥ 1

小猪很大 2025-01-31

小姐姐讲的慢一点语速,听着好累哦

♥ 1 ↩ 3

城破山河在 2025-01-03

特别感谢菜菜和菊安酱的课程,思路清晰,内容详实,不像有的课程那样避重就轻。

♥ 1 ↩ 1

泽伟653 2024-12-29

讲的很好[支持]

♥ 1

alchemist2025 2024-12-22

信息密度太低了,三十分钟二十五分钟讲废话

♥ 1

竹笙菌 2024-12-04

attention注意力模型的作用是在受测试模型上进行加权,对两样本的关联性进行分析,关联性强的权值大,关联性小的权值小。 相关性计算有顺序,矩正转置计算...

♥ 1

水火相容性价比 2024-12-01

讲的真好

♥ 1 ↩ 1