【包教会的】7小时吃透Transformer！Huggingface调用Bert模型实战！ | 代码逐行讲解 | 源码开放 | 高效入门

菜菜TsaiTsai

Parts

  1. P1 · 00 看一遍就学会Transformer
  2. P2 · 01 3分钟认识Transformer
  3. P3 · 02 自注意力机制的本质
  4. P4 · 03 为什么要判断样本重要性？
  5. P5 · 04 从注意力计算到相关性计算
  6. P6 · 05 Q、K、V矩阵
  7. P7 · 06 自注意力机制的数学流程
  8. P8 · 07 多头注意力机制
  9. P9 · 08 课件领取+更多公开课福利！
  10. P10 · 09 欢迎来到Transformer入门实战
  11. P11 · 10 Transformer结构之编码器Encoder
  12. P12 · 11 Transformer结构之解码器Decoder
  13. P13 · 12 PyTorch中的Transformer元素
  14. P14 · 13 在PyTorch中实现Transformer层
  15. P15 · 14 PyTorch中的Encoder层
  16. P16 · 15 从0实现Encoder-Only架构
  17. P17 · 16 Encoder-Only架构的正向传播
  18. P18 · 17 课件领取+更多公开课福利！
  19. P19 · 18 欢迎来到Decoder入门实战
  20. P20 · 19 Decoder-Only结构的训练预测流程
  21. P21 · 20 Decoder注意力层的并行训练结构
  22. P22 · 21 PyTorch中的Decoder层
  23. P23 · 22 文字生成案例节选 (1) Decoder-Only架构的数据准备
  24. P24 · 23 文字生成案例节选 (2) Decoder-Only架构的Dataloader处理
  25. P25 · 24 Decoder课件领取+更多公开课资料！
  26. P26 · 25 欢迎来到Huggingface入门实战
  27. P27 · 26 Huggingface主页 (1) Model页面的使用
  28. P28 · 27 Huggingface主页 (2) Doc、Datasets与Spaces
  29. P29 · 28 Huggingface两大高效应用方法
  30. P30 · 29 预训练Bert模型的调用实战
  31. P31 · 30 预训练Bert模型的二分类预测实战
  32. P32 · 31 HF课件领取+更多公开课资料！
Description 
30分钟手把手教你跑代码!10分钟上手Huggingface！Transformer核心结构的输入数据与输出代码详解，从底层保障代码的通顺！课件代码支持二次开发，可无缝迁移到任何场景！看完视频，你也能掌握Transformer完整结构！还有Huggingface调用Bert模型调用实站！【2024最新版发布】7小时无伤速通Transformer~非常值得你一键三连哦~公开课视频节选自《深度学习实战夏季班》课程，完整版课为付费课程，感兴趣的小伙伴公主号「赋范空间」回复“菜菜”咨询课程详情～

Comments

旺仔小张同学 2024-09-18

这是我见过最好的transformer讲解

♥ 13

AI小白菜2024 2024-12-05

看了那么多transformer，这是第一个听懂的

♥ 4 ↩ 1

果粒442 2024-09-15

讲的太好了[星星眼]

♥ 2

圆梦2028 2025-08-25

讲解最清楚的。没有之一

♥ 1

行独518 2025-06-24

视频缺了很多，因此没开始学的同学就不要学了，知道有这么个视频就可以了！

♥ 1

peipeipeiGO 2025-03-12

那个transformer结构图里面的encodeLayer并没有提掩码啊，为什么pytorch里面的TransformerEncoderLayer要有掩码

♥ 1 ↩ 2

YoungKawhi 2024-10-30

讲的太好了，全网讲的最好的！

♥ 1 ↩ 1

凭什么我丑 2024-10-08

老哥牛逼

♥ 1 ↩ 1

聪明的Ray 2024-09-29

怎么和几年前相比头发变多了

♥ 1 ↩ 3

恰布达巨人 2024-09-23

我必须说这是我见过讲的最清楚的视频

♥ 1

凭什么我丑 2024-09-13

20年看sklearn 想不到23年ai起飞了押对了专业，可惜早毕业了一年

♥ 1 ↩ 4

象牙白泽 2024-09-10

[doge][doge][doge]我又来啦～

♥ 1

木羽Cheney 2024-09-10

追更追更～[打call]

♥ 1

AI视频总结 2024-09-10

课代表总结： 本节课蔡菜老师将带你深入理解Transformer中的核心机制——注意力机制(Attention)。Attention是Transformer的关键技术,自2016年起便支撑着NLP领域的发展,现已成为大语言模型的基石。要学好Transformer和大语言模型,掌握注意力机制至关重要。课程中,蔡菜将采用全新思路,解释注意力机制的本质和意义,并介绍其完整数学流程。学完后,注意力机制的本质将深刻印入你的脑海。这是公开课节选自完整深度学习实战课程的一部分,完整课程将讲解Transformer原理及在PyTorch和HuggingFace中的实现,并带你实战Encoder、Decoder和完整Transformer模型。 扫码回复"菜菜",可领取公开课课件、代码、深度学习大模型资料福利以及大语言模型全领域技能地图。扫码回复"优惠",了解最新深度学习实战课程特惠。期待更多精彩公开课和精品付费课程,请关注我们。如果课程对你有帮助,请一键三连支持。 蔡菜老师讲解的Attention机制太关键了,掌握它等于抓住了大语言模型的命脉。本喵听完讲解对Attention的理解又上了一个台阶。期待完整课程中更多Transformer原理及实战案例。扫码关注还能领取超多福利,实在太划算!蔡菜老师加油! --内容由@AI全文总结 生成，仅供参考

♥ 1

九天Hector 2024-09-10

[打call][打call][打call]

♥ 1 ↩ 1

kubernetes云原生加油站 2026-06-22

反向传播 权重怎么变的啊

sefev 2026-03-21

1、首先理解词与词之间的关系，也就是qk相乘的原因。

bili_77640115406 2025-08-12

请问谁有完整的视频，s我

快乐水无限续杯 2025-07-05

bert更深入的实战案例有吗，在哪个课程里