【官方教程】ChatGLM-6B 微调:P-Tuning,LoRA,Full parameter

合集 · 模型部署和微调 (9)

  1. 42:53
    「官方教程」GLM-4-9B 实战部署和微调
  2. 1:08:52
    探索GLM-4-9B开源模型:ITREX — LLM工具实战
  3. 2:01
    ChatGLM3 一键安装,懒人专属
  4. 33:26
    低配置部署 ChatGLM3-6B | 智谱 × 魔搭社区
  5. 57:09
    【官方教程】ChatGLM3-6B 部署和微调(Function Call、Code Interpreter、Agent)
  6. 1:07:45
    【官方教程】ChatGLM 的 Prompt 工程实践,真实案例详解
  7. 1:03:23
    【官方教程】ChatGLM2-6B 部署与微调
  8. 1:10:13
    【官方教程】ChatGLM + LangChain 实践培训
  9. 1:18:45
    【官方教程】ChatGLM-6B 微调:P-Tuning,LoRA,Full parameter
Description
我们详细介绍了GLM的技术背景,以及ChatGLM-6B的微调方案,包括P-tuning、LoRA、Full-Parameter等,并针对提问提供了详细的回复。

报告文件下载链接: https://pan.baidu.com/s/1CKS5yBz6-GN_J7UB_wxguw?pwd=g26m 提取码: g26m

Comments

尽染層林 2023-06-02

省流:我用ChatGPT生成了本视频的分点摘要: 1. 本报告将从头到尾手把手教大家如何翻译ChatGLM6B模型。 2. GLM模型是一个语言模型,其预...

♥ 159 ↩ 8

热土放轻松 2023-05-22

凌晨4点 48人在看 兄弟们深度学习呢隔这

♥ 142 ↩ 5

bruce_ng 2023-05-23

实测,1060显卡6G显存,int4,设置pre seq 128,输入输出长度小一点,可以p tuning

♥ 68 ↩ 10

熊猫同学 2023-06-12

前排提示,这并不是一篇新手向的教程,如果你只是抱着想玩一玩demo的心态,可以去知乎上找找保姆级的ChatGLM本地部署教程。 up讲的其实已经非常细非常清楚了,NLP方向的研究者是能很容易听懂的,不要在弹幕抖机灵了。

♥ 39 ↩ 1

AlephNull・L 2023-05-22

UP如何看待RWKV[doge]

♥ 39 ↩ 21

四联装哈士奇 2023-05-22

你这说明书,有说明书吗?

♥ 29

奶酪芝士球 2023-05-23

国产chat社区你是独苗啊,能不能成看你们了。

♥ 16 ↩ 3

sportzhang 2023-05-22

想问一下老师,P-Tuning v2微调方式以及推理和部署,有没有多卡的版本,发现官方的给出的只有单卡的。

♥ 13 ↩ 6

神秘点评家 2023-06-01

感谢你的讲解,但是我真的很讨厌这种中文中+英文的说话方法,虽然我能理解,但是我真的建议,我们的专家把那些关键点上的英文单纯翻译成中文。现在这样的掺杂的说话方式,并不是主流,也不会凸显专业。仅代表个人建议

♥ 12 ↩ 29

Makhlouf 2023-05-22

我int4在12G显存下pt v1下微调成功……

♥ 11 ↩ 1

kooloushen 2023-05-22

主要无法商用啊 怎么办

♥ 11 ↩ 18

Mr.Bulb 2023-05-22

有visualglm的相关资料吗[星星眼][星星眼][星星眼]

♥ 10 ↩ 1

不会写代码的路人甲 2023-05-23

可以cpu部署吗?没显卡[难过]

♥ 9 ↩ 8

wujohns 2023-05-22

如果熟悉peft的话,可以考虑用peft来做训练,lora还有ptuning都有比较好的支持,主要是hg的Trainer的封装使用起来比较方便,训练的代码也就一小会可以写完

♥ 9 ↩ 1

zhangdali_zhu10 2023-06-09

很烦人,为什么老是中英文混着

♥ 7 ↩ 2

CasimirCrystal 2023-05-22

ptuning v2不是需要给每个prompt加上一个prefix来标记任务类型吗?为什么在生成广告的演示数据集里看到的还是(prompt,response)对的形式,感觉和训练全部参数的sft或者指令微调一样?

♥ 6 ↩ 1

土豆很凶的 2023-05-22

一共 500 播放,150 人正在看,别卷!!!让我先看!!!

♥ 6

UC11779470 2023-05-23

显存不够,64G内存能跑吗?

♥ 5 ↩ 2

月色下の幻想乡 2023-05-23

用了一段时间6b了,感觉还是太弱了,很多回答都不行,实用性大打折扣,希望能推出个13b的,最好是能单卡3090或4090运行的就好了[笑哭]

♥ 5 ↩ 4