Description
大模型入门系列公开课第三弹《大语言模型常用微调框架介绍》来啦!大模型微调作为大语言模型定制化开发的关键技术,在整个大语言模型技术应用落地过程扮演者不可或缺的重要角色~视频将为大家详细介绍目前最通用的微调技术,包括高效微调(PEFT)的系列方法:LoRA、Prefix-Tuning、Prompt-Tuning、P-Tuning v2等,以及最新的基于生物反馈机制的强化学习微调方法RLHF,帮助大家一步到位快速建立技术认知,领跑大模型时代~
公开课资料领取:添加客服VX:littlecat_1207,回复“LLM”即可免费领取哦~
公开课视频节选自《大模型与AIGC技术实战》课程,完整版课为付费课程,课程包含提示工程技术、AIGC实战、大模型部署与API调用方法、LLM微调方法、LangChain AI项目开发五大模块,同时将重点介绍GPTs&ChatGLM中文大模型API调用和微调方法,以及LoRA、P-Tuning v2等微调方法。同时将详细讲解Hugging Face微调库PETF与deepspeed训练实现方法,并在此基础上借助LangChain框架完成定制化AI大模型训练项目!感兴趣的小伙伴添加客服VX:littlecat_1207,回复“大模型”咨询课程详情哦~
Comments
prefix应该是在QKA查询向量前面加前缀吧
♥ 3 ↩ 2
脉络清晰,很赞的up
♥ 3
RLHF库,LoRA都是微软的,还是挺牛的
♥ 3
相见恨晚
♥ 2
讲得很好,通俗易懂,一次就明白。
♥ 2
@AI全文总结
《大模型与AIGC技术实战》课程,发个链接?没找到
↩ 1
高效微调最低需要个啥显卡
↩ 1
ppt可以分享一下嘛
↩ 1
p-tuning的概念是不是相当于修改你输入的问题,让模型根据修改后的问题进行回答,模型还是原来那个模型?
↩ 1
呱呱呱