5分钟学会在Windows上搭建模型训练环境 | WSL安装| CUDA | Conda | Unsloth

合集 · 有手就行 (12)

Description

整合包下载链接: https://pan.quark.cn/s/e41e28aaa25b

相关命令:
wsl --install -d Ubuntu

修改权限：
sudo chown $USER:$USER *.sh
chmod a+x *.sh

安装脚本:
./setup.sh

激活环境变量 : 
source ~/.bashrc

创建python运行环境:
conda create -n llm python=3.11
conda activate llm

安装pytorch:
conda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.1 -c pytorch -c nvidia

验证cuda:
import torch
print(torch.cuda.device_count())
print(torch.cuda.is_available())
print(torch.__version__)
print(torch.version.cuda)

安装unsloth:
pip install "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
pip install --no-deps trl peft accelerate bitsandbytes xformers "flash-attn>=2.6.3" einops

解压训练包:
unzip -O CP936 finetune_gemma2.zip

Comments

庄鲲梦蝶 2024-09-27

各位一定要给ubuntu配置一个镜像源，我问题就出在这里了，折腾好几天

♥ 208 ↩ 14

三笙z 2024-10-15

尽量还是用原生的Linux吧，wsl的训练速度我测过，介于win和Linux之间，还是有损失的。单纯做ai的支持还不错，但是涉及到一些ro具身智能的很多包支持的很差。所以一些做交叉领域还是推荐原生Linux

♥ 112 ↩ 12

微分是几分 2024-09-14

有些文件直接在Windows下解压然后在WSL2中使用可能会有问题；如果你需要解压的文件是建议安装在Linux下的，我建议还是在WSL下解压[打call]

♥ 99 ↩ 5

陈荣敏呢 2024-10-03

你好根据你的命令行出现了报错 C:\Windows\System32>wsl --import-in-place Ubuntu D:\WSL\Ubuntu 拒绝访问。 Error code: Wsl/E_ACCESSDENIED

♥ 68 ↩ 6

xxy的大迷弟 2024-10-05

说实话如果是数学转AI 完全没有这么多问题因为我们公司的模型都是我们自己写的[笑哭] 我和我们同事都是数学系的，公司做ai科研只招数学系的虽然代码写的稀碎但无论什么环境都一定能跑[笑哭] 说难听点就是造论文的车轱辘

♥ 45 ↩ 14

温九_speechless 2024-10-13

顺带一提，如果自己的n卡驱动比较老要先更新一下，只有新版本支持wsl直接访问显卡，可以在wsl输入nvidia-smi有正常输出显卡信息说明驱动正常

♥ 41 ↩ 5

拂雪待春归 2024-09-17

小白，大模型[doge]

♥ 12 ↩ 1

认真2019 2024-09-19

不是你要装个Ubuntu都做不到，那还是算了吧[吃瓜]

♥ 9 ↩ 5

黎曼-亚历山大 2024-09-15

虽然我没看完，但是为了鼓励花子多更新，我还是点赞

♥ 9 ↩ 1

胡桃桃的狗吖 2024-09-14

主播很厉害，但是很明显你作弊了，别人头上的悬浮窗已经暴露了你的客户端，我甚至一眼就能看出来你使用的是什么端，因为我有你的同款作弊端，没记错的话这是vepu吧，我知道的，王牛牛。都在使用的客户端，很多人就是L，想要变强就会开纪，你没错，但是你发出来视频就是你的不对了，你玩的没有我厉害，太平洋底部的用户甚至都比你好，我前几天刚刚购买了欣欣无敌外挂，没有人打的过了我，看到你这豌豆芽一样的操作简直把我的头发都笑掉了，陈梓希认识吗，是我的同学，他甚至不用手就能把你个brothar殴打了，但是我不清楚你到底使用了killauera没（就是杀戮时刻），那是无敌功能，我是花了900多块钱才购买到的，哦对了，比起这个我觉得我的ph才是最好的，这是超级大纪你知道吗，中国人都在用的，力量强大无比的，我甚至不用开那个sprant就可以打得过你，鸡爪不能生吃就像你一样，视频不可以随便发出来挑衅我，我之前也是混纪圈钳子里面的，我可以用钓鱼竿combo你知道吗弟弟，就是把你打到天上下不来，光是想一想就知道你的无能了呢呵呵哈哈哈，我喝牛奶只喝纯牛奶，使用的音乐软件是外国的叫万花筒你知道吗，哈哈哈，光凭这两点就能击败你了，我是toolbox9年级的老玩家了，我们实例的差距隔开了一整个纪圈你知道吗，抱歉你真的太装了，我忍不住才说的这些，不是我没有素质，只是你太装了懂了吗，你这个大纪明显偷了默然的配置，知道吗，就是欣欣的手下败将，明天我就会发布跟你的对刀视频让你丢人知道吗？你会知道天差地别的大纪，你这种100多的东西不能和我的相提并论的，为了挑衅我，你真是煞费苦心，你为什么不敢直接去qq上对我喊话啊，逃逸东西哈哈哈哈，过年你收了多少钱啊。我个人观点就是我想跟你28pottedpvp一把，为了公平去见我会邀请我的好朋友刁少杰。在旁边观战，我还会让我的同王牛牛录制视频发到billbill上面哈哈哈哈，光想想就知道你会输了，你别投降，这样我会很没面子，我获胜的台词都想好了哈哈哈，出去别说元老欺负你，只是为了教训你个狂妄自大的小子哈哈哈，让你知道什么叫做纪圈最强了

♥ 9 ↩ 3