也不是非得英伟达不可 | 3分钟速通苹果电脑MLX大模型训练
合集 · 有手就行 (12)
-
万物皆可参考！AI参考生视频太好用了！
3:20
-
我用AI当助教，一天学会游戏开发！
5:05
-
看了这融合结果，我尬了... | 二次元角色融合工作流 | ComfyUI | Flux.1
4:21
-
5分钟学会用AI修复老照片：高清、上色、动态 | 原理 | 实操 | ComfyUI | Flux.1
5:46
-
领导: 代码跑还是你跑？
4:51
-
5分钟学会在Windows上搭建模型训练环境 | WSL安装| CUDA | Conda | Unsloth
6:06
-
如何让洋模型精通西游记 | 5分钟学会微调大模型Gemma2
4:51
-
我用2天开发了一个AI背单词的小程序
7:26
-
一步步教你用ComfyUI生成像素风视频
7:18
-
4202年了，还有人以为训练大模型很难吗？| 3分钟学会微调大模型Qwen2
6:58
-
也不是非得英伟达不可 | 3分钟速通苹果电脑大模型训练
3:59
-
不要浪费钱买课了，喂饭式教你训练大模型llama3
7:54
Description
不方便下载模型的朋友可以私信发 【mlx】 自动获取模型和代码下载链接 https://ml-explore.github.io/mlx/build/html/index.html #MLX的文档 https://huggingface.co/mlx-community #MLX社区，支持的模型可以在这里找到 https://github.com/ml-explore/mlx #苹果的MLX框架项目 https://github.com/ml-explore/mlx-examples #MLX的示例代码，LoRA在此 https://pypi.org/project/mlx-lm/ #调用mlx模型的python API https://www.anaconda.com/ #python虚拟环境工具 https://github.com/mewamew/mlx_demo#运行mlx模型示例代码
Comments
就它那个192g内存，够我买一块4090D
♥ 55 ↩ 20
那你猜openai是买h200呢还是m3 max/ultra呢[doge]
♥ 35 ↩ 15
推理和训练就不是一回事。
♥ 20
随着token降价。本地部署的意义越来越有限
♥ 18 ↩ 4
这只是微调呀姐姐，跟训练的数据量完全不是一个量级的， 而且英伟达虽然一块gpu只有最多100G这个数量级的显存，但是可以通过nvlink拓展呀，苹果gpu和a100的tflops根本不在一个数量级上面[给心心]
♥ 7 ↩ 3
至少苹果比起intel和amd要强的，社区环境要好，amd的ROCM一直半死不活的，不然以amd的性能还是可以拼一拼的，至于intel的openvino也就那样，生态环境都不是一天建起来的，现在只能挨打，就看谁能更讨好客户造出支持性更好宽容度更高性价比更优的产品了，英伟达的地位短时间不会被撼动，因为它的软硬件生态用着和其他厂家简直就是天上地下，哪怕是部分水平更优的国产硬件，也都是因为过于简陋的技术支持和软件生态无法适配快节奏的开发
♥ 4
苹果起步晚了，不能这样比[天蝎座_邪魅一笑][天蝎座_邪魅一笑][天蝎座_邪魅一笑]
♥ 4
那我想收这个M2 Pro MAX[doge]
♥ 2
抽我，抽我吧。
♥ 1
64g微调70b够不够用啊
♥ 1
64g微调70b够不够用啊
♥ 1
婆主，公司的垃圾8g，能用来训练吗[笑哭]
♥ 1 ↩ 2
device = "mps"
♥ 1
这是你这个粉丝数应该有的质量嘛！
♥ 1
请问如果用m4 pro mini能训练多大规模的模型？
用M4 mini丐版跑了Llama 11b 和Qwen2.5-14B-4bit 输出都是全是!!!!!!!!!!!!! 不知道是什么问题
[灵魂出窍]huggingface一直403也是绝了
必须要用虚拟环境吗？可以不用虚拟环境吗？
请问up，怎么找模型文件的存放位置。计划删除模型文件。发现自己跑的时候下载了72B的，结果跑不动。还找不到文件存放位置，删不了。
↩ 2
大佬您好，请问在训练时最后一步出现了这样的报错是怎么回事呀[大哭]
↩ 1