A-村民F 2023-04-20 这条评论持续更新一些其他朋友跑出来的结果： 台式机4070Ti（float16/float32）： 纯文生图：5.66/8.47 control net文生图：8.08/11.6 LoRA文生图：5.82/8.41 变换：4.23/6.24 编辑：4.97/6.98 超分：7.33/9.65 ♥ 109 ↩ 13
205319470132 2023-04-22 虽然但是，你这一眼没优化好，4060笔记本我优化好可以做到512乘512 接近8it/s，4090正常30左右，只有三四倍的差距，你这数字我不知道具体啥意思，正常差距绝对没这么大。但是8g显存在小图上不是瓶颈，我拿p106跑720p的都都还好。后面来的兄弟上4060笔记本真可以了，我优化下来比306012g没得差，现在4060笔记本最便宜的在5200左右了，绝对没矿还保值率高。 ♥ 108 ↩ 19
路过的纸某人 2023-04-21 现在玩ai确实是要图灵以上的显卡才玩的舒服，就图灵的并行运算就比pascal快几倍了(所以说p40没什么必要).....4090更不用说，几乎就是故意区分的。现阶段2080ti炼丹炉还是最优选，显存魔改22g，训练个lora模型还凑合，起码是跑的起来[笑哭] ♥ 17
A-村民F 2023-04-22 关于评论区里说的比较多的点，统一回答一下： 目录： 1、xformers，paddle和pytorch 2、模型配置 3、systeminfo插件的be... ♥ 11
A-村民F 2023-04-22 关于xformers与“优化加速”： 因为这次的A100和V100都是白嫖的BML Codelab的服务器，在BML Codelab上只能使用paddle框架，因此测试是用paddlenlp ppdiffusers写的。 ppdiffusers的文档中，建议在显存足够时不打开xformers，使用xformers会降低显存消耗的同时降低运行速度，为了保证全部任务都能最最快运行，这里所有的运行脚本都没有打开xformers，可以参考右侧这个链接中对enable_xformers_memory_efficient_attentio这个arg的解释（https://github.com/PaddlePaddle/PaddleNLP/tree/develop/ppdiffusers/examples/dreambooth） 但是在huggingface diffusers的官方文档中，无论显存状态如何均建议开启xformers，可以参考这个链接：https://huggingface.co/docs/diffusers/optimization/xformers。个人怀疑造成这样区别的原因是两个框架对xformers的实现有区别。考虑到huggingface diffusers文档中Memory Efficient Attention部分的示例特意手动调整型精度到fp16（参考：https://huggingface.co/docs/diffusers/optimization/fp16#memory-efficient-attention），个人怀疑huggingface的xformer实现是部分依赖fp16的精度的。 持续更新一些其他朋友跑出来的结果： 台式机4070Ti（float16/float32）： 纯文生图：5.66/8.47 control net文生图：8.08/11.6 LoRA文生图：5.82/8.41 变换：4.23/6.24 编辑：4.97/6.98 超分：7.33/9.65 ♥ 8
Comments
这条评论持续更新一些其他朋友跑出来的结果： 台式机4070Ti（float16/float32）： 纯文生图：5.66/8.47 control net文生图：8.08/11.6 LoRA文生图：5.82/8.41 变换：4.23/6.24 编辑：4.97/6.98 超分：7.33/9.65
♥ 109 ↩ 13
虽然但是，你这一眼没优化好，4060笔记本我优化好可以做到512乘512 接近8it/s，4090正常30左右，只有三四倍的差距，你这数字我不知道具体啥意思，正常差距绝对没这么大。但是8g显存在小图上不是瓶颈，我拿p106跑720p的都都还好。后面来的兄弟上4060笔记本真可以了，我优化下来比306012g没得差，现在4060笔记本最便宜的在5200左右了，绝对没矿还保值率高。
♥ 108 ↩ 19
省流：4090最牛，A100杀鸡用牛刀，应该去干负载更大的活，个人绘画反而略输4090。
♥ 39 ↩ 4
3060 12g应该也是个不错的选择[doge]
♥ 39 ↩ 20
现在玩ai确实是要图灵以上的显卡才玩的舒服，就图灵的并行运算就比pascal快几倍了(所以说p40没什么必要).....4090更不用说，几乎就是故意区分的。现阶段2080ti炼丹炉还是最优选，显存魔改22g，训练个lora模型还凑合，起码是跑的起来[笑哭]
♥ 17
关于评论区里说的比较多的点，统一回答一下： 目录： 1、xformers，paddle和pytorch 2、模型配置 3、systeminfo插件的be...
♥ 11
有点好奇3070Ti移动端如何 8GB显存太卡脖子，但只要能跑，速度好像还ok （第N次后悔买70Ti
♥ 11 ↩ 6
你这是不是没开xformers，还有最新版cudnn对于30/40系的专属优化啊
♥ 9 ↩ 5
关于xformers与“优化加速”： 因为这次的A100和V100都是白嫖的BML Codelab的服务器，在BML Codelab上只能使用paddle框架，因此测试是用paddlenlp ppdiffusers写的。 ppdiffusers的文档中，建议在显存足够时不打开xformers，使用xformers会降低显存消耗的同时降低运行速度，为了保证全部任务都能最最快运行，这里所有的运行脚本都没有打开xformers，可以参考右侧这个链接中对enable_xformers_memory_efficient_attentio这个arg的解释（https://github.com/PaddlePaddle/PaddleNLP/tree/develop/ppdiffusers/examples/dreambooth） 但是在huggingface diffusers的官方文档中，无论显存状态如何均建议开启xformers，可以参考这个链接：https://huggingface.co/docs/diffusers/optimization/xformers。个人怀疑造成这样区别的原因是两个框架对xformers的实现有区别。考虑到huggingface diffusers文档中Memory Efficient Attention部分的示例特意手动调整型精度到fp16（参考：https://huggingface.co/docs/diffusers/optimization/fp16#memory-efficient-attention），个人怀疑huggingface的xformer实现是部分依赖fp16的精度的。 持续更新一些其他朋友跑出来的结果： 台式机4070Ti（float16/float32）： 纯文生图：5.66/8.47 control net文生图：8.08/11.6 LoRA文生图：5.82/8.41 变换：4.23/6.24 编辑：4.97/6.98 超分：7.33/9.65
♥ 8
我当时真的是第一次见到这么占显存的应用[辣眼睛]
♥ 8 ↩ 1
体验过一秒出图后越来越无法忍耐自己的笔记本[笑哭]
♥ 7 ↩ 1
省流：[吃瓜]普通用户选4090没得错
♥ 7
up的ai原声声音用什么ai软件训练的，还是就是纯ai声音
♥ 7 ↩ 7
xformers，模型配置，为什么和我的4060laptop体验不一样等问题请查看UP主笔记。
♥ 5 ↩ 1
A卡、3060laptop直接退出群聊[辣眼睛]
♥ 4 ↩ 1
电脑插两个4090能运行dreambooth吗，显存会叠加吗[思考]
♥ 4 ↩ 6
4090训练Dreambooth显存会被吃满吗[妙啊]
♥ 3 ↩ 1
那我的移动端4080呢？
♥ 3 ↩ 1
6g显存3060的笔记本出图质量怎么样？换8g显存4060呢？我6g显存1660s的台式只能出768×512，半分钟一张[酸了]
♥ 2 ↩ 2
求问阿婆主，4060笔记本8G和3070 8G笔记本，都是一样显存哪个表现会好一点
♥ 2 ↩ 18