Bagel 一键包更新 11G显存占用 生成速度翻倍 增加进度条 字节开源多模态理解和生成的统一模型
合集 · Bagel (2)
Description
下载链接见评论置顶 提取码一键三连+关注可见（x 什么？关注了也没有？那你看完简介再说 ==================== 官方卸载4G显存可用 量化版本11G显存占用 50系需要重新编译flash加速依赖 有bf16，不支持旧显卡 有报错的话，请截图（控制台）发评论区 ==================== 恭喜你发现了华点 提取码glut 拿了资源就给个免费的赞吧~
Comments
oh我的神仙Up，你的效率堪比量子计算机！
♥ 2
不知道干嘛用的，币先投了[星星眼]
♥ 1
来啦来啦[打call]
♥ 1
厉害
♥ 1
可以本地api 调用吗
♥ 1 ↩ 1
👍🏻
♥ 1
沙发🛋️
♥ 1
大佬有试过微调bagel，需要几张a100奥
↩ 1
搞了两天终于部署好了。50系的显卡在docker环境下部署成功，各种坑，尤其是那个flash_attention
↩ 4
UPUP, 请问这个11G为什么会爆显存呀?(抱大腿.gif)
↩ 1
请问改图的效果怎么样，测评好少，有demo那么好吗
↩ 2
大佬，启动报错：At least one of the model submodule will be offloaded to disk, please pass along an `offload_folder`. 是什么原因啊，这是配置 Pytorch版本：2.7.0+cu128 显卡型号：NVIDIA GeForce GTX 1080 显存大小：8.00GB 不支持BF16，使用FP16
↩ 1
大佬，我按官网指引安装了，还是报错
↩ 1
官方卸载01.bat打不开：Traceback (most recent call last): File "<frozen __main__>", line 3, in <module> File "<frozen glut>", line 119, in <module> File "D:\Bagel\.glut\lib\site-packages\accelerate\big_modeling.py", line 628, in load_checkpoint_and_dispatch load_checkpoint_in_model( File "D:\Bagel\.glut\lib\site-packages\accelerate\utils\modeling.py", line 1857, in load_checkpoint_in_model raise ValueError( ValueError: At least one of the model submodule will be offloaded to disk, please pass along an `offload_folder`.
↩ 3
为什么生成的图片特别差
↩ 1
你好up，我运行报错RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cuda:1! 我是两块4090D显卡，重启没有其他占用gpu的应用，02脚本我运行不了，会OOM
↩ 4
图像编辑和图像理解报错：RuntimeError: Index put requires the source and destination dtypes match, got BFloat16 for the destination and Float for the source.
↩ 4
50系可以了不
↩ 9