【Qwen2.5】一键包 重磅开源!100+模型上架! 旗舰模型Qwen2.5-72B性能超越Llama-405B
Description
https://www.123pan.com/s/Pf5Yjv-YiAW3 提取码一键三连+关注可见(x 什么?关注了也没有?那你看完简介再说 ==================== 已添加自动量化 有报错的话,截图发评论区 ==================== 恭喜你发现了华点 提取码glut 拿了资源就给个免费的赞吧~
https://www.123pan.com/s/Pf5Yjv-YiAW3 提取码一键三连+关注可见(x 什么?关注了也没有?那你看完简介再说 ==================== 已添加自动量化 有报错的话,截图发评论区 ==================== 恭喜你发现了华点 提取码glut 拿了资源就给个免费的赞吧~
Comments
这些有啥用 比不过deepseek api也低不过 自己设备烧起来也不如几块钱买的api够用 还好
♥ 4 ↩ 4
好快呀!虽然没下载,但3连支持了![打call]
♥ 4
qwen2.5确实令人惊艳!
♥ 1
有qwen2.5-math的一键包嘛up[doge_金箍]
♥ 1 ↩ 1
国内开源还得是qwen和deepseek
♥ 1
既不是阿里云盘,也不是百度网盘
UPUP,,怎么使用别的大佬分享的guff模型??
↩ 1
想请教下大佬,6g显存32g内存能跑的动这个吗?
↩ 4
启动时出现了错误,怎么设置 GRADIO_SERVER_PORT?应该修改哪个文件哪个内容: 启动中,请耐心等待 ... Loading checkpoint shards: 100%|█████████████████████████████████████████████████████████| 4/4 【00:05<00:00, 1.37s/it】 Traceback (most recent call last): File "C:\Qwen2.5\web_demo_glut.py", line 232, in <module> main() File "C:\Qwen2.5\web_demo_glut.py", line 228, in main _launch_demo(args, model, tokenizer) File "C:\Qwen2.5\web_demo_glut.py", line 215, in _launch_demo demo.queue().launch( File "C:\Qwen2.5\.glut\lib\site-packages\gradio\blocks.py", line 2372, in launch ) = http_server.start_server( File "C:\Qwen2.5\.glut\lib\site-packages\gradio\http_server.py", line 155, in start_server raise OSError( OSError: Cannot find empty port in range: 8000-8000. You can specify a different port by setting the GRADIO_SERVER_PORT environment variable or passing the `server_port` parameter to `launch()`. Press any key to continue . . .
123云盘下载要钱的,UP主换到百度云盘上吧
↩ 1
大佬,网盘链接提示分享房流量用完了,可以发个其他网盘的嘛?谢谢🙏
我测试了Qwen2.5-72B-Instruct-GPTQ-Int4,这模型jailbreak很容易,只要自己写前几个词后面就会按照你说的写了。英文艺术创作方面,比其他开源模型包括Mixtral 8x22B以及之前泄露的miqu 70B等都要强;之前的Qwen2.0相比Qwen1.5是退步,现在Qwen2.5都找补回来了。
↩ 3
大佬,我想试试14B的有什么区别,求一个模型的整合包~~
↩ 1
大佬,请问在web demo里面把int4的显存需求改到4gb了,但为何还是以cpu模式进行推理的啊(显卡是2050 4gb,cuda 12.1 ,bf16支持,跑的是qwen2.5 1.5b)
↩ 11
up,这应该如何中途停止回答呢,有快捷键嘛
↩ 1
经过两次正常推理后,报如下错,推测是爆显存了。看系统任务管理器显存占用大约在4GB左右。 显卡4070TI supertorch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 684.00 MiB. GPU has a total capacity of 8.00 GiB of which 167.00 MiB is free. Of the allocated memory 6.01 GiB is allocated by PyTorch, and 741.75 MiB is reserved by PyTorch but unallocated. If reserved but unallocated memory is large try setting PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True to avoid fragmentation. See documentation for Memory Management (https://pytorch.org/docs/stable/notes/cuda.html#environment-variables)
网盘中,两个文件下载哪一个呢? Qwen2.5-7B-instruct.ZIP 2.27GB Qwen2.5-7B-instruct.Z01 9GB
↩ 1
你好 我下载了Coder和Math两个版本的模型,但不知怎么添加到项目?在哪里设置啊?
↩ 7
直接三连!
给大佬点赞