Intel显卡逆袭!两张A770跑32B大模型,能赢RTX4090么?
Description
教程+文件包 百度云盘 https://pan.baidu.com/s/18vTOODK_teYlhFzzbb-jbQ?pwd=yxj3 夸克云盘 https://pan.quark.cn/s/2c1a39175867 提取码:BAK3 阿里云盘 https://www.alipan.com/s/nhwAKQa2xwp 提取码: i60x 引用来源: https://github.com/deepseek-ai/DeepSeek-R1 ipex-llm/README.zh-CN.md at main · intel/ipex-llm https://qwenlm.github.io/zh/blog/qwq-32b/ https://huggingface.co/Qwen/QwQ-32B-AWQ/tree/main https://github.com/kvcache-ai/ktransformers/blob/main/README_ZH.md
Comments
弹幕:AI主要要占用显存 对算力要求不是很高 我心里:RX580*4[doge][doge][doge]
♥ 1075 ↩ 47
这卡可以,大显存,价格还便宜,就是驱动不咋地。要不是用到CUDA,真想搞几张来玩玩。其实AMD也可以使用CUDA,但要配置,很烦。包括摩尔线程也可以使用CUDA,但过程很繁琐[思考],综合考虑,还是要用N卡。这里不是所谓的崇洋媚外,但从生产力来说可以省很多事。当然你要说做工业设计,那推荐使用A卡[吃瓜]
♥ 371 ↩ 16
i卡对游戏玩家太不友好了,a系显卡现在更是不知道什么时候会停更驱动,买之前是各种看好的
♥ 445 ↩ 43
现在开始要炒英特尔的显卡了
♥ 144 ↩ 19
5090的确很强,但是根本买不到,4090又价格居高不下很没有性价比。这个时候就是我买3090的最好的机会了[藏狐]问就是交火还是太吃操作了,24g的3090能够跑起来很多模型了,但是16g的卡直接就被显存ban掉了。byd老黄都2025了5080还是只有16显存[藏狐]
♥ 97 ↩ 17
I卡玩腻了不好卖,市场需求太小,N卡玩腻了很容易卖[笑哭]
♥ 128 ↩ 9
双卡a770好还是双Radeon7好?,deepseek硬件需求是什么
♥ 73 ↩ 10
i 卡对游戏和工业软件的兼容性都很差
♥ 104 ↩ 93
你说有没种可能,有张叫NVIDIA Geforce RTX 2080ti 22g的显卡也能交火,而且cuda对ai有好一点,不用那么麻烦,直接用ollama加chat box就行,性能也比a770强
♥ 99 ↩ 34
猫三啊猫三,换个音效吧,现在用的好蠢,听起来非常突兀
♥ 66 ↩ 2
新驱动对a系列是负优化,都是找旧的表现好的版本用,b站能找到相关内容,全是共识了
♥ 53
所以如果要本地部署满血R1要什么配置[doge_金箍]
♥ 41 ↩ 11
fun科技真就是搞笑科技是把,vllm都不知道,
♥ 66 ↩ 6
B750.770.9xx怎么没一点消息
♥ 34 ↩ 12
@鲨鱼车长 多说无益。你可以继续当老黄的精神股东,下半年3500买5060明年6000买6060你开心就好。反正我继续等我的b770,用了两年没遇到啥问题
♥ 71 ↩ 52
折腾了两天,踩了无数坑,终于复现了up的全套流程,然而速度只有不到10 toks/s,不知道哪里不对。浪费我最久时间得到的教训是,两张显卡必须插在直连cpu的pcie上,z890肯定没问题,大不了第二槽4.0x4,但更早的主板就看具体板子配置了,很多第二根都是走芯片组的。能选择的要么高端带4.0 x8x8的,中端基本都不行,要么找z370 390 490 老板子里面带3.0 x8x8的。
♥ 28 ↩ 4
@隐性中二病 劳资现场买一张,卡成ppt你跟我姓
♥ 36 ↩ 29
完了,又要涨价了
♥ 19
https://www.bilibili.com/read/cv40932050 援一下[doge]
♥ 22 ↩ 4