劳琦峻 2025-03-07 挖矿说一下 大部分币种最先出的是CPU挖矿(比如比特币,莱特币这些),然后才用GPU,最后是专用矿机 专用矿机的速度比显卡快,价格也便宜,但一旦过时(矿池难度过高导致产出比下降)就是块废铁 不过矿机也没有那么专用,毕竟相同算法下会有不同的币(比特币有比特现金,以太币也有其它衍生币种等),可以做到一机多用,但和CPU还有显卡比还是不行 而且要论通用矿老板应该选择cpu阵列而不是显卡,之所以选显卡是在牺牲一定的通用性后能有不俗的速度 ♥ 11
jackieyang9 2025-03-07 别的不知道,但是至少 groq 是可以算音频的。人家官方服务里就在serve oai whisper 的语音转文字模型 别看见 LPU 就觉得只能算字 ♥ 4
枸杞去唱戏 2025-03-07 我说实话到现在我都不信ds只凭借那点算力达到GPT4的水平。但凡动动脑子都能想到如果真有这么好的方法那硅谷的人早用了,况且他们搞AI的时间比中国早多少,硅谷又人才聚集他们不可能想不到这种方法。所以只有一种解释,那就是盗用。国内翻墙成功用GPT的随处可见,用AI来训练AI确实是好方法 ♥ 4 ↩ 11
蔚蓝秋风 2025-03-08 大模型的音频视频现在都是Transformer为主。底层算子变化不多。唯一的问题是groq的sram太小。但是用HBM封装大位宽的DDR进去感觉就解决了问题。唯一问题就是中国HBM技术被美国封锁了。[笑哭] ♥ 4 ↩ 3
账号已注销 2025-03-09 先把它做出来放到产业里溜溜否则都是瞎扯,现在至少Asscent的NPU我司实测已经能在产业上用了 虽然不稳定,nv程序能连续跑3个月 Asscent只能连续跑3小时,不过华为云工程师也在积极配合。 ♥ 2
Comments
这玩意关键在于内存太小了,虽然芯片内部效率是英伟达的10倍,可是由于容量太小,那点节省下来的能效全部损失在芯片之间的互联上面了。[笑哭]
♥ 127 ↩ 3
(`・ω・´)说CUDA是误打误撞我感觉就有点扯了
♥ 59 ↩ 9
再来几次估计木有万亿喽[脱单doge][doge][doge_金箍][吃瓜]
♥ 25 ↩ 1
lpu跟npu不是一样的吗?
♥ 23 ↩ 11
这东西用FPGA来搞到手不错,真正流片出来肯定跟不上模型迭代[吃瓜]不过现在大规模FPGA也很贵[笑哭]
♥ 22 ↩ 4
咱就是说,优化决定下限,硬件决定上限,怎么可能不需要有完善生态的高性能的gpu
♥ 21 ↩ 3
现在有拼好板(嘉立创),以后会不会有拼好晶(指seat)[doge]
♥ 17 ↩ 5
不管是谁在打英伟达,我陈某一定帮帮场子
♥ 15 ↩ 1
人都是贪婪的,如果能赚大钱不会跟你说自己独占不是更好[吃瓜]
♥ 12 ↩ 1
挖矿说一下 大部分币种最先出的是CPU挖矿(比如比特币,莱特币这些),然后才用GPU,最后是专用矿机 专用矿机的速度比显卡快,价格也便宜,但一旦过时(矿池难度过高导致产出比下降)就是块废铁 不过矿机也没有那么专用,毕竟相同算法下会有不同的币(比特币有比特现金,以太币也有其它衍生币种等),可以做到一机多用,但和CPU还有显卡比还是不行 而且要论通用矿老板应该选择cpu阵列而不是显卡,之所以选显卡是在牺牲一定的通用性后能有不俗的速度
♥ 11
LPU肯定能成功,一旦应用趋于稳定,能效成本都是更好的。老黄把一个五纳米,几百美元的芯片买到几万十几万美元的暴利,正常资本主义的逻辑下都不能长久
♥ 11 ↩ 6
别的不知道,但是至少 groq 是可以算音频的。人家官方服务里就在serve oai whisper 的语音转文字模型 别看见 LPU 就觉得只能算字
♥ 4
我说实话到现在我都不信ds只凭借那点算力达到GPT4的水平。但凡动动脑子都能想到如果真有这么好的方法那硅谷的人早用了,况且他们搞AI的时间比中国早多少,硅谷又人才聚集他们不可能想不到这种方法。所以只有一种解释,那就是盗用。国内翻墙成功用GPT的随处可见,用AI来训练AI确实是好方法
♥ 4 ↩ 11
大模型的音频视频现在都是Transformer为主。底层算子变化不多。唯一的问题是groq的sram太小。但是用HBM封装大位宽的DDR进去感觉就解决了问题。唯一问题就是中国HBM技术被美国封锁了。[笑哭]
♥ 4 ↩ 3
纯语言确实不够看啊,现在很多家都在搞多模态
♥ 4
训练成本降低了关推理卡什么事[doge]
♥ 2
先把它做出来放到产业里溜溜否则都是瞎扯,现在至少Asscent的NPU我司实测已经能在产业上用了 虽然不稳定,nv程序能连续跑3个月 Asscent只能连续跑3小时,不过华为云工程师也在积极配合。
♥ 2
事实证明是可以的,要不也不会收购了
♥ 1
CPU:最通用的不是我嗎?
♥ 1
上次還有說NPU會把輝達滅了的[doge]
♥ 1