做大模型究竟难在哪？为什么只有OpenAI做出了ChatGPT？

爱较真的戴老师

Description

云厂商购买A800的到手价通常是十万元一枚，如果以一万枚A800，搭配两万枚AMD霄龙7642构建智能计算集群，即使不计算其他硬件的成本，硬件采购的成本就高达12亿元，服务器的采购成本通常是数据中心建设成本的三分之一，数据中心的建设成本就超过了三十亿。
按照一枚GPU搭配两枚CPU来算，根据产品信息上的功率是700瓦，就算是没有任何能量浪费，一万枚GPU和两万枚CPU每天消耗的电量也是十六万八千千瓦时，根据中国城乡居民的平均用电量，每人每月用电26度，一户三口之家用电取80度。
那这个数据中心运行一天，CPU和GPU消耗的电就可以供一个三口之家用2100个月，约175年。

2022年微软营业利润828亿美元，其中微软云营业利润超过400亿美元，也就是说微软投资云计算，和他们的财务状况是匹配的，而国内不行。

关于OpenAI预处理使用人力的报道：https://time.com/6247678/openai-chatgpt-kenya-workers/

Comments

爱较真的戴老师 2023-04-24

2021年openAI的CEO在技术会上说，GPT4的参数量比GPT3还低，这是很有意思的一个点，OPENA开始朝算法和数据方向研究了网上很多人传千万亿参数量，我是不相信这个说法的，GPT4发布之后马上看了论文，七八十页的内容，一半是广告一半是免责声明最后，看简介有个简单的估算[OK]

♥ 97 ↩ 5

70后大叔学琴之路 2023-04-24

国内好多公司推出这么多国内版的chatgpt，究竟是跟风还是已经研究好多年，今年是井喷的一年？

♥ 18 ↩ 13

Ch3nn1 2023-04-24

别的战线不说，戴老师，单声道的口播有点难受，特别是耳机

♥ 17 ↩ 2

ubilis 2023-04-24

如果靠虚假炒作就能获取高额利润，高度商业化的弊病就暴露无遗了；各自圈地掣肘、舆论互攻，也是商业化丛林法则。这些例子在国内比比皆是

♥ 13

知世郎無知啊 2023-04-24

大胆预测下一次中文不如英文，想全面改英文的人会拿人工智能下手，大搞英文表意机器学习简单，中文逻辑太复杂了训练不出来ai[doge]

♥ 13 ↩ 9

账号已注销 2023-04-24

新工具的发明会改变一切[妙啊]

♥ 10 ↩ 1

独钓寒江007 2023-04-24

如果用过去年11月份发布的GPT3.5，就会发现和现在的文心一言一样智障，经过4个月的数据喂养，今年3月份发布的GPT4.0才显示出一点智能。

♥ 7 ↩ 14

-凯文大帝- 2023-04-26

然而RTX3090和RTX4090性价比很好，唯一缺点就是费电、显存小。

♥ 5

FeiYu06 2023-04-26

废话当然有门槛

♥ 4

冰菓iiii 2023-04-24

有人锤百度是套皮，是真的吗？

♥ 4 ↩ 8

是纳吉呦 2023-04-24

老师声音没有啦[doge]

♥ 4 ↩ 4

WLchuang 2023-05-01

进化趋同：实现AI的手段有很多，但最先站出来且完成了验证的那个会成为竞争者争相模仿的对象。之后也许会有各自不同的技术，但现阶段跟上不掉队才是当务之急。时代的洪流会淹死所有反应不够快的家伙。

♥ 3

温豆子插屁细桶 2023-05-06

没有人给这家超级广告公司的文心一言从头上浇冷水嘛

♥ 2

名为自己 2023-05-04

如何一句话让整个视频的可信度降低为0。。。

♥ 2

巴Q埃神多蓝可 2023-04-27

简单来说chatgpt技术迭代就是靠模型和训练参数积累

♥ 2

你郑哥喔 2023-05-08

算力要花钱的服务器费用电费网络费用，特别是这种大模型训练消耗更是天文数字，现在是有微软买单所以赔本给你用以后肯定要涨价的而且全功能版本估计价格会很高。

♥ 1

蜘蛛虾蜘蛛侠 2023-05-04

不要跪舔外国AI，中国讯飞星火认知大模型一样棒！

♥ 1 ↩ 1

屮gulu 2023-05-01

老黄成最大赢家[笑哭]

♥ 1

爱较真的戴老师 2023-04-26

声音的问题修好了，重新上传了一遍

♥ 1

椰果益菌多 2023-04-25

你这声音啥情况

♥ 1