清华光电融合芯片算力是GPU的3000多倍？媒体搞出的大新闻

合集 · 解读科技问题 (79)

Description
其实这很大程度是误解。然后是一句话的解释：因为这些媒体把ACCEL和商用GPU的算力拿来对比的方法有问题。再多一句话的解释是：他们错误地拿前者的瞬间表现去比后者的持续表现，以己之长攻人之短，当然大获全胜了，但这并不正确。
	好，如果你了解这三句话的结论和解释，你的知识水平就超过了99%的人。如果你想深入理解，那需要的功夫可就多了。我的朋友、风云学会会员陈经是一位人工智能专家，他详细调研后在我的科普平台“风云之声”写了一篇文章《清华光电融合芯片算力是GPU的3000多倍？媒体搞出的大新闻》。
	……
	了解了这么多技术背景，现在我们终于可以深入解读开头的问题了。新闻里说的“算力是商用GPU的3000多倍”，这话究竟对不对呢？其实完全是误导。
	首先来理解一下，这个说法是怎么来的。ACCEL的优点是，它就是一个光信号、电信号传播的过程，不象传统芯片那样计算速度受限于“时钟周期”。可以想象，传统芯片的计算过程是一步步的，象机器人一样一个节拍动一下。而ACCEL是一个流水一样的自然过程，几乎没有卡顿，虽然有时钟周期，但不太受限制，只有SRAM存储更新之类的明显需要节拍的地方会用到。
	实测下来，ACCEL用2 - 9纳秒就能完成一幅图像的处理。纳秒是十亿分之一秒，百万之一毫秒。通常人们用CPU处理一幅图像识别是几十到几百毫秒，用GPU加速也要几毫秒。也就是说，ACCEL的处理时间只有一般芯片的百万分之一。
	所以论文中说，在进行ImageNet三类物体分类时，ACCEL的计算速度约相当于4550 TOPS。TOPS是Tera Operations Per Second，即每秒一万亿次操作。这个速度确实有商用GPU的3000多倍，因为GPU每秒能有一万亿次操作已经很好了。所谓“算力是商用GPU的3000多倍”，就是这么来的。
	但真正的问题，在于持续计算。ACCEL确实能在几纳秒之内处理一幅图像的光信号，但它能不能持续运算，真的用一秒时间，完成4550 TOPS的运算量？这就不行了，因为准备任务是需要时间的。例如以它的计算速度，一秒能处理1亿个图片，但把这么多图片的光信号在一秒内发送给它，是不可能的。实际准备一个图片需要的时间就不短，真正的瓶颈是在这儿。
	ACCEL芯片是一个光电芯片，它的输入是光信号，要把它运行起来，需要准备好光信号输入，而这是个相当复杂的任务。按论文描述，要搭起光学镜片组，才能将识别目标的光信号输入给ACCEL进行处理，换下一个识别目标要不少操作。而GPU、CPU在计算机系统中应用多年了，处理输入已经很成熟了，所以能将海量数据组织起来，象流水线一样送到运算核心不停处理。高性能GPU的核心技术之一，就是海量数据输入管理，要用到上百G的高速存储器，多级缓存。
	所以，论总的算力ACCEL并不大，它只是对整个流程中的一步处理得极快，而这一步快的代价是另一些步骤慢。一个比喻是，一个士兵面前正好有一个敌人，他开枪只用1秒钟就消灭了一个敌人。但这不代表他可以一小时消灭3600个敌人，更不是说他可以一个人顶3000多个人。如果有人说他的“战力”相当于3000多个士兵，这就错得离谱。再一个比喻是，一张弓，可以在1 秒内让箭飞出100米。但不能说它的“运送能力”是1小时360公里，因为没法持续飞。如果射一箭落地后，人走过去再射一箭，这样接力，一小时跑不了多远。
	……
	另一个指标是与能耗相关的。ACCEL几乎不用能量，只有激光、SRAM用一点。论文中给出的能耗指标是74800 TOPS每瓦，这就是新闻中提到的“能效提升四百万倍”。
	同样的道理，这种说法也是很误导的。这是因为ACCEL处理整个流程中的一步几乎不用能量，而不是ACCEL真用了与CPU或GPU相当的能量，完成了四百多万倍的运算。一个比喻是，一只蚂蚁用极少的能量就能爬1米，能耗效率比人要高多了。但是人可以把10斤重的箱子提起来，蚂蚁却不可能做到。
	最后，我们来总结一下。ACCEL芯片融合了光电的特性，是非常巧妙的芯片架构，技术指标优秀，将光计算的潜力进一步展示。正如论文中提到的，它在可穿戴设备、自动驾驶、工业检测等领域很有应用前景。
	但是，一些媒体将指标引申到与GPU对比，认为ACCEL的算力与功耗指标比GPU好得多，甚至暗示ACCEL可能解决先进GPU问题，这就完全误读了。一方面的问题是，GPU有通用计算能力，能完成很多复杂任务，而ACCEL只用于视频与图像模式识别，应用领域较窄。更深入的问题是，指标对比方法错误。这种比法对ACCEL来说是只看到优势，没看到代价，对GPU来说是忽视了GPU连续计算的能力。
	更深层次的问题是，媒体为什么经常犯这种错误呢？恐怕是因为他们总想搞个大新闻，而忽略了提高知识水平。