A17 NPU性能实测！为什么只有iPhone 15 Pro能用？Apple Intelligence深度解读（一）

虽然但是张黑黑

合集 · 全面分析深度解析 (52)

Description

今年6月，苹果在WWDC上推出的Apple Intelligence如何改变了我们对智能设备的认知？文本生成、图片生成等功能为何只能在iPhone 15 Pro和Pro Max上使用？A17 Pro的强大算力与8G内存之间有何关系，使其成为唯一能运行这项技术的设备？苹果高管如何解释算力和内存的重要性？A17 Pro的新架构如何显著提升大模型的推理速度？本期视频，我们一探究竟！

Comments

gxmlfx 2024-08-15

如果只是对话和聊天，那a16的推理速度也是可以满足要求的，限制context就行了，但是像apple intelligence这样这么多设备控制和内容理解的功能，会传入大量的prompt，这种情况我们自己测试确实至少要a17的算力才能满足即时性的需求，所以其实prompt process的速度测试才是关键。至于RAM大小，完全没有影响，我们自己的设备端模型同样3b 4bit甚至4_k_m量化的，内存占用也就大约1.6GB，甚至没超过iOS之前的单个应用内存大小限制，内存带宽和延迟才是关键

♥ 456 ↩ 27

白饭炒白米饭 2024-08-15

A17Pro在iOS17及iOS18系统下的机器学习上有40%左右的性能提升。

♥ 452 ↩ 34

东瓜丶皮 2024-08-15

大企业就是这样，又怕走错路，又怕错失先机。看完视频就是说苹果其实走歪了方向，所以这几年得iPhone感觉真的挺没意思的，还好现在走了回来，就看看这幕AI大戏，各家怎样打下去。谷歌，微软，苹果。

♥ 256 ↩ 32

任任任任任天堂 2024-08-15

买了15国行标准版的我👉🤡

♥ 188 ↩ 33

日斩璟严 2024-08-15

有一个构想，低算力的设备可以直接调用自己Mac的算力，比如HomePod可以借助家中Mac mini来完成复杂指令，毕竟我使用Siri最多的设备就是HomePod，有AI的需求，而且很迫切

♥ 186 ↩ 23

Dong杰1989在上班 2024-08-15

对不起，您所在的国家或地区暂不可用

♥ 149 ↩ 7

锂铱Li 2024-08-15

苹果是不会承认应该提前给手机配备更大的RAM的[抠鼻]

♥ 112 ↩ 26

Missing-Cucumber 2024-08-15

都在唱衰14pro和15[微笑]其实a14才是最惨的，当初吹的最厉害的首款16核npu现在直接被打成版本弃子[呆]

♥ 100 ↩ 10

小常升 2024-08-15

Up视频很棒是我一直期待的主题但有一点不太理解为什么“有且仅有”15 pro系列能够支持llm本地化？为什么苹果前几年的m1拥有适配Apple intelligence的能力？这种前瞻性为什么没有被放在a15等芯片上？难道仅是因为手机端智能采取传统方式Siri plus而导致的战略性错误吗？感谢回答

♥ 98 ↩ 15

兰花是我 2024-08-15

是，从技术的角度来看能理解为什么只有iPhone 15 Pro能够运行Apple Intelligence。想要达到目标需要强大的计算能力和足够的内存资源。然而消费者已经为苹果多年来在神经处理单元（NPU）上的投资买单。很难说苹果在这方面做错了什么，但苹果在前瞻性和产品硬件设计上的保守表现令人失望。选择只让最新型号支持新功能不免体现出苹果在对待老用户方面缺乏诚意，尤其是在考虑到许多消费者已经为苹果的技术进步做出了贡献的情况下。此外，苹果完全没有向下兼容旧设备或至少提供阉割版的功能，这也进一步损害苹果的品牌形象。况且Apple Intelligence目前尚未正式发布，甚至连开发者测试阶段也没有完全开放所有功能。在这种情况下，很难评估这项服务是否会取得成功或者在AI竞赛中苹果是否还能保持领先地位。

♥ 82 ↩ 10

贺东招坑 2024-08-15

Llama.cpp调用的Metal框架并不是跑在ANE上的，而是跑在GPU上的，这解释了为什么M1能够超过A17 pro。但用它来展示Apple Intelligence的运行环境和性能是不恰当的，因为Apple Intelligence不会跑在GPU上（不然玩游戏玩一半喊个Siri游戏就炸了）

♥ 62 ↩ 2

甜甜的大地瓜呀 2024-08-15

我个人觉得A18性能提升应该会很大，毕竟从M3到M4的提升太大了，是历届M芯片最大的一次。唯一担心的就是散热能不能压得住

♥ 54 ↩ 10

東雪蓮保护协会-路人 2024-08-16

放心，就算是性能够，也不会给你用，iPhone4s最大的更新就是Siri，iPhone4就不让用，说性能不足，然而有人给iPhone4做了越狱，安装了Siri，发现是可以用的

♥ 49 ↩ 27

黑色的罐子 2024-08-15

国内也暂时用不了，根据设备硬件地区加的锁，换外区id也不行

♥ 49 ↩ 9

andyandy2999 2024-08-15

A17 VS M3 3纳米哪个更猛一些

♥ 47 ↩ 7

我一定会换个名字 2024-08-15

国内版的是不是就是Apple Idiot[doge]

♥ 41 ↩ 1

账号已注销 2024-08-15

Apple在内存上扣扣搜搜遭报应罢了，上一代Pro直接过时，感谢AI浪潮，不然今年ip16，17还可以继续用6G内存，pro系列得等到18才有机会提一下内存。

♥ 34 ↩ 8

白饭炒白米饭 2024-08-15

国内用户没法用苹果的ai、但App Store有大量的ai软件可以平替，比如draw things跑本地ai图片生成模型，A17 Pro本地端侧跑AI SDXL模型（模型大小7GB ），出图的效果还不错、就是速度有点慢，512*512，SDXL，步骤25，用的DMP++ SDE Karras采用，生成下面的这四张图片花了11分钟。

♥ 29 ↩ 15

只吃肯德基的薯条 2024-08-15

好玩[脱单doge]

♥ 26 ↩ 11

Mr-V先生 2024-08-15

苹果犯错了错就错在早在14系列就应该全部换上8gram 过于在乎商业利益导致我手上的iPhone15过早被淘汰

♥ 20 ↩ 14

A17 NPU性能实测！为什么只有iPhone 15 Pro能用？Apple Intelligence深度解读（一）

合集 · 全面分析 深度解析 (52)

Comments

合集 · 全面分析深度解析 (52)