iPad Pro M4: AI性能深度分析！苹果大模型要来了

-老湿基- 2024-05-13

说几个我日常在用的AI功能吧： 1. Copilot Chat：在VSCode里帮我写代码。有edu邮箱的同学可以注册一个，免费使用。 2. usemootion：AI辅助日程规划，极大提升效率，完全KO掉了Microsoft To-Do这种传统待办清单。usemotion可以智能为你安排精力与时间的付出，并且在某些事件取消之后还能根据你的需求做二次规划。 3. ChatGPT 4V：用来练习英语对话，简直是非常不错。回家的路上口述一下今天发生的琐碎的事情，还能智能生成日记，方便记录流水账。 4. iOS翻译 App：强大的翻译引擎和极快的文字OCR，能让你在超市迅速理解不认识的产品，包括其成分和使用方法等，极大提升购物效率。 5. Otter.ai：海外留学生上课的必备App，能将课堂口述变成文本，而且还能理解文本并按照课堂内容生成测验题，帮助学生巩固知识。 AI能做的简直是太多了，在国内可能还感受不太出来。用势不可挡已经难以形容。只能说真正有价值的东西，哪怕是严令禁止也会在暗处生发，虚假的东西天天高调宣传也不会被人真心接受。

♥ 358 ↩ 29

假装丶在纽约 2024-05-14

我也算果粉，但是实测跑大语言模型还是N卡好使，可以看看我的GitHub：GPU-Benchmarks-on-LLM-Inference，全系N卡以及192GB的m2 ultra都替大家跑过了[脱单doge]

♥ 135 ↩ 11

还不如抽芙蓉王 2024-05-13

m3 ane的架构是a16，m4的是a17pro同款，这两个的fp16都是17t，但是a17的那款支持int8，等效稀疏2倍fp16也就是35-38t的int8，你测试的模型里面有些差距不大就是因为跑在了fp16上面，而有些翻倍就是m4跑在了翻倍的int8上面

♥ 102 ↩ 16

安静的半岛铁盒_ 2024-05-13

省流：不跑大模型，m1够你用了[doge]

♥ 79 ↩ 3

小钻风风火 2024-05-14

本地AI模型、8G内存、IOS；当这三个词语连在一起时，堪称年度最抽象组合。如果告诉你，这个8G内存的设备要卖你裸机1.3万，加上配件1.6万时，你也许会爆炸；但当你知道他还是个三缸机时，无疑将会是绝杀。

♥ 69 ↩ 19

GGZETA 2024-05-14

残血M4跑分，比M3高

♥ 53 ↩ 3

Dong杰1989在上班 2024-05-14

最后那段很同意，这种作用也是 Apple 的孜孜不倦的追求，不是为了炫技，而是真的无缝服务于工作生活

♥ 51 ↩ 13

我是Westle01 2024-05-13

感觉在画大饼，你很好，甚至在平板端的硬件都绝无仅有，但9000的起售价，我干嘛不好，要是搭上pencil和键盘，直接12000了，1万2买台没啥用的平板，emmmm，还是句话，iPad的AI再好那也只是锦上添花，而不是雪中送炭，愿不愿意花上1万左右的价格为了这朵花，只能说见仁见智了

♥ 51 ↩ 22

D777sc 2024-05-13

换台M2的studio，轻轻松松50-60tokens，还比iPad pro便宜。但跟nv比，都是不行的速度。苹果说AI就是扯淡

♥ 39 ↩ 8

morfism 2024-05-14

Transformer表现再好, 16g内存最多也就跑个13b 然后可能还会把其他后台全杀了, 除了隐私没有理由不用免费的gpt3.5呢，16g 还好额外加好几千了。本地70b大模型至少现在来看大部分家用显卡显存都远远不够，mac统一内存够又贵的像金子。就现在的苹果设备的平均内存大小，wwdc绝对不可能出多么好用的本地大模型，最多给个3b的让siri聪明一点到头了（更好的做一些系统指令啥的），不可能指着它不用云端大模型就给你理想的答案，而在短暂的未来这也不会成为主流。连苹果在和哪家大模型谈都没个准信，我不觉得苹果做好了给开发者用大模型调用系统功能的各种接口，所以综上我觉得今年wwdc可能就是喊喊口号，siri稍微变得更聪明点，后者我都有些怀疑毕竟google自己也没把Gemini很好的融合到google assistant里去，苹果的进度会显著比更擅长ai的google快吗…

♥ 35 ↩ 10