我在iPhone 17Pro Max上跑AI模子，体验了一把十年前“越狱”的快活
摘要
「我乐成在国行 iPhone 上跑通了 AI 模子！」「然后呢？」「然后就没怎么用过了。」iPhone 17 Pro Max 发布都一个月了，苹果国行 Apple Intelligence 还是遥遥无期。等不及的网友们，决议
自己着手
，人给家足
。于是，
「我乐成在国行 iPhone 上跑通了 AI 模子！」iPhone 17 Pro Max 发布都一个月了，苹果国行 Apple Intelligence 还是遥遥无期。等不及的网友们，决议
自己着手
，人给家足
。于是，在 iPhone 上部署端侧 AI 模子，成了互联网的新显学。从保姆级教程到实操演示，各种野生秘籍
在社交媒体上各处着花。
我们也折腾了一番——下载模子、跑分测试、实际体验……全部
进程
确切
有趣，乃至
有点上头。但当高兴劲过去，一个扎心的毕竟浮现出来：这玩意儿好玩、有趣，但不实用。在 iPhone 上体验端侧模子，门槛其实不算高。打开 App Store，搜刮 PocketPal AI，下载安装。如果不习惯英文界面，可以在设置 (Setting) 里找到语言 (Language) 选项，切换成中文。点击左上角图标进入模子库，由于 Qwen 系列模子在开源社区不停都是口碑载道， 所以我们选择从 Hugging Face 分别下载了 0.6B、1.7B、8B、14B 和 30B 的版本。虽然
，你也可以自己当地下载模子，再导进去，这倒是问题不年夜
。当你看到「内存警告」的字样的时间，就知道这也许
率是行欠亨
了，这里必要解释一下，模子名称后的数字 (如 0.6B) 指的是参数量，B 代表「十亿」(Billion)。参数可以明白为模子「神经元」的数量，参数越多，理论上模子的明白能力和生成
质量越强，但对硬件的算力和运存需求也急剧攀升。你也可以在基准测试栏里，查看手机的设备
信息。拿我手上这台 iPhone 17 Pro Max 来说，8B 委曲能跑，14B 模子、 30B 及更年夜
参数的版本，根本上就没法运行了。在实际体验之前，我们也先用这几款模子跑个分，下面这几张图片， 分别对应着差别参数模子的评测效果。那么在 iPhone 上用第三方 APP 跑端侧模子， 到底有没有实际意义？ 这些模子可否真正支撑
一样平常使命或简朴推理？我的评价是：能用， 但更多是玩具性质
，可以尝鲜，但不太发起长期使用。众所周知，OpenAI 此前曾出炉了一份关于 ChatGPT 的使用陈诉，主要揭秘各人伙都在用 ChatGPT 干什么，其中主要包含实用引导、信息搜刮和写作等事项。我们也参考这些实际用途，分别对 0.6B、1.4B、8B 等模子问了几个问题。帮我订定一个得当久坐上班族的 7 天核心熬炼
筹划和跑分效果整齐
，模子参数越年夜
，生成
的速率越慢。但反之，回答的质量和内容详实程度确切
也随参数提升而提升。0.6B 模子给出的筹划放之四海而皆准，有肯定的细节，实操价值却不高。1.7B 稍好， 细节更丰富，可以或许对久坐带来的腰背酸痛提出针对性的练习筹划。8B 则再上一个档次，开始针对差别肌群给出体系性的发起，且动作更细分，乃至
另有暖心小贴士，不过虽说根本维持在 5 token/s 的速率，但体感跟网页版 ChatGPT 的相应速率并无显着差别。至于发烧
环境，我是在比较凉快的室内测试的，在扣问 8B 模子几个问题后，也可以显着觉得
到手机背部发烧
显着。这是一个相对冷门但有据可查的历史知识点，指的是宋代平易近
间迎娶猫咪入宅时的礼仪习俗， 主要是为了表现古人对猫主子的尊重程度。遗憾的是，小参数模子的知识储备严峻不敷，从 0.6B 到 8B 的模子， 都不知道聘猫礼是啥，而且还特殊擅长
一本端庄地胡说八道。其中 8B 模子更全是车轱辘话。毫无意外，全部端侧模子都答不上来，毕竟它们的知识制止日期停顿在练习时，无法获取最新信息。这一点，恰好是云端模子的核心上风之一。云端模子可以通过联网检索、及时更新知识库，而端侧模子只能依靠「出厂」时打包进去的那些参数。有学者用「专」「转」「传」概括当下三类文章：「专」指专业文章；「转」指被转发的普通文章；「传」指得到普遍
传播的佳作，乃至
是传世文章。他提出，专业文章可以变成被转发的普通文章，而面临年夜
量「转」文，读者又难免期待可传世的文章。由「专」到「传」，肯定要颠末「转」吗？请联系
社会生存，写一篇文章，谈谈你的熟悉与思考。请求
：（1）自拟题目；（2）不少于 800 字。0.6B 模子也许
就是传说中凑字数的选手，回答更像是将题目的表面
意思复述了一遍，生成
的内容缺少
思辨深度，必要年夜
量人工修正
才气到达「及格线」。1.7B 起码还引用了鲁迅作品这类文学素材， 看起来有模有样。而 8B 则表现不错，但与云端模子如 ChatGPT 比拟
，依旧差距甚远，难以称得上生产力对象
。别的，虽然那模子在练习阶段就已经被「调教」过了，这使得它在输出时，会自然而然地按照
某种作风
、语气和逻辑往返答，但我们也可以给模子植入体系提示词，并让它生成
回答。比如我就给 1.7B 的模子安排了个「古风小生」的人设。 你别说，这模子还真挺「入戏」的，表达的语感、节奏
和品行气质，变得更切近
我的预期。但说实话，对绝年夜
多半
用户来说，这更像是个好玩的彩蛋，而不是刚需功能。一言以蔽之，我并不太发起你去折腾这种部署端侧模子的方法。 追念 2008 到 2012 年，那是 iPhone 用户「越狱」的狂欢时代
。无数人顶着把手机刷成砖的风险，就为了装上几个苹果不许安装的插件，也许
把体系界面改得更个性一点。可当 App Store 的生态已经富足丰富，越狱风险却越来越高，带来的边际收益也越来越小时，如今另有若干
人在越狱？这种所谓第三方端侧模子的折腾方法，即便有隐私方面的加成，但实质
上仍是一个自力
的应用， 堪比阉割版 ChatGPT，它无法与体系深度整合，也无法调用
其他应用的数据，形如鸡肋。 正因云云，就像昔时
的越狱一样，这种在第三方应用折腾端侧 AI，也许
只会成为一段有趣但短暂的插曲，而真正的未来，依旧属于那些把庞杂
留给厂商、把简朴留给用户的体系级解决计划
。 |
