「我告捷在国行 iPhone 上跑通了 AI 模子！」

「然后呢？」

「然后就没若何用过了。」

iPhone 17 Pro Max 发布都一个月了，苹果国行 Apple Intelligence 如故猴年马月。等不足的网友们，决定我方出手，丰衣足食。

于是，在 iPhone 上部署端侧 AI 模子，成了互联网的新显学。从保姆级教程到实操演示，多样野生秘籍在酬酢媒体上随地着花。

咱们也折腾了一番——下载模子、跑分测试、施行体验 …… 系数这个词历程照实真理，致使有点上面。但当振奋劲畴前，一个扎心的事实显败露来：这玩意儿好玩、真理，但作假用。

能用和好用，是两回事

在 iPhone 上体验端侧模子，门槛其实不算高。

掀开 App Store，搜索 PocketPal AI，下载装置。如果不民俗英文界面，可以在成立 ( Setting ) 里找到言语 ( Language ) 选项，切换成中语。

接着就是下载模子了。

点击左上角图标参预模子库，由于 Qwen 系列模子在开源社区一直都是雅俗共赏， 是以咱们选拔从 Hugging Face 分裂下载了 0.6B、1.7B、8B、14B 和 30B 的版块。

天然，你也可以我方腹地下载模子，再导进去，这倒是问题不大。

但能下载，不代表能运行。

当你看到「内存警告」的字样的时刻，就知谈这不详率是行欠亨了，这里需要证实一下，模子称呼后的数字 ( 如 0.6B ) 指的是参数目，B 代表「十亿」 ( Billion ) 。

参数可以团结为模子「神经元」的数目，参数越多，表面上模子的团结智商和生成质地越强，但对硬件的算力和运存需求也急剧攀升。

你也可以在基准测试栏里，梭巡手机的开拓信息。拿我手上这台 iPhone 17 Pro Max 来说，8B 免强能跑，14B 模子、 30B 及更大参数的版块，基本上就没法运行了。

在施行体验之前，咱们也先用这几款模子跑个分，底下这几张图片， 分裂对应着不同参数模子的评测成果。

那么在 iPhone 上用第三方 APP 跑端侧模子， 到底有莫得施行道理？ 这些模子能否信得过支抓往常任务或简便推理？

我的评价是：能用， 但更多是玩物性质，可以尝鲜，但不太建议永久使用。

无人不晓，OpenAI 此前曾出炉了一份对于 ChatGPT 的使用泄露，主要揭秘全球伙都在用 ChatGPT 干什么，其中主要包含实用推敲、信息搜索和写稿等事项。

咱们也参考这些施行用途，分裂对 0.6B、1.4B、8B 等模子问了几个问题。

测试一：制定健身策动

帮我制定一个稳健久坐上班族的 7 天中枢磨真金不怕火策动

和跑分红果一致，模子参数越大，生成的速率越慢。但反之，回报的质地和内容缜密进程照实也随参数普及而普及。

0.6B 模子给出的策动放之四海而王人准，有一定的细节，实操价值却不高。

1.7B 稍好， 细节更丰富，能够对久坐带来的腰背酸痛提议针对性的覆按策动。

8B 则再上一个层次，驱动针对不同肌群给出系统性的建议，且手脚更细分，致使还有暖心小贴士，不外虽说基本督察在 5 token/s 的速率，但体感跟网页版 ChatGPT 的反映速率并无显着判袂。

至于发关注况，我是在比较冰寒的室内测试的，在接头 8B 模子几个问题后，也可以显着嗅以为手机背部发烧显着。

测试二：历史学问问答

宋代的聘猫礼是什么？

这是一个相对冷门但班班可考的历史学问点，指的是宋代民间迎娶猫咪入宅时的礼节习俗， 主若是为了体现古东谈主对猫主子的尊重进程。

缺憾的是，小参数模子的学问储备严重不足，从 0.6B 到 8B 的模子， 都不知谈聘猫礼是啥，况兼还十分擅长一册端庄地瞎掰八谈。其中 8B 模子更全是车轱辘话。

测试三：时效性信息

iPhone Air 什么时刻发布？

这是一个考验模子时效性的问题。

毫无无意，系数端侧模子都答不上来，毕竟它们的学问收尾日历停留在覆按时，无法获得最新信息。

这少许，恰正是云表模子的中枢上风之一。云表模子可以通过联网检索、及时更新学问库，而端侧模子只可依靠「出厂」时打包进去的那些参数。

测试四：写稿智商

咱们选拔了本年上海卷的高考作文题：

0.6B 模子不详就是传奇中凑字数的选手，回报更像是将题处所名义兴致复述了一遍，生成的内容穷乏念念辨深度，需要大都东谈主工修改才调达到「合格线」。

1.7B 起码还援用了鲁迅作品这类体裁素材， 看起来像模像样。而 8B 则推崇可以，但与云表模子如 ChatGPT 比较，依旧差距甚远，难以称得上分娩力用具。

另外，固然那模子在覆按阶段就一经被「调教」过了，这使得它在输出时，会天然则然地按照某种作风、口吻和逻辑来回报，但咱们也可以给模子植入系统指示词，并让它生成回报。

比如我就给 1.7B 的模子安排了个「古风小生」的东谈主设。

你别说，这模子还真挺「入戏」的，抒发的语感、节律和东谈主格气质，变得更靠拢我的预期。

附上指示词：

但说真话，对绝大多数用户来说，这更像是个好玩的彩蛋，而不是刚需功能。要而言之，我并不太建议你去折腾这种部署端侧模子的容颜。

记忆 2008 到 2012 年，那是 iPhone 用户「逃狱」的狂欢期间。无数东谈主顶着把手机刷成砖的风险，就为了装上几个苹果不许装置的插件，或者把系统界面改得更个性少许。

可当 App Store 的生态一经鼓胀丰富，逃狱风险却越来越高，带来的边缘收益也越来越小时，如今还有些许东谈主在逃狱？

谜底了然于目。

这种所谓第三方端侧模子的折腾容颜，即便有秘密方面的加成，但施行上仍是一个孤立的利用， 堪比阉割版 ChatGPT，它无法与系统深度整合，也无法调用其他利用的数据，形如鸡肋。

正因如斯，就像当年的逃狱相通，这种在第三方利用折腾端侧 AI，随机只会成为一段真理但片晌的插曲亚博买球亚博体育，而信得过的改日，依旧属于那些把复杂留给厂商、把简便留给用户的系统级处置决议。