人人都能用的本地 AI？我们拿千元机测了一下，结果拉完了

kingfirefly

今年 4 月，谷歌发布了新一代开源大模型 Gemma 4。这次一口气推出了四种规格的版本，从手机到工作站全面覆盖，其中最小的两个版本专门为移动设备设计，主打完全离线运行。这其实本来也没啥稀奇的，但更重要的是，谷歌这次是想让手机跑本地模型了。
可能大家都已经刷到过不少关于Gemma4 实装测试的内容，但但网上现有的测试，基本都是在最新款 iPhone 或旗舰机上进行的，这些旗舰本来就是最新款，性能和算力都是第一梯队的，表现好也在情理之中。
而这时候小雷就不禁想发问，如果用的是一台几百到一千多块的普通安卓机，中端处理器、不算顶尖的算力，本地模型还能不能正常用？和那些旗舰机比，差距到底有多大？

（图源：雷科技摄制）
往更深一层说，本地 AI 是不是注定只能是旗舰手机的专属功能？我们想搞清楚这件事，所以直接拿了一台搭载中端芯片的千元安卓机来实测 Gemma 4，看看它的表现到底怎么样。
千元机跑本地模型，简直「拉完了」

我们这次拿来测试的是 vivo Y500 Pro，很典型的一台千元安卓机，虽然不是什么老机型，但 SoC 整体性能还是偏一般的，毕竟它定价就在这儿，确实也没啥好说的。它采用的是联发科天玑 7400，台积电 4nm 制程，CPU 配置是 4 个 2.6GHz 大核加 4 个 2.0GHz 小核，GPU 是 Mali-G615 MC2。
这套配置在千元价位段里算正常发挥，日常用没什么问题，但要跟现在的旗舰芯片比算力，那真的不是一个量级的事。AI 这块，天玑 7400 用的是联发科 NPU 655，官方说比上一代提升了 15%。
谷歌为 Gemma 4 的手机端版本出了一个叫 Google AI Edge Gallery 的 App，应用商店直接搜就有。下载完打开，选 Gemma 4 E4B，等模型文件下好，就可以直接用了，全程离线，不用联网，也不用搞任何配置。这个安装体验，谷歌还是做得挺用心的。那话不多说，直接开测。

（图源：雷科技制图）
第一题我们问了一个很生活化的问题：推荐三部适合在长途高铁上看的电影，并说说理由。Gemma 4 给出的答案是阿甘正传、盗梦空间和爱乐之城，选片本身没什么问题，三部都挺经典，推荐理由也说得通，但问题在于，它给出了将近 500 字的回答，还额外附上了一条"小贴士"，像什么高铁上看电影记得带耳机。

（图源：雷科技制图）
这在 vivo Y500 Pro 上，这 500 字足足跑了 2.8 分钟，说实话，小雷看完才发现后半段根本没必要读。
这其实是小参数模型的一个常见毛病，它回答的时候往往不知道什么时候该停下来，偶尔还会给一些「建议」来凑字数，仔细阅读下来就会发现其实两三句话就能总结完。
接下来我们选择了一道比较经典的多步逻辑推理题：五个人坐成一排，A 不坐在最左边，B 坐在 C 的右边，D 坐在 E 的左边，E 不坐在最右边，请问谁坐在最中间？虽然它在很认真地一步步列条件、排列组合，但最后却给不了正确答案，甚至耗时 3.3 分钟，在这过程中，我们是不能退到后台等待它回答的，必须一直保持亮屏。也就是说，这 3.3 分钟彻底被浪费掉了。

（图源：雷科技制图）
当然，这也不能怪 Y500 Pro 性能不足，其实我们在 X300 Pro 这台旗舰机型上，也没能把这个问题整出答案来，但 X300 Pro 回答的速度几乎就是碾压级的，1.6 分钟就给出错误答案。就算错，也算是错的干脆。

（图源：雷科技制图）
同样如此，小雷还尝试之前那个难倒一大片 AI 大模型的超经典问题：洗车应该开车去还是走路去？让人意外的是，这次两款手机在同一个模型下，有了不同的思考。Y500 Pro 花了 2.5 分钟，告诉我们「如果你是为了“洗车”去的，那应该选择走路」，这种令人啼笑皆非的回答。

（图源：雷科技制图）
而 X300 Pro 中间是绕了一些弯子，它似乎也在反复确认「洗车」这个行为到底需不需车，但最后它还是提到，假如要去洗车，那还是要开车去。
跑完这三道题，Y500 Pro 上的 Gemma 4 E4B 给我们留下的整体印象就是很慢、废话连篇，但倒是不怎么发烫。
慢是最直观的感受，每道题平均要等两到三分钟才能看完完整回答。这个速度放在日常使用里真的很难受，说实话没有人会愿意盯着屏幕干等三分钟就为了看一个答案。但这里有一个细节值得说一下，慢不是因为模型没在跑，而是天玑 7400 的 NPU 算力实在有限，每秒能处理的 token 数就那么多，再怎么努力也就这个速度了。
还有就是出错率也挺高的，但也情有可原，模型在处理复杂逻辑的时候，需要在中间步骤上反复"思考"，算力越充裕，这个过程就越完整，而在千元机上，这个过程很可能在还没走完之前就被迫给出结论了，因为算力只有这么多，如果分配给推算太多资源，那后续就很难继续下去，所以也更容易出现幻觉。
Gemma 4 E4B 是一个多模态的模型，所以我们也打算让 Y500 Pro 试试看识图效果如何。我们先丢了一张夜景购物中心的照片进去，问它图里有什么信息。
它的回答说实话还过得去，描述了建筑规模、屋顶结构、夜景氛围，方向是对的，但有一个很明显的问题，图里那么大一个 Apple Store 的招牌，它完全没有提到，只说了个"现代大型购物中心"。品牌识别这件事对模型要求很高，需要把看到的视觉信息和背后的品牌知识对应起来，E4B 这个参数量显然还不够用，看得出轮廓，但认不出是谁。

（图源：雷科技制图）
第二张图，我们随手拍了个绿植的图片问它这是什么，然后它就转圈了。整整五分钟，什么回答都没有，只有那个一直在转的加载动画，更让人崩溃的是，这段时间里整个 App 完全无法操作，不能打断只能干等。其实这张图片就是非常简单的地插式喷头，浇花用的，并不是很罕见的装置。

（图源：雷科技制图）
那么 X300 Pro 是否能正确识别呢？其实是可以的，X300 Pro 仅用 32 秒就回答了这个难倒 Y500 Pro 的问题，只可惜它没能准确说出这个装置是什么只是猜测这是一个小型的传感器。

（图源：雷科技制图）
跑完这三轮测试，Y500 Pro 上的 Gemma 4 E4B 并没有如我们想象中一般完全干不动，相反其实有一点点小惊喜，比如它基本不发烫、也不是很卡顿，一些简单的问题还是能正确回答出来。但问题在于，作为一个本地模型，它的回答速度实在太慢了，目前 Google AI Edge Gallery 的权限也不够，除了开关手电筒之外，做不了其他系统级操作。
这就显得很尴尬了，假如只能做到这样的水平，回答速度也这么慢、还容易出错，用户为什么还要继续用下去呢？说白了，除非真的到了彻底断网的场景，否则还真不如一个在线大模型好用。
本地模型，普通手机真的能用吗？

从前面的测试来看，Gemma4 目前确实是得旗舰手机才能达到一个「及格线」的标准，尽管还是有出错的情况，但至少速度不拉跨，不像千元机那样又慢又不准。
但回过头来看，谷歌做这个 App，背后到底在布什么局？
Google AI Edge Gallery 里有一个叫 Mobile Actions 的功能，可以把你的自然语言指令直接转化成对 Android 系统的操作，比如"帮我创建一个午餐日历事件"或者"打开手电筒"，模型理解你的意图之后，直接调用系统工具去完成。
这条路其实已经在旗舰手机上开始走了，三星 Galaxy S25 系列推出了跨应用执行链，只用一句话就能让多个 App 协同工作，比如说"帮我导航到今晚开会的地方"，AI 会自动从日程表里读取地址，再直接传给地图，整个过程不需要你复制粘贴，也不需要手动切换。还有此前全网爆火的豆包手机，更是实现了「手机自动驾驶」。
但这里有一个很重要的事实需要说清楚，那就是这些自动化操作，其实大部分都不是真正意义上的本地模型在跑。三星、苹果，甚至豆包手机，都是如此。

（图源：豆包手机助手）
本质上，本地模型的能力上限摆在那里，参数量越小能做的事情就越少，而用户对 AI 的期待是越来越高的，单靠本地根本撑不起那个需求。所以云端成了兜底的方案，本地模型更多是承担一些轻量、实时的任务，比如通知总结、语音识别这类对速度要求高的场景。
所以，谷歌这款 App 更像是在试水本地模型进入移动端，并且逐步开放自动化操作手机的功能权限，再让尽可能多的设备都能跑起来，然后等芯片的算力跟上来。但芯片厂商什么时候愿意把真正够用的 AI 算力下放到千元机这个价位？毕竟旗舰手机，从来都不是手机市场的销量大头。
联发科、高通这几年每代新旗舰芯片发布，都会重点强调 NPU 算力提升多少倍、AI 性能比上一代强多少，可中低端芯片往往并不重视这些，能效才是它们更在意的。因此，普通用户能不能用上真正好用的本地 AI，取决于整个产业链有没有足够的动力去推动这件事。谷歌在软件层面上开了一个口子，那么接下来就要看芯片厂商和手机厂商如何接招了。