350 亿参数放进手机，MiniCPM-V 4.7 的 3GB 内存怎么算？

10 月 12 日，OpenBMB 发布 MiniCPM-V 4.7。它能理解图片、文档和视频，官方还展示了在手机上读停车标志、回答问题的画面。本地看图问答，开始有了更大的模型可选。

这次有 35B-A3B 和 1B 两种规格。官方公布，较大的 35B-A3B 在 iPhone 17 Pro Max 上以 3GB 内存运行，文字生成速度达到每秒 13 个以上 Token。Token 是模型处理文字的单位，这个速度不能直接读成每秒 13 个汉字，也没有把看图等待时间一起算进去。

每次用一部分，其余部分仍要存着

35B-A3B 中的 35B，表示总参数约 350 亿；A3B 表示每次运算激活约 30 亿。每一步只调动模型的一部分，其余部分仍得留在设备里。

官方方案把大量模型文件放在设备存储中，一边计算当前步骤，一边提前把下一步可能用到的部分读进内存，减少等待。压缩模型文件和另一项生成加速技术也共同参与了这套手机运行方案。

开发者 Satyajit Ghana 在源码分析中按 iOS 应用的设置估算，约 3GB 更接近临时装载部分模型的内存预算，还要考虑其他模型部分和应用开销。他没有实际运行该模型，文中手机速度仍来自 OpenBMB。按他的分析，一个被单独公布的内存数字，未必涵盖整个应用。

下载文件，又是另一笔大小

从官方链接进入 Ollama 的 OpenBMB 模型页，能看到不同版本的下载大小。手机上的专用运行方案与电脑端的普通模型文件，也不能直接当成同一套配置。

电脑端的默认 latest 指向较大的 35B-A3B。想在 Ollama 选较小规格，需要明确指定 1b 标签，对应命令是 `ollama run openbmb/minicpm-v4.7:1b`。

官方已经提供 iOS、安卓、鸿蒙适配与开源代码，IT之家也报道了这次多平台发布。具体速度仍与设备和运行方式有关，支持一个系统不意味着该系统下所有手机都能达到演示水平。

这次进展的价值，在于有限内存和设备存储之间的配合更有效率，让更大的模型能在手机上承担看图问答。模型仍然占空间，只是需要参与当前运算的部分，可以更及时地被读进来。