bibibi.cc正在加载…
PrismML发布三款Bonsai 2模型，称9B版压至2GB，并可在iPhone本地每秒最多生成34个Token。
PrismML把90亿参数模型权重压到2GB：iPhone本地每秒生成34个Token
动察 Beating AI 快讯，美国 AI 公司 PrismML 为 Bonsai 2 家族新增 2B、4B、9B 三款模型，全部基于阿里 Qwen3.5。团队把语言模型的主要权重限制为 -1、0、+1 三种取值，使模型文件分别缩至 0.43GB、0.95GB 和 2GB，体积约为原版 16 位权重的九分之一。新模型仍支持推理、图像理解和工具调用，主要面向手机、个人电脑等设备上的本地 Agent。
PrismML 称，在 iPhone 18 Pro Max 上，9B 模型每秒最多生成 34 个 Token，2B 则达到 120 个。
在官方测试中，9B 的编程和指令遵循能力几乎追平同规模的原版 Qwen3.5，但复杂任务差距明显。测试多轮对话和工具操作的 Tau2Bench 中，Bonsai 2 9B 得分为 73.02，原版达到 85.25；复杂文档解析得分则为 73.8，原版达到 88.73。
三款模型已按 Apache 2.0 协议开放权重。
PrismML为Bonsai 2家族新增2B、4B、9B三款模型，文章称它们全部基于阿里Qwen3.5。
团队把语言模型的主要权重限制为-1、0、+1三种取值，三款模型文件分别缩至0.43GB、0.95GB和2GB。
文章称模型体积约为原版16位权重的九分之一。
新模型支持推理、图像理解和工具调用，主要面向手机、个人电脑等设备上的本地Agent。
PrismML称，在iPhone 18 Pro Max上，9B模型每秒最多生成34个Token，2B模型达到120个Token。
官方测试中，Bonsai 2 9B在Tau2Bench得分73.02，原版得分85.25；复杂文档解析得分73.8，原版得分88.73。
三款模型已按Apache 2.0协议开放权重。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
这项技术把模型中的主要权重约束为三个取值，以缩小模型文件，让模型更容易直接在手机或个人电脑上运行。较小文件和较快生成速度有利于本地Agent，但官方测试也显示，9B模型在多轮对话、工具操作和复杂文档解析上仍落后于原版。
如果文件大小、端侧速度和功能表现得到独立验证，这种压缩方式可能降低在个人设备上运行模型的存储与计算门槛。
新手可以把它理解为“把较大的AI模型压缩后放进手机运行”。重点不只看每秒生成多少Token，也要看压缩后处理复杂任务的能力损失。
正在加载事件时间线…