手机AI的DeepSeek时刻:Bonsai 27B模型登场,苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息,手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调,模型在仅占用极小内存资源的苹果前提下,成功保留了原模型 90% 的运行智能水平,实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。

Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力,登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体(Agent)循环交互。
然而,手机原版 Qwen 3.6 27B 模型对硬件要求极高:在 16-bit 精度下需占用 54GB 存储空间,登场即便压缩至 4-bit 精度,模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限,导致其难以在本地设备部署。

为解决这一痛点,Bonsai 27B 通过极致量化技术,推出了两个针对不同场景的版本:
- Ternary(3-bit)Bonsai 27B:体积仅为 5.9 GB,每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化,平衡了性能与资源占用。
- 1-bit Bonsai 27B:体积进一步压缩至 3.9 GB,每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计,是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特(Tim Carambat)对此评价极高,他表示:“其影响力远超 Fable、Mythos 或 GPT 5.6,甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下:




(责任编辑:探索)
推荐文章
-
记者今日16日)从国投集团雅砻江公司获悉,我国首个水风光一体化智慧运营大模型在四川雅砻江流域正式亮相。总台央视记者 古峻岭:这是刚刚发布的雅砻江水风光一体化智慧运营大模型。大屏实时显示全流域的水文、气
...[详细]
-
来源:环球时报导读:美伊冲突再起,全球局势再度陷入动荡。大国战略失误的账单,从来都是天价。期待美伊尽快恢复后续谈判,以“止血”的理性给这场战事“踩刹车”。图为美伊国旗距离美伊谅解备忘录签署不足一个月,
...[详细]
-
三星T7 1TB:游戏掌机与多设备扩容的全能方案对于热衷于数字版游戏的游戏掌机玩家而言,存储空间不足往往是阻碍体验的最大痛点。因此,如何高效、稳定地扩容存储,成为了玩家群体中经久不衰的热议话题。一张兼
...[详细]
-
宇树人形机器人G1“操刀”,为两头活猪完成手术,系全球首次!论文作者回应:项目研究重点在于人形机器人的仿人外形,而非特定的平台
近日,国际顶级学术期刊《Nature》在线发表了一项突破性研究——《人形机器人用于外科手术的活体可行性研究》。该研究成功将宇树科技Unitree)的G1人形机器人引入手术室,通过远程遥操作技术,利用标
...[详细]
-
来源:海外网7月15日,苏宁易购与中国联通江苏省分公司以下简称“江苏联通”)正式签署战略合作协议。双方将聚焦智慧零售、终端运营及数智化政企采购三大核心领域,展开全方位深度协同。此次合作以“AI+算力”
...[详细]
-
随着世界杯半决赛英格兰对阵阿根廷的战火在亚特兰大体育场一触即发,看台上出现了一位引人注目的特殊观众。这位观众正是切尔西俱乐部老板托德·伯利。这位美国商人不仅亲临现场观战,还特意身穿一件英格兰队球衣,展
...[详细]
-
19岁边锋杰西-德里正式与切尔西签署新合同,新约期限至少延续至2032年。根据协议,德里将在完成续约后,于2026/27赛季以租借形式加盟葡萄牙体育。在接受切尔西官方频道采访时,德里详细阐述了这一关键
...[详细]
-
来源:清廉江苏
...[详细]
-
7月15日,西班牙队以2比0完胜法国队,强势挺进决赛。在本届赛事中,西班牙队展现了统治级表现,年仅17岁的亚马尔表现抢眼,甚至未当选全场最佳球员;而在媒体评选中,拉波尔特是唯一进入前十名的西班牙球员,
...[详细]
-
在世界杯半决赛对阵英格兰前夕,阿根廷中场亚历克西斯·麦卡利斯特对其赛前关于“三狮军团”的言论进行了正式澄清。这位利物浦球星表示,此前声称“英格兰没有机会夺冠”的说法仅仅是一个玩笑。回顾今年5月,天空体
...[详细]
热点阅读
随机内容

上汽智己,如何成为Momenta第一个抬轿人?
Miu系穿搭过时了?现在最火的穿搭竟然是——!