苹果评估PrismML 1比特量化技术,实现27B大模型iPhone本地运行
苹果公司正对人工智能初创公司 PrismML 开发的苹果评估模型量化技术进行深度评估。该技术能够将大型语言模型(LLM)所需的比e本内存资源从约 54GB 大幅压缩至 4GB 以内,为端侧部署提供关键支持。特量
PrismML 的化技核心突破在于其原生 1-bit 模型压缩方案,可将模型体积缩减至全精度版本的术实约七分之一,内存占用降低超过 90%。现B型i行在精度保持上,大模地运压缩后的苹果评估模型性能接近半精度浮点数(FP16)水平,同时显著提升了推理速度并降低了设备功耗。比e本
近期,特量PrismML 正式发布了 Bonsai 27B 模型。化技该模型基于 Qwen 3.6 27B 架构进行优化微调,术实在保留原模型约 90% 智能水平的现B型i行前提下,已成功实现在配备 12GB 运行内存的大模地运 iPhone 15 及后续机型上本地部署,完整运行拥有 270 亿参数的苹果评估语言模型。
(责任编辑:时尚)
推荐文章
-
7月13日,都市情感短剧《野有蔓草》别名《姐姐的秘密花园》)在浙江横店影视城正式举行开机仪式。该剧由薇蜜幸福出品、亮光文化联合出品并承制,深度聚焦当代都市男女的情感羁绊与自我成长。这是两性情感专家、V ...[详细]
-
国家统计局新闻发言人、国民经济综合统计司负责人王冠华于7月15日在国新办新闻发布会上指出,今年上半年,我国新旧动能转换步伐显著加快,科技与产业创新成果丰硕。从工厂车间的智能生产线、工业机器人,到日常生 ...[详细]
-
来源:科技日报记者:张梦然韩国科学技术研究院KAIST)与成均馆大学联合研究团队取得重大突破,成功开发出一种新型半导体结构,实现了电流在二维材料中的无阻碍流动。这一成果攻克了长期制约芯片行业的“电气瓶
...[详细]
-
7月15日,英格兰传奇中场保罗·斯科尔斯在接受《太阳报》采访时直言不讳,称自己并不畏惧阿根廷队,并犀利地形容梅西等核心球员不过是“软猫”。据英国媒体披露,在世界杯半决赛即将迎战阿根廷之前,斯科尔斯对对
...[详细]
-
13日起,受台风“巴威”深入影响,吉林中东部地区遭遇持续性强降雨袭击,导致江河水位迅速攀升。作为松花江上游的重要支流,辉发河水位呈现持续上涨态势,防汛形势骤然紧张。位于辉发河沿岸的辉南县,洪涝灾害风险 ...[详细]
-
每经讯记者 可杨 北京 7月15日电)据《每日经济新闻》独家获悉,苹果公司正与百度展开深度合作,共同研发基于人工智能的新一代搜索技术。此次合作旨在为苹果生态注入更强大的AI能力,相关成果将作为“苹果智 ...[详细]
-
7月15日,光通信板块龙头长飞光纤601869)股价触及涨停板,当日成交额高达62.7亿元,公司总市值攀升至2393亿元。业绩大幅预增,净利同比翻9倍根据长飞光纤发布的最新业绩预告,公司预计2024年
...[详细]
-
北京时间7月15日,据知名媒体人“球圈赵探长”透露,山东高速男篮引进王岚嵚的交易目前陷入停滞。核心症结在于辽宁男篮与南京同曦男篮未能就提前终止王岚嵚租借协议的补偿方案达成共识。详细情况如下:据赵探长深
...[详细]
-
小S近日在社交平台深情发文怀念姐姐大S,并晒出大S二十多年前练习拳击的珍贵旧照。她在文中透露了姐妹俩之间的趣事,并证实两人均使用内地微信软件保持联系。小S表示,姐姐大S在她的微信备注名为“BOXER”
...[详细]
-
7月15日,在第二十八届中国科协年会主论坛上,中国科协正式揭晓2026年度“三大问题”清单,涵盖10个前沿科学问题、10个工程技术难题及10个产业技术问题,旨在为科技创新指明方向。10个前沿科学问题H ...[详细]
热点阅读

评《大明王朝1566》:最高级的权斗从来不是害人,是吃人
Here we go!罗马诺:37岁奥巴梅扬加盟拉科,转会费150万欧
叶嘉莹先生纪念地落成
