PrismML压Qwen至4GB,27B塞iPhone

PrismML压Qwen至4GB,27B塞iPhone
核心摘要

由加州理工学院数学家 Babak Hassibi 联合创立的 AI 实验室 PrismML 宣布,已将阿里巴巴开源模型 Qwen3.6-27B 压缩后成功运行在 iPhone 17 Pro 上。这一消息由科技媒体“动察 Beating”率先监测报道。Qwen3.6-27B 是一个 270 亿参数的稠密模型,在推理时所有参数都会参与计算,而非仅激活部分参数的 MoE 架构模型。

正文解读

PrismML 表示,经过压缩后,模型大小从约 54GB 缩减至不到 4GB,且性能并未出现明显下降。该模型可支持复杂对话、推理、Agent 以及代码任务,这意味着在手机端完成高强度的 AI 运算成为可能。苹果公司已与 PrismML 接触,探讨如何将这项技术应用于其产品。

长期以来,苹果一直致力于将更多 AI 能力放在设备本地运行,以保护用户隐私和降低延迟。但受限于算力和模型体积,其高级 Siri 功能目前仍依赖云端模型。若 PrismML 的压缩技术能够成熟落地,苹果有望在 iPhone 上直接运行大语言模型,从而摆脱对云端的依赖。

原创文章,作者:admin,如若转载,请注明出处:https://www.23btc.com/199397/

(0)
上一篇 6小时前
下一篇 5小时前

相关推荐