iPhone跑AI模型成真:54GB压缩到4GB,苹果终于找到捷径

6次阅读

苹果找了个"外挂",让iPhone本地跑AI大模型这件事,突然变得靠谱了。

7月14日有消息传出,苹果正在评估一家叫PrismML的初创公司。这家公司号称能把54GB的AI模型压缩到4GB以下,让270亿参数跑在iPhone 15及更新机型上。苹果方面"正在认真评估",双方已经接触了一段时间。

怎么做到的?简单说就是把模型内部的信息存储方式彻底简化——每个数值从16比特砍到只有1-3个可能值。就像芯片行业当年从8位转向4位计算,但这次走得更远。PrismML的压缩模型在现有硬件上运行时,内存占用减少10-15倍,响应速度快6-8倍,能耗降低3-6倍。

代价是整体性能会损失几个百分点,主要是事实回忆能力会弱一些,但推理、数学、编程这类能力基本不受影响。

这事儿对苹果意义重大。Siri这些年一直被吐槽"人工智障",很大原因就是最强的AI能力必须走云端——手机硬件根本带不动。苹果上周刚推送iOS 27公开测试版,Siri终于有了大升级,但要跟OpenAI的ChatGPT和Anthropic的Claude正面刚,光靠云端肯定不够。

本地运行的好处显而易见:响应更快、不需要联网、隐私更有保障。健康数据、健身记录这些敏感信息,用户肯定不想上传到服务器处理。

Creative Strategies分析师Carolina Milanesi说得直接:"能在本地做的事越多越好,尤其是涉及健康和用药数据这种隐私性极高的内容。"

如果PrismML的技术经得起实际测试验证,苹果就能把更耗电的功能——计算摄影、视频生成——都搬到手机上。这不光是Siri体验提升的问题,还可能彻底改变手机AI的竞争格局。

毕竟,云端AI再强,也没法在没网的地方用。

正文完
 0