高通把AI眼镜的模型压到了1-bit,不联网也能看懂眼前的东西

作者: 智享AI发布日期: 2026/9/27阅读时间: 3分钟
高通把AI眼镜的模型压到了1-bit,不联网也能看懂眼前的东西 封面图

2026年骁龙峰会上,高通和PrismML一起干了件事:在骁龙AR1 Gen 1智能眼镜平台上,本地跑通了一个20亿参数的1-bit量化Bonsai视觉模型。说直白点,戴着这副眼镜,不用连网,它就能看懂你眼前是什么,还能回答你的问题。

这件事的关键在"1-bit"这三个字。

现在大部分模型跑在4-bit精度上,也就是每个参数要用4个二进制位来记。Bonsai这次把精度直接砍到1-bit——每个参数只剩一位,非0即1。你可以把它想成把一张彩色照片压成黑白剪影:细节丢了很多,但猫还是猫,桌子还是桌子,该认出来的东西照样认得出。

代价换来的是体积。这个1-bit模型的底子是PrismML之前发布的Bonsai 1.7B,压完之后内存占用只有4-bit模型的四分之一。反过来说,同样一块内存,以前只装得下一个模型,现在能塞进大约4倍参数的模型。官方还提到,文本Token的生成速度翻了一倍。

对智能眼镜来说,这不是实验室里的漂亮数字,而是能不能戴出门的问题。

眼镜的镜腿里塞不下大电池,也散不了多少热。过去让AI看懂世界,图片得先传到云端,等服务器算完再把答案送回来。这一来一回,费电、发热、还挑网络。现在这些活儿都在本地做完——认出眼前物体、翻译路牌文字、回答"我面前这盆植物是什么"、用语音免手操作,全都不用等云端。

少了联网这一段,功耗和内存压力一起降下来。续航能多撑一会儿,镜腿不至于烫耳朵。这两件事,恰恰是智能眼镜被吐槽最多的地方。

放到更大的盘面看,这场合作的信号很清楚:AI眼镜的竞争,正在从"能不能连上云端大模型"转向"本地能不能自己跑起来"。云端模型再聪明,也解决不了地铁里没信号、镜腿烫脸、半天就没电这些日常麻烦。

1-bit量化未必是终点,但它至少证明了一件事——把模型压到极致,可穿戴设备才真正有得玩。

aiupdate
精选评论
评论加载中…
发表讨论 »