一副眼镜离线认出眼前的东西:高通把20亿参数模型压到1-bit,内存只剩四分之一

作者: 智享AI发布日期: 2026/9/26阅读时间: 4分钟
一副眼镜离线认出眼前的东西:高通把20亿参数模型压到1-bit,内存只剩四分之一 封面图

2026年骁龙峰会上,高通和PrismML做了一件事:让AI眼镜断网也能看图、回答问题。整套识别和问答,全程在眼镜里跑完,不用把照片传到云端。

跑的是什么模型?20亿参数的Bonsai视觉模型,精度被压到了1-bit。

1-bit是什么概念

打个比方,模型参数就像记笔记。以前每个数字要用4个格子写下来,现在只用1个格子,写完只有两种状态。Bonsai这个版本就是在此基础上做的——PrismML先发布了Bonsai 1.7B,再把它压缩成1-bit。

代价是精度损失,换来的是空间。官方给出的数字是:内存占用大约只有传统4-bit模型的四分之一。同样一块内存,能塞进的参数大约是原来的4倍。文本Token的生成速度还翻了一倍。

放在智能眼镜上,这几条都很实在。眼镜腿那么细,镜框那么窄,电池、芯片、散热全都挤在一起,多塞一点东西都难。模型瘦下来,才有机会装进去。

断网之后,能干什么

高通列了几个场景:看眼前的东西是什么、翻译路牌和菜单上的文字、回答"我现在在哪、周围有什么"这类问题,还有不用动手的语音求助。

这些事以前大多要靠云端。眼镜拍一张,传到服务器,等结果回来。网络一断,或者信号差一点,交互就卡住。现在这些动作都在本地完成,没有等待,也没有上传。

省下来的不只是时间。不联网就不需要持续唤醒通信模块,功耗跟着降,续航能撑更久,机身发热也少一些。对戴在脸上的设备来说,热不热、能不能戴一整天,往往比跑分更影响体验。

为什么这件事值得记一笔

过去几年,端侧AI的路线图基本是同一套逻辑:模型越做越小,量化位数越压越低。从16-bit到8-bit,再到4-bit,每次压缩都让"大模型进小设备"往前挪一步。这次直接压到1-bit,并且落到骁龙AR1 Gen 1这样的眼镜平台上跑通,说明这条路又往前探了一截。

当然,1-bit不是没有代价。极端压缩会牺牲一部分理解能力,复杂推理、长文本、细节识别这些任务,表现大概率不如更大位宽的模型。高通和PrismML选择的是视觉问答这类相对聚焦的场景,先把能做的事做稳,再谈扩展。

如果这条路走通,智能眼镜的产品形态会变。它不必时刻连着手机或云端,也能在离线状态下保持基本智能。对用户来说,这个差别很直接:出门跑步、进地铁、走到信号差的地方,眼镜还是那副眼镜。

aiupdateproduct
精选评论
评论加载中…
发表讨论 »