PrismML将1-bit Bonsai大模型引入高通AI智能眼镜

由加州理工学院研究人员创立、加州大学伯克利分校Ion Stoica担任顾问的AI实验室PrismML，已开发出可在搭载高通骁龙芯片的智能眼镜上运行的微型语言模型版本。

高通在上周的骁龙峰会上展示了PrismML的1-bit Bonsai大模型，演示表明该模型可在基于骁龙AR1 Gen 1平台打造的AI眼镜上本地运行。智能眼镜版本是一个20亿参数的模型，针对视觉和语言进行了调优，让佩戴者可以实时询问自己所看到的内容。

PrismML以大幅压缩大模型而闻名，此次将模型缩小至原来的四分之一，同时在标准基准测试中保留了几乎全部性能。其更广泛的目标是打造开放权重AI，直接运行在设备上，并更充分地利用设备已有的算力。该初创公司将这一路线定位为对专有AI实验室隐私承诺及其不断增长的算力需求的替代方案。

高通此次发布是朝着这一愿景迈出的一步，不过目前尚未有搭载PrismML模型的智能眼镜正式发布。