PrismML希望其小型LLM能够改变我们使用人工智能的方式

如果人工智能实验室PrismML还没有引起您的注意，那么它应该引起您的注意--而不是因为它筹集了大量资金（目前还没有，只是2225万美元的种子轮），但由于所涉及的技术头脑以及它正在开发的潜在改变行业的技术。PrismML押注于强大、高性能、推理的大型语言模型事实上，必须很大。它正在将推理模型制作得非常小，可以安装在PC和智能手机上。(It甚至有传言称，谷歌正在与苹果进行谈判，不过首席执行官巴巴克·哈西比拒绝对TechCrunch发表评论。）周四，PrismML发布了Bonsai 2 27 B，这是其系列模型中的最新版本，该模型将阿里巴巴广泛使用的开源模型Qwen 3.8 27 B压缩至5.9 GB。它足够小，可以安装在PC上，也可能安装在高端智能手机上。与原版相比，内存减少了9倍到10倍。PrismML由加州理工学院的一群研究人员创立，由加州理工学院教授兼压缩技术专家Hassibi领导。该初创公司还聘请Ion Stoica担任顾问。斯托伊卡是Databricks（和其他公司）的联合创始人，也是伯克利著名的天空计算实验室的主任，该实验室诞生了从Letta到SGLang的许多技术和初创公司。PrismML还得到了投资者Khosla Ventures、Cerberus Capital和Caltech的支持。这家初创公司当然不是唯一一家致力于LLM压缩技术的公司。另一家公司是由西班牙多诺斯蒂亚国际物理中心著名教授创立的多元宇宙计算公司。(And多元宇宙计算筹集了大量现金。）但Hassibi表示，PrismML的压缩技术是独一无二的，因为与原版相比，其LLM几乎没有损失任何性能。Bonsai 2与Qwen 98%的总基准分数相匹配。这比几个月前三月份发布的第一款Bonsai有所上升，该比例为95%。该原始模型已被下载超过1100万次，PrismML更小的模型也被下载了260万次

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。