技术
推理成本与定价
模型服务的成本,以及 token 价格与效率技术如何改变它。
//
本周
- LFM2.5-VL-DSpark 公布了具有推测解码功能的视觉-语言模型公司已发布其视觉-语言模型(VLM)LFM2.5-VL-3B的实验性DSpark草案模型,该模型采用推测解码技术以在CPU和GPU上提升推理速度,而不会影响输出质量。稳定技术1 个来源 · 1 个一手 · 3 条证据2026-09-24 22:08
- Meta宣布Muse GlimmerMeta 已发布 Muse Glimmer,这是一款本地化、代理型、多模态且开源的 AI 模型,具备先进的功能,如推测解码和对多种推理端点的支持。稳定技术1 个来源 · 1 个一手 · 3 条证据2026-08-10
本周 2 项已核实的变化。
每日活跃度
稳定
该主题下的信号
- 01ShamAN-Q: 用于亚1位LLM权重的洗发水增强纳米量化研究人员开发了ShamAN-Q,这是一种新的子1位后训练量化方法,适用于大型语言模型。该方法在NanoQuant的基础上进行了改进,引入了密集曲率度量和马哈拉诺比斯重建损失。技术发布2026-10-02 12:00
- 02LFM2.5-VL-DSpark 公布了具有推测解码功能的视觉-语言模型公司已发布其视觉-语言模型(VLM)LFM2.5-VL-3B的实验性DSpark草案模型,该模型采用推测解码技术以在CPU和GPU上提升推理速度,而不会影响输出质量。技术发布2026-09-24 22:08
- 03Meta宣布Muse GlimmerMeta 已发布 Muse Glimmer,这是一款本地化、代理型、多模态且开源的 AI 模型,具备先进的功能,如推测解码和对多种推理端点的支持。技术发布2026-08-10