ShamAN-Q: シャンプー補助ナノクォンテーションによるサブ1ビットLLM重み
研究者たちは、大規模言語モデル用の新しいサブ1ビットの事後トレーニング量子化手法であるShamAN-Qを開発しました。これは、NanoQuantを改善し、密度のカーブメトリックとマハラノビス再構成損失を組み合わせることで実現されました。
01
誰に影響するか
- 1ShamAN-Q
- の一部 →事実
- を必要とする →事実
- を使用 →事実
- に依存 →事実
- を使用 →事実
02
根拠
- AarXiv cs.LG研究機関2026-10-02 12:00
a sub-1-bit post-training quantization method
- AarXiv cs.LG研究機関2026-10-02 12:00
We introduce ShamAN-Q, a sub-1-bit post-training quantization method that extends NanoQuant by replacing each its diagonal reconstruction geometry with a tract…
- AarXiv cs.LG研究機関2026-10-02 12:00
Abstract: We introduce ShamAN-Q, a sub-1-bit post-training quantization method that extends NanoQuant by replacing each its diagonal reconstruction geometry wi…