博客文章

社区实验揭示，本地大模型表现不佳的元凶是推理软件栈中的浮点数值漂移。734个依赖包、注意力后端、KV缓存量化等微小差异，在长上下文中累积，足以导致模型输出错误。

bingdada

2026-08-30106约 8 分钟阅读