小众软件· 青小蛙·· 3 小时前精选AI 评分78
Strata 0.2.10 发布:默认启用 DFlash2,8GB 显卡可开 128K 上下文
Strata 0.2.10 发布:本地 AI 大模型继续提速,默认使用 DFlash2 降低显存需求,8GB 显卡也能开启 128K 上下文
AI 导读
开源本地大模型工具 Strata 发布 0.2.10,默认改用 DFlash2 推测解码器,显存占用从 MTP 的约 5.2GB 降到约 625MiB,8GB 显卡也能启动 128K 上下文。
推荐理由
原文列出 0.2.10 的显存占用、多卡与上下文变化,并给出实测对比,便于判断是否升级。
来源:小众软件 · appinn.com