跳到正文
小众软件· 青小蛙·· 3 小时前精选AI 评分78

Strata 0.2.10 发布:默认启用 DFlash2,8GB 显卡可开 128K 上下文

Strata 0.2.10 发布:本地 AI 大模型继续提速,默认使用 DFlash2 降低显存需求,8GB 显卡也能开启 128K 上下文

AI 导读

开源本地大模型工具 Strata 发布 0.2.10,默认改用 DFlash2 推测解码器,显存占用从 MTP 的约 5.2GB 降到约 625MiB,8GB 显卡也能启动 128K 上下文。

推荐理由

原文列出 0.2.10 的显存占用、多卡与上下文变化,并给出实测对比,便于判断是否升级。

来源:小众软件 · appinn.com