跳到正文
  1. V2EX80

    RTX 3080 Ti 12G 跑 125B MoE Qwen3.8-Flash-Next:Strata 安装与实测

    作者在 RTX 3080 Ti 12G、64GB DDR4 四通道、PCIe 3.0、Win11 上,用 Strata 0.1.43 跑 Qwen3.8-Flash-Next Q2_0(37.6GB),decode 从默认约 32 tok/s 调到 76 tok/s。

    推荐理由:作者在 12G 显存机器上实测 125B MoE 模型,给出安装坑位、调参方法和可迁移的硬件优先级判断。

已经到底了