V2EX· wises·· 3 小时前AI 评分20
用 Strata 替代 llm.cpp 跑 qwen3.8 flsh next Q3_S 的体验
[程序员] 现在我是左青龙,右白虎。
AI 导读
有用户将家里机器从 llm.cpp 升级到 Strata,运行 qwen3.8 flsh next 的 Q3_S,输出 token 飞快,比 Claude 只慢一点,编程能力略差但足够日常使用。主机配置为 48G 内存、5060Ti 16G,Strata 通过 sub2api 分发,意味着全世界都可以调用。
来源:V2EX · v2ex.com