跳到正文
V2EX· zhq566·· 2 小时前AI 评分15

本地部署的开源 AI 是不是都不咋能用

[人工智能] 本地部署的开源 AI 是不是都不咋能用

AI 导读

有用户以 5060ti 16g 显卡部署量化后的 qwen3.8 coder Q3,反馈运行慢且效果不佳,并质疑升级显卡的花费是否不如直接购买商用付费版本。回复者建议真想本地部署可考虑两三万元的小主机,虽慢但能跑可用模型,不过算上硬件和电费仍不如直接用 deepseek。

来源:V2EX · v2ex.com