大家都是用的哪种ai模型，本地部署还是官方API Alvin.ZhangLv.6传道 发布于 2025-04-25 19:34 最后回复 2025-04-28 11:11:09 问答 收藏 复制链接 新浪微博 微信扫一扫 分享 4 回复970 浏览 大家分享一下呗，我们是用的 ollama 本地部署了 14b 的 DeepSeek 模型用来做客服，但是效果不行，是不是必须用 32b 效果才好？ 大家分享一下呗，我们是用的 ollama 本地部署了 14b 的 DeepSeek 模型用来做客服，但是效果不行，是不是必须用 32b 效果才好？
我有台 mac，部署了个 32b 慢死了，但是 32b 以下效果又不好，看来还是 API 实际一点
说的也是，我好好研究一下缓存，好像可以省不少钱
能联网就用 API，不能联网再考虑私有部署，几万块的设备费用都够跑好久了，如果业务量能大到跑 API 都跑出几万块那那个设备费用本来也不是现有预算能搞定的
业务量小真没有必要自己部署，用 API 又不贵