大家分享一下呗，我们是用的 ollama 本地部署了 14b 的 DeepSeek 模型用来做客服，但是效果不行，是不是必须用 32b 效果才好？
大家都是用的哪种ai模型，本地部署还是官方API
4 / 190
请
登录后发表观点
业务量小真没有必要自己部署，用 API 又不贵
我有台 mac，部署了个 32b 慢死了，但是 32b 以下效果又不好，看来还是 API 实际一点
能联网就用 API，不能联网再考虑私有部署，几万块的设备费用都够跑好久了，如果业务量能大到跑 API 都跑出几万块那那个设备费用本来也不是现有预算能搞定的
说的也是，我好好研究一下缓存，好像可以省不少钱
能联网就用 API，不能联网再考虑私有部署，几万块的设备费用都够跑好久了，如果业务量能大到跑 API 都跑出几万块那那个设备费用本来也不是现有预算能搞定的
业务量小真没有必要自己部署，用 API 又不贵
发表话题
- 积分
1891 - 注册排名
334