API+ 本地：大模型使用的最优解
2024-05-05API 模型实战
API本地部署组合方案
涉及工具：
OllamaGPT-4oClaudeDeepSeek
核心思路
- 本地：日常任务、省钱、数据隐私
- API：复杂任务、省力、需要最新能力
本地部署的模型
| 模型 | 用途 |
|---|---|
| qwen2.5-7B | 日常对话、写作 |
| deepseek-r1 | 中文创意写作 |
| bge-m3 | 知识库向量化 |
API 调用的场景
| 场景 | 推荐模型 |
|---|---|
| 图像生成 | GPT Image 2 |
| 复杂推理 | Claude 3.5 |
| 长文档分析 | Gemini 1.5 |
| 中文写作 | DeepSeek |
成本估算（每月）
- 本地电费：约￥80
- API 调用：约￥200-300
- 总计：约￥300-400
如果全用云端 API，大概需要￥800-1000。省了一半，效果还更好。