资料修改2026-09尚无逐条事实核验记录；修改日期不代表已验证
本文仍包含未全面复核的历史资料；安装、许可、费用与当前权限请回到官方确认。查看已核信息范围
本地跑 vs 走 API
同一个模型，两条路：在自己机器上跑，还是调厂商的 API。决定因素只有三个——花多少钱、数据去哪、能力上限在哪。
一句话结论
- 跑得少 / 峰值能力优先 / 不想维护 → 走 API。
- 数据不能出门 / 长期高频跑 / 要离线 → 本地跑。
- 大多数人最终落在中间：本地跑日常与隐私活，API 打高峰与硬任务。
正面对照
| 维度 | 本地跑（开放权重） | 走 API（闭源为主） |
|---|---|---|
| 成本结构 | 一次性买卡 + 电费 + 时间成本 | 按量付费（token / 请求），价格常变 |
| 起步门槛 | 要选运行器、下权重、配量化 | 拿 key 就能用 |
| 能力上限 | 开放权重档；硬推理类任务与闭源旗舰仍有差距 | 闭源旗舰（GPT-6 / Claude / Gemini 一线）当前最强 |
| 隐私与合规 | 数据不出本机（气隙环境也能跑） | 一定上传云端；各家的训练/留存条款不同 |
| 可用性风险 | 受显存、驱动、维护成本影响；断网也能用 | 受网络与配额影响；服务波动就是不可用 |
| 迭代速度 | 跟随开源社区（月级） | 跟随厂商（周/月级，能力跳跃更频繁） |
| 适合谁 | 研究者、隐私敏感、长跑批量任务 | 产品化、偶发高峰、要好效果但不想买卡 |
成本结构：一次性买卡 + 电费 + 时间成本·按量付费（token / 请求），价格常变
起步门槛：要选运行器、下权重、配量化·拿 key 就能用
能力上限：开放权重档；硬推理类任务与闭源旗舰仍有差距·闭源旗舰（GPT-6 / Claude / Gemini 一线）当前最强
隐私与合规：数据不出本机（气隙环境也能跑）·一定上传云端；各家的训练/留存条款不同
可用性风险：受显存、驱动、维护成本影响；断网也能用·受网络与配额影响；服务波动就是不可用
迭代速度：跟随开源社区（月级）·跟随厂商（周/月级，能力跳跃更频繁）
适合谁：研究者、隐私敏感、长跑批量任务·产品化、偶发高峰、要好效果但不想买卡
怎么算这笔账（粗口径）
- 先算用量：每天实际调用次数 × 平均 token。偶发使用几乎一定 API 更便宜——显卡钱够你调很久。
- 再看硬门槛：数据能不能出门（合同、合规、隐私）——不能出门的直接排除 API。
- 再看能力需求：如果你的任务对"硬推理/长链 agent"敏感，先用 API 打样，再评估本地档是否够用。
- 最后看维护意愿：本地跑≠装上就完事，模型更新、量化档选择、显存调优都要持续投入。
混合方案（最常见的实际做法）
| 场景 | 走哪条 |
|---|---|
| 日常问答、写代码草稿、隐私草稿 | 本地（Ollama / LM Studio 一路） |
| 复杂重构、长任务链、交付前终稿 | API（旗舰档） |
| 批量离线处理（语音、视频、OCR） | 本地（不受配额限制） |
| 对外发布的内容校对 | API（质量优先） |
日常问答、写代码草稿、隐私草稿：本地（Ollama / LM Studio 一路）
复杂重构、长任务链、交付前终稿：API（旗舰档）
批量离线处理（语音、视频、OCR）：本地（不受配额限制）
对外发布的内容校对：API（质量优先）
避坑
- "装了客户端"不是本地跑：ChatGPT / Claude 桌面端只是入口，推理在云端（见 本地部署厂商地图）。
- 算力账要算全：显卡之外还有电费、噪声、维护时间；跑一年才发现不比 API 便宜很常见。
- 价格会变：API 侧"峰谷定价 + 促销"是常态（DeepSeek 的定价过山车就是例子），别把当前价写进方案。
- 本地也有"配额"：显存不够时不是排队，是直接跑不动。
互链
- 运行器怎么选：Ollama vs LM Studio · llama.cpp · vLLM
- 显存档位：GGUF 量化与显存 · 显存与量化进阶
- 模型侧对比：DeepSeek vs 千问
- 厂商能不能本地跑：本地部署厂商地图 · 闭源厂商地图