DeepSeek 爆火后，我决定本地部署大模型

DeepSeek 初体验

2024 年初，DeepSeek 突然爆火。朋友圈、短视频、各种科技媒体都在讨论这个国产大模型。

我抱着试试看的心态去官网体验了一下——效果确实不错。尤其中文理解能力，比之前用的 GPT 还接地气。

但问题来了：API 调用要花钱，官网又经常卡。

正好那段时间我折腾 Stable Diffusion 已经有了本地部署的经验，心想：大模型是不是也能本地跑？

查了一下，发现还真能。Ollama 支持 DeepSeek 模型，可以直接本地部署。

于是我开始研究本地大模型部署，这一研究就停不下来了。