本地部署大模型保姆级教程：Ollama一键安装运行开源模型

很多人想在自己电脑上运行开源大模型，觉得过程复杂就放弃了。其实用Ollama，部署本地大模型简单到超乎想象，十几分钟就能跑起来，不需要懂编程。 **为什么要本地部署？** 本地部署的优势是：数据不出本机、隐私安全、离线可用、无限次数不花钱。虽然参数量大的模型需要好显卡，但小一点的模型（7B、8B级别）普通家用电脑CPU也能跑。适合对数据敏感、或者想深度体验大模型的用户。 **第一步：安装Ollama** 去Ollama官网下载对应系统的安装包（Windows/Mac/Linux都有）。Windows版双击安装，一路下一步。装完后打开命令行，输入 `ollama --version` 看到版本号就说明安装成功。 **第二步：下载模型** 在命令行输入：`ollama run qwen2.5:7b`。这个命令会自动下载通义千问7B模型并启动对话。模型比较大（约4-5GB），需要等几分钟。首次下载后，之后每次启动都是秒开。 **第三步：开始对话** 模型下载完会自动进入对话界面，直接打字就能聊天。`/bye` 退出对话，`/clear` 清空上下文。如果想换其他模型，输入 `ollama run llama3` 或 `ollama run deepseek-r1:7b` 即可，Ollama会自动下载。 **第四步：通过API调用** Ollama启动后默认在本地 `localhost:11434` 提供API接口。用Python或者任何支持HTTP的工具都能调用。比如配合Open WebUI（一个网页聊天界面），输入 `docker run` 相关命令就能拥有一个类似ChatGPT的本地界面。 **第五步：配置显卡加速（可选）** 如果你的电脑有NVIDIA显卡，安装CUDA后Ollama会自动使用GPU加速，运行速度会快很多。AMD显卡也能用，但需要安装ROCm。没有独立显卡用CPU跑小模型也够日常使用。 **避坑总结**：本地部署最大的坑是硬件配置——模型越大，需要的显存越多。7B模型约需8GB显存或16GB内存；如果你只有集成显卡，建议用3B-4B的小模型，或者干脆用CPU跑。另外注意，本地模型的知识截止时间和能力上限，跟在线的大模型还是有差距，重要任务建议两者结合使用。