Appearance
OpenClaw 接入 Ollama 本地模型教程:零成本离线使用 AI
不想花钱买 API?担心隐私泄露?用 Ollama 在本地跑大模型,OpenClaw 就能完全免费使用了。
什么是 Ollama
Ollama 是一个本地运行大模型的工具,特点:
- 完全免费:不用付 API 费用
- 离线可用:断网也能用
- 隐私安全:数据不离开你的电脑
- 简单易用:一条命令就能跑起来
支持的模型
| 模型 | 大小 | 内存需求 | 推荐场景 |
|---|---|---|---|
| Qwen2.5:7b | 4.7GB | 8GB+ | 日常对话、中文任务 |
| Llama3.2:3b | 2GB | 4GB+ | 轻量级任务 |
| DeepSeek-R1:7b | 4.7GB | 8GB+ | 推理任务 |
| Gemma2:9b | 5.5GB | 12GB+ | 高质量回答 |
| CodeLlama:7b | 4GB | 8GB+ | 代码生成 |
新手推荐:Qwen2.5:7b,中文能力强,7B 参数够用。
安装 Ollama
Windows
- 访问 ollama.com/download
- 下载 Windows 版本
- 双击安装
- 验证安装:bash
ollama --version
macOS
bash
brew install ollamaLinux
bash
curl -fsSL https://ollama.com/install.sh | sh下载模型
bash
# 下载 Qwen2.5 7B(推荐)
ollama pull qwen2.5:7b
# 下载其他模型
ollama pull llama3.2:3b
ollama pull deepseek-r1:7b下载时间:根据网速,4-7GB 模型需要 10-30 分钟。
启动 Ollama 服务
bash
# 启动服务
ollama serve
# 或后台运行
ollama serve &默认监听 http://localhost:11434。
配置 OpenClaw
方法一:通过控制台配置
- 打开 OpenClaw 控制台
http://localhost:3000 - 设置 → 模型配置 → 添加模型
- 填写:
- 名称:Ollama Qwen
- 类型:Ollama
- 地址:
http://localhost:11434 - 模型:
qwen2.5:7b
方法二:修改配置文件
编辑 ~/.openclaw/.env:
bash
# Ollama 配置
OLLAMA_BASE_URL=http://localhost:11434
OLLAMA_MODEL=qwen2.5:7b或在 OpenClaw 的模型配置文件中添加:
json
{
"models": [
{
"name": "ollama-qwen",
"provider": "ollama",
"baseUrl": "http://localhost:11434",
"model": "qwen2.5:7b"
}
]
}验证配置
bash
# 测试 Ollama 是否正常
curl http://localhost:11434/api/generate -d '{
"model": "qwen2.5:7b",
"prompt": "你好"
}'然后在 OpenClaw 里试试:
你好,请自我介绍一下性能优化
使用 GPU 加速
如果有 NVIDIA 显卡,安装 CUDA 后 Ollama 会自动使用 GPU。
检查是否在使用 GPU:
bash
nvidia-smi如果看到 Ollama 进程,说明正在使用 GPU。
调整模型参数
bash
# 使用更小的上下文窗口
ollama run qwen2.5:7b --num-ctx 2048
# 设置温度参数
ollama run qwen2.5:7b --temperature 0.7量化模型
如果内存不够,可以用量化版本:
bash
# 下载量化版本
ollama pull qwen2.5:7b-q4_0多模型切换
OpenClaw 可以配置多个 Ollama 模型:
json
{
"models": [
{
"name": "qwen-fast",
"provider": "ollama",
"model": "qwen2.5:3b"
},
{
"name": "qwen-smart",
"provider": "ollama",
"model": "qwen2.5:7b"
},
{
"name": "code",
"provider": "ollama",
"model": "codellama:7b"
}
]
}不同任务用不同模型:
- 日常对话 → qwen-fast(快)
- 复杂推理 → qwen-smart(聪明)
- 写代码 → code(专业)
常见问题
Q: 内存不够怎么办?
方案:
- 用更小的模型(3B 或 1.5B)
- 使用量化版本(q4_0)
- 关闭其他占用内存的程序
Q: 响应速度慢?
检查:
- 是否用了 GPU
- 模型大小是否合适
- 减少 num-ctx 参数
Q: 中文回答质量差?
建议:
- 用 Qwen 系列(中文优化)
- 尝试更大的模型(14B)
- 调整 temperature 参数
Q: 如何查看已下载的模型?
bash
ollama listQ: 如何删除模型?
bash
ollama rm <模型名>云端 vs 本地对比
| 对比项 | 云端 API | Ollama 本地 |
|---|---|---|
| 成本 | 按量付费 | 免费 |
| 速度 | 取决于网络 | 取决于硬件 |
| 隐私 | 数据上传云端 | 完全本地 |
| 离线使用 | ❌ | ✅ |
| 模型选择 | 多 | 较少 |
| 智能程度 | 最强(GPT-4) | 中等(7B-14B) |
推荐配置
| 你的硬件 | 推荐模型 |
|---|---|
| 8GB 内存,无显卡 | qwen2.5:3b-q4_0 |
| 16GB 内存,无显卡 | qwen2.5:7b |
| 16GB 内存 + RTX 3060 | qwen2.5:14b |
| 32GB 内存 + RTX 4090 | qwen2.5:32b |
总结
OpenClaw + Ollama 的优势:
- 零成本:不用付 API 费用
- 隐私安全:数据完全在本地
- 离线可用:断网也能用
- 灵活切换:可配置多个模型
如果你的电脑配置还可以,强烈建议试试本地模型,既省钱又安全。
