Skip to content

OpenClaw 接入 Ollama 本地模型教程:零成本离线使用 AI

2026年4月7日

OpenClaw 接入 Ollama 本地模型教程:零成本离线使用 AI

不想花钱买 API?担心隐私泄露?用 Ollama 在本地跑大模型,OpenClaw 就能完全免费使用了。

什么是 Ollama

Ollama 是一个本地运行大模型的工具,特点:

  • 完全免费:不用付 API 费用
  • 离线可用:断网也能用
  • 隐私安全:数据不离开你的电脑
  • 简单易用:一条命令就能跑起来

支持的模型

模型大小内存需求推荐场景
Qwen2.5:7b4.7GB8GB+日常对话、中文任务
Llama3.2:3b2GB4GB+轻量级任务
DeepSeek-R1:7b4.7GB8GB+推理任务
Gemma2:9b5.5GB12GB+高质量回答
CodeLlama:7b4GB8GB+代码生成

新手推荐:Qwen2.5:7b,中文能力强,7B 参数够用。

安装 Ollama

Windows

  1. 访问 ollama.com/download
  2. 下载 Windows 版本
  3. 双击安装
  4. 验证安装:
    bash
    ollama --version

macOS

bash
brew install ollama

Linux

bash
curl -fsSL https://ollama.com/install.sh | sh

下载模型

bash
# 下载 Qwen2.5 7B(推荐)
ollama pull qwen2.5:7b

# 下载其他模型
ollama pull llama3.2:3b
ollama pull deepseek-r1:7b

下载时间:根据网速,4-7GB 模型需要 10-30 分钟。

启动 Ollama 服务

bash
# 启动服务
ollama serve

# 或后台运行
ollama serve &

默认监听 http://localhost:11434

配置 OpenClaw

方法一:通过控制台配置

  1. 打开 OpenClaw 控制台 http://localhost:3000
  2. 设置 → 模型配置 → 添加模型
  3. 填写:
    • 名称:Ollama Qwen
    • 类型:Ollama
    • 地址:http://localhost:11434
    • 模型:qwen2.5:7b

方法二:修改配置文件

编辑 ~/.openclaw/.env

bash
# Ollama 配置
OLLAMA_BASE_URL=http://localhost:11434
OLLAMA_MODEL=qwen2.5:7b

或在 OpenClaw 的模型配置文件中添加:

json
{
  "models": [
    {
      "name": "ollama-qwen",
      "provider": "ollama",
      "baseUrl": "http://localhost:11434",
      "model": "qwen2.5:7b"
    }
  ]
}

验证配置

bash
# 测试 Ollama 是否正常
curl http://localhost:11434/api/generate -d '{
  "model": "qwen2.5:7b",
  "prompt": "你好"
}'

然后在 OpenClaw 里试试:

你好,请自我介绍一下

性能优化

使用 GPU 加速

如果有 NVIDIA 显卡,安装 CUDA 后 Ollama 会自动使用 GPU。

检查是否在使用 GPU:

bash
nvidia-smi

如果看到 Ollama 进程,说明正在使用 GPU。

调整模型参数

bash
# 使用更小的上下文窗口
ollama run qwen2.5:7b --num-ctx 2048

# 设置温度参数
ollama run qwen2.5:7b --temperature 0.7

量化模型

如果内存不够,可以用量化版本:

bash
# 下载量化版本
ollama pull qwen2.5:7b-q4_0

多模型切换

OpenClaw 可以配置多个 Ollama 模型:

json
{
  "models": [
    {
      "name": "qwen-fast",
      "provider": "ollama",
      "model": "qwen2.5:3b"
    },
    {
      "name": "qwen-smart",
      "provider": "ollama",
      "model": "qwen2.5:7b"
    },
    {
      "name": "code",
      "provider": "ollama",
      "model": "codellama:7b"
    }
  ]
}

不同任务用不同模型:

  • 日常对话 → qwen-fast(快)
  • 复杂推理 → qwen-smart(聪明)
  • 写代码 → code(专业)

常见问题

Q: 内存不够怎么办?

方案:

  1. 用更小的模型(3B 或 1.5B)
  2. 使用量化版本(q4_0)
  3. 关闭其他占用内存的程序

Q: 响应速度慢?

检查:

  1. 是否用了 GPU
  2. 模型大小是否合适
  3. 减少 num-ctx 参数

Q: 中文回答质量差?

建议:

  1. 用 Qwen 系列(中文优化)
  2. 尝试更大的模型(14B)
  3. 调整 temperature 参数

Q: 如何查看已下载的模型?

bash
ollama list

Q: 如何删除模型?

bash
ollama rm <模型>

云端 vs 本地对比

对比项云端 APIOllama 本地
成本按量付费免费
速度取决于网络取决于硬件
隐私数据上传云端完全本地
离线使用
模型选择较少
智能程度最强(GPT-4)中等(7B-14B)

推荐配置

你的硬件推荐模型
8GB 内存,无显卡qwen2.5:3b-q4_0
16GB 内存,无显卡qwen2.5:7b
16GB 内存 + RTX 3060qwen2.5:14b
32GB 内存 + RTX 4090qwen2.5:32b

总结

OpenClaw + Ollama 的优势:

  • 零成本:不用付 API 费用
  • 隐私安全:数据完全在本地
  • 离线可用:断网也能用
  • 灵活切换:可配置多个模型

如果你的电脑配置还可以,强烈建议试试本地模型,既省钱又安全。

不要孤军奋战啦!

加入微信群一起学习交流 AI

与大神一起使用 OpenClaw、Hermes、Claude Code、Seedance 2.0、GPT-Image-2 等

微信公众号

扫码关注微信公众号
私信 "加群",将自动获取微信群二维码

探索 AI 世界,掌握智能未来