缘起#
在配置了自己的AI助手OpenClaw后,记录一下整个设置过程,包括配置在线模型、本地模型、测试模型性能、添加技能等。
前提#
- 已有一台服务器或本地电脑
- 已安装Docker和docker-compose
- 已配置好网络(Tailscale VPN)
- 已安装Ollama(用于运行本地模型)
OpenClaw概述#
OpenClaw是一个AI助手框架,支持多种模型提供商,包括在线模型和本地模型。主要特点:
- 支持多种在线模型提供商(OpenRouter、DeepSeek等)
- 支持本地模型(Ollama)
- 支持技能系统
- 支持多节点部署
配置在线模型#
OpenRouter#
配置OpenRouter作为在线模型提供商,可以访问多种开源和商业模型:
openrouter/qwen3.6-plus:free- 免费Qwen模型openrouter/free- 免费模型池deepseek/deepseek-chat- DeepSeek模型
模型配置#
在~/.openclaw/openclaw.json中配置模型提供商和模型列表:
| |
模型回退链#
配置模型回退链,当主模型不可用时自动切换到备用模型:
openrouter/qwen3.6-plus:freeollama/qwen3.5-35b-iq2(本地模型)ollama/gemma-4-e4b-q5(本地模型)openrouter/freedeepseek/deepseek-chat
配置本地模型#
Ollama配置#
Ollama运行在Docker容器中,地址为100.64.0.3:11434:
| |
本地模型列表#
qwen3.5-35b-iq2#
- 架构:MoE(混合专家模型),35B总参数,~3B活跃参数
- 量化:UD-IQ2_XXS,10.7GB
- 优势:轻量计算,完全适配16GB VRAM
- 工具调用:需要Modelfile中添加
RENDERER qwen3.5和PARSER qwen3.5
gemma-4-e4b-q5#
- 架构:Dense E4B,7.5B总参数,4.5B有效参数
- 量化:Unsloth Q5_K_M,6.3GB
- 优势:128K上下文,原生工具调用支持
- 注意:需要Ollama v0.20+支持
Modelfile配置#
自定义GGUF模型需要添加RENDERER和PARSER:
| |
测试模型性能#
长上下文测试#
测试gemma-4-e4b-q5的128K上下文能力:
- 5/5 needles at 96K tokens
- 测试耗时:51.8s
推理测试#
Qwen MoE在Einstein谜题测试中表现更好,但Gemma 4在长上下文场景更有优势。
工具调用测试#
- Qwen 3.5-35b-IQ2:结构化输出和工具使用表现更好
- Gemma 4:长上下文工具调用表现良好
添加技能#
deep-read技能#
位置:skills/deep-read/
用于深度阅读书籍、论文、文章,生成结构化笔记。
cf-fetcher技能#
位置:skills/cf-fetcher/
减少HTML→Markdown转换的token消耗65-80%,适用于新闻网站、博客、论坛。
浏览器自动化技能#
位置:skills/browser-automation/
用于控制网页的多步骤流程。
技能配置#
在~/.openclaw/openclaw.json中注册技能:
| |
Xiaomi MiMo模型#
订阅了Xiaomi token plan($6/月,60M credits):
mimo-v2-pro- 1M上下文,推理,信用=2×token(ctx<256K)mimo-v2-omni- 1M上下文,多模态(文本+图片)mimo-v2-tts- 32K上下文,TTS,最大1024 tokens
关键经验总结#
- 配置源真相:
~/.openclaw/openclaw.json,不是~/.openclaw/agents/main/agent/models.json - MoE模型:关键在于完全适配VRAM,IQ2_XXS质量可接受因为只有~3B参数激活
- Gemma 4 GGUF:需要Ollama v0.20+,旧版本无法加载
- 模型回退:仅在有认证失败、速率限制、超时、计费错误时触发
- Node配置:ws://连接需要
OPENCLAW_ALLOW_INSECURE_PRIVATE_WS=1 - Ollama Modelfile:自定义GGUF必须添加RENDERER和PARSER

