Appearance
让 AI 读取任意网页信息,内容聚合/竞品监控必备
基本信息
| 项目 | 内容 |
|---|---|
| 技能名称 | Fetch |
| 作者 | @nexusagent |
| ClawHub 链接 | 查看详情 |
| 下载量 | 25k |
| Star | 67 |
| 适用场景 | 需要从网络获取信息的用户 |
| 官方标签 | 网页抓取 / 爬虫 / 内容提取 / SEO |
功能介绍
Fetch 让 OpenClaw 高效抓取任意网页内容,提取标题、正文、作者、发布时间等结构化信息,是内容聚合、市场调研、竞品监控场景的数据采集核心工具。
核心功能
- 任意 URL 抓取:支持几乎所有公开网页
- 结构化提取:自动提取标题/正文/作者/时间
- 反爬绕过:内置重试和代理轮换机制
- 去重处理:自动识别并去除广告和噪声内容
- 格式输出:支持 JSON/Markdown/HTML 输出
应用场景
- 内容聚合:抓取多个来源生成资讯简报
- 竞品监控:定期抓取竞品动态
- 舆情分析:抓取社交媒体和新闻网站内容
- 价格监控:抓取电商平台价格变动
安装方法
OpenClaw 支持多种渠道安装 Skills,以下五种方法均可完成安装:
方法一:OpenClaw CLI(推荐)
bash
openclaw skills install fetch方法二:ClawHub 官网
- 访问 ClawHub 并登录 GitHub 账号
- 搜索「fetch」进入技能详情页
- 点击「Install」按钮,按提示完成安装
方法三:国内镜像站(推荐国内用户)
bash
openclaw skills install fetch --mirror https://cn.clawhub-mirror.com或访问镜像站直接安装:cn.clawhub-mirror.com
方法四:skills.sh
bash
openclaw skills install fetch --source skills.sh或访问 skills.sh 搜索技能名称在线安装。
方法五:GitHub 直接安装
部分技能支持通过 GitHub 仓库直接安装:
bash
openclaw skills install https://github.com/<author>/fetch搭配推荐
推荐搭配 Skills:
- [小龙虾 self improving agent](openclaw-fetch-review.md
- 小龙虾 cron
- 小龙虾 ai search
适合人群与行业
- 运营
- 市场分析
- 内容编辑
应用示例
某内容团队使用后: 每日抓取 50 个来源生成行业简报,以前 3 小时工作 15 分钟完成,信息覆盖率提升 300%。
用户评价
⭐⭐⭐⭐ 比传统爬虫简单太多,说人话就能用 — 知乎用户
⭐⭐⭐⭐ 抓取速度很快,反爬处理也不错 — 腾讯云用户
常见问题(FAQ)
1. 支持 JavaScript 渲染的页面吗? 不支持 JavaScript 渲染的页面(如 React/Vue 应用),建议用 Browser Use 替代。
2. 会被网站封禁吗? 高频抓取可能触发 IP 封禁,建议设置抓取间隔和代理轮换。
3. 如何处理登录后才能访问的页面? 需要额外配置 Cookie 或 Token,Fetch 本身不处理认证。
缺点与局限性
- 反爬是猫鼠游戏:网站更新反爬策略后需要同步更新抓取逻辑
- JavaScript 渲染页面支持弱:需要 JS 渲染的页面抓取困难
- 数据清洗工作量大:抓取原始数据通常需要大量清洗才能使用
- IP 封禁风险:高频率抓取可能导致本 IP 被封禁
总结
建议指数: 73/100
结构化网页抓取的基础工具,正文提取准确率高。需要抓取 JavaScript 渲染页面时,配合 Browser Use 效果更好。
