本页内容
今天我们正式推出 CrawlForge MCP——一个从零开始、专为 AI agent 打造的完整 web scraping 平台。无论你使用 Claude、Cursor,还是任何兼容 MCP 的客户端,CrawlForge 都能通过 20 个专用工具,赋予你的 AI 获取、提取、分析和研究网页数据的能力。
而且没错,它完全免费起步。每个新账户都能获得 1,000 credits,无需信用卡。
目录
- 我们为什么打造 CrawlForge
- 覆盖每种 scraping 场景的 20 个工具
- MCP 集成的工作原理
- 可随业务扩展的 credits 定价
- 60 秒快速上手
- CrawlForge 的与众不同之处
- 接下来是什么
我们为什么打造 CrawlForge
AI agent 是强大的推理者,但它们对实时网络是“失明”的。让 Claude 查看竞争对手的定价页面、抓取产品评论或研究某个市场——它就会碰壁。传统的 scraping 工具从来不是为 AI agent 的工作方式设计的。
CrawlForge 改变了这一点。我们构建了一个 MCP server,它使用 AI agent 早已理解的语言:Model Context Protocol。无需自定义 API wrapper,无需 SDK 配置。只需安装、配置,你的 AI 就能进行 scraping。
覆盖每种 scraping 场景的 20 个工具
我们没有只造一个通用 scraper 就草草了事。CrawlForge 内置了 20 个为特定用途打造的工具,每个都针对一项具体任务进行了优化:
基础提取
- fetch_url(1 credit)——获取任意网页的完整 HTML
- extract_text(1 credit)——从任意 URL 提取干净、可读的文本
- extract_links(1 credit)——发现页面上的所有链接
- extract_metadata(1 credit)——获取标题、描述、Open Graph 标签等
结构化数据
- scrape_structured(2 credits)——使用 CSS 选择器或 schema 提取数据
- extract_content(2 credits)——智能提取主要内容
- map_site(2 credits)——生成任意域名的完整 sitemap
- process_document(2 credits)——解析 PDF、DOCX 及其他文件格式
高级能力
- search_web(5 credits)——集成 Google 搜索并返回结构化结果
- crawl_deep(4 credits)——可配置深度的多页面爬取
- batch_scrape(5 credits)——并行处理数百个 URL
- scrape_with_actions(5 credits)——支持点击、滚动和表单填写的浏览器自动化
AI 驱动
- deep_research(10 credits)——带冲突检测的多源研究
- analyze_content(3 credits)——情感、主题和实体分析
- summarize_content(4 credits)——智能内容摘要
- stealth_mode(5 credits)——使用住宅代理绕过反爬虫检测
- localization(2 credits)——从任意国家访问受地理限制的内容
- track_changes(3 credits)——检测受监控页面的内容变化
每个工具都通过同一个 MCP 接口提供。你的 AI agent 会根据你的需求自动选择合适的工具。
MCP 集成的工作原理
Model Context Protocol 是一个开放标准,让 AI 助手能够连接到外部工具。CrawlForge 原生实现了这一协议,这意味着:
- Claude Code 会自动发现全部 20 个工具
- Cursor 可以使用 CrawlForge 进行代码研究和文档获取
- 任何 MCP 客户端都开箱即用——无需自定义集成
下面是它在实际中的样子:
无需编写代码,无需手动传递 API key。Claude 会负责工具选择、参数构建和结果解析。
可随业务扩展的 credits 定价
我们围绕一个简单原则设计定价:为你所用付费,而非为你可能会用付费。
| 套餐 | 每月 credits | 价格 | 适合 |
|---|---|---|---|
| Free | 1,000 | $0 | 试用、个人项目 |
| Hobby | 10,000 | $19/mo | 副业项目、小型应用 |
| Professional | 50,000 | $99/mo | 生产环境负载 |
| Enterprise | 200,000 | $399/mo | 大规模、团队访问 |
像 fetch_url 这样的简单工具仅需 1 credit。像 deep_research 这样的高级工具需要 10。大多数开发者会发现免费套餐足以覆盖他们的实验,而 Hobby 套餐能从容应对生产用例。
在我们的网站上查看全部定价详情。
60 秒快速上手
三步搞定。仅此而已。
步骤 1:安装
步骤 2:获取你的免费 API key
在 crawlforge.dev/signup 注册——你将立即获得 1,000 credits。
步骤 3:配置 Claude Code
就是这样。让 Claude “搜索网络上关于 AI agent 的最新新闻”,看着 CrawlForge 搞定其余的一切。
如需详细教程,请查看我们的快速上手指南。
CrawlForge 的与众不同之处
原生 MCP,而非事后补丁。 我们从第一天起就把 CrawlForge 构建为一个 MCP server。每个工具都针对 AI agent 发现、调用和处理结果的方式进行了优化。
20 个专用工具,而非一个通用 scraper。 不同的 scraping 任务有不同的需求。一次简单的页面获取,不应与一次多源研究操作花费相同,也不应使用相同的逻辑。
内置反爬虫绕过。 我们的 stealth mode 使用住宅代理和浏览器指纹轮换,以访问那些屏蔽传统 scraper 的网站。
真正可用的深度研究。 deep_research 工具不只是获取页面——它会查询多个来源、交叉核对论点、检测冲突,并生成带引用的报告。
透明的 credits 成本。 每个工具都会预先列出其 credits 成本。没有意外账单,没有隐藏费用。你的控制台会实时显示用量。
接下来是什么
这次发布只是个开始。以下是我们正在开发的内容:
- Webhooks——长时间运行的 scraping 任务完成时获得通知
- 自定义提取器——为你的特定用例定义可复用的提取 schema
- 团队工作区——共享 API key 并在整个组织内管理用量
- 更多 MCP 客户端——为 Windsurf、Cline 及其他 AI 工具提供专用集成
我们正在以开放的方式构建 CrawlForge。在 Twitter 上关注我们获取更新,或加入我们的 Discord 分享反馈和功能请求。
准备好让你的 AI 拥有抓取网络的能力了吗? 免费开始,获得 1,000 credits,无需信用卡。