CrawlForge
API 参考

CrawlForge MCP API 参考

全部 23 个 CrawlForge MCP 工具的完整参考。使用我们以开发者为先的 API 构建强大的网页抓取应用。

API 概览

基础 URL

Bash

身份验证

所有 API 请求都需要在 X-API-Key 请求头中传入 API 密钥:

Bash

从控制台获取你的 API 密钥。

请求格式

所有工具端点都在请求体中接收 JSON:

Json

响应格式

所有响应都遵循统一格式:

Json

HTTP 状态码

状态码说明
200OK — 请求成功
400Bad Request — 参数无效
401Unauthorized — API 密钥无效或缺失
402Payment Required — credits 不足
429Too Many Requests — 超出速率限制
500Internal Server Error

速率限制

速率限制按 API 密钥计算,并因计划而异。超出限制将返回 429 Too Many Requests 响应。
Free 计划
每秒 1 次请求
Hobby 计划
每秒 2 次请求
Professional 计划
每秒 4 次请求
Business 计划
每秒 10 次请求

全部工具

基础工具 1-2 credits

list_ollama_models
列出本地安装的 Ollama 模型(免费的发现辅助工具)

0 credits

fetch_url
抓取并解析网页,自动处理各类情况

1 credit

extract_text
通过智能解析从 HTML 中提取干净文本

1 credit

extract_links
发现并提取网页中的所有链接

1 credit

extract_metadata
提取页面元数据、OpenGraph 和 Twitter Card 标签

1 credit

scrape_template
面向 10 个热门站点的预置抓取器(Amazon、GitHub、YouTube 等)

1 credit

scrape_structured
使用 CSS 选择器提取结构化数据

2 credits

extract_content
通过可读性检测从网页中提取主要内容

2 credits

map_site
发现并映射网站结构和 URL

2 credits

process_document
处理多种格式的文档,包括 PDF

2 credits

localization
面向抓取的多语言和地理位置管理

2 credits

高级工具 3-5 credits

track_changes
通过基线、定时监控和告警跟踪页面变更

3 credits

analyze_content
分析内容的情感、语言和主题

3 credits

extract_structured
由 LLM 驱动的 schema 提取,并支持 CSS 选择器回退

3 credits

extract_with_llm
由 LLM 驱动的提取,默认使用本地 Ollama(可选 OpenAI/Anthropic)

3 credits

summarize_content
为文本内容生成智能摘要

4 credits

crawl_deep
使用广度优先搜索进行深度网站爬取

4 credits

stealth_mode
带指纹随机化的反检测浏览器管理

5 credits

scrape_with_actions
在抓取前执行浏览器操作(点击、表单等)

5 credits

batch_scrape
通过异步作业管理同时处理多个 URL

5 credits

search_web
使用 Google Custom Search API 搜索网络

5 credits

generate_llms_txt
生成符合标准的 llms.txt 和 llms-full.txt 文件

5 credits

高阶工具 10 credits

deep_research
多阶段研究,结合 AI 综合分析与来源验证

10 credits

错误处理

所有错误都遵循统一格式,包含 error.code 和 error.message 字段。
Json

完整的错误代码列表和解决方案请参阅常见问题。

准备好开始构建了吗?
选择一个工具并浏览其文档
查看工具文档返回快速开始