面临的问题
竞争对手网站会通过验证码、限速和机器人检测主动屏蔽抓取程序。从受保护的网站获取可靠、结构化的数据,需要昂贵的代理基础设施和持续的维护。
应用案例
01快速解答
用 CrawlForge stealth_mode(5 credits)在指纹随机化的真实浏览器中渲染,通过速率限制和机器人检测,再用 scrape_structured(2 credits)将选择器映射为带类型的 JSON——产品名称、价格、规格。您可以按计划监控受保护的竞争对手页面,而无需自行运营浏览器基础设施。
02问题与方案
竞争对手网站会通过验证码、限速和机器人检测主动屏蔽抓取程序。从受保护的网站获取可靠、结构化的数据,需要昂贵的代理基础设施和持续的维护。
CrawlForge 的 stealth_mode 在带指纹轮换的真实浏览器中渲染,以通过常见的反爬系统。再搭配 scrape_structured,即可实现干净、基于 schema 的数据提取。
03代码
1// Gather competitor data through anti-bot protections2const page = await mcp.stealth_mode({3 url: "https://competitor.com/pricing",4 stealthConfig: { level: "advanced", randomizeFingerprint: true },5});6 7// Extract structured pricing data8const pricing = await mcp.scrape_structured({9 url: "https://competitor.com/pricing",10 schema: {11 plans: [{12 name: "string",13 price: "string",14 features: ["string"],15 }],16 },17});18 19console.log(pricing.plans);04工具链
05常见问题
04
使用 CrawlForge 的 stealth_mode,它会在真实浏览器中渲染并随机化指纹,从而通过速率限制和机器人检测。将它与 scrape_structured 结合,即可从这些受保护的页面中返回干净的、基于 schema 的数据。
足够。stealth_mode 会替你处理浏览器和指纹伪装,并在你自备的代理之间轮换,因此你可以按计划监控受保护的竞争对手页面,而无需自行搭建浏览器基础设施。再搭配 track_changes,就能盯住产品发布或价格调整。
stealth_mode 每次请求为 5 credits,因为它会运行一个完整的浏览器并轮换代理和指纹。请把它留给那些确实会屏蔽标准抓取的网站,对于开放页面则使用更便宜的工具,比如 1 credit 的 fetch_url。
可以。scrape_structured 为 2 credits,它将 CSS 选择器映射到字段,让你得到带类型的 JSON——产品名称、价格、规格——而不是原始的 HTML。若想在不使用选择器的情况下进行 AI 驱动的提取,可使用 3 credits 的 extract_structured。