Analisador automático de JSON

Defina auto_parser=1 para que a API analise a página em uma estrutura JSON aninhada de tags, atributos e texto. Funciona com ou sem renderização de JavaScript.

Endpoint

GET https://scrape.shifter.io/v1?api_key=YOUR_API_KEY&url=<TARGET_URL>&auto_parser=1

Parâmetros

Parâmetro	Tipo	Obrigatório	Descrição
api_key	string	sim	Sua chave da Web Scraping API
url	string	sim	URL de destino a ser buscada
auto_parser	integer	não	0 (padrão) ou 1. Quando 1, a resposta é um JSON analisado.

Exemplo de requisição

curl

curl "https://scrape.shifter.io/v1?api_key=YOUR_API_KEY&url=https://example.com&auto_parser=1"

Python

import requests

r = requests.get("https://scrape.shifter.io/v1", params={
    "api_key": "YOUR_API_KEY",
    "url": "https://example.com",
    "auto_parser": 1,
})
print(r.json())

Node.js

import fetch from 'node-fetch';

const url = 'https://scrape.shifter.io/v1?' + new URLSearchParams({
  api_key: 'YOUR_API_KEY',
  url: 'https://example.com',
  auto_parser: '1',
});
const res = await fetch(url);
console.log(await res.json());

Exemplo de resposta

{
  "0": {
    "tagName": "div",
    "children": {
      "0": { "tagName": "h1", "text": "Example Domain" },
      "1": { "tagName": "p", "text": "This domain is for use in illustrative examples in documents." },
      "2": {
        "tagName": "p",
        "text": "More information...",
        "children": {
          "0": {
            "tagName": "a",
            "attributes": { "href": "https://www.iana.org/domains/example" },
            "text": "More information..."
          }
        }
      }
    }
  }
}

Veja também

• Regras de extração
• Requisição da API