En-têtes personnalisés

Ajoutez n’importe quel en-tête à la requête de scraping sortante en l’envoyant avec un préfixe Wsa-. L’API retire le préfixe et transmet l’en-tête au site cible.

Endpoint

GET https://scrape.shifter.io/v1?api_key=YOUR_API_KEY&url=<TARGET_URL>

Paramètres

Paramètre	Type	Requis	Description
`api_key`	string	oui	Votre clé API Web Scraping
`url`	string	oui	URL cible à récupérer
`Wsa-*` (header)	string	non	Tout en-tête préfixé par `Wsa-` est transmis à la cible sans le préfixe.

Exemple de requête

curl "https://scrape.shifter.io/v1?api_key=YOUR_API_KEY&url=http%3A%2F%2Fhttpbin.org%2Fheaders" \
  -H "Wsa-My-header: test" \
  -H "Wsa-User-Agent: potato"

import requests

r = requests.get(
    "https://scrape.shifter.io/v1",
    params={"api_key": "YOUR_API_KEY", "url": "http://httpbin.org/headers"},
    headers={"Wsa-My-header": "test", "Wsa-User-Agent": "potato"},
)
print(r.json())

import fetch from 'node-fetch';

const url = 'https://scrape.shifter.io/v1?' + new URLSearchParams({
  api_key: 'YOUR_API_KEY',
  url: 'http://httpbin.org/headers',
});
const res = await fetch(url, {
  headers: {
    'Wsa-My-header': 'test',
    'Wsa-User-Agent': 'potato',
  },
});
console.log(await res.json());

Exemple de réponse

{
  "headers": {
    "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
    "Accept-Encoding": "gzip, deflate, br",
    "Host": "httpbin.org",
    "My-Header": "test",
    "Upgrade-Insecure-Requests": "1",
    "User-Agent": "potato"
  }
}

Commencer

Proxies

APIs

Ressources