カスタムヘッダー

送信するヘッダーに Wsa- プレフィックスを付けることで、スクレイピング対象へのリクエストに任意のヘッダーを追加できます。APIはこのプレフィックスを取り除き、ヘッダーをターゲットサイトに転送します。

ノート

カスタムヘッダーは、結果を調整したい場合にのみ使用してください。APIはすでに自動的にアンチブロッキング処理を行っているため、ブロックを回避するためにユーザーエージェントを偽装する必要はありません。

Endpoint

GET https://scrape.shifter.io/v1?api_key=YOUR_API_KEY&url=<TARGET_URL>

Parameters

Parameter	Type	Required	Description
api_key	string	yes	あなたのWeb Scraping APIキー
url	string	yes	取得対象のURL
Wsa-* (header)	string	no	Wsa- プレフィックスが付いたヘッダーは、プレフィックスを除いた状態でターゲットに転送されます。

Example request

curl

curl "https://scrape.shifter.io/v1?api_key=YOUR_API_KEY&url=http%3A%2F%2Fhttpbin.org%2Fheaders" \
  -H "Wsa-My-header: test" \
  -H "Wsa-User-Agent: potato"

Python

import requests

r = requests.get(
    "https://scrape.shifter.io/v1",
    params={"api_key": "YOUR_API_KEY", "url": "http://httpbin.org/headers"},
    headers={"Wsa-My-header": "test", "Wsa-User-Agent": "potato"},
)
print(r.json())

Node.js

import fetch from 'node-fetch';

const url = 'https://scrape.shifter.io/v1?' + new URLSearchParams({
  api_key: 'YOUR_API_KEY',
  url: 'http://httpbin.org/headers',
});
const res = await fetch(url, {
  headers: {
    'Wsa-My-header': 'test',
    'Wsa-User-Agent': 'potato',
  },
});
console.log(await res.json());

Example response

{
  "headers": {
    "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
    "Accept-Encoding": "gzip, deflate, br",
    "Host": "httpbin.org",
    "My-Header": "test",
    "Upgrade-Insecure-Requests": "1",
    "User-Agent": "potato"
  }
}

See also

• カスタムクッキー
• APIリクエスト