ガイド、チュートリアル& インサイト
Shifterチームが提供するレジデンシャルプロキシ、ウェブスクレイピング、データ収集戦略、業界のベストプラクティスについて学ぶ。
調査報道のための公開記録収集:方法、倫理、検証
公開記録は調査を推進するが、それは慎重に収集され、提供されたままの状態で保存され、公開前に検証された場合に限られる。報道機関のための方法。
企業データ収集ポリシーの書き方:実用テンプレート
ウェブデータを収集するほとんどのチームには、そのための明文化されたルールがありません。適用範囲、承認、収集元、個人データ、削除対応をカバーする実用的なポリシーテンプレートです。
市場横断のアクセシビリティ監査:各国のユーザーが実際に目にするものをテストする
米国のホームページの監査結果は、ドイツや日本のページについてはほとんど何も語らない。私たちは4カ国の23のサイトを監査したところ、4分の1がその市場固有の問題を抱えていた。
レート・パリティ監視:自社在庫のアンダーカットを見つける
自社の客室が他のチャネルでより安く表示されると、ホテルは直接予約を失います。誤検知を避けながら、チャネルや市場をまたいでレート・パリティを監視する方法。
偽レビューとレビュー詐欺を大規模に検出する方法
偽レビューは米国、英国、EUで禁止されており、プラットフォームは数億件を削除している。多数の製品にわたってレビュー詐欺を検出する方法を、テスト済みのコードとともに解説する。
hreflangを使ってページのすべての言語・国別バージョンを見つける方法
hreflangはページのローカライズされたすべてのバージョンを一覧化します。主要サイトがこれをどう使っているか、何が壊れているか、そして一部のバージョンが特定の国内からしか開けない理由を調査しました。
ロケール間での価格、数値、日付の正規化
1.234,56 €と$1,234.56はどちらも価格であり、03/04/2026は2つの異なる日付を表します。ロケールごとにスクレイピングした値を正しく解析する方法を、テスト済みのコードとともに解説します。
スクレイピングデータのスキーマドリフト:ユーザーより先に壊れた抽出処理を検知する
サイトが変更されても、スクレイパーはめったにクラッシュしません。動き続けたまま、微妙に間違ったデータを返し続けます。データコントラクトとバッチプロファイリングがどのようにドリフトを早期に検知するかを解説します。
スクレイピングデータの重複排除:製品・企業・掲載情報のためのエンティティ解決
同じ製品、企業、掲載情報が複数のソースや実行にまたがって何度も現れる。識別子を正規化し、大規模に安全にマッチングを行い、1つのクリーンなレコードを維持する方法。