レイテンシの数値は1つの数字で示されることがほとんどですが、1つの数字では、リクエストにかかる時間を説明する方法として最も役に立ちません。レイテンシは分布です。大半のリクエストは狭い範囲に収まり、ごく一部がはるかに長くかかります。その一部こそが、ジョブが時間内に終わるかどうかを左右します。
レジデンシャルIPの出口では、ばらつきの幅が多くの人の想定より大きくなります。レジデンシャルプロキシを経由するリクエストは、クライアントからプロバイダーのゲートウェイへ、そこから家庭回線につながった一般消費者のデバイスへ、さらにターゲットへと進み、同じ経路を戻ってきます。どの区間でも、一瞬の遅れが起こり得ます。このガイドでは、ばらつき全体を示すチャートの読み方と、そのチャートを信頼する前に確認すべきことを説明します。
レイテンシチャートが実際に示すもの
レイテンシチャートは通常ヒストグラムです。横軸に応答時間、縦軸に各時間区間のリクエスト数を取ります。レジデンシャルネットワークでは、特徴的な形になります。大半のリクエストが完了する左側に高いピークがあり、遅いリクエストが並ぶ右側には細く長い裾が伸びます。
パーセンタイルは、この形の上に置く目印です。
- p50(中央値)。 リクエストの半分はこれより速く、残り半分はこれより遅く完了しました。
- p90。 10件中9件がこれより速く完了しました。10件に1件は、少なくともこの時間がかかりました。
- p99。 100件中99件がこれより速く完了しました。ここから、最も遅い1パーセントが始まります。
チャートの中で最も情報量が多いのは、p50とp99の差です。差が小さければ、そのネットワークは調子の良い時間帯でも悪い時間帯でも同じように動作しています。差が大きければ、中央値が表しているのは、一部の時間帯にしか出会えないネットワークの姿です。
中央値が裾を隠す理由
中央値は、1件のリクエストを説明するにはよい指標です。しかしジョブを説明するには不十分です。ジョブは多数のリクエストでできており、遅いリクエストは積み重なっていくからです。
仮の例で考えます。あるネットワークの中央値が600 ms、p99が6秒だとします。100件に1件が裾に入ります。スクレイパーが1レコードにつき20ページを順番に取得する場合、あるレコードが裾のリクエストを少なくとも1回踏む確率は約5分の1です(1から0.99の20乗を引いた値)。つまりレコードの5分の1は、中央値から想像される時間より数秒長くかかるのに、中央値自体はまったく変わっていません。
量が増えると、状況はさらに悪くなります。1日500,000リクエストなら、1パーセントは5,000件の遅いリクエストです。それぞれがワーカーやブラウザタブを占有し続けるなら、スループットを決めるのはピークではなく裾です。中央値が同じ2つのネットワークで、ジョブにかかる時間が大きく異なり得るのはこのためです。
パーセンタイルは平均できません
比較表でよく見られる誤りが、パーセンタイルの平均です。国ごとや時間帯ごとのp99を平均して、1つのp99として示すものです。その結果は、何のp99でもありません。
パーセンタイルは、分布全体の形から求められます。2組の測定値を正しく合成するには、まず元のヒストグラムを統合し、統合した形からパーセンタイルを読み取ります。Atlasはこの方法を採っています。各時間枠のヒストグラムを同じ重みで期間全体に統合するため、静かな深夜の1時間も、混み合う午後の1時間と同じ重みで数えられ、平均の平均になる数値は1つもありません。正確なルールは、方法論ページのレイテンシの定義に記載しています。
公開されているチャートにパーセンタイルの合成方法が書かれていない場合は、平均されたものと考え、裾の数値は慎重に扱ってください。
どのレイテンシを見ていますか
「レイテンシ」は少なくとも3種類の異なる測定を指し、プロバイダーは最も小さい値を掲載しがちです。
接続時間。 ゲートウェイへの接続を開くのにかかる時間です。近くのゲートウェイへのアイドル状態の接続では速くなり、レジデンシャルの出口やターゲットについては何も示しません。
最初のバイトまでの時間。 リクエストを送信してから、レスポンスの最初のバイトが届くまでの時間です。出口を経由する往復と、ターゲット自身の処理時間が含まれます。
合計時間。 リクエストの開始から最後のバイトまでの時間です。コードが実際に待つのはこの時間で、重いページでは最初のバイトまでの時間よりはるかに長くなることがあります。
Atlasは、負荷をかけた状態で、プロキシを経由し、プレーンなHTTPのターゲットに対する合計時間を測定しています。プレーンなHTTPを使うのは意図的な選択です。HTTPSではCONNECTとTLSハンドシェイクが加わり、往復の回数がおよそ2倍になります。HTTPとHTTPSのターゲットを混ぜると、チャートがネットワークの性能ではなく、どのターゲットを試したかを反映してしまいます。それ以外のターゲットも成功率とブロックは報告しますが、レイテンシの数値には反映しません。
負荷も重要です。少数のリクエストにだけ応答しているネットワークは、実際の同時接続数で動くときとは大きく違って見えることがあります。Atlasは低負荷時のレイテンシを記録し、センサス時の同時接続数で各リージョンがどれだけ遅くなるかを測定して、両方を表示します。チャートを作成したときにどれだけのトラフィックが流れていたかが書かれていなければ、おそらく低負荷時の姿です。
形を読む
何が測定されたかが分かったら、チャートの形は、どの単一のパーセンタイルよりも多くのことを教えてくれます。
ピークが鋭く、裾が短い。 出口が安定しており、ゲートウェイにも余裕があります。最も良い状態です。
ピークは通常で、裾が長く平らです。 大半の出口は問題ありませんが、一部のリクエストが遅いデバイス、遠い出口、ゲートウェイ内部の再試行に当たっています。p99を時系列で確認してください。中央値が動かないのにp99が動くなら、裾は負荷や時間帯に依存しています。
ピークが2つある。 リクエストの母集団が2つあります。近い出口と遠い出口が混在している場合や、回線の異なる2種類のピアデバイスがある場合が多いです。結論を出す前に、国ごと、または出口ネットワークごとに分けて見てください。
タイムアウトの位置にスパイクがある。 クライアントの制限時間ちょうどにリクエストが集中している状態です。これらは遅い応答ではなく失敗であり、レイテンシではなく失敗として数えるべきです。
レイテンシが示さないこと
レイテンシチャートが示すのは、戻ってきたリクエストだけです。戻ってきたものが役に立つかどうかについては、何も示しません。
ブロックページやCAPTCHAは、ターゲット側の処理が少ないため、本来のページより速く返ってくることがあります。拒否されているために速いネットワークは、レイテンシチャート上では優秀に見えます。レイテンシは必ず、同じ期間、同じターゲットの成功率およびチャレンジ率と並べて読んでください。
自分で制御できるレイテンシを減らしたい場合は、プロバイダーを乗り換えるよりも、接続の再利用、適切な地域フィルター、すぐに失敗させるタイムアウトのほうが効果的です。それぞれの方法は、レジデンシャルプロキシ利用時のレイテンシ削減で順に解説しています。レイテンシがランキングにどう反映されるかについては、関連ガイドの最速のレジデンシャルプロキシの見分け方をご覧ください。
あらゆるレイテンシ数値のチェックリスト
プロバイダー、レビューサイト、自分のテストのいずれから得た数値でも、レイテンシの数値を信頼する前に、次の点を確認してください。
- どのパーセンタイルか。 中央値だけでは裾が隠れます。p90とp99も確認してください。
- どの時間か。 接続、最初のバイト、最後のバイトのどれかです。実際に待つのは最後のバイトまでの時間だけです。
- どの負荷の下か。 アイドル状態のトラフィックは、どのネットワークもよく見せます。
- どの期間か。 静かな1時間は、1週間分のトラフィックの代わりになりません。
- どう合成したか。 ヒストグラムの統合か、パーセンタイルの平均かを確認してください。
- どのターゲットか。 HTTPとHTTPS、軽いページと重いページは比較できません。
- 成功率はどうか。 失敗の割合が併記されていないレイテンシは、誤解を招くことがあります。
単一の数値ではなく分布として自分で測定する方法は、レジデンシャルプロキシの速度と成功率のテスト方法の解説に、応用できるスクリプトがあります。そのうえで、自分で測ったp99をAtlasのレイテンシ比較の行と並べて、測定した裾が公開されている値と一致するかどうかを確認してください。