La plupart des chiffres de latence fournis par les prestataires se réduisent à une seule valeur, ce qui est la façon la moins utile de décrire le temps que prennent les requêtes. La latence est une distribution. La plupart des requêtes se concentrent dans une bande étroite, quelques-unes durent beaucoup plus longtemps, et ce sont ces quelques-unes qui décident si votre tâche se termine dans les temps.
Les sorties résidentielles élargissent cet écart plus qu’on ne l’imagine. Une requête passant par des proxies résidentiels voyage de votre client jusqu’à la passerelle du fournisseur, puis vers un appareil grand public sur une connexion domestique, ensuite vers la cible, et revient par le même chemin. Chacun de ces sauts peut connaître une mauvaise seconde. Ce guide explique comment lire un graphique qui montre toute la dispersion, et quoi demander avant de lui accorder votre confiance.
Ce que montre réellement un graphique de latence
Un graphique de latence est généralement un histogramme : les temps de réponse en bas, le nombre de requêtes dans chaque intervalle de temps sur le côté. Pour un réseau résidentiel, il a une forme reconnaissable. Un pic élevé à gauche, où la plupart des requêtes se terminent, et une longue queue fine qui s’étire vers la droite, où se trouvent les requêtes lentes.
Les percentiles sont des repères placés sur cette forme :
- p50, la médiane. La moitié des requêtes se sont terminées plus vite que cette valeur, l’autre moitié plus lentement.
- p90. Neuf requêtes sur dix se sont terminées plus vite. Une sur dix a duré au moins ce temps.
- p99. Quatre-vingt-dix-neuf requêtes sur cent se sont terminées plus vite. C’est là que commence le un pour cent le plus lent.
L’écart entre le p50 et le p99 est la partie la plus instructive du graphique. Un écart étroit signifie qu’un réseau se comporte de la même façon dans ses bonnes et ses mauvaises minutes. Un écart large signifie que la médiane décrit un réseau que vous ne rencontrerez que par moments.
Pourquoi la médiane masque la queue de distribution
La médiane décrit correctement une requête isolée. Elle décrit mal une tâche, car une tâche est faite de nombreuses requêtes et les plus lentes s’additionnent.
Prenons un exemple fictif. Supposons que la médiane d’un réseau soit de 600 ms et son p99 de 6 secondes. Une requête sur cent tombe dans cette queue. Si votre scraper récupère 20 pages à la suite pour chaque enregistrement, la probabilité qu’un enregistrement donné rencontre au moins une requête de la queue est d’environ 1 sur 5 (un moins 0,99 puissance 20). Un cinquième de vos enregistrements prend alors plusieurs secondes de plus que ne le laisse penser la médiane, et la médiane n’a pas bougé.
Le volume aggrave la situation. À 500 000 requêtes par jour, un pour cent représente 5 000 requêtes lentes. Si chacune immobilise un worker ou un onglet de navigateur, votre débit est fixé par la queue, et non par le pic. C’est pourquoi deux réseaux ayant la même médiane peuvent produire des durées de tâche très différentes.
Les percentiles ne se moyennent pas
Une erreur fréquente dans les tableaux comparatifs consiste à moyenner des percentiles : prendre le p99 de chaque pays ou de chaque heure et les moyenner pour obtenir un seul p99. Le résultat n’est le p99 de rien du tout.
Les percentiles découlent de la forme de la distribution entière. Pour combiner correctement deux séries de mesures, il faut d’abord fusionner les histogrammes sous-jacents, puis lire le percentile sur la forme fusionnée. Atlas procède ainsi : l’histogramme de chaque créneau horaire est fusionné dans la fenêtre à poids égal, de sorte qu’une heure creuse de nuit compte autant qu’un après-midi chargé, et qu’aucun chiffre n’est une moyenne de moyennes. Les définitions de la latence sur la page de méthodologie donnent les règles exactes.
Si un graphique publié n’indique pas comment ses percentiles ont été combinés, partez du principe qu’ils ont été moyennés et considérez le chiffre de la queue avec méfiance.
Quelle latence examinez-vous ?
Le mot « latence » recouvre au moins trois mesures différentes, et les fournisseurs ont tendance à citer la plus petite.
Temps de connexion. Le temps nécessaire pour ouvrir une connexion vers la passerelle. Sur une connexion inactive vers une passerelle proche, il est court, et il ne dit rien de la sortie résidentielle ni de la cible.
Temps jusqu’au premier octet. Du moment où la requête est envoyée jusqu’au premier octet de la réponse. Il inclut le passage par la sortie et le temps de traitement propre à la cible.
Temps total. Du début de la requête jusqu’au dernier octet. C’est ce qu’attend votre code, et sur une page lourde il peut être bien plus long que le temps jusqu’au premier octet.
Atlas mesure le temps total sous charge, à travers le proxy, sur une cible en HTTP simple. Ce choix de HTTP simple est délibéré. HTTPS ajoute un CONNECT et une négociation TLS, ce qui double à peu près les allers-retours, et mélanger des cibles HTTP et HTTPS ferait refléter au graphique le choix des cibles testées plutôt que les performances du réseau. Les autres cibles remontent tout de même les taux de succès et de blocage ; elles n’alimentent simplement pas le chiffre de latence.
La charge compte aussi. Un réseau qui répond à une poignée de requêtes peut sembler très différent du même réseau à une concurrence réelle. Atlas enregistre la latence en charge légère et mesure de combien chaque région ralentit à la concurrence du recensement, puis affiche les deux. Si un graphique n’indique pas quel trafic circulait pendant son tracé, il s’agit probablement d’une image en charge légère.
Lire la forme
Une fois que vous savez ce qui a été mesuré, la forme du graphique en dit plus que n’importe quel percentile isolé.
Un pic resserré avec une queue courte. Des sorties homogènes et une passerelle qui ne peine pas. Le meilleur cas.
Un pic normal avec une queue longue et plate. La plupart des sorties sont correctes, mais une partie des requêtes tombe sur des appareils lents, des sorties éloignées ou des nouvelles tentatives au sein de la passerelle. Surveillez le p99 dans le temps ; s’il bouge alors que la médiane reste immobile, la queue dépend de la charge ou de l’heure.
Deux pics. Deux populations de requêtes. Souvent un mélange de sorties proches et lointaines, ou de deux types d’appareils pairs avec des connexions différentes. Séparez par pays ou par réseau de sortie avant de tirer des conclusions.
Un pic au niveau du délai d’expiration. Un amas de requêtes accumulées exactement à la limite de temps du client. Ce ne sont pas des réponses lentes, ce sont des échecs, et ils doivent être comptés comme des échecs, pas comme de la latence.
Ce que la latence ne vous dit pas
Un graphique de latence ne décrit que les requêtes qui sont revenues. Il ne dit rien de l’utilité de ce qui est revenu.
Une page de blocage ou un CAPTCHA peut revenir plus vite que la vraie page, car la cible a fourni moins de travail. Un réseau rapide parce qu’il est refusé paraîtra excellent sur un graphique de latence. Lisez toujours la latence à côté des taux de succès et de défi pour la même fenêtre et les mêmes cibles.
Si vous voulez réduire la latence que vous maîtrisez, la réutilisation des connexions, des filtres géographiques adaptés et des délais d’expiration qui échouent vite aident davantage que de changer de fournisseur ; réduire la latence avec des proxies résidentiels passe chacun de ces points en revue. Pour savoir comment la latence entre dans un classement, consultez le guide complémentaire sur comment juger les proxies résidentiels les plus rapides.
Une liste de contrôle pour tout chiffre de latence
Avant de faire confiance à un chiffre de latence, qu’il vienne d’un fournisseur, d’un site d’avis ou de votre propre test, vérifiez :
- Quels percentiles ? Une médiane seule masque la queue. Demandez aussi le p90 et le p99.
- Quel temps ? Connexion, premier octet ou dernier octet. Seul le dernier correspond à ce que vous attendez.
- Sous quelle charge ? Un trafic inactif avantage tous les réseaux.
- Sur quelle fenêtre ? Une heure creuse ne vaut pas une semaine de trafic.
- Combinés comment ? Histogrammes fusionnés, ou percentiles moyennés.
- Quelle cible ? HTTP et HTTPS, pages légères et lourdes, ne sont pas comparables.
- Avec quel taux de succès ? Une latence sans la part d’échecs à côté peut induire en erreur.
Pour réaliser votre propre mesure sous forme de distribution plutôt que de valeur unique, le tutoriel sur tester la vitesse et le taux de succès d’un proxy résidentiel propose des scripts que vous pouvez adapter. Placez ensuite votre p99 à côté des lignes de latence comparées dans Atlas et vérifiez si la queue que vous avez mesurée correspond à celle qui est publiée.