A maioria dos números de latência de proxy é um valor único, e um valor único é a forma menos útil de descrever quanto tempo as requisições levam. Latência é uma distribuição. A maior parte das requisições cai numa faixa estreita, algumas levam muito mais tempo, e são essas poucas que decidem se o seu trabalho termina no prazo.
As saídas residenciais deixam essa dispersão maior do que a maioria das pessoas espera. Uma requisição feita por proxies residenciais vai do seu cliente até o gateway do provedor, sai para um dispositivo de consumidor numa conexão doméstica, segue até o alvo e volta por todo o caminho. Qualquer um desses trechos pode ter um segundo ruim. Este guia explica como ler um gráfico que mostra a dispersão inteira e o que perguntar antes de confiar em um.
O que um gráfico de latência realmente mostra
Um gráfico de latência costuma ser um histograma: os tempos de resposta na base e, na lateral, o número de requisições em cada faixa de tempo. Numa rede residencial, ele tem um formato reconhecível. Um pico alto à esquerda, onde a maioria das requisições termina, e uma cauda longa e fina se estendendo para a direita, onde ficam as lentas.
Os percentis são marcadores sobre esse formato:
- p50, a mediana. Metade das requisições terminou mais rápido que isso, metade mais devagar.
- p90. Nove em cada dez requisições terminaram mais rápido. Uma em cada dez levou pelo menos esse tempo.
- p99. Noventa e nove em cada cem terminaram mais rápido. É aqui que começa o um por cento mais lento.
A diferença entre o p50 e o p99 é a parte mais informativa do gráfico. Uma diferença pequena significa que a rede se comporta do mesmo jeito nos minutos bons e nos ruins. Uma diferença grande significa que a mediana descreve uma rede que você só vai encontrar parte do tempo.
Por que a mediana esconde a cauda
A mediana descreve bem uma única requisição. Ela descreve mal um trabalho, porque trabalhos são feitos de muitas requisições e as lentas se acumulam.
Pegue um exemplo inventado. Digamos que a mediana de uma rede seja 600 ms e o p99 seja 6 segundos. Uma requisição em cada cem cai nessa cauda. Se o seu scraper busca 20 páginas em sequência para cada registro, a chance de um registro qualquer atingir pelo menos uma requisição da cauda é de cerca de 1 em 5 (um menos 0,99 elevado a 20). Um quinto dos seus registros passa a levar segundos a mais do que a mediana sugere, e a mediana não se mexeu em nada.
O volume piora a situação. Com 500.000 requisições por dia, um por cento são 5.000 requisições lentas. Se cada uma mantém um worker ou uma aba de navegador ocupados, o seu throughput é definido pela cauda, não pelo pico. É por isso que duas redes com a mesma mediana podem produzir tempos de trabalho muito diferentes.
Percentis não podem ser tirados na média
Um erro comum em tabelas comparativas é tirar a média de percentis: pegar o p99 de cada país ou de cada hora e calcular a média para chegar a um único p99. O resultado não é o p99 de nada.
Os percentis vêm do formato da distribuição inteira. Para combinar corretamente dois conjuntos de medições, você primeiro une os histogramas de origem e depois lê o percentil no formato resultante. A Atlas faz assim: o histograma de cada intervalo de tempo é incorporado à janela com peso igual, de modo que uma madrugada tranquila conta tanto quanto uma tarde movimentada, e nenhum número é uma média de médias. As definições de latência na página de metodologia trazem as regras exatas.
Se um gráfico publicado não diz como seus percentis foram combinados, presuma que foram calculados na média e encare o número da cauda com desconfiança.
Qual latência você está vendo?
“Latência” abrange pelo menos três medições diferentes, e os provedores tendem a divulgar a menor delas.
Tempo de conexão. Quanto leva para abrir uma conexão com o gateway. Numa conexão ociosa com um gateway próximo, isso é rápido, e não diz nada sobre a saída residencial nem sobre o alvo.
Tempo até o primeiro byte. Do envio da requisição até o primeiro byte da resposta. Inclui o trajeto pela saída e o tempo de processamento do próprio alvo.
Tempo total. Do início da requisição até o último byte. É isso que o seu código espera e, numa página pesada, pode ser bem maior que o tempo até o primeiro byte.
A Atlas mede o tempo total sob carga, através do proxy, em um alvo HTTP simples. O HTTP simples é uma escolha deliberada. O HTTPS acrescenta um CONNECT e um handshake TLS, quase dobrando as idas e vindas, e misturar alvos HTTP e HTTPS faria o gráfico refletir quais alvos foram testados, e não o desempenho da rede. Os outros alvos continuam reportando sucesso e bloqueios; apenas não alimentam o número de latência.
A carga também importa. Uma rede respondendo a um punhado de requisições pode parecer muito diferente da mesma rede com concorrência real. A Atlas registra a latência com carga leve e mede quanto cada região desacelera na concorrência de censo, e então mostra as duas. Se um gráfico não diz quanto tráfego estava rodando enquanto era desenhado, provavelmente é o retrato de carga leve.
Lendo o formato
Depois que você sabe o que foi medido, o formato do gráfico diz mais do que qualquer percentil isolado.
Um pico fechado com cauda curta. Saídas consistentes e um gateway que não está sofrendo. O melhor cenário.
Um pico normal com uma cauda longa e plana. A maioria das saídas está bem, mas uma fração das requisições cai em dispositivos lentos, saídas distantes ou novas tentativas dentro do gateway. Acompanhe o p99 ao longo do tempo; se ele se move enquanto a mediana fica parada, a cauda depende de carga ou de horário.
Dois picos. Duas populações de requisições. Muitas vezes é uma mistura de saídas próximas e distantes, ou dois tipos de dispositivos com conexões diferentes. Separe por país ou por rede de saída antes de tirar conclusões.
Um pico no timeout. Um grupo de requisições acumulado exatamente no limite de tempo do cliente. Essas não são respostas lentas, são falhas, e devem ser contadas como falhas, não como latência.
O que a latência não diz
Um gráfico de latência descreve apenas as requisições que voltaram. Ele não diz nada sobre se o que voltou foi útil.
Uma página de bloqueio ou um CAPTCHA pode voltar mais rápido que a página real, porque o alvo fez menos trabalho. Uma rede que é rápida porque está sendo recusada vai parecer excelente num gráfico de latência. Leia sempre a latência ao lado das taxas de sucesso e de desafio para a mesma janela e os mesmos alvos.
Se você quer reduzir a latência que está ao seu alcance, reutilizar conexões, usar filtros geográficos sensatos e definir timeouts que falham rápido ajudam mais do que trocar de provedor; como reduzir a latência com proxies residenciais explica cada um deles. Para ver como a latência entra em um ranking, consulte o guia complementar sobre como avaliar os proxies residenciais mais rápidos.
Um checklist para qualquer número de latência
Antes de confiar em um número de latência, seja de um provedor, de um site de avaliações ou do seu próprio teste, verifique:
- Quais percentis? Só a mediana esconde a cauda. Peça também o p90 e o p99.
- Qual tempo? Conexão, primeiro byte ou último byte. Só o último é o que você espera.
- Sob qual carga? Tráfego ocioso favorece qualquer rede.
- Em qual janela? Uma hora tranquila não é uma semana de tráfego.
- Combinados como? Histogramas unidos, ou percentis na média.
- Qual alvo? HTTP e HTTPS, páginas leves e pesadas, não são comparáveis.
- Com qual taxa de sucesso? Latência sem a parcela de falhas ao lado pode enganar.
Para executar sua própria medição como uma distribuição, e não como um número único, o passo a passo sobre como testar a velocidade e a taxa de sucesso de proxies residenciais traz scripts que você pode adaptar. Depois, coloque o seu p99 ao lado das linhas de latência lado a lado na Atlas e veja se a cauda que você mediu corresponde à publicada.