博客

指南、教程与 洞察

从 Shifter 团队了解住宅代理、网页抓取、数据采集策略及行业最佳实践。

知识
知识 2 分钟阅读

如何在 Puppeteer 中使用住宅代理(含 page.authenticate)

Puppeteer 里的代理:代理放进启动参数,凭据放进 page.authenticate,经一个 gateway 做按页面地理轮换,以及资源拦截。

Chris Collins Chris Collins · 2026年8月5日
知识
知识 1 分钟阅读

2026 年网页抓取的现状

AI 让数据采集变得战略化,反爬走向网络层,封锁变得隐形,计价转向了带宽。2026 年网页抓取身处何地。

James Meadow James Meadow · 2026年8月3日
知识
知识 3 分钟阅读

如何在 C# 中用 HttpClient 使用住宅代理

C# 里的代理:带 NetworkCredential 的 WebProxy、SocketsHttpHandler 与 PooledConnectionLifetime、IHttpClientFactory,以及用于地理轮换的按身份客户端。

Chris Collins Chris Collins · 2026年8月2日
知识
知识 1 分钟阅读

自建还是购买:你该自己运营抓取基础设施吗?

一个演示抓取器只要一个下午。把它跑到规模上则是一个产品。一套框架,讲清什么该自建、什么该购买,以及那唯一一层永远该租。

Chris Collins Chris Collins · 2026年8月1日
知识
知识 4 分钟阅读

如何在 Node.js 中用 Axios 和 Got 使用住宅代理

Node.js 里的代理:为什么 Axios 需要 https-proxy-agent 和 proxy:false、Got 的 agent 选项、undici 给 fetch 用的 ProxyAgent,以及按请求的地理轮换。

Chris Collins Chris Collins · 2026年7月29日
知识
知识 3 分钟阅读

如何用 Kubernetes 扩展住宅代理抓取工作负载

在 Kubernetes 上跑抓取:代理凭据用 Secret,用 Downward API 给每个 Pod 分配会话身份,按队列深度自动扩缩,以及优雅关停。

Chris Collins Chris Collins · 2026年7月28日
知识
知识 4 分钟阅读

如何在 PHP 中用 cURL 和 Guzzle 使用住宅代理

PHP 里的代理:cURL 的 CURLOPT_PROXY 和 CURLOPT_PROXYUSERPWD、Guzzle 的 proxy 选项与连接复用、CURLOPT_HTTPPROXYTUNNEL,以及按请求的地理轮换。

Chris Collins Chris Collins · 2026年7月26日
知识
知识 3 分钟阅读

如何在 Java 中用 OkHttp 和 Apache HttpClient 使用住宅代理

Java 里的代理:OkHttp 的 proxyAuthenticator 坑、Apache HttpClient 默认每路由 5 的连接池上限、entity 消费,以及按请求的地理轮换。

Chris Collins Chris Collins · 2026年7月25日
知识
知识 4 分钟阅读

如何在 Go 中用 net/http 和 Colly 使用住宅代理

Go 里的代理:transport 配置、会毁掉连接复用的 body 排空与 MaxIdleConnsPerHost 两个坑、按请求的地理轮换,以及 Colly 的 SetProxyFunc。

Chris Collins Chris Collins · 2026年7月24日