指南、教程与 洞察
从 Shifter 团队了解住宅代理、网页抓取、数据采集策略及行业最佳实践。
如何在 Puppeteer 中使用住宅代理(含 page.authenticate)
Puppeteer 里的代理:代理放进启动参数,凭据放进 page.authenticate,经一个 gateway 做按页面地理轮换,以及资源拦截。
2026 年网页抓取的现状
AI 让数据采集变得战略化,反爬走向网络层,封锁变得隐形,计价转向了带宽。2026 年网页抓取身处何地。
如何在 C# 中用 HttpClient 使用住宅代理
C# 里的代理:带 NetworkCredential 的 WebProxy、SocketsHttpHandler 与 PooledConnectionLifetime、IHttpClientFactory,以及用于地理轮换的按身份客户端。
自建还是购买:你该自己运营抓取基础设施吗?
一个演示抓取器只要一个下午。把它跑到规模上则是一个产品。一套框架,讲清什么该自建、什么该购买,以及那唯一一层永远该租。
如何在 Node.js 中用 Axios 和 Got 使用住宅代理
Node.js 里的代理:为什么 Axios 需要 https-proxy-agent 和 proxy:false、Got 的 agent 选项、undici 给 fetch 用的 ProxyAgent,以及按请求的地理轮换。
如何用 Kubernetes 扩展住宅代理抓取工作负载
在 Kubernetes 上跑抓取:代理凭据用 Secret,用 Downward API 给每个 Pod 分配会话身份,按队列深度自动扩缩,以及优雅关停。
如何在 PHP 中用 cURL 和 Guzzle 使用住宅代理
PHP 里的代理:cURL 的 CURLOPT_PROXY 和 CURLOPT_PROXYUSERPWD、Guzzle 的 proxy 选项与连接复用、CURLOPT_HTTPPROXYTUNNEL,以及按请求的地理轮换。
如何在 Java 中用 OkHttp 和 Apache HttpClient 使用住宅代理
Java 里的代理:OkHttp 的 proxyAuthenticator 坑、Apache HttpClient 默认每路由 5 的连接池上限、entity 消费,以及按请求的地理轮换。
如何在 Go 中用 net/http 和 Colly 使用住宅代理
Go 里的代理:transport 配置、会毁掉连接复用的 body 排空与 MaxIdleConnsPerHost 两个坑、按请求的地理轮换,以及 Colly 的 SetProxyFunc。