博客
指南、教程与 洞见
从 Shifter 团队了解住宅代理、网页抓取、数据采集策略及行业最佳实践。
知识
知识 2 分钟阅读
如何在 Selenium 中使用住宅代理(含需认证的代理)
Selenium 设代理主机很容易,但没有内建方式来传凭据。如何用 Selenium Wire、一个扩展、或 CDP 来处理需认证的代理。
数据抓取
数据抓取 1 分钟阅读
如何在规模上可靠地抓取分页与无限滚动
分页正是抓取器无声丢数据的地方:跳过的页、重复计数、过早停下。如何把每个条目恰好取一次,并知道你到底有没有取完。
住宅代理
住宅代理 4 分钟阅读
Shifter 对比 Decodo:我们统计了 5 个国家的每一个存活 IP
Shifter 的价格低至 $0.75/GB,而 Decodo 为 $2.75。我们在 5 个国家分别通过两者发送了 560,000 次请求,并统计了每一个唯一出口 IP。完整结果和方法。
知识
知识 2 分钟阅读
如何在 Puppeteer 中使用住宅代理(含 page.authenticate)
Puppeteer 里的代理:代理放进启动参数,凭据放进 page.authenticate,经一个 gateway 做按页面地理轮换,以及资源拦截。
数据抓取
数据抓取 1 分钟阅读
监控一条抓取管线:那些在你的数据崩坏之前就告诉你它正在崩的指标
抓取器会无声地失败:cron 在跑,日志写着 200,数据却悄悄坏掉。那些在管线里、而不是在董事会里抓住它的指标与告警。
知识
知识 1 分钟阅读
2026 年网页抓取的现状
AI 让数据采集变得战略化,反爬走向网络层,封锁变得隐形,计价转向了带宽。2026 年网页抓取身处何地。
知识
知识 3 分钟阅读
如何在 C# 中用 HttpClient 使用住宅代理
C# 里的代理:带 NetworkCredential 的 WebProxy、SocketsHttpHandler 与 PooledConnectionLifetime、IHttpClientFactory,以及用于地理轮换的按身份客户端。
知识
知识 1 分钟阅读
自建还是购买:你该自己运营抓取基础设施吗?
一个演示抓取器只要一个下午。把它跑到规模上则是一个产品。一套框架,讲清什么该自建、什么该购买,以及那唯一一层永远该租。
数据抓取
数据抓取 1 分钟阅读
如何识别一个站点正在给你返回伪造或被封的内容
危险的抓取失败不是你看得见的 403,而是那个塞满垃圾的 200 OK。如何检测软封锁、蜜罐和被投毒的数据。