博客
指南、教程与 洞见
从 Shifter 团队了解住宅代理、网页抓取、数据采集策略及行业最佳实践。
数据抓取
数据抓取 2 分钟阅读
通过网页抓取构建B2B潜客数据库(合规且可扩展)
潜客数据库是一种附带联系人的客户模型,而非邮件列表。如何从公开数据源构建潜客数据库,并将合规性内置于数据结构中。
数据抓取
数据抓取 2 分钟阅读
如何处理网页抓取中的无限滚动和动态分页
无法重放隐藏的接口?可以在渲染内处理无限滚动,使用滚动链、加载更多点击操作,并检查虚拟化列表。
数据抓取
数据抓取 3 分钟阅读
大规模将 Web Scraping API 数据导入 SQL 数据库
抓取只是简单的一半。如何将 scraping API 的输出落地到 SQL 中,同时保证幂等加载、字段类型化、模式漂移告警以及数据溯源完整。
数据抓取
数据抓取 1 分钟阅读
跨全球房地产平台聚合房源信息
跨平台、跨国家聚合房源信息是一个标准化问题。涉及分类体系、面积单位、价格含义,以及如何调和其中的分歧。
数据抓取
数据抓取 1 分钟阅读
为房地产科技平台抓取估值、租金和抵押贷款数据
估值、租金和抵押贷款利率是三个不同的数据问题,来自三个不同的来源。如何采集每一种数据,并对采集到的内容进行标注。
数据抓取
数据抓取 1 分钟阅读
如何检测第三方卖家劫持你的商品列表
劫持者不会窃取你的产品,而是附着在你的商品列表上。这些暴露其行为的信号、监测方法以及应保留哪些证据。
数据抓取
数据抓取 1 分钟阅读
通过自动化抓取构建竞争对手创意素材库
创意素材库本质上是去重和元数据问题,而非下载问题。如何构建一个既能保持可搜索性又合法的素材库。
数据抓取
数据抓取 1 分钟阅读
构建用于动态定价的实时竞争价格数据流
动态定价的效果取决于其背后的数据流。如何构建一个具备时效性、置信度和安全层的竞争价格数据管道。
数据抓取
数据抓取 1 分钟阅读
《数字服务法》正在将网络观察转变为监管基础设施
《数字服务法》的数据访问权限正在重塑平台研究方式。了解为何受控网络观察与地理观测点对问责制至关重要。