가이드, 튜토리얼 및 인사이트
레지덴셜 프록시, 웹 스크래핑, 데이터 수집 전략 및 업계 모범 사례를 Shifter 팀으로부터 배우세요.
시장별 접근성 감사: 각 국가 사용자가 실제로 보는 것을 테스트하다
미국 홈페이지에 대한 감사는 독일이나 일본 홈페이지에 대해 거의 알려주지 않습니다. 저희는 4개국의 23개 사이트를 감사했으며, 그중 4분의 1은 해당 시장에서만 나타나는 문제를 갖고 있었습니다.
타겟이 차단 가능한가? 안티봇 스택 조회
스크레이퍼를 만들기 전에 타겟을 보호하는 것이 무엇인지 확인하세요. 상위 1,000개 도메인을 조사해 어떤 안티봇 벤더를 사용하는지, 그리고 일반 클라이언트가 어떤 결과를 보였는지 확인했습니다.
요금 패리티 모니터링: 내 재고가 저가로 노출되는 순간 포착하기
호텔은 자사 객실이 다른 채널에서 더 저렴하게 노출될 때 직접 예약을 잃습니다. 오탐 없이 채널과 시장 전반의 요금 패리티를 모니터링하는 방법을 소개합니다.
멀티 암드 밴딧 문제로 보는 프록시 선택
다음 요청에는 어떤 프록시 구성을 사용해야 할까? 이를 밴딧 문제로 다뤄보자. 시뮬레이션에서 적응형 선택은 완벽한 사후 판단 대비 2% 이내로 근접했다.
멱등성 스크레이퍼 설계: 중복 없이 재시작하기
스크레이퍼는 죽는다. 크롤링 도중 열 번을 강제 종료해봤다: 단순한 버전은 최대 4.3배의 행을 저장했고, 멱등성 버전은 정확히 500개를 저장했다. 후자를 만드는 방법.
가짜 리뷰와 리뷰 사기를 대규모로 탐지하는 방법
가짜 리뷰는 미국, 영국, EU에서 금지되어 있으며, 플랫폼은 수억 건을 삭제하고 있습니다. 테스트된 코드로 여러 제품에 걸쳐 리뷰 사기를 탐지하는 방법을 소개합니다.
hreflang를 사용해 페이지의 모든 언어 및 국가 버전 찾기
hreflang는 페이지의 모든 현지화 버전을 나열합니다. 상위 사이트들이 이를 어떻게 사용하는지, 무엇이 깨지는지, 그리고 일부 버전이 왜 특정 국가 내부에서만 열리는지 확인했습니다.
스크랩한 데이터의 문자 인코딩: 문자셋 감지와 모지바케 수정
6개국에서 상위 홈페이지 193개를 가져왔습니다. 흔히 쓰이는 Python 기본값이 그중 37개의 텍스트를 깨뜨렸습니다. 브라우저처럼 스크랩한 페이지를 디코딩하는 방법.
원본 응답 보관: 스크랩한 페이지를 재생을 위해 WARC로 아카이빙하기
파서는 개선되고 추출기는 고장나지만, 보관하지 않은 페이지는 다시 파싱할 수 없습니다. 테스트된 코드와 실제 크기로 원본 응답을 WARC에 저장하는 방법.