용어집

로테이팅 프록시란 무엇인가요?

로테이팅 프록시는 사용 가능한 IP 풀에서 가져와 각 요청마다(또는 일정한 시간 간격으로) 서로 다른 IP 주소를 자동으로 할당하는 프록시 서비스입니다.

로테이팅 프록시가 어떻게 풀 전체에 트래픽을 분산시키는지, 왜 요청 단위 로테이션이 속도 제한을 무력화하는지, 그리고 로테이션이 도움보다 해가 되는 경우는 언제인지 이해합니다.

설명

로테이팅 프록시는 단일 프록시라기보다는 서비스 수준의 개념입니다. 하나의 IP를 제공하는 대신, IP 풀에 대한 접근을 제공하며 게이트웨이가 보내는 각 요청마다(또는 타이머에 따라) 다른 IP를 선택합니다. 목적지 사이트는 여러 다른 IP에서 오는 요청의 흐름을 보게 되며, 이는 IP별 속도 제한에 대한 가장 효과적인 방어 수단입니다.

로테이팅 프록시 서비스는 대개 레지덴셜 프록시를 기반으로 구축되며, 기반이 되는 풀은 게이트웨이가 활용할 수 있는 수억 개의 소비자 IP로 구성됩니다. 각 요청은 독립적으로 보입니다. 게이트웨이는 하나의 연결을 종료하고 새로운 종료 IP를 선택한 후 다음 요청을 위해 새로운 연결을 엽니다. 따라서 대상 사이트는 사용자의 활동을 단일 출처로 추적할 수 없습니다.

이때 발생하는 절충점은 세션 연속성입니다. 여러 요청에 걸쳐 동일한 IP가 필요한 작업(로그인 흐름, 다단계 결제, IP에 종속된 CSRF 토큰)은 요청 단위 로테이션에서는 제대로 작동하지 않습니다. 이러한 경우에는 로테이션 전에 일정 기간 동안 하나의 IP를 유지하는 스티키 세션을 사용해야 합니다.

작동 방식

로테이팅 프록시 게이트웨이에 연결하면, 한 번만 인증한 후 단일 엔드포인트에 연결하는 것처럼 요청을 보낼 수 있습니다. 게이트웨이는 사용 가능한 종료 IP 풀(제품에 따라 레지덴셜, ISP 또는 모바일)을 유지합니다. 들어오는 각 요청에 대해 무작위, 라운드 로빈 또는 지역/상태 필터를 기준으로 IP를 선택한 다음 해당 IP를 통해 요청을 전달합니다.

대상 사이트는 모든 요청이 동일한 클라이언트에서 발생했음에도 불구하고 N개의 서로 다른 IP에서 온 N개의 요청을 보게 됩니다. 게이트웨이가 모든 연결 관리, IP 상태 확인, 로테이션 로직을 처리하므로, 클라이언트 입장에서는 마치 단일 프록시 주소가 요청마다 '마법처럼' 다른 발신 IP를 반환하는 것처럼 보입니다.

타입

요청별 로테이션

모든 단일 요청마다 새로운 IP가 할당됩니다. 다양성이 최대화되어 각 페이지가 서로 관련이 없는 대용량 독립 스크래핑에 이상적입니다.

시간 기반 로테이션

IP는 로테이션되기 전까지 일정 기간(예: 5분) 동안 유지됩니다. 어느 정도의 세션 연속성을 원하지만 장기간 지속되는 바인딩은 원하지 않을 때 유용합니다.

스티키-후-로테이션 (세션 인식)

IP는 클라이언트가 특정 세션 ID(사용자 이름 또는 헤더로 전달됨)를 사용하는 동안 유지되며, 클라이언트가 새로운 세션으로 이동하면 해제됩니다. 워크플로우별 안정성과 워크플로우별 IP 다양성을 결합합니다.

일반적인 사용 사례

대규모 웹 스크래핑(수백만 페이지)
검색 엔진 SERP 스크래핑 (키워드별 IP 로테이션)
수천 개 상품에 대한 가격 모니터링
공개 API에서 IP별 속도 제한 회피
분산 상태 확인 및 광고 검증
보호 대상에서 IP 기반 스로틀링 방어
자주 묻는 질문

자주 묻는 질문

다음에 대한 일반적인 질문 로테이팅 프록시.

각 요청이 서로 독립적일 때(관련 없는 페이지의 대량 스크래핑, 키워드별 SERP 스크래핑)는 로테이팅 프록시를 사용하세요. 로그인 플로우, 페이지네이션된 검색 결과, 다중 페이지 체크아웃처럼 워크플로우에서 여러 요청에 걸쳐 동일한 IP가 필요할 때는 스티키 세션을 사용하세요.

예. Shifter의 레지덴셜 프록시 게이트웨이는 2억 5백만 개 이상의 레지덴셜 IP 풀에서 가져오며 기본적으로 요청마다 로테이션됩니다. 세션 연속성이 필요한 경우 스티키 세션도 설정할 수 있습니다.

요청별 로테이션은 자동으로 이루어집니다. 게이트웨이는 보내는 모든 요청에 대해 새로운 IP를 선택합니다. 로테이션 자체에는 속도 제한이 없습니다. 처리량은 로테이션 로직이 아니라 네트워크 지연 시간과 계정의 대역폭 등급에 의해 제한됩니다.

예, 그것이 주요 주의 사항입니다. 요청당 로테이션은 각 요청이 서로 다른 IP에서 오는 것을 의미하며, 이는 IP에 종속된 세션 상태를 깨뜨립니다. 로그인이 필요한 작업 흐름의 경우, 세션 동안 동일한 IP를 유지하는 스티키 세션이나 ISP 프록시로 전환하세요.

'레지덴셜 프록시'는 기반이 되는 풀이 레지덴셜 IP라는 것을 나타냅니다. '로테이팅'은 회전 동작만을 설명하며, 이는 레지덴셜, 데이터센터, 모바일 또는 ISP 풀 어디에도 적용될 수 있습니다. 대부분의 최신 로테이팅 프록시 서비스가 레지덴셜 프록시인 이유는, 이것이 보호된 사이트에서 높은 성공률을 만들어내는 IP 유형이기 때문입니다.

게이트웨이는 일반적으로 지오 필터(지정한 국가/도시/ASN과 일치), IP 상태(최근 플래그된 IP 제외), 로드 밸런싱의 조합을 기반으로 풀에서 선택합니다. 정확한 선택 알고리즘은 제공업체마다 다르지만, 세션 ID를 사용한 스티키 세션을 사용할 때만 결과가 결정적입니다.