Guías, Tutoriales e Ideas
Aprende sobre proxies residenciales, web scraping, estrategias de recopilación de datos y buenas prácticas del sector con el equipo de Shifter.
Programación de rastreo con conciencia de costes: gastar tu presupuesto donde cambia
La mayor parte del presupuesto de rerastreo se gasta en confirmar que nada ha cambiado. Cómo programar según el valor esperado por coste, y por qué las páginas que cambian más rápido no son la mejor compra.
Backpressure y control de flujo en crawlers distribuidos
Un crawler es una tubería, y su etapa más rápida inundará a la más lenta. Cómo las colas acotadas, el trabajo basado en extracción y los límites adaptativos por host mantienen estable a un crawler.
Ejecución de scrapers en CI/CD: credenciales de proxy, secretos y ejecuciones de prueba
Cómo ejecutar scrapers en CI sin filtrar credenciales de proxy ni consumir ancho de banda en cada push: almacenamiento de secretos, niveles de prueba, sesiones, comprobaciones de cuota y rotación.
Cómo monitorizar las reseñas y valoraciones de empleadores en distintos sitios
Las reseñas de empleadores determinan quién solicita empleo. Cómo monitorizar valoraciones y temas en distintos sitios de reseñas, comparar con la competencia y cumplir las normas de cada sitio.
Cómo crear conjuntos de datos de entrenamiento a gran escala a partir de la web abierta
Recopilar páginas es la parte fácil. Cómo convertir un rastreo de la web abierta en un corpus de entrenamiento: frontera, exclusiones voluntarias, extracción, filtrado, deduplicación y descontaminación.
Creación de una base de datos de leads B2B mediante web scraping (conforme a la normativa y a escala)
Una base de datos de leads es un modelo de cuentas con contactos asociados, no una lista de correos electrónicos. Cómo crear una a partir de fuentes públicas con el cumplimiento normativo integrado en el esquema.
Cómo gestionar el scroll infinito y la paginación dinámica al hacer scraping
¿No puedes replicar el endpoint oculto? Gestiona el scroll infinito dentro del render con cadenas de scroll, clics en cargar más y comprobaciones para listas virtualizadas.
Cómo mover datos de una Web Scraping API a bases de datos SQL a gran escala
Obtener los datos es la parte fácil. Cómo llevar la salida de una API de scraping a SQL con cargas idempotentes, campos tipados, alertas de desviación de esquema y procedencia intacta.
Agregación de anuncios inmobiliarios en portales inmobiliarios globales
Agregar anuncios en portales y países es un problema de normalización. Taxonomías, unidades de superficie, semántica de precios y cómo reconciliar las discrepancias.