Guides, tutoriels et analyses
Découvrez les proxies résidentiels, le web scraping, les stratégies de collecte de données et les meilleures pratiques du secteur avec l'équipe Shifter.
Concevoir des scrapers idempotents : redémarrer sans dupliquer
Les scrapers plantent. Nous en avons tué un dix fois en plein crawl : une version naïve stockait jusqu'à 4,3 fois plus de lignes, une version idempotente exactement 500. Comment construire la seconde.
Chris Collins · 2 octobre 2026 Encodages de caractères dans les données extraites : détecter les jeux de caractères et corriger le mojibake
Nous avons récupéré 193 pages d'accueil parmi les plus visitées dans six pays. Un défaut courant de Python a corrompu le texte de 37 d'entre elles. Comment décoder les pages extraites comme le font les navigateurs.
Chris Collins · 1 octobre 2026 Conserver la réponse brute : archiver les pages scrapées en WARC pour la relecture
Les parseurs s'améliorent et les extracteurs se cassent, mais une page que vous n'avez pas conservée ne peut pas être analysée à nouveau. Comment stocker les réponses brutes en WARC, avec du code testé et des tailles réelles.
Matt Brown · 1 octobre 2026 Trouver l'API derrière la page : collecter depuis des points de terminaison JSON plutôt que le HTML
De nombreuses pages chargent leurs données sous forme de JSON. Comment trouver le point de terminaison qui les transporte, pourquoi il est souvent lié à la session de la page, et comment le collecter de manière responsable.
Chris Collins · 30 septembre 2026 Les sitemaps comme source de découverte : trouver chaque URL sans explorer tout le site
Les sitemaps XML listent les URL d'un site, et parfois leur date de modification. Comment les lire correctement, et pourquoi il ne faut jamais faire confiance à lastmod sans vérification.
James Meadow · 29 septembre 2026 Extraction par LLM vs sélecteurs : quand laisser un modèle lire la page
Nous avons fait extraire des champs par un grand modèle de langage sur 18 pages d'actualité en ligne, puis évalué le résultat par rapport aux données structurées propres à ces pages. Précision, coût, et quand l'utiliser.
Chris Collins · 28 septembre 2026 Détection des changements à grande échelle : comparer des pages web sans se noyer dans le bruit
Les pages changent à chaque chargement : publicités, horodatages, jetons. Comment distinguer les vrais changements du bruit grâce à la normalisation, aux diffs au niveau des champs et au simhash, avec du code testé.
Chris Collins · 27 septembre 2026 Arrêtez de parser du HTML : extraire des données structurées depuis JSON-LD et les données intégrées
La plupart des pages contiennent déjà des données lisibles par machine. Comment extraire le JSON-LD et le JSON intégré plutôt que d'utiliser des sélecteurs fragiles, et que faire quand ces données sont incomplètes.
Matt Brown · 26 septembre 2026 Créer un Target Health Score : savoir quand un site se retourne contre vous
Les sites bloquent rarement un crawler en une seule fois. Ils lancent d'abord des challenges, des soft-blocks et des ralentissements. Comment transformer ces signaux en un score unique par site, et agir en conséquence.
Matt Brown · 22 septembre 2026