ガイド、チュートリアル& インサイト
Shifterチームが提供するレジデンシャルプロキシ、ウェブスクレイピング、データ収集戦略、業界のベストプラクティスについて学ぶ。
Webスクレイピングによる B2Bリードデータベースの構築(コンプライアンス対応かつスケーラブルに)
リードデータベースとは、メールアドレスのリストではなく、連絡先が紐づいたアカウントモデルである。コンプライアンスをスキーマに組み込みながら、公開情報源から構築する方法を解説する。
ダークウェブとペーストサイトを監視して漏洩認証情報を発見する方法
認証情報の漏洩の大半は、隠されたマーケットではなくペーストサイトや公開チャンネルに現れます。それらを監視し、発見した情報をトリアージし、法の範囲内にとどまる方法を解説します。
不正対策チームがレジデンシャルIPシグナルでアカウント乗っ取りを検知する方法
レジデンシャルIPはもはや実在の顧客を意味しない。不正対策チームがジオ、ネットワーク、速度、整合性のシグナルを組み合わせてアカウント乗っ取りを検知する方法。
市場間でのジオパーソナライズと動的価格設定を検出する方法
価格は場所、時間、人によって変動するが、単一の観測ではどれが原因かを判別できない。3つを切り分けるための、対にした管理された検証を設計する方法。
JavaScriptの多いサイトのスクレイピング:Web Scraping APIが必要になるとき
サイトがレンダリングを必要とする段階になると、実質的な選択は自前のブラウザ群を運用するかAPIを使うかになります。それぞれの運用コストと、対象ごとの判断基準について説明します。
スクレイピング時に無限スクロールと動的ページネーションを処理する方法
隠しエンドポイントをリプレイできない場合は、スクロールチェーン、Load Moreクリック、仮想化リストのチェックを使ってレンダリング内部で無限スクロールを処理する。
不動産会社が市場インテリジェンスのためにWebスクレイピングAPIを活用する方法
不動産ポータルはJavaScriptを多用し、ページネーションがあり、地域ごとにローカライズされています。不動産チームがWebスクレイピングAPIを収集レイヤーとしてどのように利用しているか、そのコストとともに解説します。
Amazonモニタリングと価格インテリジェンスのための最適なWebスクレイピングAPI
Amazon向けに最適なAPIは、目的とする作業によって異なる。3種類のAPIがどう比較されるか、購入前に何をテストすべきか、そして各APIが価格スタックのどこに適するかを解説する。
Webスクレイピング APIデータを大規模にSQLデータベースへ移行する
取得は簡単な方の半分にすぎません。冪等なロード、型付きフィールド、スキーマドリフトのアラート、そして来歴情報を保持したまま、スクレイピングAPIの出力をSQLに格納する方法を解説します。