博客
指南、教程与 洞见
从 Shifter 团队了解住宅代理、网页抓取、数据采集策略及行业最佳实践。
知识
知识 3 分钟阅读
各国的同意墙:互联网在哪里最难阅读
同意横幅、拒绝墙和付费或同意屏幕的分布并不均衡。对31个国家的抓取结果显示了互联网在哪些地方最难访问。
数据抓取
数据抓取 1 分钟阅读
如何在多个网站上监控雇主评价和评分
雇主评价影响求职者的申请意愿。如何在各评价网站上监控评分和主题、对标竞争对手,并遵守各网站的规则。
知识
知识 2 分钟阅读
如何实时追踪裁员和劳动力变化
裁员在成为头条新闻前后都会留下公开信号的痕迹。如何将WARN通知、监管文件、新闻和招聘数据整合成可靠的事件信息流。
知识
知识 2 分钟阅读
通过代理利用实时网络数据为LLM代理提供依据
依据将代理的答案与其可以引用的来源联系起来。什么是依据、实时网络依据循环如何运作,以及它悄然失效的地方。
数据抓取
数据抓取 1 分钟阅读
如何从开放网络构建大规模训练数据集
收集页面只是简单的部分。如何将开放网络爬取内容转化为训练语料库:抓取前沿、退出选择、内容提取、过滤、去重与去污染。
知识
知识 2 分钟阅读
如何检测和过滤网络数据集中的AI生成内容
没有一种检测器能够单独可靠地识别AI生成文本。机器学习团队如何结合来源、出处、重复及统计信号来过滤网络数据集。
知识
知识 2 分钟阅读
联系人与公司数据增强:数据来源 + 代理基础设施
数据增强用于填补您现有记录中的空白。每种增强类型需要什么、数据来自哪里,以及代理基础设施在其中的作用。
数据抓取
数据抓取 2 分钟阅读
通过网页抓取构建B2B潜客数据库(合规且可扩展)
潜客数据库是一种附带联系人的客户模型,而非邮件列表。如何从公开数据源构建潜客数据库,并将合规性内置于数据结构中。
知识
知识 2 分钟阅读
如何监控暗网和粘贴网站上泄露的凭据
大多数凭据泄露出现在粘贴网站和公开渠道上,而非隐藏市场。如何监控这些渠道、对发现的信息进行分类处理,并确保合法合规。