解析与抓取:您的发票从不在网页上

要点总结

  • 抓取负责获取,解析负责结构化。 抓取获取网页上的数据。解析将文档转化为可用的字段。
  • 解析不需要抓取。 如果文件已经在您的收件箱中,就没有什么需要获取的了。
  • 来源决定工具。 您拥有或收到的文件交由文档解析API处理。您想要监控的公开网页交由网页抓取API处理。
  • 混合设置很常见,绝非妥协。登录门户,下载PDF,将其交给解析器。两个工具,一个管道。
  • 真正的成本差距在于维护。解析器按您可预先清点的文档计费。抓取器除了按这些计费,每次网站改版还需要耗费工程师一整周的时间。

一句话说清解析与抓取

解析和抓取并不是完成同一工作的两种方式。抓取是您获取网页数据的方式。解析是将内容转化为结构化字段的方式。 这两者在网页抓取项目中交汇,抓取器下载HTML,解析器读取它,这就是为什么如此多解释文章将它们展示为第一步和第二步的原因。但它们并不总是连续的。当供应商通过邮件给您发送发票时,当他们按下发送键的那一刻获取步骤就已经完成了。没有页面需要抓取,也没有内容需要爬取。剩下的就只有解析。

这一个区别决定了您要购买什么工具,而弄反了会导致隐形成本不断累积。一个团队为了解决文档问题而去选购抓取API,结果花两个冲刺周期才发现,抓取工具是围绕HTML结构构建的,对扫描的送货单毫无作用。

一个读取网页,另一个读取您的文件

文档解析API 将文件转化为结构化的JSON。PDF、扫描件、电子表格、带附件的电子邮件。它读取布局和文本,提取出键值对和行项目表格,并返回您的系统可以操作的数据。正是这一步使得发票处理、采购订单跟踪和“邮件至数据库”工作流的自动化变得有价值。

An infographic comparing a document parsing API with a web scraping API
Document parsing API vs web scraping API

网页抓取API 通过请求页面并读取HTML或渲染后的DOM,从网站收集数据。它的存在是为了应对这样一种情况:网站发布了有用的信息,但没有提供官方获取渠道,如产品列表、价格变动、新闻报道,以及需要有人手工组装的公共数据集。

两者都被归入“数据提取”的范畴,这个共同的标签是造成大部分混淆的原因。搜索解析与抓取(parsing vs scraping)或抓取与解析(scraping vs parsing),您会发现许多定义。接下来的内容是那些定义所忽略的:如何判断您的问题属于哪一边,维持各方运转的成本是多少,以及真实团队最终采用的混合设置。有关数据流自动化的更广阔图景,请参阅我们的 数据提取API指南;一旦您确认这是一个解析问题,我们的选择 文档提取API 指南涵盖了如何测试各家供应商。

它们实际都在做什么

两者的最终结果都是结构化数据。但在那之前的一切都不同:输入源、故障模式以及源代码所有权。

Scrapingdog 的一项研究报告指出,目前有 34.8%的开发者 正在使用 网页抓取API,而不是自行维护抓取脚本。

文档解析API

输入源是您已经持有的文件。PDF、扫描件、手机拍摄的收据照片、带三个附件的电子邮件,或者是有人从没有API的系统中导出的电子表格。输出的是包含您所要求字段的JSON,包括行项目表格,通过Webhook交付或直接从API读取。

引擎完成过去由模板完成的工作。文本文档和电子邮件通过文本AI引擎处理。PDF、扫描件和图像通过识别布局的视觉AI引擎处理,因此遇到没人见过的供应商格式也不意味着需要重新配置。

人们通过它处理的内容包括:用于应付账款的发票和收据、采购订单的行项目、财务报表、大批量的客户表单,以及将其转化为结构化数据,从而在 Zapier、Make 或 n8n 中触发工作流的运营邮件。

网页抓取API

输入源是一个URL。在此期间,API加载页面,读取DOM,并应用如CSS选择器或XPath的规则来捕捉产品名称、价格和标题。输出结果为JSON或CSV格式的字段。大多数抓取API还会管理代理、渲染和反爬措施,以便请求能够持续成功。

它的存在就是为了应对一种情况。网站发布了有用的信息但未提供官方入口,所以您主动去获取:价格监控、产品目录、新闻聚合、求职板块,以及没人在意组装的公共数据集。

在设计上,文档解析API适合 您拥有或收到的文件,而网页抓取API适合 公共网页

您需要哪一个

从一个问题开始。数据现在位于哪里?几乎所有的用例都能从答案中得出。

An infographic decision tree for choosing between a document parsing API and a web scraping API
Decision tree for parsing vs scraping

这是您合法拥有的文件。 PDF、扫描件、电子邮件附件,或某人下载到共享文件夹的对账单。请使用文档解析API。无需获取任何内容,因此任何有获取功能的工具都只会是徒增维护的机器。

这是一个公共网页。 价格、列表、头条新闻,或仅以网站形式存在的数据集。请使用网页抓取API,但要清楚,除了购买工具,您还承诺了承担后续的维护工作。

两者兼有,这是所有实体公司的常见答案。 一个负责获取文件,另一个负责理解它。下文中的混合模式才是能持续发挥作用的形态。

对于仍感模糊的情况,有两个决定因素:

  • 需要从发票、收据或采购订单中提取行项目和表格?选择解析。不同财务数据之间的Schema一致性并不是选择器被设计来解决的问题。
  • 需要在没人通知您的情况下察觉到来源的变化?选择抓取。按计划定期重新检查页面是抓取工具真正擅长的事情。

要在具体供应商而不是方法之间做选择?我们的 最佳PDF数据提取API 汇总详细涵盖了文档侧的内容。

文档解析与网页抓取对比

没有人会因为功能列表而更换工具。他们是因为维护成本、法律风险以及数据源结构变动时的后果而做出更换。

评估标准 文档解析API 网页抓取API
主要输入 您持有的文件:PDF、扫描图片、带附件的电子邮件 URL、HTML或JSON端点、渲染后的DOM内容
典型输出 包含键值字段和行项目表格的JSON 提取页面元素为JSON或CSV
结构变更影响 稳定。新的供应商布局会被读取,而非重新配置 脆弱。一个重命名的CSS类就能让它在一夜之间失效
维护成本 偶尔的Schema变更,由您自己的需求驱动 选择器修复和处理反爬机制,无休止
成本驱动因素 处理的文档数量,可根据去年的体量预测 代理、浏览器基础设施及工程时间
源代码所有权 您或您的用户提供文档 您未与其签订协议的第三方
法律焦点 隐私和合规:控制者和处理者角色,保留策略 服务条款、robots.txt、反爬规避
数据质量 结构化输出,验证规则,标准化字段 取决于网站的HTML干净程度,每天都在变
您必须保障的安全 传输中和静止状态的加密,签名的Webhook,访问控制,平台已提供 您的代理池、IP轮换和网络卫生
适用条件 您已经 收到文档:发票、收据、合同 您需要 实时的网站内容:价格、库存水平、新闻头条

何时抓取是正确的工具,以及如何在不树敌的情况下进行

当信息仅存在于网站上,并且永远不会有人将其作为文件发送给您时,抓取工具就有了用武之地。它能在大规模收集数据的同时,无需等待合作伙伴、供应商或客户,这也是市场研究、价格监控和知识聚合如此依赖它的原因。

来自 Browsercat 的行业数据显示,全球 网页抓取市场 在2024年约为 10.1亿美元,预计到2032年将达到 24.9亿美元复合年增长率达11.9%

在以下场景,抓取是正确的选择:跨多个电商网站监控价格、从永远不会给您发送源数据的平台聚合公告,或在没有官方API的情况下构建招聘信息、目录条目或活动列表的数据集。

在进行上述任何操作之前,请先检查您是否真的需要抓取。真正的分岔路口通常是网页抓取与API访问,而两者之间的区别归结为同意。API是网站告诉您如何获取数据。抓取是您自己决定。只要提供了官方API,每次都应选择它。

当未提供API时,请礼貌地收集:

  • 在编写任何代码之前阅读 robots.txt 和服务条款
  • 对您的爬虫进行速率限制,这样您就不会成为某人服务器崩溃的原因
  • 积极缓存,而不是重复请求同一页面
  • 诚实地表明您的抓取工具身份,而不是将其伪装成浏览器
  • 当官方API发布时,立即切换过去

并假设网站会发生改变。一个微小的HTML编辑就能破坏您的选择器,并在不引发任何错误的情况下产生丢失或错误的数据,而这种失败恰恰是在提交董事会报告时才会被发现的。监控和警报绝非可有可无的附加项。

抓取容易开始,维护却令人痛苦

一个周末的项目就能为您获取数据。但要让这些数据持续流动两年就是另一回事了,而其难度很少在于技术的高超,而在于消耗战。

Octoparse 的一项分析发现,只有大约50%的网站容易被抓取,而 30%具有中等难度,剩余 20%极具挑战性,原因在于复杂的结构或反爬取措施。

网站会改变,但没人会告诉您

从来没有人在重新设计网站时考虑到您的抓取工具。重命名一个CSS类就足以破坏数据管道,而您收到的警报通常是同事在问为什么昨天的数据看起来很奇怪。

反爬措施现在成了标配

验证码、IP限流、会话验证和机器人检测现在是标准配置。要绕过这些,意味着要轮换代理、管理User-Agent字符串和控制请求频率。这是把工程精力花在了“如何进入”上,而不是花在您想要获取的数据上。如果过度操作,比如绕过付费墙或忽视服务条款,问题就不再是技术上的,而是法律上的。

网站是写给人看的,不是给您的

抓取的数据通常需要清洗和验证。不一致的HTML、JavaScript渲染的内容和重复的记录都是打包一起来的,因为发布页面的人在发布时并不会考虑您的数据结构要求。

大规模操作的成本不止于请求数

大体量的抓取不仅仅是更多的请求。它涉及并发管理、重试逻辑、错误处理和分布式工作负载,除了因代理、服务器和监控而不断攀升的账单。

这一切永远不会停止。抓取管道需要像官方API和文档输入那样不断地进行调整,所以如果一个业务流程依赖它,那就必须有人无限期地负责维护。在构建它之前找出这个人是谁。

何时文档解析API是显而易见的答案

当信息已经作为文档形式来到您手中,而不是发布在网站上时,请使用解析API。它以PDF、扫描件或电子邮件附件的形式送达,而除了解析它之外的替代方案,就是找人重新输入到ERP系统中,而这是没人愿意做的工作。

根据 Sphereco 的数据,80%的企业数据是非结构化的,存在于电子邮件、PDF和扫描文件中,这是大量无人能够查询的信息。

典型用例:

  • 发票和收据处理,供应商名称、日期、总计和行项目表格直接进入应付账款系统
  • 采购订单和对账单,订单号、金额和付款条款加速财务核对
  • 表单和合同,需要从一百种不同的布局中提取出同样那几个字段
  • 运营邮件,将订单确认、发货通知和预订请求转化为下游系统所需的JSON

解析胜在准确性和一致性。一个优秀的解析器能做的不仅仅是读取文本。它能规范格式、验证字段,并通过Webhook将结果直接发送到您的应用或数据库中,这样就没人需要在周五花时间去清理数据了。

而且出于一个无聊的原因,它也是两者中更稳定的一个。供应商几乎从不重新设计他们的发票,而网站却在不断重组。当布局真的改变时,AI提取引擎会去读取新的布局,而不是等着有人来重新配置什么。如果您的业务依赖于供应商的文档、客户对账单或电子邮件,那么解析几乎总是更快、更持久的答案。我们的 PDF抓取工具 指南更深入地涵盖了文件端相关的词汇。

混合模式:抓取用于获取,解析用于结构化

大多数真实的工作流并非在两者之间做选择。它们是一个顺序:某个工具获取文件,另一个工具理解它。 一旦您以这种方式看待分离,这些工具就不再是对立的。

最常出现的模式是这样的:

  1. 供应商将对账单发布到门户网站,而不是用邮件发送。
  2. 无头浏览器或RPA工具按计划登录并下载PDF。这是浏览器自动化,不是经典抓取,因为目标是登录后获取文件,而非抓取公开页面。
  3. 下载后的文件会进入那些与处理邮件附件相同的文档解析API。
  4. 结构化的JSON通过Webhook落地至ERP或数据库中,无需为文件来源在工作流中建立单独的分支。

在实践中出现的其他组合:

  • 先解析,用抓取的上下文丰富。 解析发票后,您可能需要仅存在于公开网页上的供应商类别或行业基准。抓取上下文,同时保留解析器提取的财务字段。
  • 带有实时检查的邮件解析。 订单确认和发货通知通过邮件收到并被干净地解析,随后抓取工具在供应商网站上验证当前库存或价格。
  • 一层结构,多种来源。 当文档已经变成JSON后,就可以将抓取的网页数据连接到它们之上,用于规范化供应商名称、发现异常或跨系统映射产品。

值得借鉴的设计点是,解析器不应该在意文件是从哪里来的。围绕文档构建提取管道,然后把电子邮件、API上传和门户下载视为喂养该管道的三种方式。等到供应商最终发布了API的那天,您只需删除一个获取步骤,除此之外一切如常。

Parseur到底是文档解析API还是网页抓取API?

Parseur 是一个 文档和电子邮件解析API。它将非结构化文档转为结构化JSON,并且不爬取或获取网页。抓取API读取的是您未拥有的网站,而Parseur处理的是您或您的用户已有的文档和电子邮件,这使其成为发票自动化、收据跟踪、采购订单处理和客户表单处理的可靠基础。

它能处理我的文档吗?

这是唯一值得用您自己的文件而非供应商的演示集来解答的问题。担忧往往如出一辙:八十个供应商有八十种发票排版,有些扫描件生命周期中经历了传真机的洗礼,跑过三页长的表格,以及那位用手机拍摄文书的供应商。

Parseur 利用AI而非模板来读取文档,因此从未配置过的排版并不会导致管道中断。它仍然会有出错的时候。没有哪个解析器能在所有文档上都完全正确,任何告诉你其他答案的人都是在向你推销以后的惊吓。关键在于接下来会发生什么。处理结果会落在一个Web应用程序中,应付账款团队可以在不联系工程团队提工单的情况下,查看提取结果、更正字段并继续下一步。

当您测试它时,首先发送那些排版最差的供应商的文档。能处理干净整齐发票的解析器并不能向您证明什么。

运行成本是多少

这是两类不同的账单。解析成本追踪的是您处理的文档数量,您甚至在与任何人交谈之前,就可以根据去年的应付账款量来进行预测。抓取成本主要是代理和基础设施,外加每次数据源形态改变时消耗的工程师工时。后面这个数字常常能摧毁商业论证,因为一开始没人在计划里写上它。

您CFO实际要求的对比方法比这更简单。计算您的团队一个月重新打字的文档数量,并计算他们做这件事花费的时间。这就是自动化方案必须要击败的数字。

它的配置是怎样的

您将源指向Parseur:转发供应商电子邮件、上传文件或将其提交到API。您在应用里说出想要的字段,而无需编写选择器或建立模板。您将Webhook指向您的ERP或数据库。这之后持续的工作是审查异常,即指派一个人每天花费几分钟,而不是整个团队每周耗费几天时间。

为什么 Parseur API 脱颖而出

Parseur API 随附了一个Web应用程序,这是多数替代方案没有的。开发人员将API集成到产品中。支持和运营团队使用该应用监控、审查并纠正解析结果,而无需向工程部提交工单。

这为您省去了自行构建监控和管理工具的工作,而这一直是每个产品路线图低估的部分。在应用中,您只需点击几下即可定义您的JSON Schema和字段,动态调整提取说明并验证结果。技术和非技术人员在同样的数据上工作,无需互相等待。

并且因为 Parseur 处理的是您已持有的文件,所以没有任何网站改版能在周二早上6点破坏您的管道。

注册您的免费账户
使用 Parseur 节省时间和精力。自动处理您的文档。

Parseur 如何保障数据处理安全

安全审查是文档解析器在采购环节脱颖而出或被淘汰的关键环节,所以这里集中展示详细信息。

您的数据存放在哪里以及如何受到保护

所有Parseur数据均安全地存储在 欧盟(荷兰),位于Google Cloud Platform (GCP) 的安全数据中心内,该数据中心持有 ISO 27001 认证。查看合规性详情。数据在静止状态下采用 AES-256 加密,在传输中采用 TLS v1.2及以上 协议加密,废弃的传输层(SSLv2、SSLv3、TLS 1.0、TLS 1.1)均被禁用。Parseur服务器、第三方应用及您的浏览器之间的数据通信使用 Let's Encrypt 证书。密码绝不会以明文存储:Parseur采用 PBKDF2+SHA-256 哈希算法,带有512位salt和60万次迭代,远超NIST推荐的标准。

保留期完全由您设置,甚至可以细化到一天。“处理后删除”(Process then Delete)选项会在解析完成的瞬间移除文档,当文件涉及没有理由保留的个人数据时,这是理想之选。

谁来测试,测试什么

独立的第三方公司针对 OWASP Top 10SANS 25 等框架执行定期 渗透测试,Parseur在2025年获得了Astra渗透测试证书。企业客户可申请完整报告。基础架构和相关依赖会受到持续监控,漏洞暴露时会立刻被修补。

在线运行时间,发生意外时会怎样

目标运行时间为 99.9%及以上,带有重试和退避机制,确保在断电期间不会丢失任何内容。电子邮件收集可自动重试长达24小时,并提供双发送路径以作冗余,以免糟糕的一小时变成一张丢失的发票。企业计划享有 99.99%的在线运行时间,以及额外的基础设施保障。在此处查看历史在线率。在极其少见的泄露事件中,Parseur会在 48小时内 通知受影响的客户。详细的 安全与隐私总览 有其余所有的内容。

谁对什么负责

Parseur完全 符合GDPR规范,并且严格作为受您指令指示的处理器进行操作。您是控制者,拥有发送的每一个文档的主权,Parseur永远不会出售或共享您的数据。它支持数据处理协议,并会公开其子处理器。团队成员只有在您请求支持时才能访问您的数据,且所有员工均接受定期的GDPR与数据保护培训。详细了解Parseur与GDPR

法律与合规重点一览

法律问题的分离方式与技术问题一样。这取决于您是否拥有数据源。

正如上文所述,抓取是更为棘手的一面。任何在大规模运行抓取工具的人都应当由法律顾问确认该做法符合其法规和合同要求。解析您已经持有的文档根本不会引发这类问题,这也是团队在面对关键业务数据时偏爱它的少数被讨论的原因之一。

解析依然有责任要求,只是要求不同。您需要一个处理文档的合法依据,通常是通过您与发送者达成的协议。您需要根据数据保护法定义控制者和处理者的角色,签署一份数据处理协议,并设定保留政策。泄露通知义务和数据最小化原则与在其他任何地方的适用方式相同。如果工作流中流转了来自欧盟或其他受监管地区的个人数据,则跨境传输还需要提供兼容的机制。有关文档侧面更深层的探讨,请参见我们的 文档提取API与法律 指南。

总结:按数据源头选择购买

这两种方法都能自动化数据采集。它们分别回答了关于数据从何处开始的不同问题。

如果您的数据是以PDF、扫描件或电子邮件到达,文档解析API能把重新打字的任务从某人的办公桌上拿掉。来自 Experlogix 的研究表明,这一改进能带来 最高达80%的文档处理时间减免,这就是一个人整周都在处理与一个人周五下午检查异常之间的区别。

如果您的数据位于公开网页上,抓取就是正确的工具(维护账单也包含在内)。

如果您两者皆有,就不要将其视作单项选择。优先构建解析管道,因为这是业务文档所在的地方。然后再针对那少数坚持使用门户网站的供应商,在前端把获取步骤加上。这一规则始终适用:抓取告诉您如何获取文件,解析告诉您文件里有什么。

最后更新于

深入了解

你可能还喜欢

立即开始

告别手动录入,
就从今天起。

几分钟免费上手,亲自体验Parseur如何融入您的工作流。

无需训练模型
为真实业务场景打造
操作足够简单,API足够强大

常见问题解答

当人们意识到解析和抓取并非同一工作时,通常会提出这些问题。

抓取是您从网页获取数据的方式。解析是您将文档或原始响应转化为结构化字段的方式。抓取解决“数据在哪以及我该如何获取”,而解析解决“这些内容意味着什么以及我该保留哪些值”。它们解决不同的问题,且许多工作流只需其中一个。

并不是。文档解析读取您已经拥有或合法接收的文件,如PDF、扫描件、电子表格和电子邮件。网页抓取则通过请求页面并读取HTML或渲染后的DOM,从您不拥有的网站获取内容。两者来源不同,故障模式不同,法律地位也不同。

爬取通过跟随链接发现URL。抓取获取那些URL上的内容。解析则将获取的内容转化为结构化数据。一个价格监控项目通常需要这三者。而一个处理收件箱中供应商发票的团队只需第三个。

不是。Parseur是一个文档和电子邮件解析API。它不爬取或获取网页。它接收您已有的文档(如电子邮件、PDF、图像、扫描件和办公文件),并返回干净的结构化JSON。这使其非常适合发票、收据、采购订单和订单确认,而不适合监控公共网页。

首先要求通过电子邮件或SFTP交付,因为这是最稳定、法律风险最小的选项。如果供应商只在门户网站上发布,可以用无头浏览器自动化下载,并将文件发送到文档解析API。直接抓取门户网站的HTML是最后的手段,因为只要布局改变它就会失效。

当数据位于付费墙或访问控制之后,当网站条款禁止,当存在官方支持的API或文件订阅源时,以及当数据对业务至关重要以至于一次静默的选择器失效会给您造成实际金钱损失时,应避免抓取。在最后一种情况下,最诚实的做法通常是直接索要文件。

文档解析通常运行成本更低,因为成本取决于处理的文档数量,您可以根据去年的体量进行预测。而抓取伴随着代理、浏览器基础设施,最重要的是维护成本,因为每次网站重新设计都会变成计划外的工程工作。价格页面上很少能体现出这种差异。排班表上才会。

并非如此。只有当数据一开始在网页上时,解析才会跟随在抓取之后。如果您的发票作为电子邮件附件发送过来,那么当供应商点击发送时,获取步骤就已经完成了。因此,无需抓取,只剩下解析了。将解析视为抓取的子程序是团队选错工具最常见的原因。

在网页抓取管道中,解析是将获取的HTML转化为可用值的步骤。抓取器下载页面,然后解析器应用CSS选择器、XPath或正则表达式来提取诸如产品名称或价格等字段。这比文档解析的工作范围要窄,后者必须处理布局、表格和扫描页面,而不是可预测的DOM。

抓取工具可以下载PDF,但无法理解它。抓取工具是围绕HTML结构构建的,所以一旦文件落地,它们就会将其交给其他工具处理。从PDF中提取字段是文档解析的工作,无论该文件是通过电子邮件收到还是从门户网站提取的。

两者都需要,但在不同阶段。电邮过来的发票直接进入文档解析API,因为文件已经是您的了。对于门户网站,您需要一种能登录并下载对账单的工具(即浏览器自动化或RPA,而非经典的抓取),然后下载的文件同样进入解析器。一个提取管道,两种输入方式。

这取决于数据源及其附带的条款。在某些司法管辖区和情况下,抓取公开数据是允许的,但网站通常在其服务条款或robots.txt中限制抓取,绕过付费墙、登录或反爬措施会急剧增加风险。在大规模部署之前,请审阅这些文档并咨询法律意见。解析您已有的文档不会引发同样的问题,尽管数据保护责任仍然适用。

还不会,对于获取(fetch)这一步不会。AI改变了提取那一半的工作,因为模型无需手写选择器即可读取页面或文档。但首要的获取内容仍需要会话、渲染、速率限制和反爬处理,这些都不会因为模型在进行读取而消失。