パーシング vs スクレイピング - 請求書はウェブページには存在しない

要点まとめ

  • スクレイピングは取得し、パーシングは構造化する。 スクレイピングはウェブページに存在するデータを取得します。パーシングはドキュメントを使えるフィールドに変換します。
  • パーシングはスクレイピングを必要としない。 ファイルがすでに受信トレイにある場合、取得するものは何もありません。
  • ソースがツールを決定する。 所有または受信したファイルはドキュメントパーシングAPIに送られます。監視したい公開ページはウェブスクレイピングAPIに送られます。
  • ハイブリッド型のセットアップは妥協ではなく、ごく普通のことです。ポータルにログインし、PDFをダウンロードし、パーサーに渡す。2つのツールで1つのパイプラインを形成します。
  • 本当のコストの差はメンテナンスにあります。パーサーは事前に数えられるドキュメント数に対して課金します。スクレイパーはそれらに加えて、サイトの形が変わるたびに発生するエンジニアの1週間分の工数に対して課金します。

一言でわかるパーシングとスクレイピングの違い

パーシングとスクレイピングは、同じ作業を行うための2つの方法ではありません。スクレイピングはウェブページ上のデータを取得する方法であり、パーシングはコンテンツを構造化されたフィールドに変換する方法です。 この2つが交わるのがウェブスクレイピングのプロジェクトであり、スクレイパーがHTMLをダウンロードし、パーサーがそれを読み取るため、多くの解説記事ではこれらをステップ1とステップ2として紹介しています。しかし、これらは常に連続しているわけではありません。サプライヤーが請求書をメールで送信した場合、送信ボタンを押した瞬間に取得(フェッチ)はすでに完了しています。スクレイピングするページもクローリングするものもありません。残る作業はパーシングだけです。

この1つの違いが購入するツールを決定し、これを逆に捉えると、じわじわと高い代償を払うことになります。チームがドキュメントの問題を解決するためにスクレイピングAPIを探し、その後2スプリントを費やして、スクレイパーがHTML構造を中心に構築されており、スキャンされた納品書に対しては何の役にも立たないことを発見するのです。

一方はウェブページを読み、もう一方は書類を読む

ドキュメントパーシングAPIは、ファイルを構造化されたJSONに変換します。PDF、スキャン、スプレッドシート、添付ファイル付きのメールなどが対象です。レイアウトやテキストを読み取り、キーバリューのペアや明細テーブルを抽出し、システムが処理できる形にして返します。これが、請求書処理、発注書の追跡、メールからデータベースへのワークフローを自動化する価値のあるステップです。

ドキュメントパーシングAPIとウェブスクレイピングAPIを比較したインフォグラフィック
Document parsing API vs web scraping API

ウェブスクレイピングAPIは、ページをリクエストしてHTMLやレンダリングされたDOMを読み取ることで、ウェブサイトからデータを収集します。これは、サイトが役立つ情報を公開しているものの、公式なアクセス方法(APIなど)を提供していない場合に存在します。製品リスト、価格の変更、ニュース、誰かが手作業で組み立てなければならない公開データセットなどが該当します。

どちらも「データ抽出」に分類されるため、この共通のラベルが混乱の主な原因となっています。パーシング vs スクレイピング、またはスクレイピング vs パーシングで検索すると、多くの定義が見つかります。以下で解説するのは、それらの定義が省略している部分です。つまり、自分の抱える問題がどちらの側に属しているかをどう見分けるか、それぞれの運用コストはどれくらいか、そして実際のチームが最終的に行き着くハイブリッドの構成についてです。データフロー自動化の全体像については、データ抽出APIガイドをご覧ください。また、自分の問題がパーシングであるとわかった場合は、ベンダーのテスト方法をカバーしたドキュメント抽出APIの選び方ガイドをご覧ください。

それぞれの実際の役割

どちらも最終的には構造化されたデータを出力します。それ以前のすべてが異なります。インプット、失敗のパターン、そしてソースを誰が所有しているかです。

Scrapingdogの調査によると、**開発者の34.8%**が現在、独自のスクレイピングスクリプトを維持するのではなく、ウェブスクレイピングAPIを使用しています。

ドキュメントパーシングAPI

インプットは、すでに手元にあるファイルです。PDF、スキャン、スマホで撮った領収書の写真、3つの添付ファイルがあるメール、APIを持たないシステムから誰かがエクスポートしたスプレッドシートなどです。アウトプットは、要求したフィールドや明細テーブルを含むJSONであり、Webhookで配信されるか、APIから直接読み取られます。

エンジンは、かつてテンプレートが行っていた作業を行います。テキストドキュメントやメールはText AIエンジンを通ります。PDF、スキャン、画像はレイアウトを読み取るVision AIエンジンを通るため、誰も見たことのないサプライヤーのフォーマットだからといって、新しい設定が必要になるわけではありません。

実際に処理されるもの:買掛金用の請求書や領収書、発注書の明細、財務諸表、大量の顧客フォーム、そしてZapier、Make、n8nでワークフローを起動する構造化データに変換される業務メールなどです。

ウェブスクレイピングAPI

インプットはURLです。その間で、APIはページをロードし、DOMを読み取り、CSSセレクタやXPathのようなルールを適用して、製品名、価格、見出しを捉えます。アウトプットは、それらのフィールドを含むJSONまたはCSVです。ほとんどのスクレイピングAPIは、リクエストが確実に届くように、プロキシ、レンダリング、ボット対策も管理します。

これは1つの状況のために存在します。サイトが役立つ情報を公開しているものの、公式なアクセス方法を提供していないため、自ら取りに行く場合です。価格監視、製品カタログ、ニュースの集約、求人掲示板、誰も集める手間をかけない公開データセットなどが該当します。

設計上、ドキュメントパーシングAPIは所有または受信するファイルに適しており、ウェブスクレイピングAPIは公開ウェブページに適しています。

どちらが必要か?

まず1つの質問から始めましょう。データは現在どこにありますか? ほとんどすべてのケースがその答えから導き出されます。

ドキュメントパーシングAPIとウェブスクレイピングAPIの選択に関するインフォグラフィックの決定木
Decision tree for parsing vs scraping

合法的に所有しているファイルである。 PDF、スキャン、メールの添付ファイル、誰かが共有フォルダにダウンロードした明細書などです。この場合はドキュメントパーシングAPIを使用します。取得(フェッチ)する必要はないため、取得機能を持つものは無駄な維持管理を生むだけです。

公開ウェブページである。 価格、リスト、見出し、ウェブサイトとしてのみ存在するデータセットなどです。この場合はウェブスクレイピングAPIを使用し、ツールだけでなく保守作業も引き受けることを覚悟して導入してください。

両方である(これが実際の企業での一般的な答えです)。 何かがファイルを取得し、別の何かがそれを理解します。後述するハイブリッドパターンが、機能し続ける構成です。

まだ曖昧に感じるケースのための2つの判断基準:

  • 請求書、領収書、発注書から明細やテーブルを抽出する必要がありますか? それならパーシングです。財務データ全体のスキーマの一貫性は、セレクタが提供するように設計されたものではありません。
  • 誰からも通知されずにソースが変更されたことに気付く必要がありますか? それならスクレイピングです。スケジュールに従ってページを再確認することは、スクレイピングが純粋に得意とすることです。

アプローチではなく具体的なベンダーを選ぶ場合は、PDFデータ抽出に最適なAPIのまとめでドキュメント側を詳しくカバーしています。

ドキュメントパーシングとウェブスクレイピングの比較

機能リストでツールを乗り換える人はいません。人々が乗り換える理由は、メンテナンス、法的リスク、そしてソースの形が変わった日に起こる事態です。

基準 ドキュメントパーシングAPI ウェブスクレイピングAPI
主な入力 所有するファイル:PDF、スキャン画像、添付ファイル付きメール URL、HTMLまたはJSONエンドポイント、レンダリングされたDOMコンテンツ
代表的な出力 キーバリューフィールドと明細テーブルを含むJSON 選択されたページ要素のJSONまたはCSV
環境変化耐性 安定。新しいサプライヤーのレイアウトは再設定されるのではなく、読み取られる 脆弱。CSSクラスの名前が1つ変わるだけで一晩で機能しなくなる
メンテナンス 独自の要件に基づいた、時折のスキーマ変更 セレクタの修正とボット対策が無限に続く
コストの要因 処理されたドキュメントの量(昨年のデータから予測可能) プロキシ、ブラウザインフラ、エンジニアの作業時間
ソースの所有者 自分自身またはユーザーがドキュメントを提供する 契約関係のない第三者
法的観点 プライバシーとコンプライアンス:管理者および処理者の役割、データ保持ポリシー 利用規約、robots.txt、ボット対策の回避
データ品質 構造化された出力、検証ルール、正規化されたフィールド サイトのHTMLのきれいさに依存(日によって変動する)
確保すべきセキュリティ 転送時・保存時の暗号化、署名付きWebhook、アクセス制御(提供される) 独自のプロキシプール、IPローテーション、ネットワーク衛生
適用するタイミング すでにドキュメント(請求書、領収書、契約書など)を受け取っている場合 ライブのウェブサイトコンテンツ(価格、在庫レベル、見出しなど)が必要な場合

スクレイピングが適切な場面と、敵を作らずに行う方法

情報がウェブサイト上にのみ存在し、誰もそれをファイルとして送ってくれない場合、スクレイピングが力を発揮します。パートナー、ベンダー、顧客を待つことなく、大規模なデータを収集できます。市場調査、価格監視、知識の集約などがスクレイピングに大きく依存しているのはこのためです。

Browsercatの業界データによると、世界のウェブスクレイピング市場2024年に約10.1億米ドルとなり、2032年までに24.9億米ドルに達すると予測されており、11.9%の年平均成長率を示しています。

スクレイピングが適切な選択となるのは、複数のECサイトでの価格監視、フィードを提供してくれないメディアからの発表の集約、または公式APIが存在しない求人広告、ディレクトリエントリ、イベントリストのデータセット構築などを行う場合です。

その前に、そもそもスクレイピングを行う必要があるか確認してください。本当の分岐点は「ウェブスクレイピング vs APIアクセス」であることが多く、両者の違いは同意にあります。APIは、サイトがデータの取得方法を教えてくれるものです。スクレイパーは自分で判断して取得するものです。APIが提供されている場合は、必ずそれを利用してください。

提供されていない場合は、礼儀正しく収集しましょう:

  • コードを書く前にrobots.txtと利用規約を読む
  • 誰かのサーバーをダウンさせる原因にならないよう、クローラーのレート制限を行う
  • 同じページを何度もリクエストするのではなく、積極的にキャッシュする
  • ブラウザを装うのではなく、スクレイパーであることを正直に明示する
  • 公式APIが登場したその日に切り替える

そして、サイトは変更されるものだと想定してください。小さなHTMLの編集でセレクタが壊れ、どこにもエラーを出さずにデータが欠落したり間違ったりすることがあります。これはまさに、取締役会向けの資料で発覚するタイプの失敗です。監視とアラートは追加のオプションではありません。

スクレイピングは始めるのは簡単だが、維持するのは困難

週末のプロジェクトでもデータは取得できます。しかし、そのデータを2年間流し続けるのは全く別の競技と言えるほど困難であり、その難しさは技術的な優秀さの問題ではありません。消耗戦なのです。

Octoparseの分析によると、簡単にスクレイピングできるウェブサイトは約50%に過ぎず、30%は中程度の難易度であり、残りの20%は複雑な構造やスクレイピング防止策のために特に困難であることがわかっています。

サイトは変更され、誰もそれを教えてくれない

あなたのスクレイパーを念頭に置いてウェブサイトをリデザインする人はいません。CSSクラス名を変更するだけでパイプラインは壊れます。そして、それに気付くきっかけは、たいてい同僚からの「昨日の数字がおかしい」という問い合わせです。

今やボット対策がデフォルトである

CAPTCHA、IPスロットリング、セッション検証、ボット検出は標準装備されています。これらを回避するには、プロキシのローテーション、ユーザーエージェント文字列の管理、リクエストの制限が必要です。これは本来の目的であるデータ取得ではなく、単にアクセスするためのエンジニアリングの労力です。ペイウォールを回避したり利用規約を無視したりして度を越すと、問題は技術的なものから法的なものへと変わります。

ウェブサイトは人間のために書かれており、あなたのためではない

スクレイピングされたデータには、通常クレンジングと検証が必要です。不均一なHTML、JavaScriptでレンダリングされたコンテンツ、重複レコードなどはすべてパッケージの一部として届きます。ページを公開する誰もが、あなたのスキーマのことを考えていなかったからです。

規模の拡大はリクエスト数以上のコストがかかる

大量のスクレイピングは、単にリクエストを増やすだけではありません。プロキシ、サーバー、監視の増大するコストに加えて、並行処理の管理、再試行ロジック、エラー処理、分散ワークロードが必要です。

これらが終わることはありません。スクレイピングによるパイプラインは、公式APIやドキュメント入力とは異なり、継続的な調整が必要です。つまり、ビジネスプロセスがそれに依存している場合、誰かが無期限にそれを所有することになります。構築する前に、誰が担当するのかを決めておいてください。

ドキュメントパーシングAPIが明らかな正解となる場面

情報がウェブサイトに公開されるのではなく、すでにドキュメントとして届いている場合はドキュメントパーシングAPIを使用します。PDF、スキャン、またはメールの添付ファイルとして到着します。これをパーシングしなければ、誰かがERPに手入力することになりますが、それは誰もやりたがらない仕事です。

Spherecoによると、企業データの80%は非構造化データであり、メール、PDF、スキャンされたドキュメントに埋もれています。これは誰もクエリできない大量の情報です。

典型的なユースケース:

  • 請求書や領収書の処理(サプライヤー名、日付、合計、明細テーブルが買掛金システムに直結)
  • 発注書と明細書(注文番号、金額、支払い条件が照合を迅速化)
  • フォームと契約書(100種類の異なるレイアウトから同じ少数のフィールドを抽出)
  • 業務メール(注文確認、発送通知、予約リクエストが下流システム用のJSONになる)

パーシングは精度と一貫性で勝ります。優れたパーサーはテキストを読むだけではありません。フォーマットを正規化し、フィールドを検証し、Webhookを通じてアプリケーションやデータベースに結果を直接配信するため、金曜日にクレンジング作業を行う必要がなくなります。

また、退屈な理由ではありますが、パーシングの方が安定しています。サプライヤーが請求書をリデザインすることはほぼありませんが、ウェブサイトは常にリデザインされます。レイアウトが変更された場合、AI抽出は誰かが何かを再設定するのを待つのではなく、新しいレイアウトを読み取ります。ビジネスがサプライヤーのドキュメント、顧客の明細書、またはメールで動いている場合、パーシングがほぼ常に速く、耐久性のある答えです。当社のPDFスクレイパーガイドでは、ファイル側の語彙についてさらに深く解説しています。

ハイブリッドパターン:スクレイピングで取得し、パーシングで構造化する

現実の多くのワークフローは、どちらかを選択するものではありません。それは一連のプロセスです。**「何かがファイルを取得し、別の何かがそれを理解する」**というプロセスです。この役割分担を理解すれば、ツール同士は競合しなくなります。

最もよく見られるパターンは次のようなものです:

  1. サプライヤーがメールで送信する代わりに、明細書をポータルに公開する。
  2. ヘッドレスブラウザやRPAツールがスケジュールに従ってログインし、PDFをダウンロードする。対象が公開ページではなくログイン後のファイルであるため、これは従来のスクレイピングではなくブラウザの自動化です。
  3. ダウンロードされたファイルは、メールで届くものと同じドキュメントパーシングAPIに送られる。
  4. ドキュメントの出所による分岐を行うことなく、構造化されたJSONがWebhook経由でERPまたはデータベースに届く。

実際に発生するその他の組み合わせ:

  • 先にパースし、スクレイピングしたコンテキストで情報を補完する。 請求書をパースした後、公開ページにしか存在しないサプライヤーのカテゴリーや業界ベンチマークを追加したい場合があります。コンテキストをスクレイピングし、パーサーから得た財務フィールドを保持します。
  • ライブチェックを伴うメールパース。 注文確認や発送通知がメールで届き、きれいにパースされた後、スクレイパーがサプライヤーのサイトで現在の在庫や価格を検証します。
  • 1つの構造化レイヤーに複数のソース。 すでにドキュメントがJSONになっている状態で、サプライヤー名の正規化、異常の検出、システム間の製品マッピングのために、スクレイピングされたウェブデータを結合することができます。

盗む価値のある設計のポイントは、パーサーはファイルがどこから来たかを気にするべきではないということです。抽出パイプラインをドキュメントを中心に構築し、メール、APIへのアップロード、ポータルからのダウンロードを、それに供給するための3つの方法として扱います。サプライヤーが最終的にAPIを提供した日には、1つのフェッチステップを削除するだけで、他は何も変更する必要がありません。

ParseurはドキュメントパーシングAPIか、ウェブスクレイピングAPIか?

ParseurはドキュメントおよびメールパーシングAPIです。非構造化ドキュメントを構造化されたJSONに変換するものであり、ウェブページのクロールや取得は行いません。スクレイピングAPIが所有していないウェブサイトを読み取るのに対し、Parseurはあなたやあなたのユーザーがすでに持っているドキュメントやメールを処理します。これが、請求書の自動化、領収書の追跡、発注書の処理、顧客フォームの処理のための信頼できる基盤となる理由です。

私のドキュメントで機能するのか?

これは、ベンダーのデモセットではなく、自身のファイルで確認する価値のある唯一の質問です。懸念事項は通常同じです。80のサプライヤーによる80の請求書レイアウト、かつてFAXを通ったことのあるスキャン、3ページにわたるテーブル、そしてスマホで書類を撮影する1社のサプライヤーなどです。

ParseurはテンプレートではなくAIでドキュメントを読み取るため、誰も設定したことのないレイアウトでもパイプラインが止まることはありません。それでも間違うことはあります。すべてのドキュメントを正確に読み取れるパーサーは存在せず、そうではないと言う人がいれば、後で驚くような事態を売りつけていることになります。重要なのは、その次に何が起こるかです。結果はウェブアプリケーションに届き、買掛金(AP)チームはエンジニアリングのチケットを切ることなく、抽出内容を確認し、フィールドを修正して次の作業に進むことができます。

テストする際は、一番厄介なサプライヤーのものを最初に送信してください。きれいな請求書を処理できるパーサーは、何も証明してくれません。

運用にかかるコスト

これらは2種類の異なる請求です。パーシングのコストは処理するドキュメントに連動するため、誰かに話を聞く前に昨年のAPボリュームから予測できます。スクレイピングのコストはプロキシやインフラであり、ソースの形が変わるたびにエンジニアの作業時間が発生します。2つ目の数字は、開始時に誰も書き留めていないため、ビジネスケースを台無しにする原因となります。

CFOが実際に求める比較は、どちらよりもシンプルです。チームが1か月に手入力で再入力するドキュメントの数を数え、それに費やしている時間を数えます。自動化は、その数字を上回る成果を出さなければなりません。

セットアップのイメージ

Parseurにソースを指定します。サプライヤーのメールを転送するか、ファイルをアップロードするか、APIに送信します。セレクタを書いたりテンプレートを作成したりすることなく、アプリ内で必要なフィールドを指定します。WebhookをERPやデータベースに向けます。その後の継続的な作業は例外の確認です。これは、チームが週に何日も費やしていた作業を、1人が1日に数分費やすだけで済むようになるということです。

Parseur APIが際立っている理由

Parseur APIにはウェブアプリケーションが付属していますが、ほとんどの代替ツールにはありません。開発者はAPIを製品に統合します。サポートチームやオペレーションチームは、エンジニアリングにチケットを切ることなく、アプリを使用してパース結果を監視、レビュー、修正します。

これにより、すべてのロードマップが過小評価している部分である監視および管理ツールの独自構築を省くことができます。アプリ内では、数回のクリックでJSONスキーマやフィールドを定義し、抽出の指示をオンザフライで調整し、結果を検証できます。技術者と非技術者が、一方を待たせることなく同じデータで作業できます。

そして、Parseurはすでに所有しているファイルに対して機能するため、ウェブサイトのリデザインによって火曜日の朝6時にパイプラインが壊れることはありません。

無料アカウントを作成
Parseurで時間と労力を節約。ドキュメント処理を自動化しましょう。

Parseurのデータ管理方針

セキュリティレビューは、ドキュメントパーサーが調達を乗り切れるかどうかの分かれ目となるため、ここで詳細をまとめておきます。

データの保存場所と保護方法

Parseurのすべてのデータは欧州連合(オランダ)の、ISO 27001認証を取得しているGoogle Cloud Platform上の安全なデータセンターに保存されています。コンプライアンスの詳細はこちらをご覧ください。データは保存時にAES-256で、転送時にTLS v1.2以上で暗号化されており、非推奨のトランスポート層(SSLv2、SSLv3、TLS 1.0、TLS 1.1)は無効化されています。Parseurサーバー、サードパーティ製アプリ、ブラウザ間のトラフィックはLet's Encrypt証明書を介して実行されます。パスワードが平文で保存されることは決してありません。Parseurは、NISTの推奨基準を大きく上回る、SHA-256ハッシュを使用したPBKDF2、512ビットのソルト、600,000回の反復を使用しています。

保持期間は1日単位で自由に設定できます。Process then Delete(処理後に削除) オプションは、パーシングが完了した瞬間にドキュメントを削除します。これは、書類に保持する理由のない個人データが含まれている場合に使用すべき設定です。

何がテストされ、誰がテストするのか

独立した第三者が、OWASP Top 10SANS 25などのフレームワークに照らし合わせて定期的なペネトレーションテストを実施しており、Parseurは2025年にAstra Pentest Certificateを取得しました。エンタープライズ顧客は完全なレポートを要求できます。インフラストラクチャと依存関係は継続的に監視され、脆弱性が表面化した際にはパッチが適用されます。

アップタイムと、ダウン時の対応

目標アップタイムは99.9%以上で、再試行とバックオフ機能により、障害発生時でもデータが失われることはありません。メール収集は最大24時間再試行され、二重の送信経路が冗長性を提供するため、1時間の不具合が請求書の紛失につながることはありません。エンタープライズプランでは、追加のインフラ保証により99.99%のアップタイムを達成します。過去のアップタイムの履歴はこちらで確認できます。万が一データ侵害が発生した場合、Parseurは影響を受けたお客様に48時間以内に通知します。詳細については、完全なセキュリティとプライバシーの概要をご覧ください。

誰が何に対して責任を負うのか

ParseurはGDPRに準拠しており、お客様の指示の下で処理者(プロセッサ)として厳格に運営されています。お客様は管理者(コントローラ)であり、送信するすべてのドキュメントを所有し、Parseurがお客様のデータを販売または共有することは決してありません。データ処理契約をサポートし、サブプロセッサを公開しています。チームメンバーは、お客様がサポートを要求したときにのみデータにアクセスし、すべてのスタッフは継続的なGDPRおよびデータ保護トレーニングを受けています。ParseurとGDPRについて詳しく読む

法的観点・コンプライアンス早見表

法的な問題も、技術的な問題と同じように分かれます。それは、ソースを所有しているかどうかによります。

上記のセクションで詳述したように、スクレイピングはより難しい側面があります。大規模にスクレイパーを運用する人は、その実践が規制や契約に適合しているか弁護士に確認させるべきです。すでに所有しているドキュメントのパーシングについてはその問題は全く発生しません。これも、チームがビジネス上重要なデータにパーシングを好む、あまり議論されない理由の1つです。

パーシングにも義務は伴いますが、内容が異なります。通常は送信者との合意を通じて、ドキュメントを処理するための合法的な根拠が必要です。データ保護法に基づく管理者と処理者の役割を定義し、データ処理契約(DPA)を締結し、データ保持ポリシーを設定する必要があります。侵害の通知義務とデータ最小化の原則は、他の場所と同様に適用されます。欧州連合やその他の規制地域からの個人データがワークフローを通過する場合、国境を越えるデータ転送にはさらに準拠したメカニズムが必要です。このドキュメント側の詳細については、ドキュメント抽出APIと法律に関するガイドをご覧ください。

まとめ:データの発生源に合わせて選ぶ

どちらのアプローチもデータ収集を自動化します。両者は「データがどこから始まるか」という異なる質問に答えるものです。

データがPDF、スキャン、またはメールとして到着する場合、ドキュメントパーシングAPIを使用すれば、誰かのデスクから再入力作業を取り除くことができます。Experlogixの調査によると、ドキュメント処理時間を最大80%削減できるとしています。これは、誰かが一週間ずっとこの作業を行うか、金曜日の午後に例外をチェックするだけの作業になるかの違いです。

データが公開ウェブページに存在する場合、メンテナンスの請求を含め、スクレイピングが適切なツールです。

そして、その両方がある場合は、どちらかを選ぶという考え方をやめてください。まずはビジネスドキュメントが存在するパーシングのパイプラインを構築し、ポータルにこだわる少数のサプライヤーのために、その前段にフェッチ(取得)のステップを追加するのです。基本原則は最後まで変わりません。スクレイピングは「ファイルの取得方法」を解決し、パーシングは「ファイルの中身」を解決します。

最終更新日

さらに詳しく

こちらもおすすめ

今すぐ始める

ドキュメントデータ抽出、
そろそろ自動化しませんか?

数分で設定完了。Parseurがどう業務フローに収まるか、無料でお試しいただけます。

AIモデルの学習は不要
あらゆるドキュメントからのデータ入力を自動化
クリック操作からAPIまで柔軟に対応

よくある質問

パーシングとスクレイピングが同じ作業ではないと気付いた際に、人々がよく抱く疑問をまとめました。

スクレイピングはウェブページからデータを取得する方法です。パーシングは、ドキュメントや生のレスポンスを構造化されたフィールドに変換する方法です。スクレイピングは「データはどこにあり、どうやって取得するか」を解決し、パーシングは「このコンテンツは何を意味し、どの値を保持するか」を解決します。これらは異なる問題を解決するものであり、多くのワークフローではどちらか一方だけが必要です。

いいえ。ドキュメントパーシングは、PDF、スキャン、スプレッドシート、メールなど、すでに所有しているか合法的に受け取ったファイルを読み取ります。ウェブスクレイピングは、ページをリクエストしてHTMLやレンダリングされたDOMを読み取ることで、所有していないウェブサイトからコンテンツを取得します。ソースが異なり、失敗のパターンも異なり、法的立場も異なります。

クローリングはリンクをたどってURLを発見します。スクレイピングはそれらのURLにあるコンテンツを取得します。パーシングは取得したコンテンツを構造化データに変換します。価格監視プロジェクトでは通常、この3つすべてが必要です。一方、受信トレイからサプライヤーの請求書を処理するチームには、3つ目のパーシングだけが必要です。

いいえ。ParseurはドキュメントおよびメールパーシングAPIです。ウェブページのクロールや取得は行いません。メール、PDF、画像、スキャン、オフィスファイルなど、すでに持っているドキュメントを受け取り、クリーンで構造化されたJSONを返します。そのため、公開されたウェブページを監視するためではなく、請求書、領収書、発注書、注文確認書などを処理するのに適しています。

最も安定しており、法的な問題が最も少ない方法であるため、まずはメールまたはSFTPでの配信を依頼してください。サプライヤーがポータルへの公開しか行わない場合は、ヘッドレスブラウザでダウンロードを自動化し、ファイルをドキュメントパーシングAPIに送信します。ポータルのHTMLを直接スクレイピングするのは、レイアウトが変わるたびに壊れるため、最終手段です。

データがペイウォールやアクセス制御の背後にある場合、サイトの利用規約で禁止されている場合、サポートされているAPIやファイルフィードが存在する場合、そして、セレクタが警告なしに壊れることで実際の金銭的損失を被るほどデータがビジネスにとって重要である場合は避けてください。最後のケースでは、正直なところ、ファイルを直接要求するのが最善の答えであることが多いです。

ドキュメントパーシングは通常、実行コストが安くなります。コストは処理するドキュメントの数に連動し、昨年のボリュームから予測できるからです。スクレイピングには、プロキシ、ブラウザインフラ、そして何よりも保守のコストがかかります。サイトの設計が変更されるたびに、予定外のエンジニアリング作業が発生するからです。価格ページの表示額に違いが現れることは稀ですが、エンジニアのローテーション(保守工数)にその違いは明確に表れます。

いいえ。パーシングがスクレイピングの後に続くのは、データが元々ウェブページにあった場合のみです。請求書がメールの添付ファイルとして届いた場合、送信者が送信ボタンを押した時点ですでに取得(フェッチ)のステップは完了しているため、スクレイピングするものはなく、パーシングだけが残ります。パーシングをスクレイピングのサブルーチンとして扱ってしまうことが、チームが間違ったツールを購入してしまう最も一般的な理由です。

ウェブスクレイピングのパイプラインにおいて、パーシングとは、取得したHTMLを使える値に変換するステップのことです。スクレイパーがページをダウンロードし、次にパーサーがCSSセレクタ、XPath、または正規表現を適用して、製品名や価格などのフィールドを抽出します。これは、予測可能なDOMの代わりに、レイアウト、テーブル、スキャンされたページに対応しなければならないドキュメントパーシングよりも限定的な作業です。

スクレイパーはPDFをダウンロードできますが、理解することはできません。スクレイピングツールはHTML構造を中心に構築されているため、ファイルが届いたら別のツールに渡します。PDFからフィールドを抽出するのは、ファイルがメールで届いた場合でもポータルから取得した場合でも、ドキュメントパーシングの仕事です。

異なる段階で両方が必要です。メールで送られた請求書は、ファイルがすでに手元にあるため、そのままドキュメントパーシングAPIに送られます。ポータルの場合は、ログインして明細書をダウンロードできるものが必要です。これは従来のスクレイピングというよりはブラウザの自動化やRPAであり、ダウンロードされたファイルは同じパーサーに送られます。1つの抽出パイプラインに対して、2つの供給方法があるということです。

ソースとそれに付随する条件によります。公開データのスクレイピングは、一部の管轄区域や状況では許可されていますが、ウェブサイトの利用規約やrobots.txtで制限されていることが多く、ペイウォール、ログイン、ボット対策を回避するとリスクが急激に高まります。これらを確認し、大規模に展開する前に法的助言を受けてください。すでに所有しているドキュメントをパーシングする場合は同様の問題は発生しませんが、データ保護の義務は適用されます。

まだそうではありませんし、取得(フェッチ)のステップについては代わりません。AIは抽出の作業の半分を変えました。モデルが手書きのセレクタなしでページやドキュメントを読み取ることができるようになったからです。しかし、そもそもコンテンツにたどり着くには、セッション、レンダリング、レート制限、ボット対策の処理が依然として必要であり、モデルが読み取りを行っているからといって、これらの作業がなくなるわけではありません。