メインコンテンツへスキップ
このページでは、Octoparse全体で使われる基本概念を説明します。これらの用語を理解すると、タスク作成、抽出問題のトラブルシューティング、下流ツールとの連携がしやすくなります。

タスク

タスクは再利用可能な抽出ワークフローです。対象Webサイト、Octoparseが実行する手順、抽出するフィールド、実行・エクスポート設定を含みます。 タスクには次のような内容を含められます。
  • 1つ以上のURLを開く
  • ボタンやリンクをクリックする
  • リストをループする
  • ページネーションに対応する
  • 詳細ページを開く
  • フィールドを抽出する
  • フィールド値をクリーニングする
  • ローカルまたはクラウドで実行する

テンプレート

テンプレートは、よく使われるWebサイトやユースケース向けの事前構築済みタスクです。抽出ワークフローとフィールドがあらかじめ設定されているため、より早く開始できます。 次のような場合にテンプレートを使用します。
  • 対象Webサイトに対応するテンプレートがある
  • より早くセットアップしたい
  • 一般的なデータタイプに標準的な構造を使いたい
  • 大幅なカスタマイズが不要である
テンプレートが対象ページや必要なフィールドに合わない場合は、手動でタスクを作成またはカスタマイズします。

ワークフローアクション

ワークフローアクションは、OctoparseがWebサイト内をどのように移動するかを定義します。 一般的なアクションは次のとおりです。
アクション内容
Webページを開く対象URLを読み込む
アイテムをクリックボタン、リンク、メニュー項目、ページ要素をクリックする
ループアイテム複数の項目に同じ操作を繰り返す
ページネーション複数の結果ページを移動する
スクロール無限スクロールや遅延読み込みのページで追加コンテンツを読み込む
待機動的コンテンツの読み込み時間を確保する
データを収集選択した要素から値を取得する

フィールド

フィールドは抽出データの列です。例として、商品名、価格、評価、URL、日付、会社名、住所、レビュー本文などがあります。 エクスポートデータを理解しやすくするため、フィールド名は明確に付ける必要があります。 よいフィールド名は具体的です。
分かりにくい名前よい名前
テキスト1商品名
フィールド2価格
リンク商品URL
日付レビュー日

実行

実行とは、タスクを1回動かすことです。同じタスクを何度も実行して、更新された結果を取得できます。 実行は、設定、プラン、ワークフローの要件に応じて、ローカルまたはクラウドで行えます。

エクスポート

エクスポートは、抽出データをOctoparseの外へ送って別の場所で利用できるようにする操作です。 エクスポートは手動または自動で行うことができ、ファイル、スプレッドシート、データベース、クラウドストレージ、接続アプリに出力できます。

全体の関係

1

タスクを作成または選択する

テンプレート、自動検出、またはカスタムワークフローから始めます。
2

アクションとフィールドを定義する

ページの移動方法と抽出する値をOctoparseに指定します。
3

タスクを実行する

ワークフローをローカルまたはクラウドで実行します。
4

結果をエクスポートする

構造化データを必要な保存先へ送ります。