HULFT Integrate で Scrapfly のデータ に接続

Jerod Johnson
Jerod Johnson
Director, Technology Evangelism
HULFT Integrate で Scrapfly に JDBC データソースとして接続

HULFT Integrate は、ドラッグ＆ドロップのユーザーインターフェースでコーポレーションフロー、データ変換、処理を簡単に作成できる最新のデータ連携プラットフォームです。CData API Driver for JDBC と組み合わせることで、HULFT Integrate からリアルタイムの Scrapfly のデータ を扱うことができます。この記事では、Scrapfly への接続方法と、データを CSV ファイルに出力する手順をご紹介します。

CData JDBC ドライバーは、最適化されたデータ処理機能を備えており、リアルタイムの Scrapfly のデータ との連携において比類のないパフォーマンスを発揮します。Scrapfly に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を直接 Scrapfly にプッシュし、サポートされていない操作（主に SQL 関数や JOIN 操作）は内蔵の SQL エンジンでクライアント側で処理します。また、動的なメタデータクエリ機能により、ネイティブなデータ型を使用して Scrapfly のデータ を操作・分析できます。

Scrapfly へのアクセスを有効化

HULFT Integrate プロジェクトから Scrapfly のデータ へのアクセスを有効にするには、以下の手順で設定します：

  1. CData JDBC Driver の JAR ファイル（およびライセンスファイルがある場合はそれも）、cdata.jdbc.api.jar（および cdata.jdbc.api.lic）を、Integrate Server の jdbc_adapter サブフォルダにコピーします
  2. HULFT Integrate Server を再起動し、HULFT Integrate Studio を起動します

Scrapfly のデータ にアクセスするプロジェクトの作成

JAR ファイルをコピーしたら、Scrapfly のデータ にアクセスするプロジェクトを作成できます。まず、Integrate Studio を開いて新しいプロジェクトを作成しましょう。

  1. プロジェクト名を入力します
  2. 「スクリプトを作成」チェックボックスがオンになっていることを確認します
  3. 「次へ」をクリックします
  4. スクリプト名を入力します（例：APItoCSV）

プロジェクトを作成したら、Scrapfly のデータ を CSV ファイルにコピーするためのコンポーネントをスクリプトに追加します。

Execute Select SQL コンポーネントの設定

ツールパレット（Database -> JDBC）から「Execute Select SQL」コンポーネントをスクリプトワークスペースにドラッグします。

  1. 「必須設定」タブの接続先で、「追加」をクリックして Scrapfly 用の新しい接続を作成します。以下のプロパティを設定します：
    • 名前：Scrapfly Connection Settings
    • ドライバークラス名：cdata.jdbc.api.APIDriver
    • URL：jdbc:api:Profile=C:\profiles\Scrapfly.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_api_key';

      組み込みの接続文字列デザイナー

      JDBC URL の構築には、Scrapfly JDBC Driver に組み込まれている接続文字列デザイナーをご利用ください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

      		java -jar cdata.jdbc.api.jar

      接続プロパティを入力し、接続文字列をクリップボードにコピーします。

      Scrapfly API は API キー認証を使用します。API キーは、すべてのリクエストで key クエリパラメータとして渡されます。

      API キー認証の設定

      接続を作成するには、Scrapfly の API キーが必要です。API キーを取得するには、以下のステップで進めます：

      1. scrapfly.io で Scrapfly アカウントにログインします。
      2. Dashboard に移動して API Keys を選択します。
      3. API キーをコピーします（本番環境用は scp-live-、テスト環境用は scp-test- で始まります）。

      API キーを取得したら、以下の接続プロパティを設定します：

      • AuthScheme：APIKey に設定します。
      • APIKey：Scrapfly の API キーに設定します。

      接続文字列の例：

      Profile=C:\profiles\Scrapfly.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_api_key';
  2. SQL ステートメントを記述します。例： 
    SELECT ,  FROM Account
  3. 「抽出テスト」をクリックして、接続とクエリが正しく設定されていることを確認します
  4. 「SQL を実行して出力スキーマを設定」をクリックします
  5. 「完了」をクリックします

Write CSV File コンポーネントの設定

ツールパレット（File -> CSV）から「Write CSV File」コンポーネントをワークスペースにドラッグします。

  1. クエリ結果を書き込むファイルを設定します（例：Account.csv）
  2. 「入力データ」を「Select SQL」コンポーネントに設定します
  3. SQL クエリで選択した各フィールドのカラムを追加します
  4. 「書き込み設定」タブで、「最初の行にカラム名を挿入する」チェックボックスをオンにします
  5. 「完了」をクリックします

Scrapfly フィールドを CSV カラムにマッピング

「Select」コンポーネントの各カラムを、「CSV」コンポーネントの対応するカラムにマッピングします。

スクリプトの完成

「Start」コンポーネントを「Select」コンポーネントに、「CSV」コンポーネントを「End」コンポーネントにドラッグして接続します。スクリプトをビルドして実行すると、Scrapfly のデータ が CSV ファイルに出力されます。

CData API Driver for JDBCの30日間の無償トライアルをダウンロードして、HULFT Integrate でリアルタイムの Scrapfly のデータ を活用してみてください。ご不明な点があれば、サポートチームまでお気軽にお問い合わせください。

はじめる準備はできましたか？

API Driver で Scrapfly のライブデータに接続

Scrapfly に接続

この記事の内容

関連記事