Google Data Fusion で JSON に連携した ETL プロセスを作成

Google Data Fusion を使用すると、セルフサービス型のデータ連携を行い、異なるデータソースを統合できます。CData JDBC Driver for JSON をアップロードすることで、Google Data Fusion のパイプライン内から JSON services にリアルタイムでアクセスできるようになります。CData JDBC Driver を使用すると、JSON services を Google Data Fusion でネイティブにサポートされている任意のデータソースにパイプできますが、この記事では、JSON から Google BigQuery へデータをパイプする方法を説明します。

CData JDBC Driver for JSON を Google Data Fusion にアップロード

CData JDBC Driver for JSON を Google Data Fusion インスタンスにアップロードして、JSON services にリアルタイムでアクセスしましょう。Google Data Fusion では JDBC ドライバーの命名規則に制限があるため、JAR ファイルを driver-version.jar という形式に合わせてコピーまたはリネームしてください。例：cdatajson-2020.jar

1. Google Data Fusion インスタンスを開きます
2. をクリックしてエンティティを追加し、ドライバーをアップロードします
3. "Upload driver" タブで、リネームした JAR ファイルをドラッグまたは参照します。
4. "Driver configuration" タブで以下を設定します：
   • Name: ドライバーの名前（cdata.jdbc.json）を作成し、メモしておきます
   • Class name: JDBC クラス名を設定します：（cdata.jdbc.json.JSONDriver）
   
5. "Finish" をクリックします

Google Data Fusion で JSON Services に接続

JDBC Driver をアップロードしたら、Google Data Fusion のパイプラインで JSON services にリアルタイムでアクセスできます。

1. Pipeline Studio に移動して、新しいパイプラインを作成します
2. "Source" オプションから "Database" をクリックして、JDBC Driver 用のソースを追加します
3. Database ソースの "Properties" をクリックしてプロパティを編集します

   NOTE：Google Data Fusion で JDBC Driver を使用するには、ライセンス（製品版またはトライアル）とランタイムキー（RTK）が必要です。ライセンス（またはトライアル）の取得については、CData までお問い合わせください。

   • Label を設定します
   • Reference Name を将来の参照用の値に設定します（例：cdata-json）
   • Plugin Type を "jdbc" に設定します
   • Connection String を JSON の JDBC URL に設定します。例：
     
     jdbc:json:RTK=5246...;URI=C:/people.json;DataModel=Relational;

     データソースへの認証については、ヘルプドキュメントの「はじめに」を参照してください。CData 製品は、JSON API を双方向データベーステーブルとして、JSON ファイルを読み取り専用ビュー（ローカル ファイル、一般的なクラウドサービスに保存されているファイル、FTP サーバー）としてモデル化します。HTTP Basic、Digest、NTLM、OAuth、FTP などの主要な認証スキームがサポートされています。詳細はヘルプドキュメントの「はじめに」を参照してください。

     URI を設定して認証値を入力したら、DataModel を設定してデータ表現とデータ構造をより厳密に一致させます。

     DataModel プロパティは、データをどのようにテーブルに表現するかを制御するプロパティで、次の基本設定を切り替えます。

     • Document（デフォルト）：JSON データのトップレベルのドキュメントビューをモデル化します。CData 製品 は、ネストされたオブジェクト配列を集約されたJSON オブジェクトとして返します。
     • FlattenedDocuments：ネストされた配列オブジェクトと親オブジェクトを、単一テーブルに暗黙的に結合します。
     • Relational：階層データから個々の関連テーブルを返します。テーブルには、親ドキュメントにリンクする主キーと外部キーが含まれています。

     リレーショナル表現の設定についての詳細は、ヘルプドキュメントの「JSON データのモデリング」を参照してください。また、以下の例で使用されているサンプルデータも確認できます。データには人や所有する車、それらの車に行われたさまざまなメンテナンスサービスのエントリが含まれています。

     Amazon S3 内のJSON への接続

     URI をバケット内のJSON ドキュメントに設定します。さらに、次のプロパティを設定して認証します。

     • AWSAccessKey：AWS アクセスキー（username）に設定。
     • AWSSecretKey：AWS シークレットキーに設定。

     Box 内のJSON への接続

     URI をJSON ファイルへのパスに設定します。Box へ認証するには、OAuth 認証標準を使います。 認証方法については、Box への接続 を参照してください。

     Dropbox 内のJSON への接続

     URI をJSON ファイルへのパスに設定します。Dropbox へ認証するには、OAuth 認証標準を使います。 認証方法については、Dropbox への接続 を参照してください。ユーザーアカウントまたはサービスアカウントで認証できます。ユーザーアカウントフローでは、以下の接続文字列で示すように、ユーザー資格情報の接続プロパティを設定する必要はありません。 URI=dropbox://folder1/file.json; InitiateOAuth=GETANDREFRESH; OAuthClientId=oauthclientid1; OAuthClientSecret=oauthcliensecret1; CallbackUrl=http://localhost:12345;

     SharePoint Online SOAP 内のJSON への接続

     URI をJSON ファイルを含むドキュメントライブラリに設定します。認証するには、User、Password、およびStorageBaseURL を設定します。

     SharePoint Online REST 内のJSON への接続

     URI をJSON ファイルを含むドキュメントライブラリに設定します。StorageBaseURL は任意です。指定しない場合、ドライバーはルートドライブで動作します。 認証するには、OAuth 認証標準を使用します。

     FTP 内のJSON への接続

     URI をJSON ファイルへのパスが付いたサーバーのアドレスに設定します。認証するには、User およびPassword を設定します。

     Google Drive 内のJSON への接続

     デスクトップアプリケーションからのGoogle への認証には、InitiateOAuth をGETANDREFRESH に設定して、接続してください。詳細はドキュメントの「Google Drive への接続」を参照してください。

     ビルトイン接続文字列デザイナー

     JDBC URL の作成には、JSON JDBC Driver に組み込まれている接続文字列デザイナーを使用できます。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

           java -jar cdata.jdbc.json.jar
           

     接続プロパティを入力し、接続文字列をクリップボードにコピーします。

     
   • Import Query を JSON から取得したいデータを抽出する SQL クエリに設定します。例：
     SELECT * FROM people
   
4. "Sink" タブから、同期先シンクを追加します（この例では Google BigQuery を使用します）
5. BigQuery シンクの "Properties" をクリックしてプロパティを編集します
   • Label を設定します
   • Reference Name を json-bigquery のような値に設定します
   • Project ID を特定の Google BigQuery プロジェクト ID に設定します（またはデフォルトの "auto-detect" のままにします）
   • Dataset を特定の Google BigQuery データセットに設定します
   • Table を JSON services を挿入するテーブル名に設定します
   

Source と Sink を設定すると、JSON services を Google BigQuery にパイプする準備が整います。パイプラインを保存してデプロイしてください。パイプラインを実行すると、Google Data Fusion が JSON からリアルタイムデータをリクエストし、Google BigQuery にインポートします。

これはシンプルなパイプラインの例ですが、変換、分析、条件などを使用してより複雑な JSON パイプラインを作成できます。CData JDBC Driver for JSON の 30日間の無償トライアルをダウンロードして、今すぐ Google Data Fusion で JSON services をリアルタイムで活用しましょう。