HULFT Integrate で Google Cloud Storage のデータ に接続
HULFT Integrate は、ドラッグ&ドロップのユーザーインターフェースでコーポレーションフロー、データ変換、処理を簡単に作成できる最新のデータ連携プラットフォームです。CData JDBC Driver for Google Cloud Storage と組み合わせることで、HULFT Integrate からリアルタイムの Google Cloud Storage のデータ を扱うことができます。この記事では、Google Cloud Storage への接続方法と、データを CSV ファイルに出力する手順をご紹介します。
CData JDBC ドライバーは、最適化されたデータ処理機能を備えており、リアルタイムの Google Cloud Storage のデータ との連携において比類のないパフォーマンスを発揮します。Google Cloud Storage に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を直接 Google Cloud Storage にプッシュし、サポートされていない操作(主に SQL 関数や JOIN 操作)は内蔵の SQL エンジンでクライアント側で処理します。また、動的なメタデータクエリ機能により、ネイティブなデータ型を使用して Google Cloud Storage のデータ を操作・分析できます。
Google Cloud Storage へのアクセスを有効化
HULFT Integrate プロジェクトから Google Cloud Storage のデータ へのアクセスを有効にするには、以下の手順で設定します:
- CData JDBC Driver の JAR ファイル(およびライセンスファイルがある場合はそれも)、cdata.jdbc.googlecloudstorage.jar(および cdata.jdbc.googlecloudstorage.lic)を、Integrate Server の jdbc_adapter サブフォルダにコピーします
- HULFT Integrate Server を再起動し、HULFT Integrate Studio を起動します
Google Cloud Storage のデータ にアクセスするプロジェクトの作成
JAR ファイルをコピーしたら、Google Cloud Storage のデータ にアクセスするプロジェクトを作成できます。まず、Integrate Studio を開いて新しいプロジェクトを作成しましょう。
- プロジェクト名を入力します
- 「スクリプトを作成」チェックボックスがオンになっていることを確認します
- 「次へ」をクリックします
- スクリプト名を入力します(例:GoogleCloudStoragetoCSV)
プロジェクトを作成したら、Google Cloud Storage のデータ を CSV ファイルにコピーするためのコンポーネントをスクリプトに追加します。
Execute Select SQL コンポーネントの設定
ツールパレット(Database -> JDBC)から「Execute Select SQL」コンポーネントをスクリプトワークスペースにドラッグします。
- 「必須設定」タブの接続先で、「追加」をクリックして Google Cloud Storage 用の新しい接続を作成します。以下のプロパティを設定します:
- 名前:Google Cloud Storage Connection Settings
- ドライバークラス名:cdata.jdbc.googlecloudstorage.GoogleCloudStorageDriver
- URL:jdbc:googlecloudstorage:ProjectId='project1';
組み込みの接続文字列デザイナー
JDBC URL の構築には、Google Cloud Storage JDBC Driver に組み込まれている接続文字列デザイナーをご利用ください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。
java -jar cdata.jdbc.googlecloudstorage.jar
接続プロパティを入力し、接続文字列をクリップボードにコピーします。
ユーザーアカウントでの認証
ユーザー資格情報の接続プロパティを設定することなく接続できます。InitiateOAuth をGETANDREFRESH に設定したら、接続の準備が完了です。
接続すると、Google Cloud Storage OAuth エンドポイントがデフォルトブラウザで開きます。ログインして権限を付与すると、OAuth プロセスが完了します。
サービスアカウントでの認証
サービスアカウントには、ブラウザでユーザー認証を行わないサイレント認証があります。サービスアカウントを使用して、企業全体のアクセススコープを委任することもできます。
このフローでは、OAuth アプリケーションを作成する必要があります。詳しくは、ヘルプドキュメントを参照してください。以下の接続プロパティを設定したら、接続の準備が完了です:
- InitiateOAuth: GETANDREFRESH に設定。
- OAuthJWTCertType: PFXFILE に設定。
- OAuthJWTCert: 生成した.p12 ファイルへのパスに設定。
- OAuthJWTCertPassword: .p12 ファイルのパスワードに設定。
- OAuthJWTCertSubject: 証明書ストアの最初の証明書が選ばれるように"*" に設定。
- OAuthJWTIssuer: 「サービスアカウント」セクションで「サービスアカウントの管理」をクリックし、このフィールドをサービスアカウントID フィールドに表示されているE メールアドレスに設定。
- OAuthJWTSubject: サブジェクトタイプが"enterprise" に設定されている場合はエンタープライズID に設定し、"user" に設定されている場合はアプリユーザーID に設定。
- ProjectId: 接続するプロジェクトのID に設定。
これで、サービスアカウントのOAuth フローが完了します。
- SQL ステートメントを記述します。例:
SELECT Name, OwnerId FROM Buckets
- 「抽出テスト」をクリックして、接続とクエリが正しく設定されていることを確認します
- 「SQL を実行して出力スキーマを設定」をクリックします
- 「完了」をクリックします
Write CSV File コンポーネントの設定
ツールパレット(File -> CSV)から「Write CSV File」コンポーネントをワークスペースにドラッグします。
- クエリ結果を書き込むファイルを設定します(例:Buckets.csv)
- 「入力データ」を「Select SQL」コンポーネントに設定します
- SQL クエリで選択した各フィールドのカラムを追加します
- 「書き込み設定」タブで、「最初の行にカラム名を挿入する」チェックボックスをオンにします
- 「完了」をクリックします
Google Cloud Storage フィールドを CSV カラムにマッピング
「Select」コンポーネントの各カラムを、「CSV」コンポーネントの対応するカラムにマッピングします。
スクリプトの完成
「Start」コンポーネントを「Select」コンポーネントに、「CSV」コンポーネントを「End」コンポーネントにドラッグして接続します。スクリプトをビルドして実行すると、Google Cloud Storage のデータ が CSV ファイルに出力されます。
CData JDBC Driver for Google Cloud Storageの30日間の無償トライアルをダウンロードして、HULFT Integrate でリアルタイムの Google Cloud Storage のデータ を活用してみてください。ご不明な点があれば、サポートチームまでお気軽にお問い合わせください。