HULFT Integrate で Azure Data Lake Storage のデータ に接続

HULFT Integrate は、ドラッグ＆ドロップのユーザーインターフェースでコーポレーションフロー、データ変換、処理を簡単に作成できる最新のデータ連携プラットフォームです。CData JDBC Driver for Azure Data Lake Storage と組み合わせることで、HULFT Integrate からリアルタイムの Azure Data Lake Storage のデータ を扱うことができます。この記事では、Azure Data Lake Storage への接続方法と、データを CSV ファイルに出力する手順をご紹介します。

CData JDBC ドライバーは、最適化されたデータ処理機能を備えており、リアルタイムの Azure Data Lake Storage のデータ との連携において比類のないパフォーマンスを発揮します。Azure Data Lake Storage に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を直接 Azure Data Lake Storage にプッシュし、サポートされていない操作（主に SQL 関数や JOIN 操作）は内蔵の SQL エンジンでクライアント側で処理します。また、動的なメタデータクエリ機能により、ネイティブなデータ型を使用して Azure Data Lake Storage のデータ を操作・分析できます。

Azure Data Lake Storage へのアクセスを有効化

HULFT Integrate プロジェクトから Azure Data Lake Storage のデータ へのアクセスを有効にするには、以下の手順で設定します：

1. CData JDBC Driver の JAR ファイル（およびライセンスファイルがある場合はそれも）、cdata.jdbc.adls.jar（および cdata.jdbc.adls.lic）を、Integrate Server の jdbc_adapter サブフォルダにコピーします
2. HULFT Integrate Server を再起動し、HULFT Integrate Studio を起動します

Azure Data Lake Storage のデータ にアクセスするプロジェクトの作成

JAR ファイルをコピーしたら、Azure Data Lake Storage のデータ にアクセスするプロジェクトを作成できます。まず、Integrate Studio を開いて新しいプロジェクトを作成しましょう。

1. プロジェクト名を入力します
2. 「スクリプトを作成」チェックボックスがオンになっていることを確認します
3. 「次へ」をクリックします
4. スクリプト名を入力します（例：ADLStoCSV）

プロジェクトを作成したら、Azure Data Lake Storage のデータ を CSV ファイルにコピーするためのコンポーネントをスクリプトに追加します。

Execute Select SQL コンポーネントの設定

ツールパレット（Database -> JDBC）から「Execute Select SQL」コンポーネントをスクリプトワークスペースにドラッグします。

1. 「必須設定」タブの接続先で、「追加」をクリックして Azure Data Lake Storage 用の新しい接続を作成します。以下のプロパティを設定します：
   • 名前：Azure Data Lake Storage Connection Settings
   • ドライバークラス名：cdata.jdbc.adls.ADLSDriver
   • URL：jdbc:adls:Schema=ADLSGen2;Account=myAccount;FileSystem=myFileSystem;AccessKey=myAccessKey;
     
     

     組み込みの接続文字列デザイナー

     JDBC URL の構築には、Azure Data Lake Storage JDBC Driver に組み込まれている接続文字列デザイナーをご利用ください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

     		java -jar cdata.jdbc.adls.jar
     		

     接続プロパティを入力し、接続文字列をクリップボードにコピーします。

     Azure Data Lake Storage 接続プロパティの取得・設定方法

     Azure Data Lake Storage Gen2 への接続

     それでは、Gen2 Data Lake Storage アカウントに接続していきましょう。接続するには、以下のプロパティを設定します。

     • Account：ストレージアカウントの名前
     • FileSystem：このアカウントに使用されるファイルシステム名。例えば、Azure Blob コンテナの名前
     • Directory（オプション）：レプリケートされたファイルが保存される場所へのパス。パスが指定されない場合、ファイルはルートディレクトリに保存されます

     Azure Data Lake Storage Gen2への認証

     続いて、認証方法を設定しましょう。CData 製品では、5つの認証方法をサポートしています：アクセスキー（AccessKey）の使用、共有アクセス署名（SAS）の使用、Azure Active Directory OAuth（AzureAD）経由、Azure サービスプリンシパル（AzureServicePrincipal またはAzureServicePrincipalCert）経由、およびManaged Service Identity（AzureMSI）経由です。

     アクセスキー

     アクセスキーを使用して接続するには、まずADLS Gen2ストレージアカウントで利用可能なアクセスキーを取得する必要があります。

     Azure ポータルでの手順は以下のとおりです：

     1. ADLS Gen2ストレージアカウントにアクセスします
     2. 設定でアクセスキーを選択します
     3. 利用可能なアクセスキーの1つの値をAccessKey 接続プロパティにコピーします

     接続の準備ができたら、以下のプロパティを設定してください。

     • AuthScheme：AccessKey
     • AccessKey：先ほどAzure ポータルで取得したアクセスキーの値

     共有アクセス署名（SAS）

     共有アクセス署名を使用して接続するには、まずAzure Storage Explorer ツールを使用して署名を生成する必要があります。

     接続の準備ができたら、以下のプロパティを設定してください。

     • AuthScheme：SAS
     • SharedAccessSignature：先ほど生成した共有アクセス署名の値

     その他の認証方法については、 href="/kb/help/" target="_blank">ヘルプドキュメントの「Azure Data Lake Storage Gen2への認証」セクションをご確認ください。

     
2. SQL ステートメントを記述します。例：

   SELECT FullPath, Permission FROM Resources

3. 「抽出テスト」をクリックして、接続とクエリが正しく設定されていることを確認します
4. 「SQL を実行して出力スキーマを設定」をクリックします
5. 「完了」をクリックします

Write CSV File コンポーネントの設定

ツールパレット（File -> CSV）から「Write CSV File」コンポーネントをワークスペースにドラッグします。

1. クエリ結果を書き込むファイルを設定します（例：Resources.csv）
2. 「入力データ」を「Select SQL」コンポーネントに設定します
3. SQL クエリで選択した各フィールドのカラムを追加します
4. 「書き込み設定」タブで、「最初の行にカラム名を挿入する」チェックボックスをオンにします
5. 「完了」をクリックします

Azure Data Lake Storage フィールドを CSV カラムにマッピング

「Select」コンポーネントの各カラムを、「CSV」コンポーネントの対応するカラムにマッピングします。

スクリプトの完成

「Start」コンポーネントを「Select」コンポーネントに、「CSV」コンポーネントを「End」コンポーネントにドラッグして接続します。スクリプトをビルドして実行すると、Azure Data Lake Storage のデータ が CSV ファイルに出力されます。

CData JDBC Driver for Azure Data Lake Storageの30日間の無償トライアルをダウンロードして、HULFT Integrate でリアルタイムの Azure Data Lake Storage のデータ を活用してみてください。ご不明な点があれば、サポートチームまでお気軽にお問い合わせください。