Pentaho Data Integration でSpark のデータを連携
CData JDBC Driver for Apache Spark を使用すると、データパイプラインからリアルタイムデータにアクセスできます。Pentaho Data Integration は、ETL（Extraction, Transformation, and Loading）エンジンであり、データをクレンジングし、アクセス可能な統一フォーマットでデータを格納します。この記事では、Spark のデータ に JDBC データソースとして接続し、Pentaho Data Integration で Spark のデータ をベースにしたジョブやトランスフォーメーションを構築する方法を説明します。
Spark への接続を設定
SparkSQL への接続
SparkSQL への接続を確立するには以下を指定します。
- Server：SparkSQL をホストするサーバーのホスト名またはIP アドレスに設定。
- Port：SparkSQL インスタンスへの接続用のポートに設定。
- TransportMode：SparkSQL サーバーとの通信に使用するトランスポートモード。有効な入力値は、BINARY およびHTTP です。デフォルトではBINARY が選択されます。
- AuthScheme：使用される認証スキーム。有効な入力値はPLAIN、LDAP、NOSASL、およびKERBEROS です。デフォルトではPLAIN が選択されます。
Databricks への接続
Databricks クラスターに接続するには、以下の説明に従ってプロパティを設定します。Note：必要な値は、「クラスター」に移動して目的のクラスターを選択し、 「Advanced Options」の下にある「JDBC/ODBC」タブを選択することで、Databricks インスタンスで見つけることができます。
- Server：Databricks クラスターのサーバーのホスト名に設定。
- Port：443
- TransportMode：HTTP
- HTTPPath：Databricks クラスターのHTTP パスに設定。
- UseSSL：True
- AuthScheme：PLAIN
- User：'token' に設定。
- Password：パーソナルアクセストークンに設定（値は、Databricks インスタンスの「ユーザー設定」ページに移動して「アクセストークン」タブを選択することで取得できます）。
組み込みの接続文字列デザイナー
JDBC URL の構築を支援するには、Spark JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。
java -jar cdata.jdbc.sparksql.jar
接続プロパティを設定し、接続文字列をクリップボードにコピーします。
JDBC URL を設定する際には、Max Rows 接続プロパティの設定も検討してください。これにより返される行数が制限され、レポートやビジュアライゼーションの設計時にパフォーマンスを向上させることができます。
一般的な JDBC URL は次のようになります：
jdbc:sparksql:Server=127.0.0.1;
接続文字列を保存して、Pentaho Data Integration で使用します。
Pentaho DI から Spark に接続
Pentaho Data Integration を開き、「Database Connection」を選択して CData JDBC Driver for Apache Spark への接続を設定します。
- 「General」をクリックします。
- Connection name を設定します（例：Spark Connection）。
- Connection type を「Generic database」に設定します。
- Access を「Native (JDBC)」に設定します。
- Custom connection URL に Spark の接続文字列を設定します（例：
jdbc:sparksql:Server=127.0.0.1;
）。 - Custom driver class name を「cdata.jdbc.sparksql.SparkSQLDriver」に設定します。
- 接続をテストし、「OK」をクリックして保存します。
Spark のデータパイプラインを作成
CData JDBC Driver を使用して Spark への接続が設定されたら、新しいトランスフォーメーションまたはジョブを作成する準備が整いました。
- 「File」>>「New」>>「Transformation/job」をクリックします。
- 「Table input」オブジェクトをワークフローパネルにドラッグし、Spark 接続を選択します。
- 「Get SQL select statement」をクリックし、Database Explorer を使用して利用可能なテーブルとビューを表示します。
- テーブルを選択し、必要に応じてデータをプレビューして確認します。
ここから、適切な同期先を選択し、レプリケーション中にデータを変更、フィルタリング、その他の処理を行うトランスフォーメーションを追加することで、トランスフォーメーションまたはジョブを続行できます。
無料トライアルと詳細情報
CData JDBC Driver for Apache Spark の 30日間無料トライアルをダウンロードして、Pentaho Data Integration で Spark のデータ のリアルタイムデータを今すぐ活用しましょう。
はじめる準備はできましたか？
Apache Spark Driver の無料トライアルをダウンロードしてお試しください：
ダウンロード