Pentaho Data Integration でHive のデータを連携

Jerod Johnson
Director, Technology Evangelism

Pentaho Data Integration で Hive のデータをベースにした ETL パイプラインを構築します。

CData JDBC Driver for Apache Hive を使用すると、データパイプラインからリアルタイムデータにアクセスできます。Pentaho Data Integration は、ETL（Extraction, Transformation, and Loading）エンジンであり、データをクレンジングし、アクセス可能な統一フォーマットでデータを格納します。この記事では、Hive のデータに JDBC データソースとして接続し、Pentaho Data Integration で Hive のデータをベースにしたジョブやトランスフォーメーションを構築する方法を説明します。

Hive への接続を設定

Apache Hive への接続を確立するには以下を指定します。

Server：HiveServer2 をホストするサーバーのホスト名またはIP アドレスに設定。
Port：HiveServer2 インスタンスへの接続用のポートに設定。
TransportMode：Hive サーバーとの通信に使用するトランスポートモード。有効な入力値は、BINARY およびHTTP です。デフォルトではBINARY が選択されます。
AuthScheme：使用される認証スキーム。有効な入力値はPLAIN、LDAP、NOSASL、およびKERBEROS です。デフォルトではPLAIN が選択されます。
CData 製品においてTLS/SSL を有効化するには、UseSSL をTrue に設定します

組み込みの接続文字列デザイナー

JDBC URL の構築を支援するには、Hive JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

java -jar cdata.jdbc.apachehive.jar

接続プロパティを設定し、接続文字列をクリップボードにコピーします。

組み込みの接続文字列デザイナーを使用して JDBC URL を生成（Salesforce の例）

JDBC URL を設定する際には、Max Rows 接続プロパティの設定も検討してください。これにより返される行数が制限され、レポートやビジュアライゼーションの設計時にパフォーマンスを向上させることができます。

一般的な JDBC URL は次のようになります：

jdbc:apachehive:Server=127.0.0.1;Port=10000;TransportMode=BINARY;

接続文字列を保存して、Pentaho Data Integration で使用します。

Pentaho DI から Hive に接続

Pentaho Data Integration を開き、「Database Connection」を選択して CData JDBC Driver for Apache Hive への接続を設定します。

「General」をクリックします。
Connection name を設定します（例：Hive Connection）。
Connection type を「Generic database」に設定します。
Access を「Native (JDBC)」に設定します。
Custom connection URL に Hive の接続文字列を設定します（例：
```
jdbc:apachehive:Server=127.0.0.1;Port=10000;TransportMode=BINARY;
```
）。
Custom driver class name を「cdata.jdbc.apachehive.ApacheHiveDriver」に設定します。
接続をテストし、「OK」をクリックして保存します。