Pentaho Data Integration でAmazon S3 のデータを連携

Jerod Johnson
Director, Technology Evangelism

Pentaho Data Integration で Amazon S3 のデータをベースにした ETL パイプラインを構築します。

CData JDBC Driver for Amazon S3 を使用すると、データパイプラインからリアルタイムデータにアクセスできます。Pentaho Data Integration は、ETL（Extraction, Transformation, and Loading）エンジンであり、データをクレンジングし、アクセス可能な統一フォーマットでデータを格納します。この記事では、Amazon S3 のデータに JDBC データソースとして接続し、Pentaho Data Integration で Amazon S3 のデータをベースにしたジョブやトランスフォーメーションを構築する方法を説明します。

Amazon S3 への接続を設定

Amazon S3 リクエストを認可するには、管理者アカウントまたはカスタム権限を持つIAM ユーザーの認証情報を入力します。AccessKey をアクセスキーID に設定します。SecretKey をシークレットアクセスキーに設定します。

Note: AWS アカウント管理者として接続できますが、AWS サービスにアクセスするにはIAM ユーザー認証情報を使用することをお勧めします。

尚、CData 製品はAmazon S3 のファイルの一覧表示やユーザー管理情報の取得用です。S3 に保管されているExcel、CSV、JSON などのファイル内のデータを読み込みたい場合には、Excel Driver、CSV Driver、JSON Driver をご利用ください。

アクセスキーの取得

IAM ユーザーの資格情報を取得するには：

IAM コンソールにサインインします。
ナビゲーションペインで「ユーザー」を選択します。
ユーザーのアクセスキーを作成または管理するには、ユーザーを選択してから「セキュリティ認証情報」タブを選択します。

AWS ルートアカウントの資格情報を取得するには：

ルートアカウントの資格情報を使用してAWS 管理コンソールにサインインします。
アカウント名または番号を選択し、表示されたメニューで「My Security Credentials」を選択します。
「Continue to Security Credentials」をクリックし、「Access Keys」セクションを展開して、ルートアカウントのアクセスキーを管理または作成します。

AWS ロールとして認証

多くの場合、認証にはAWS ルートユーザーのダイレクトなセキュリティ認証情報ではなく、IAM ロールを使用することをお勧めします。RoleARN を指定することでAWS ロールを代わりに使用できます。これにより、CData 製品は指定されたロールの資格情報を取得しようと試みます。

（すでにEC2 インスタンスなどで接続されているのではなく）AWS に接続している場合は、ロールを引き受けるIAM ユーザーのAccessKey とSecretKey を追加で指定する必要があります。AWS ルートユーザーのAccessKey および SecretKey を指定する場合、ロールは使用できません。

SSO 認証

SSO 認証を必要とするユーザーおよびロールには、RoleARN およびPrincipalArn 接続プロパティを指定してください。各Identity Provider に固有のSSOProperties を指定し、AccessKey とSecretKey を空のままにする必要があります。これにより、CData 製品は一時的な認証資格情報を取得するために、リクエストでSSO 認証情報を送信します。

組み込みの接続文字列デザイナー

JDBC URL の構築を支援するには、Amazon S3 JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

java -jar cdata.jdbc.amazons3.jar

接続プロパティを設定し、接続文字列をクリップボードにコピーします。

組み込みの接続文字列デザイナーを使用して JDBC URL を生成（Salesforce の例）

JDBC URL を設定する際には、Max Rows 接続プロパティの設定も検討してください。これにより返される行数が制限され、レポートやビジュアライゼーションの設計時にパフォーマンスを向上させることができます。

一般的な JDBC URL は次のようになります：

jdbc:amazons3:AccessKey=a123;SecretKey=s123;

接続文字列を保存して、Pentaho Data Integration で使用します。

Pentaho DI から Amazon S3 に接続

Pentaho Data Integration を開き、「Database Connection」を選択して CData JDBC Driver for Amazon S3 への接続を設定します。

「General」をクリックします。
Connection name を設定します（例：Amazon S3 Connection）。
Connection type を「Generic database」に設定します。
Access を「Native (JDBC)」に設定します。
Custom connection URL に Amazon S3 の接続文字列を設定します（例：
```
jdbc:amazons3:AccessKey=a123;SecretKey=s123;
```
）。
Custom driver class name を「cdata.jdbc.amazons3.AmazonS3Driver」に設定します。
接続をテストし、「OK」をクリックして保存します。