Pentaho Data Integration でSFTP のデータを連携

Jerod Johnson
Jerod Johnson
Director, Technology Evangelism
Pentaho Data Integration で SFTP のデータ をベースにした ETL パイプラインを構築します。

CData JDBC Driver for SFTP を使用すると、データパイプラインからリアルタイムデータにアクセスできます。Pentaho Data Integration は、ETL(Extraction, Transformation, and Loading)エンジンであり、データをクレンジングし、アクセス可能な統一フォーマットでデータを格納します。この記事では、SFTP のデータ に JDBC データソースとして接続し、Pentaho Data Integration で SFTP のデータ をベースにしたジョブやトランスフォーメーションを構築する方法を説明します。

SFTP への接続を設定

FTP は、SFTP プロトコルを使用してSFTP サーバーとの間のファイル転送を行います。接続するにはRemoteHost を指定します。FTP はUser、Password、および公開鍵認証(SSHClientCert)を使用します。 SSHAuthMode を選択し、選択に基づいて接続値を指定します。

次の接続プロパティを設定し、ファイルシステムのリレーショナルビューをコントロールします。

  • RemotePath: 現在の作業ディレクトリに設定。
  • TableDepth: ビューとしてレポートするサブフォルダの深度を制御するために設定。
  • FileRetrievalDepth: ファイルを再帰的に取得し、Root テーブルにリストするために設定。
ストアドプロシージャは、ファイル、のダウンロード、アップロード、およびプロトコルコマンドの送信に利用できます。SQL を使用してサーバーと対話する方法の詳細については、ヘルプドキュメントの「データモデル」を参照してください。

組み込みの接続文字列デザイナー

JDBC URL の構築を支援するには、SFTP JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

java -jar cdata.jdbc.sftp.jar

接続プロパティを設定し、接続文字列をクリップボードにコピーします。

JDBC URL を設定する際には、Max Rows 接続プロパティの設定も検討してください。これにより返される行数が制限され、レポートやビジュアライゼーションの設計時にパフォーマンスを向上させることができます。

一般的な JDBC URL は次のようになります:

jdbc:sftp:RemoteHost=MyFTPServer;

接続文字列を保存して、Pentaho Data Integration で使用します。

Pentaho DI から SFTP に接続

Pentaho Data Integration を開き、「Database Connection」を選択して CData JDBC Driver for SFTP への接続を設定します。

  1. 「General」をクリックします。
  2. Connection name を設定します(例:SFTP Connection)。
  3. Connection type を「Generic database」に設定します。
  4. Access を「Native (JDBC)」に設定します。
  5. Custom connection URL に SFTP の接続文字列を設定します(例:
    jdbc:sftp:RemoteHost=MyFTPServer;
    )。
  6. Custom driver class name を「cdata.jdbc.sftp.SFTPDriver」に設定します。
  7. 接続をテストし、「OK」をクリックして保存します。

SFTP のデータパイプラインを作成

CData JDBC Driver を使用して SFTP への接続が設定されたら、新しいトランスフォーメーションまたはジョブを作成する準備が整いました。

  1. 「File」>>「New」>>「Transformation/job」をクリックします。
  2. 「Table input」オブジェクトをワークフローパネルにドラッグし、SFTP 接続を選択します。
  3. 「Get SQL select statement」をクリックし、Database Explorer を使用して利用可能なテーブルとビューを表示します。
  4. テーブルを選択し、必要に応じてデータをプレビューして確認します。

ここから、適切な同期先を選択し、レプリケーション中にデータを変更、フィルタリング、その他の処理を行うトランスフォーメーションを追加することで、トランスフォーメーションまたはジョブを続行できます。

無料トライアルと詳細情報

CData JDBC Driver for SFTP の 30日間無料トライアルをダウンロードして、Pentaho Data Integration で SFTP のデータ のリアルタイムデータを今すぐ活用しましょう。

はじめる準備はできましたか?

SFTP Driver の無料トライアルをダウンロードしてお試しください:

 ダウンロード

詳細:

SFTP Icon SFTP JDBC Driver お問い合わせ

Java ベースのアプリケーションやBI ツールからリモートファイルやディレクトリに簡単にアクセス。