Pentaho Data Integration でNASA のデータを連携

Jerod Johnson
Jerod Johnson
Director, Technology Evangelism
Pentaho Data Integration で NASA のデータ をベースにした ETL パイプラインを構築します。



CData API Driver for JDBC を使用すると、データパイプラインからリアルタイムデータにアクセスできます。Pentaho Data Integration は、ETL（Extraction, Transformation, and Loading）エンジンであり、データをクレンジングし、アクセス可能な統一フォーマットでデータを格納します。この記事では、NASA のデータ に JDBC データソースとして接続し、Pentaho Data Integration で NASA のデータ をベースにしたジョブやトランスフォーメーションを構築する方法を説明します。

NASA への接続を設定

API キー認証の設定

ほとんどの NASA API エンドポイント（APOD、NeoWS、DONKI、TechTransfer）では、NASA API キーが必要です。https://api.nasa.gov で無料のキーを登録してください。デフォルトの DEMO_KEY ではアクセスが制限されます（1 時間あたり 30 リクエスト、1 日あたり 50 リクエスト）。登録済みのキーでは 1 時間あたり 1,000 リクエストが可能です。

以下のエンドポイントは API キーが不要で、認証なしで利用できます：EONET（Earth Observatory Natural Event Tracker）、EPIC（Earth Polychromatic Imaging Camera）、NASA Image and Video Library、TechPort。

API キーを取得したら、以下の接続プロパティを設定します：

  • AuthScheme：APIKey に設定します。
  • APIKey：NASA の API キーに設定します。簡単なテストには DEMO_KEY を使用します。

接続文字列の例

Profile=C:\profiles\NASA.apip;AuthScheme=APIKey;APIKey=YOUR_NASA_API_KEY

NASA への接続

認証を設定すると、NASA に接続して、AstronomyPictureOfDay、NearEarthObjectFeed、EonetEvents、NasaImageLibrary などの利用可能なテーブルからデータをクエリできます。

組み込みの接続文字列デザイナー

JDBC URL の構築を支援するには、NASA JDBC Driver に組み込まれている接続文字列デザイナーを使用してください。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行します。

java -jar cdata.jdbc.api.jar

接続プロパティを設定し、接続文字列をクリップボードにコピーします。

JDBC URL を設定する際には、Max Rows 接続プロパティの設定も検討してください。これにより返される行数が制限され、レポートやビジュアライゼーションの設計時にパフォーマンスを向上させることができます。

一般的な JDBC URL は次のようになります：

jdbc:api:Profile=C:\profiles\NASA.apip;AuthScheme=APIKey;APIKey=YOUR_NASA_API_KEY

接続文字列を保存して、Pentaho Data Integration で使用します。

Pentaho DI から NASA に接続

Pentaho Data Integration を開き、「Database Connection」を選択して CData API Driver for JDBC への接続を設定します。

  1. 「General」をクリックします。
  2. Connection name を設定します（例：NASA Connection）。
  3. Connection type を「Generic database」に設定します。
  4. Access を「Native (JDBC)」に設定します。
  5. Custom connection URL に NASA の接続文字列を設定します（例：
    jdbc:api:Profile=C:\profiles\NASA.apip;AuthScheme=APIKey;APIKey=YOUR_NASA_API_KEY
    ）。
  6. Custom driver class name を「cdata.jdbc.api.APIDriver」に設定します。
  7. 接続をテストし、「OK」をクリックして保存します。

NASA のデータパイプラインを作成

CData JDBC Driver を使用して NASA への接続が設定されたら、新しいトランスフォーメーションまたはジョブを作成する準備が整いました。

  1. 「File」>>「New」>>「Transformation/job」をクリックします。
  2. 「Table input」オブジェクトをワークフローパネルにドラッグし、NASA 接続を選択します。
  3. 「Get SQL select statement」をクリックし、Database Explorer を使用して利用可能なテーブルとビューを表示します。
  4. テーブルを選択し、必要に応じてデータをプレビューして確認します。

ここから、適切な同期先を選択し、レプリケーション中にデータを変更、フィルタリング、その他の処理を行うトランスフォーメーションを追加することで、トランスフォーメーションまたはジョブを続行できます。

無料トライアルと詳細情報

CData API Driver for JDBC の 30日間無料トライアルをダウンロードして、Pentaho Data Integration で NASA のデータ のリアルタイムデータを今すぐ活用しましょう。

はじめる準備はできましたか？

API Driver で NASA のライブデータに接続

NASA に接続

この記事の内容

関連記事