Apache Airflow のデータ のPostgreSQL インターフェースを作成

PostgreSQL には多くの対応クライアントがあります。標準のドライバーからBI、アナリティクスツールまで、PostgreSQL はデータ接続の人気のインターフェースです。JDBC ドライバーを使用することで、簡単に任意の標準クライアントから接続できるPostgreSQL エントリポイントを作成できます。

Apache Airflow にPostgreSQL データベースとしてアクセスするには、CData JDBC Driver for API とJDBC foreign data wrapper (FDW) を使用します。この記事ではFDW をコンパイルしてインストールし、PostgreSQL サーバーからApache Airflow にクエリを実行します。

JDBC データソースとしてApache Airflow のデータに接続する

JDBC データソースとしてApache Airflow に接続するには、以下が必要です。

• Driver のJAR パス：JAR ファイルは、インストールディレクトリのlib サブフォルダにあります。

• Driver クラス

  
  cdata.jdbc.api.APIDriver
  

• JDBC URL: URL は、"jdbc:api:" で始まり、セミコロンで区切られた名前と値の組み合わせで任意の接続プロパティを含めることができます。

  まず、Profile 接続プロパティをディスク上の ApacheAirflow プロファイルの場所に設定します（例：C:\profiles\ApacheAirflow.apip）。次に、ProfileSettings 接続プロパティを ApacheAirflow の接続文字列に設定します（以下を参照）。

  ApacheAirflow API プロファイル設定

  Apache Airflow 3 では、API 認証に JWT Bearer トークンを使用します。トークンは、Airflow Web UI の「Settings」から生成するか、Airflow CLI の airflow users create と /api/v2/auth/token エンドポイントを使って生成できます。なお、このプロファイルは /api/v2 REST API を使用する Apache Airflow 3.x を対象としています。Airflow 2.x で使われていた従来の /api/v1 エンドポイントには対応していません。

  以下の接続プロパティを設定すると、接続できるようになります。

  • AuthScheme：APIKey に設定します。
  • APIKey：Apache Airflow の JWT Bearer トークンに設定します。
  • Server：Airflow インスタンスのベース URL に設定します（例：http://localhost:8080）。

  ビルトイン接続文字列デザイナ

  JDBC URL の構成については、Apache Airflow JDBC Driver に組み込まれている接続文字列デザイナを使用できます。JAR ファイルのダブルクリック、またはコマンドラインからJAR ファイルを実行します。

  
  java -jar cdata.jdbc.api.jar
  

  接続プロパティを入力し、接続文字列をクリップボードにコピーします。

  

  以下は一般的なJDBC URL です。

  
  jdbc:api:Profile=C:\profiles\ApacheAirflow.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_jwt_token;Server=http://localhost:8080';
  

JDBC FDW を構築する

FDW は、PostgreSQL を再コンパイルせずに、PostgreSQL の拡張機能としてインストールできます。例としてjdbc2_fdw 拡張子を使用します。

1. ご使用のバージョンのJRE 共有オブジェクトから、/usr/lib/libjvm.so にシンボリックリンクを追加します。コマンド例：

   
   ln -s /usr/lib/jvm/java-6-openjdk/jre/lib/amd64/server/libjvm.so /usr/lib/libjvm.so
   

2. ビルドするには、以下のコマンドを実行してください。

   
   make install USE_PGXS=1
   

Apache Airflow のデータをPostgreSQL データベースとしてクエリする

拡張機能をインストールした後、以下のステップに従ってApache Airflow へのクエリの実行を開始します。

1. データベースにログイン
2. データベースの拡張機能をロード

   
   CREATE EXTENSION jdbc2_fdw;
   

3. Apache Airflow のオブジェクトを作成

   
   CREATE SERVER API
   FOREIGN DATA WRAPPER jdbc2_fdw OPTIONS (
   drivername 'cdata.jdbc.api.APIDriver',
   url 'jdbc:api:Profile=C:\profiles\ApacheAirflow.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_jwt_token;Server=http://localhost:8080';',
   querytimeout '15',
   jarfile '/home/MyUser/CData/CData\ JDBC\ Driver\ for\ Salesforce MyDriverEdition/lib/cdata.jdbc.api.jar');
   

4. PostgreSQL デーモンに認識されているユーザーのユーザー名とパスワードのユーザーマッピングを作成

   
   CREATE USER MAPPING for postgres SERVER API OPTIONS (
   username 'admin',
   password 'test');
   

5. ローカルデータベースに外部テーブルを作成

   
   postgres=# CREATE FOREIGN TABLE dagruns (
   dagruns_id text,
   dagruns_DagRunId text,
   dagruns_State numeric)
   SERVER API OPTIONS (
   table_name 'dagruns');
   

postgres=# SELECT * FROM dagruns;

おわりに

このようにCData JDBC Driver for API を使って簡単にApache Airflow のデータを取得して検索対象にすることができました。ぜひ、30日の無償評価版 をお試しください。