Python で pandas を使って Apache Airflow データを可視化する方法

Jerod Johnson
Jerod Johnson
Director, Technology Evangelism
pandas などのモジュールを使って Python で Apache Airflow のデータをリアルタイムに分析・可視化する方法を紹介します。



Python の豊富なエコシステムを活用することで、作業を迅速に開始し、システム間の連携をより効果的に行うことができます。CData API Driver for Python、pandas および Matplotlib モジュール、SQLAlchemy ツールキットを組み合わせることで、Apache Airflow に接続した Python アプリケーションやスクリプトを構築し、Apache Airflow のデータを可視化できます。この記事では、pandas、SQLAlchemy、Matplotlib の組み込み関数を使用して Apache Airflow のデータに接続し、クエリを実行して結果を可視化する方法を説明します。

CData Python Connector は、組み込みの最適化されたデータ処理機能により、Python での Apache Airflow のデータへのリアルタイムアクセスにおいて比類のないパフォーマンスを提供します。Apache Airflow に対して複雑な SQL クエリを発行すると、ドライバーはフィルタや集計などのサポートされている SQL 操作を Apache Airflow に直接プッシュし、サポートされていない操作（多くの場合、SQL 関数や JOIN 操作）は組み込みの SQL エンジンを使用してクライアント側で処理します。

Apache Airflow のデータへの接続

Apache Airflow のデータへの接続は、他のリレーショナルデータソースへの接続と同様です。必要な接続プロパティを使用して接続文字列を作成します。この記事では、接続文字列を create_engine 関数のパラメータとして渡します。

まず、Profile 接続プロパティをディスク上の ApacheAirflow プロファイルの場所に設定します（例：C:\profiles\ApacheAirflow.apip）。次に、ProfileSettings 接続プロパティを ApacheAirflow の接続文字列に設定します（以下を参照）。

ApacheAirflow API プロファイル設定

Apache Airflow 3 では、API 認証に JWT Bearer トークンを使用します。トークンは、Airflow Web UI の「Settings」から生成するか、Airflow CLI の airflow users create と /api/v2/auth/token エンドポイントを使って生成できます。なお、このプロファイルは /api/v2 REST API を使用する Apache Airflow 3.x を対象としています。Airflow 2.x で使われていた従来の /api/v1 エンドポイントには対応していません。

以下の接続プロパティを設定すると、接続できるようになります。

  • AuthScheme：APIKey に設定します。
  • APIKey：Apache Airflow の JWT Bearer トークンに設定します。
  • Server：Airflow インスタンスのベース URL に設定します（例：http://localhost:8080）。

以下の手順に従って、必要なモジュールをインストールし、Python オブジェクトを介して Apache Airflow にアクセスしてみましょう。

必要なモジュールのインストール

pip ユーティリティを使用して、pandas、Matplotlib モジュール、および SQLAlchemy ツールキットをインストールします。

pip install pandas
pip install matplotlib
pip install sqlalchemy

以下のようにモジュールをインポートしてください。

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engine

Python で Apache Airflow のデータを可視化する

接続文字列を使用して接続できます。create_engine 関数を使用して、Apache Airflow のデータを操作するための Engine を作成します。 

engine = create_engine("api:///?Profile=C:\profiles\ApacheAirflow.apip&AuthScheme=APIKey&ProfileSettings='APIKey=your_jwt_token&Server=http://localhost:8080'")

Apache Airflow への SQL の実行

pandas の read_sql 関数を使用して、SQL ステートメントを実行し、結果セットを DataFrame に格納します。 

df = pandas.read_sql("SELECT DagRunId, State FROM DagRuns WHERE DagId = 'example_dag'", engine)

Apache Airflow のデータの可視化

クエリ結果が DataFrame に格納されたら、plot 関数を使用して Apache Airflow のデータを表示するグラフを作成します。show メソッドで、グラフを新しいウィンドウに表示します。 

df.plot(kind="bar", x="DagRunId", y="State")
plt.show()
Python プロットでの Apache Airflow のデータ（例：Salesforce）

無料トライアル & 詳細情報

CData API Driver for Python の 30日間無料トライアルをダウンロードして、Apache Airflow のデータに接続する Python アプリケーションやスクリプトの構築を始めましょう。ご質問がありましたら、サポートチームまでお気軽にお問い合わせください。


完全なソースコード

import pandas
import matplotlib.pyplot as plt
from sqlalchemy import create_engin

engine = create_engine("api:///?Profile=C:\profiles\ApacheAirflow.apip&AuthScheme=APIKey&ProfileSettings='APIKey=your_jwt_token&Server=http://localhost:8080'")
df = pandas.read_sql("SELECT DagRunId, State FROM DagRuns WHERE DagId = 'example_dag'", engine)

df.plot(kind="bar", x="DagRunId", y="State")
plt.show()

はじめる準備はできましたか？

API Driver で Apache Airflow のライブデータに接続

Apache Airflow に接続

この記事の内容

関連記事