LINQ を使ってApache Airflow のデータに連携する方法

加藤龍彦
加藤龍彦
デジタルマーケティング
CData ADO.NET ProviderとEntity Frameworkを使い、LINQクエリでApache Airflow のデータにアクセスする接続設定から実装までの手順を解説します。



この記事では、CData ADO.NET Data Provider for API 経由でLINQ を使ってApache Airflow テーブルにアクセスする方法を説明します。これを行うには、Entity Framework にLINQ を使います。これにより接続を作成し、あらゆる CData ADO.NET Data Providers からLINQ を使ってデータにアクセスできるようになります。

  1. Visual Studio の新規プロジェクトで、プロジェクトを右クリックし[新しい項目の追加]を選択します。[ADO.NET Entity Data Model]を追加します。
  2. [データベースから生成]を選択し、[次へ]をクリックします。
  3. [接続の追加]をクリックし、データソースタイプを "CData Apache Airflow Data Source" に変更します。
  4. データソースの接続情報を入力します。一般的な接続プロパティは以下のとおりです:

    まず、Profile 接続プロパティをディスク上の ApacheAirflow プロファイルの場所に設定します(例:C:\profiles\ApacheAirflow.apip)。次に、ProfileSettings 接続プロパティを ApacheAirflow の接続文字列に設定します(以下を参照)。

    ApacheAirflow API プロファイル設定

    Apache Airflow 3 では、API 認証に JWT Bearer トークンを使用します。トークンは、Airflow Web UI の「Settings」から生成するか、Airflow CLI の airflow users create と /api/v2/auth/token エンドポイントを使って生成できます。なお、このプロファイルは /api/v2 REST API を使用する Apache Airflow 3.x を対象としています。Airflow 2.x で使われていた従来の /api/v1 エンドポイントには対応していません。

    以下の接続プロパティを設定すると、接続できるようになります。

    • AuthScheme:APIKey に設定します。
    • APIKey:Apache Airflow の JWT Bearer トークンに設定します。
    • Server:Airflow インスタンスのベース URL に設定します(例:http://localhost:8080)。

    Below is a typical connection string:

    Profile=C:\profiles\ApacheAirflow.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_jwt_token;Server=http://localhost:8080';
  5. Required connection properties for the data source. (Salesforce is shown.)
  6. エンティティ接続をApp.Config に保存する場合は、エンティティ名を設定します。この例では、APIEntities をエンティティ接続としてApp.Config に設定しています。
  7. モデル名を入力し、モデルに含めたいテーブルまたはビューを選択します。
The available tables in the underlying data source. (QuickBooks is shown.)

作成したエンティティを使って、選択、更新、削除、および挿入コマンドが実行できます。例:


APIEntities context = new APIEntities();
var dagrunsQuery = from dagruns in context.DagRuns  select dagruns;
foreach (var result in dagrunsQuery) {
	Console.WriteLine("{0} {1} ", result.Id, result.DagRunId);
}
	

サポートされたLINQ のクエリ例は、ヘルプドキュメントの「LINQ およびEntity Framework」をご参照ください。

はじめる準備はできましたか?

API Driver で Apache Airflow のライブデータに接続

Apache Airflow に接続