Airbyte ELT パイプラインで OData Servicesに接続

Dibyendu Datta
Dibyendu Datta
Lead Technology Evangelist
CData Connect AI を使用して Airbyte で OData services の ELT パイプラインを構築。

Airbyte は、データウェアハウス、データレイク、データベースなど、あらゆるデータストアにデータをロードできる強力なツールです。CData Connect AI と組み合わせることで、Airbyte ユーザーはリアルタイムの OData services から直接 Extract, Load, Transform(ELT)パイプラインを作成できます。本記事では、Connect AI を通じて OData に接続し、Airbyte 内で OData services の ELT パイプラインを構築する手順を説明します。

CData Connect AI は OData 専用の SQL Server インターフェースを提供し、ネイティブデータベースへのデータレプリケーションを行うことなくデータをクエリできます。最適化されたデータ処理機能を内蔵しており、フィルタや JOIN を含むサポート対象のすべての SQL 操作を OData に直接転送します。これにより、サーバーサイド処理を活用して目的の OData services を高速に取得できます。

OData データ連携について

CData は、OData サービスのライブデータへのアクセスと統合を簡素化します。お客様は CData の接続機能を以下の目的で活用しています:

  • OData バージョン 2.0、3.0、4.0 にアクセスでき、レガシーサービスと最新の機能・性能の両方に対応できます。
  • $filter、$select、$expand などの高度なクエリオプションを活用し、サードパーティツールからのデータ取得を強化できます。
  • サーバーサイドでの集計とグループ化の実行により、データ転送を最小化し、パフォーマンスを向上させます。
  • Azure AD、ダイジェスト、ネゴシエート、NTLM、OAuth など、さまざまなスキームを使用して安全に認証でき、すべての接続でセキュアな認証を実現します。
  • SQL ストアドプロシージャを使用して、OData サービスエンティティを管理できます。エンティティ間の関連付けの一覧表示、作成、削除などが可能です。

お客様は、Power BI、MicroStrategy、Tableau などのお気に入りのツールと OData サービスを定期的に統合し、OData サービスからデータベースやデータウェアハウスにデータをレプリケートするために CData のソリューションを使用しています。


はじめに


Airbyte 用に OData への接続を構成

Airbyte から OData への接続は、CData Connect AI を介して実現します。Airbyte で OData services を利用するには、まず OData 接続を作成・設定します。

  1. Connect AI にログインし、Sources をクリックして、 Add Connection をクリックします
  2. Add Connection パネルから「OData」を選択します
  3. OData に接続するために必要な認証プロパティを入力します。

    OData への接続

    OData に接続するには、Url を有効なOData サービスルートURI に設定する必要があります。 OData サービスにルートドキュメントがない場合、テーブルとして公開したい特定のエンティティをFeedURL に指定してください。

    OData への認証

    OData は、以下を経由する認証をサポートします。

    • HTTP
    • Kerberos
    • SharePoint Online
    • OAuth
    • Azure AD

    HTTP 認証スキーム

    HTTP で認証する場合は、次の表に従ってAuthScheme を設定します。

    SchemeAuthSchemeその他の設定
    NoneNone認証を必要としない場合に使用。
    BasicBasicUserPassword
    NTLMNTLMUserPassword
    Digest(サポートされている場合)DigestUserPassword

    その他の認証方法の詳細は、ヘルプドキュメントの「接続の確立」セクションを参照してください。

  4. Save & Test をクリックします
  5. Add OData Connection ページの Permissions タブに移動し、ユーザーベースの権限を更新します。

パーソナルアクセストークンの追加

REST API、OData API、または仮想 SQL Server を介して Connect AI に接続する際、パーソナルアクセストークン(PAT)を使用して Connect AI への接続を認証します。アクセスの粒度を維持するために、サービスごとに個別の PAT を作成することをお勧めします。

  1. Connect AI アプリの右上にある歯車アイコン()をクリックして設定ページを開きます。
  2. Settings ページで Access Tokens セクションに移動し、 Create PAT をクリックします。
  3. PAT に名前を付けて Create をクリックします。
  4. パーソナルアクセストークンは作成時にのみ表示されます。必ずコピーして、将来の使用に備えて安全な場所に保存してください。

接続の設定と PAT の生成が完了したら、Airbyte から OData services に接続する準備が整いました。

Airbyte から OData に接続

Airbyte から CData Connect AI への接続を確立するには、以下の手順に従います。

  1. Airbyte アカウントにログインします
  2. 左側のパネルで Sources をクリックし、Add New Source をクリックします
    • Source Type を MSSQL Server に設定して TDS エンドポイントに接続します
    • Source Name を設定します
    • Host URL を tds.cdata.com に設定します
    • Port14333 に設定します
    • Database を事前に設定した接続名(例:OData1)に設定します
    • Username を Connect AI のユーザー名に設定します
    • SSL MethodEncrypted (trust server certificate) に設定し、Replication Method は標準のまま、SSH Tunnel MethodNo Tunnel に設定します
    • (オプション)Schema にソースに適用したい値を設定します
    • Password を Connect AI の PAT に設定します
    • (オプション)必要な JDBC URL パラメータを入力します
  3. Test and Save をクリックしてデータソースを作成します。

OData Services用の ELT パイプラインを作成

OData services を新しい同期先に接続するには、Sources をクリックし、Set Up Connection をクリックして同期先に接続します。上記で作成したソースと目的の同期先を選択し、Airbyte の処理が完了するまで待ちます。完了すると、接続が使用可能になります。

CData Connect AI の入手

Airbyte から 300 以上の SaaS、ビッグデータ、NoSQL ソースへのリアルタイムデータアクセスを実現するには、 CData Connect AI をぜひお試しください!

はじめる準備はできましたか?

CData Connect AI の詳細、または無料トライアルにお申し込みください:

無料トライアル お問い合わせ