APOS Live Data Gateway で Databricks のデータのセマンティックレイヤービューを構築

Dibyendu Datta
Dibyendu Datta
Lead Technology Evangelist
CData Connect AI と APOS Live Data Gateway を使用してDatabricks のデータのセマンティックレイヤービューを構築します。

APOS Live Data Gateway（LDG） は、データ接続とデータ変換のソリューションとして機能し、SAP Analytics Cloud やその他の SAP ソリューション向けにライブデータ接続を促進し、データソースの可能性を広げます。CData Connect AI と統合することで、ユーザーはDatabricks のデータにリアルタイムアクセスするためのセマンティックレイヤービューを構築でき、リレーショナルデータベースと同様の方法で Databricks のリアルタイム分析が可能になります。

CData Connect AI は Databricks に接続するための専用 SQL Server インターフェースを提供し、ネイティブ対応データベースへのデータレプリケーションを必要とせずに Databricks から直接データをクエリできます。事前に最適化されたデータ処理機能を備えており、CData Connect AI はフィルタや JOIN を含むサポート対象のすべての SQL 操作を効率的に Databricks へ直接送信します。サーバーサイド処理を活用することで、要求されたDatabricks のデータを迅速に取得できます。

Databricks データ連携について

CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています：

  • Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
  • あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
  • パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
  • Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。

多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。

一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください：What is Databricks Used For? 6 Use Cases


はじめに


APOS Live Data Gateway 用に Databricks への接続を設定

APOS Live Data Gateway から Databricks への接続は CData Connect AI を介して行います。APOS Live Data Gateway でDatabricks のデータを操作するには、まず Databricks への接続を作成・設定します。

  1. Connect AI にログインして「Sources」をクリック、次に「 Add Connection」をクリック
  2. 接続を追加パネルから「Databricks」を選択
  3. Databricks に接続するために必要な認証プロパティを入力します。

    Databricks 接続プロパティの取得・設定方法

    Databricks クラスターに接続するには、以下のプロパティを設定します。

    • Database：Databricks データベース名。
    • Server：Databricks クラスターのサーバーのホスト名。
    • HTTPPath：Databricks クラスターのHTTP パス。
    • Token：個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
    Databricks インスタンスで必要な値は、クラスターに移動して目的のクラスターを選択し、Advanced Options の下にあるJDBC/ODBC タブを選択することで見つけることができます。

    Databricks への認証

    CData は、次の認証スキームをサポートしています。

    • 個人用アクセストークン
    • Microsoft Entra ID（Azure AD）
    • Azure サービスプリンシパル
    • OAuthU2M
    • OAuthM2M

    個人用アクセストークン

    認証するには、次を設定します。

    • AuthScheme：PersonalAccessToken。
    • Token：Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。

    その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。

  4. 「Save & Test」をクリック
  5. Databricks 接続の追加ページで「Permissions」タブに移動し、ユーザーベースのアクセス許可を設定します。

Personal Access Token の作成

REST API、OData API、または Virtual SQL Server を介して Connect AI に接続する場合、Personal Access Token（PAT）を使用して Connect AI への接続を認証します。アクセスの粒度を維持するために、サービスごとに個別の PAT を作成することをお勧めします。

  1. Connect AI アプリの右上にある歯車アイコン（）をクリックして設定ページを開きます。
  2. 設定ページで「Access Tokens」セクションに移動し、「 Create PAT」をクリックします。
  3. PAT に名前を付けて「Create」をクリックします。
  4. Personal Access Token は作成時にのみ表示されるため、必ずコピーして安全な場所に保存してください。

接続と PAT が設定できたので、APOS Live Data Gateway からDatabricks のデータに接続する準備が整いました。

Databricks への接続とセマンティックレイヤービューの作成

CData Connect AI で接続を設定したら、Live Data Gateway Admin ツールで Databricks に接続し、Live Data Gateway Web UI でセマンティックレイヤービューを構築する準備が整います。

Databricks への接続を設定

  1. APOS Live Data Gateway Manager にログインします。
  2. まだの場合は、APOS LDG ライセンスファイルを更新します。
    1. 「File」→「Configurations」をクリック
    2. License の「...」メニューをクリック
    3. CData Connect AI ライセンスを含む APOS チームからのライセンスファイルを選択
  3. APOS Live Data Gateway Manager で「Add」をクリックします。
  4. APOS Live Data Gateway の「Connection」タブで接続を設定します。
    • Data Source を「Database」に設定
    • Database を「JDBC Generic」に設定
    • Connection String を以下のような接続文字列に設定（先ほど設定した接続名を使用）: 
      jdbc:sqlserver://tds.cdata.com:14333;databaseName=Databricks1
    • Driver Class を「com.CData.connect.Driver」に設定（デフォルトで設定されています）
  5. 「Test Connection」をクリック
  6. 「Save」をクリック
  7. 接続に一意のプレフィックスを付けます（例: "databricks"）
  8. 新しく作成した接続をハイライトし、「File」→「Approve Users For Web UI」をクリックします。
  9. ビューを作成できる適切な DB ユーザーを承認し、「Save」をクリックします。

これで、Live Data Gateway Web UI でセマンティックレイヤービューを構築する準備が整いました。

セマンティックレイヤービューの作成

  1. ブラウザで APOS Live Data Gateway Portal に移動します。
  2. 接続を選択します（例: "databricks"）
  3. User Name と Password を Connect AI のユーザー名と PAT に設定します。
  4. 「Login」をクリック
  5. 接続したら、「Semantic Layer」をクリックして新しいセマンティックレイヤービューを作成します。
  6. 「New Semantic Layer View」をクリック
  7. Semantic Layer View Prefix と Semantic Layer View Name を設定します。
  8. 「Step 2」をクリック
  9. ビューに含めるテーブルとカラムを選択します。
  10. 「Step 3」をクリック
  11. 利用可能なテーブルカラムからメジャーを選択します。
  12. 「Step 5」をクリック（「Extra Dimensions」ステップはスキップ）
  13. 変数プロンプトを追加します。
  14. 「Step 6」をクリック
  15. テーブル結合を定義します。
  16. 「Review」をクリック
  17. セマンティックレイヤービューを確認し、「Save」をクリックします。

セマンティックレイヤービューが作成されたので、APOS Live Data Gateway を介してDatabricks のデータにアクセスでき、SAP Analytics Cloud やその他の SAP ソリューションからDatabricks のデータへのリアルタイムデータ接続が可能になりました。

CData Connect AI を入手

SQL Server データベースから直接 300 以上の SaaS、ビッグデータ、NoSQL ソースへのリアルタイムデータアクセスを取得するには、CData Connect AI をお試しください。

はじめる準備はできましたか？

CData Connect AI の詳細、または無料トライアルにお申し込みください：

無料トライアル お問い合わせ

この記事の内容

関連記事