Grafana で Databricks 連携ダッシュボードを作成

Grafana は、さまざまなデータソースからのテレメトリを分析、監視、可視化できるオープンソースプラットフォームです。CData Connect AI と組み合わせることで、ビジネスダッシュボードから Databricks のデータ に即座にアクセスできます。この記事では、Connect AI を使用して Databricks に接続し、Grafana 内で Databricks のデータ から基本的なダッシュボードを作成する手順を解説します。

CData Connect AI は、Databricks 用のピュア SQL Server のクラウド間インターフェースを提供します。これにより、ネイティブデータベースへのデータレプリケーションを行うことなく、Grafana 内でリアルタイムの Databricks のデータ から直接ダッシュボードを作成できます。可視化を構築する際、Grafana はデータ取得のために SQL クエリを生成します。CData Connect AI は、最適化されたデータ処理機能を内蔵しており、フィルタや JOIN を含むサポートされている SQL オペレーションを Databricks に直接送信します。これにより、サーバーサイド処理を活用して、リクエストされた Databricks のデータ を迅速に配信します。

はじめに

---

Databricks 接続を Grafana 用に構成

Grafana から Databricks への接続は、CData Connect AI を介して実現されます。Grafana から Databricks のデータ を操作するには、まず Databricks の接続を作成して構成します。

1. Connect AI にログインし、Sources をクリックしてから、 Add Connection をクリックします

2. Add Connection パネルから「Databricks」を選択します

3. Databricks に接続するために必要な認証プロパティを入力します。

   Databricks 接続プロパティの取得・設定方法

   Databricks クラスターに接続するには、以下のプロパティを設定します。

   • Database：Databricks データベース名。
   • Server：Databricks クラスターのサーバーのホスト名。
   • HTTPPath：Databricks クラスターのHTTP パス。
   • Token：個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
   Databricks インスタンスで必要な値は、クラスターに移動して目的のクラスターを選択し、Advanced Options の下にあるJDBC/ODBC タブを選択することで見つけることができます。

   Databricks への認証

   CData は、次の認証スキームをサポートしています。

   • 個人用アクセストークン
   • Microsoft Entra ID（Azure AD）
   • Azure サービスプリンシパル
   • OAuthU2M
   • OAuthM2M

   個人用アクセストークン

   認証するには、次を設定します。

   • AuthScheme：PersonalAccessToken。
   • Token：Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。

   その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。

   
4. Save & Test をクリックします
5. Add Databricks Connection ページの Permissions タブに移動し、User-based permissions を更新します。

パーソナルアクセストークンの追加

REST API、OData API、または仮想 SQL Server を介して Connect AI に接続する場合、パーソナルアクセストークン（PAT）を使用して Connect AI への接続を認証します。アクセスの細かい制御を維持するため、各サービスごとに個別の PAT を作成することをお勧めします。

1. Connect AI アプリの右上にある歯車アイコン（）をクリックして、設定ページを開きます。
2. 設定ページで Access Tokens セクションに移動し、 Create PAT をクリックします。
3. PAT に名前を付けて、Create をクリックします。
4. パーソナルアクセストークンは作成時にのみ表示されるため、必ずコピーして安全な場所に保管しておいてください。

接続の構成と PAT の生成が完了したら、Grafana から Databricks のデータ に接続する準備が整いました。

Grafana でリアルタイムの Databricks のデータ を可視化

Grafana から CData Connect AI 仮想 SQL Server API への接続を確立するには、以下の手順に従います。

1. まだインストールしていない場合は、Grafana のウェブサイトからお使いの OS 用の Grafana をダウンロードしてインストールします。インストール後、http://localhost:3000/ で Grafana にアクセスします。
2. Grafana のユーザー名とパスワードでログインします。初回ログインの場合、ユーザー名は admin、パスワードは admin です。
3. ナビゲーションメニューで、Sources > Add new connection をクリックします。このページで Microsoft SQL Server を検索し、データソースとして選択します。
4. Microsoft SQL Server を選択し、Add new data source をクリックします。
5. 新しいデータソースの名前を入力し、以下の接続設定を入力します：
   • Host：tds.cdata.com:14333
   • Database：接続したい CData Connect AI データソースの接続名を入力します（例：Databricks1）。
   • Username：CData Connect AI のユーザー名を入力します。これは CData Connect AI インターフェースの右上に表示されています。例：[email protected]
   • Password：先ほど生成した PAT を入力します。
   
6. Save & Test をクリックします。接続が正常に確立されると、Database Connect OK メッセージが表示されます。

ダッシュボードの作成

Databricks 用のデータソースを作成したら、Databricks のデータ でダッシュボードの構築を開始できます。ナビゲーションメニューで Dashboards をクリックして開始します。

1. Dashboards ページで、+ Create dashboard をクリックし、次に + Add visualization をクリックします。
2. Select data source ウィンドウが開き、作成した接続を選択できます。
3. 接続を選択したら、可視化用にクエリするテーブルとカラムを選択できます。Run Query を押して生成されたクエリを実行します。
4. クエリを実行すると、結果データがクエリエディターの上に表示されます。ここで、ダッシュボードパネルにデータを表示するための可視化タイプを選択できます。
5. パネルの編集が完了したら、Save dashboard をクリックしてダッシュボードへの変更を保存できます。

300 以上の SaaS、ビッグデータ、NoSQL ソースへのリアルタイムデータアクセスをクラウドアプリケーションから直接取得するには、CData Connect AI をぜひお試しください！