datapine で Databricks に接続したビジュアライゼーションを構築
datapine は、ブラウザベースのビジネスインテリジェンスプラットフォームです。CData Connect AI と組み合わせることで、datapine のビジュアライゼーションやダッシュボードから直接Databricks のデータにアクセスできます。この記事では、CData Connect AI で Databricks に接続し、datapine でシンプルな Databricks 連携ビジュアライゼーションを構築する方法を説明します。
CData Connect AI は、Databricks 向けの純粋な SQL Server インターフェースを提供し、ネイティブにサポートされたデータベースにデータをレプリケーションすることなく Databricks のデータをクエリできます。最適化されたデータ処理を標準で備えており、サポートされているすべての SQL 操作（フィルター、JOIN など）を Databricks に直接プッシュし、サーバーサイド処理を活用して要求されたDatabricks のデータを迅速に返します。
Databricks データ連携について
CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています：
- Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
- あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
- パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
- Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。
多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。
一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください：What is Databricks Used For? 6 Use Cases
はじめに
datapine 用の Databricks 接続を設定
datapine から Databricks への接続は、CData Connect AI によって実現されます。datapine からDatabricks のデータを扱うには、まず Databricks 接続を作成・設定します。
- Connect AI にログインし、Sources をクリック、次に Add Connection をクリック
- Add Connection パネルから「Databricks」を選択
-
Databricks に接続するために必要な認証プロパティを入力します。
Databricks 接続プロパティの取得・設定方法
Databricks クラスターに接続するには、以下のプロパティを設定します。
- Database：Databricks データベース名。
- Server：Databricks クラスターのサーバーのホスト名。
- HTTPPath：Databricks クラスターのHTTP パス。
- Token：個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
Databricks への認証
CData は、次の認証スキームをサポートしています。
- 個人用アクセストークン
- Microsoft Entra ID（Azure AD）
- Azure サービスプリンシパル
- OAuthU2M
- OAuthM2M
個人用アクセストークン
認証するには、次を設定します。
- AuthScheme：PersonalAccessToken。
- Token：Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。
- Save & Test をクリック
-
Add Databricks Connection ページで Permissions タブに移動し、ユーザーベースの権限を更新します。
Personal Access Token を追加
REST API、OData API、または仮想 SQL Server 経由で Connect AI に接続する場合、Personal Access Token（PAT）が Connect AI への接続認証に使用されます。アクセスの粒度を維持するため、サービスごとに個別の PAT を作成することをお勧めします。
- Connect AI アプリの右上にある歯車アイコン（）をクリックして Settings ページを開きます。
- Settings ページで Access Tokens セクションに移動し、 Create PAT をクリック。
-
PAT に名前を付けて Create をクリック。
- Personal Access Token は作成時にのみ表示されるので、必ずコピーして安全な場所に保存してください。
接続の設定と PAT の生成が完了したら、datapine からDatabricks のデータに接続する準備が整いました。
datapine から Databricks に接続
Connect AI で Databricks への接続を設定したら、datapine から Databricks に接続する準備が整いました。
- datapine にログイン
- Connect をクリックして「Connect」ページに移動
- データソースとして MS SQL Server を選択
- Integration ステップで接続プロパティを入力し、「Save and Proceed」をクリック
- Internal Name を設定
- Database Name を先ほど設定した接続名に設定（例：Databricks1）
- Host / IP を「tds.cdata.com」に設定
- Username を Connect AI のユーザー名に設定（例：[email protected]）
- Password を対応する PAT に設定
- Database Port を「14333」に設定
- Data Schema ステップで、ビジュアライズするテーブルとフィールドを選択し、「Save and Proceed」をクリック
- References ステップで、選択したテーブル間のリレーションシップを定義し、「Save and Proceed」をクリック
- Data Transfer ステップで「Go to Analyzer」をクリック
datapine で Databricks のデータ をビジュアライズ
CData Connect AI に接続したら、datapine でDatabricks のデータをビジュアライズする準備が整いました。ビジュアライズしたいディメンションとメジャーを選択するだけです！
datapine から Databricks に接続できたので、どこにいてもリアルタイムのDatabricks のデータをビジュアライズ・分析できるようになりました。datapine から 300 以上の SaaS、ビッグデータ、NoSQL ソースへのリアルタイムデータアクセスを実現するには、CData Connect AI をお試しください！