Zapier で Databricks 連携の自動ワークフローを構築
Zapier は、アプリとサービスを連携させるオンライン自動化ツールです。CData Connect AI と組み合わせることで、ワークフローでリアルタイムのDatabricks のデータにアクセスできます。この記事では、Databricks に接続し、Zapier でリアルタイムのDatabricks のデータを使ったワークフローを構築する方法をご紹介します。
Databricks データ連携について
CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています:
- Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
- あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
- パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
- Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。
多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。
一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください:What is Databricks Used For? 6 Use Cases
はじめに
Zapier から Databricks に接続
Zapier で Databricks を使用するには、Connect AI から Databricks に接続し、接続へのユーザーアクセスを提供し、Databricks のデータ用のワークスペースを作成する必要があります。
Connect AI から Databricks に接続
CData Connect AI は、シンプルなポイント&クリックのインターフェースでデータソースに接続できます。
- Connect AI にログインして「Sources」をクリック、次に「 Add Connection」をクリック
- 接続を追加パネルから「Databricks」を選択
-
Databricks に接続するために必要な認証プロパティを入力します。
Databricks 接続プロパティの取得・設定方法
Databricks クラスターに接続するには、以下のプロパティを設定します。
- Database:Databricks データベース名。
- Server:Databricks クラスターのサーバーのホスト名。
- HTTPPath:Databricks クラスターのHTTP パス。
- Token:個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
Databricks への認証
CData は、次の認証スキームをサポートしています。
- 個人用アクセストークン
- Microsoft Entra ID(Azure AD)
- Azure サービスプリンシパル
- OAuthU2M
- OAuthM2M
個人用アクセストークン
認証するには、次を設定します。
- AuthScheme:PersonalAccessToken。
- Token:Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。
- 「Save & Test」をクリック
-
Databricks 接続の追加ページで「Permissions」タブに移動し、ユーザーベースの権限を更新します。
パーソナルアクセストークンを追加
REST API、OData API、または仮想 SQL Server を通じて Connect AI に接続する場合は、パーソナルアクセストークン(PAT)を使用して認証を行います。アクセス管理を細かく制御するため、サービスごとに個別の PAT を作成することをお勧めします。
- Connect AI アプリの右上にある歯車アイコン()をクリックして設定ページを開きます。
- 設定ページで「Access Tokens」セクションに移動し、「 Create PAT」をクリックします。
-
PAT に名前を付けて「Create」をクリックします。
- パーソナルアクセストークンは作成時にのみ表示されます。必ずコピーして、今後の利用のために安全に保管してください。
Zapier 向けに Databricks エンドポイントを設定
Databricks への接続が完了したら、使用したいテーブル用のワークスペースを作成します。
-
「Workspaces」ページに移動し、「 Add」をクリックして新しいワークスペースを作成します(または既存のワークスペースを選択)。
- 「 Add」をクリックして、ワークスペースに新しいアセットを追加します。
-
Databricks 接続(例: Databricks1)を選択し、「Next」をクリックします。
-
使用したいテーブルを選択し、「Confirm」をクリックします。
- ワークスペースの OData Service URL をメモしておきます(例: https://cloud.cdata.com/api/odata/{workspace_name})
接続、PAT、ワークスペースの設定が完了したら、Zapier からDatabricks のデータに接続する準備は完了です。
Zapier ワークフローで Databricks に接続
Zapier から CData Connect AI への OData プロトコル経由での接続を確立するには、以下の手順に従います。
- Zapier にログインします。
- Create Zap をクリックします。
- 表示されるダイアログで「Webhooks by Zapier」を検索し、下に表示されるオプションをクリックします。
- Event で Retrieve Poll を選択します。
- 接続の詳細を入力します。
- URL: OData URL を入力(例: https://cloud.cdata.com/api/odata/{workspace_name})
- Key: 「value.name」と入力
- Authentication details: Basic Auth または Headers を入力します。Basic オプションでは、ユーザー(Connect AI のユーザー名、例: [email protected])とパスワード(先ほど作成した PAT)をパイプ記号 | で区切って指定します。Headers オプションでは、エンコードされた認証情報を含むリクエストタイプヘッダーを指定します。
- Test をクリックします。接続が正しく設定されていれば、サンプルレコードが表示されます。
クラウドアプリケーションから Databricks への簡単なアクセス
これで、Zapier からDatabricks のデータへのダイレクトなクラウド間接続が完成しました。Zapier などのクラウドアプリケーションから 100 以上の SaaS、ビッグデータ、NoSQL ソースへの簡単なデータアクセスの詳細については、Connect AI のページをご覧ください。