SnapLogic で Databricks と連携

Mohsin Turki
Technical Marketing Engineer

CData Connect AI を使用して SnapLogic からリアルタイムのDatabricks のデータに接続・連携する方法を解説します。

SnapLogic の iPaaS プラットフォームは、アプリケーション、データ、クラウドの統合を自動化するのに役立ちます。CData Connect AI と組み合わせることで、SnapLogic からリアルタイムのDatabricks のデータにアクセスできるようになります。この記事では、Connect AI を使用して Databricks に接続し、SnapLogic でDatabricks のデータと連携する方法をご紹介します。

CData Connect AI は、Databricks 向けに純粋な SQL Server インターフェースを提供します。ネイティブサポートされているデータベースにデータをレプリケーションすることなく、Databricks からデータをクエリできます。Connect AI は、フィルタや JOIN などの SQL 操作をDatabricksに直接プッシュする最適化されたデータ処理により、サーバーサイド処理を活用して要求されたDatabricks のデータをすばやく返します。

Databricks データ連携について

CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています：

Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。

多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。

一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください：What is Databricks Used For? 6 Use Cases

はじめに

Databricks への接続を設定（SnapLogic 向け）

SnapLogic から Databricks への接続は、CData Connect AI を介して行います。それでは、Databricks のデータを SnapLogic から利用できるようにするため、Databricks への接続を作成していきましょう。

Connect AI にログインして「Sources」をクリック、次に「 Add Connection」をクリック

接続を追加パネルから「Databricks」を選択

Databricks に接続するために必要な認証プロパティを入力します。
Databricks 接続プロパティの取得・設定方法

Databricks クラスターに接続するには、以下のプロパティを設定します。
- Database：Databricks データベース名。
- Server：Databricks クラスターのサーバーのホスト名。
- HTTPPath：Databricks クラスターのHTTP パス。
- Token：個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
Databricks インスタンスで必要な値は、クラスターに移動して目的のクラスターを選択し、Advanced Options の下にあるJDBC/ODBC タブを選択することで見つけることができます。

Databricks への認証

CData は、次の認証スキームをサポートしています。
- 個人用アクセストークン
- Microsoft Entra ID（Azure AD）
- Azure サービスプリンシパル
- OAuthU2M
- OAuthM2M
個人用アクセストークン
認証するには、次を設定します。
- AuthScheme：PersonalAccessToken。
- Token：Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
その他の認証方法については、ヘルプドキュメントの「はじめに」セクションを参照してください。
「Save & Test」をクリック
Databricks 接続の追加ページで「Permissions」タブに移動し、ユーザーベースの権限を更新します。

パーソナルアクセストークンを追加

REST API、OData API、または仮想 SQL Server を通じて Connect AI に接続する場合は、パーソナルアクセストークン（PAT）を使用して認証を行います。アクセス管理を細かく制御するため、サービスごとに個別の PAT を作成することをお勧めします。

Connect AI アプリの右上にある歯車アイコン（）をクリックして設定ページを開きます。
設定ページで「Access Tokens」セクションに移動し、「 Create PAT」をクリックします。
PAT に名前を付けて「Create」をクリックします。
パーソナルアクセストークンは作成時にのみ表示されます。必ずコピーして、今後の利用のために安全に保管してください。

接続の設定と PAT の生成が完了したら、SnapLogic からDatabricks のデータに接続する準備は完了です。

Connect AI を使用して SnapLogic から Databricks に接続

SnapLogic から CData Connect AI への接続を確立するには、CData Connect AI JDBC ドライバーをダウンロードする必要があります。

CData Connect AI の Integrations ページを開きます。
JDBC を検索して選択します。
セットアップファイルをダウンロードして実行します。
インストールが完了すると、JAR ファイルはインストールディレクトリ（lib フォルダ内）に配置されます。

JDBC CData Connect AI JAR ファイルをコピーしたら、SnapLogic のインストール場所に貼り付けて、Connect AI への接続を設定します。

SnapLogic にログインします。
Managers タブをクリックします。
Project Spaces から JDBC JAR ファイルを追加するフォルダを選択します。
Files タブをクリックします。
右上のボタンをクリックして、CData Connect AI JDBC JAR ファイルをアップロードします。アップロードが完了するとファイルとして表示されます。
Designer タブをクリックします。
JDBC をクリックして「snaps」のオプションを展開します。
Generic JDBC - Select「snap」をデザイナーにドラッグ＆ドロップします。
Add Account > Continue をクリックします。
JDBC 接続プロパティを入力します。
- JDBC driver: CData Connect AI JAR ファイルを追加
- JDBC driver Class: cdata.jdbc.connect.ConnectDriver を入力
- JDBC Url: JDBC ドライバー用の JDBC 接続文字列を入力。例: jdbc:connect:AuthScheme=Basic;User={username};Password={PAT};
- Username: CData Connect AI のユーザー名を入力。CData Connect AI インターフェースの右上に表示されています（例: [email protected]）
- Password: 先ほど生成した PAT を入力
Validate をクリックします。接続が成功すると、「snap」が使用可能になります。
Apply をクリックします。