SAS Viya で Databricks のリアルタイムデータを分析
SAS Viya は、データ管理、機械学習、分析を強化し、効率的な意思決定とインサイトの創出を促進する分析プラットフォームです。CData Connect AI と組み合わせることで、クラウド間でリアルタイムにDatabricks のデータにアクセスし、予測モデルの構築やデータドリブンな意思決定のためのインサイト作成など、さまざまな用途に活用できます。この記事では、SAS Viya クラウドプラットフォームから Connect AI に接続し、セルフサービス AI と分析のデプロイメントにDatabricks のデータを統合する方法をご紹介します。
CData Connect AI は、Databricks 向けに純粋な SQL インターフェースをクラウド間で提供します。これにより、データをレプリケーションすることなく、SAS Viya でDatabricks のデータに簡単に接続できます。Connect AI は SAS Viya からは SQL Server データベースとまったく同じように見え、フィルタや JOIN などの SQL 操作をDatabricksに直接プッシュする最適化されたデータ処理により、サーバーサイド処理を活用してDatabricks のデータをすばやく取得します。
Databricks データ連携について
CData を使用すれば、Databricks のライブデータへのアクセスと統合がこれまでになく簡単になります。お客様は CData の接続機能を以下の目的で利用しています:
- Runtime バージョン 9.1 - 13.X から Pro および Classic Databricks SQL バージョンまで、すべてのバージョンの Databricks にアクセスできます。
- あらゆるホスティングソリューションとの互換性により、お好みの環境で Databricks を使用し続けることができます。
- パーソナルアクセストークン、Azure サービスプリンシパル、Azure AD など、さまざまな方法で安全に認証できます。
- Databricks ファイルシステム、Azure Blob ストレージ、AWS S3 ストレージを使用して Databricks にデータをアップロードできます。
多くのお客様が、さまざまなシステムから Databricks データレイクハウスにデータを移行するために CData のソリューションを使用していますが、ライブ接続ソリューションを使用して、データベースと Databricks 間の接続をフェデレートしているお客様も多数います。これらのお客様は、SQL Server リンクサーバーまたは Polybase を使用して、既存の RDBMS 内から Databricks へのライブアクセスを実現しています。
一般的な Databricks のユースケースと CData のソリューションがデータの問題解決にどのように役立つかについては、ブログをご覧ください:What is Databricks Used For? 6 Use Cases
はじめに
Databricks への接続を設定(SAS Viya 向け)
SAS Viya から Databricks への接続は、CData Connect AI を介して行います。それでは、Databricks のデータを SAS Viya から利用できるようにするため、Databricks への接続を作成していきましょう。
- Connect AI にログインして「Sources」をクリック、次に「 Add Connection」をクリック
- 接続を追加パネルから「Databricks」を選択
-
Databricks に接続するために必要な認証プロパティを入力します。
Databricks 接続プロパティの取得・設定方法
Databricks クラスターに接続するには、以下のプロパティを設定します。
- Database:Databricks データベース名。
- Server:Databricks クラスターのサーバーのホスト名。
- HTTPPath:Databricks クラスターのHTTP パス。
- Token:個人用アクセストークン。この値は、Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
Databricks への認証
CData は、次の認証スキームをサポートしています。
- 個人用アクセストークン
- Microsoft Entra ID(Azure AD)
- Azure サービスプリンシパル
- OAuthU2M
- OAuthM2M
個人用アクセストークン
認証するには、次を設定します。
- AuthScheme:PersonalAccessToken。
- Token:Databricks サーバーへの接続に使用するトークン。Databricks インスタンスのユーザー設定ページに移動してアクセストークンタブを選択することで取得できます。
その他の認証方法については、ヘルプドキュメント の「はじめに」セクションを参照してください。
- 「Save & Test」をクリック
-
Databricks 接続の追加ページで「Permissions」タブに移動し、ユーザーベースの権限を更新します。
パーソナルアクセストークンを追加
REST API、OData API、または仮想 SQL Server を通じて Connect AI に接続する場合は、パーソナルアクセストークン(PAT)を使用して認証を行います。アクセス管理を細かく制御するため、サービスごとに個別の PAT を作成することをお勧めします。
- Connect AI アプリの右上にある歯車アイコン()をクリックして設定ページを開きます。
- 設定ページで「Access Tokens」セクションに移動し、「 Create PAT」をクリックします。
-
PAT に名前を付けて「Create」をクリックします。
- パーソナルアクセストークンは作成時にのみ表示されます。必ずコピーして、今後の利用のために安全に保管してください。
接続の設定と PAT の生成が完了したら、SAS Viya からDatabricks のデータに接続する準備は完了です。
SAS Viya から CData Connect AI に接続
以下の手順で、CData Connect AI で確立した接続を使用して Databricks から SAS Viya にデータを読み込む方法を説明します。
-
CData Connect AI JDBC ドライバーをダウンロードしてインストールします。
- CData Connect AI の Integrations ページを開きます。
- JDBC を検索して選択します。
- セットアップファイルをダウンロードして実行します。
- インストールが完了すると、JAR ファイルはインストールディレクトリ(lib フォルダ内)に配置されます。
- SAS Viya にログインし、左上の Applications Menu に移動します。
- Analytics Life Cycle トピックから Develop Code and Flows を選択します。
- Explorer タブに移動し、左パネルの SAS Server をクリックします。
- 以下の手順で CData Connect JDBC ドライバーの JAR ファイルをアップロードします。
- 「Home」ディレクトリを右クリックします。
- Upload files をクリックします。
- 指定された場所に JAR ファイルを配置し、ファイルパスをメモします。
- 完了したら、Libraries タブに移動し、CData Connect JDBC 用の Create a new library connection(以下に示すように左上隅)をクリックします。
- ライブラリ接続設定を入力します。
- Connection name: 接続の名前を入力
- Library name (libref): ライブラリの参照名を入力
- Library type: 「SAS/ACCESS to JDBC」を選択
- Properties タブをクリックし、Library attributes を READONLY に設定します。
- 「Connection Options」タブをクリックし、以下の詳細を入力します。
- Hive JDBC driver's class name: cdata.jdbc.connect.ConnectDriver
- Java CLASSPATH: JAR ドライバーファイルへのファイルパスを入力(手順 5 を参照)
- Test connection をクリックします。成功したら、Save and connect をクリックします。
- をクリックして新しいタブを追加し、SAS program を選択します。
- 以下のコードブロックに設定パラメータを入力します。
- Libref: 手順 9 で定義したライブラリ参照名を入力
- ClassPath: JAR ドライバーファイルへのファイルパスを入力
- Username: CData Connect のユーザー名を入力。CData Connect インターフェースの右上に表示されています(例: [email protected])
- DefaultCatalog: クエリを実行したい CData Connect AI で設定した接続を入力
- Password: 「パーソナルアクセストークンを追加」セクションで生成した PAT を入力
libname [Libref] JDBC classpath=[ClassPath] class="cdata.jdbc.connect.ConnectDriver" URL="jdbc:Connect:AuthScheme=Basic;User=[Username];DefaultCatalog=[DefaultCatalog];DefaultSchema=dbo;Password=[PAT]"; proc sql; SELECT * FROM [Libref].MyTable; quit;
- Run をクリックします。CData Connect AI から SAS Viya にデータが読み込まれるのを確認できます。
クラウドアプリケーションから Databricks へのリアルタイムアクセス
これで、SAS Viya からDatabricks のデータへのダイレクトなクラウド間接続が完成しました。データをレプリケーションすることなく、予測モデルの構築、データドリブンな意思決定のためのインサイト作成など、さまざまな用途に活用できます。
Connect AI をお試しいただき、300 以上の SaaS、ビッグデータ、NoSQL ソースへのリアルタイムデータアクセスをクラウドアプリケーションから直接実現してください。