Amazon SageMaker Canvas から RDS 経由で Spark のリアルタイムデータを活用

Dibyendu Datta
Lead Technology Evangelist

CData Connect AI を使って Amazon SageMaker Canvas の Amazon RDS コネクタから Spark に接続し、リアルタイムのSpark のデータでカスタムモデルを構築する方法を解説します。

Amazon SageMaker Canvas は、コードを書かずに予測の生成、データの準備、モデルの構築ができるノーコード機械学習プラットフォームです。CData Connect AI と組み合わせることで、クラウド間でリアルタイムにSpark のデータにアクセスし、カスタム機械学習モデルの構築、顧客離反予測、テキスト生成、チャットボット開発など、さまざまな用途に活用できます。この記事では、RDS コネクタを使用して Amazon SageMaker Canvas から Connect AI に接続し、Spark のデータを ML モデルのデプロイメントに統合する方法をご紹介します。

CData Connect AI は、Spark 向けに純粋な SQL インターフェースをクラウド間で提供します。これにより、データをレプリケーションすることなく、Amazon SageMaker Canvas からSpark のデータに簡単に接続できます。Connect AI は Amazon SageMaker Canvas からは SQL Server データベースとまったく同じように見え、フィルタや JOIN などの SQL 操作をSparkに直接プッシュする最適化されたデータ処理により、サーバーサイド処理を活用してSpark のデータをすばやく取得します。

Spark への接続を設定（Amazon SageMaker Canvas 向け）

Amazon SageMaker Canvas から Spark への接続は、CData Connect AI を介して行います。それでは、Spark のデータを Amazon SageMaker Canvas から利用できるようにするため、Spark への接続を作成していきましょう。

Connect AI にログインして「Sources」をクリック、次に「 Add Connection」をクリック

接続を追加パネルから「Spark」を選択

Spark に接続するために必要な認証プロパティを入力します。
SparkSQL への接続

SparkSQL への接続を確立するには以下を指定します。
- Server：SparkSQL をホストするサーバーのホスト名またはIP アドレスに設定。
- Port：SparkSQL インスタンスへの接続用のポートに設定。
- TransportMode：SparkSQL サーバーとの通信に使用するトランスポートモード。有効な入力値は、BINARY およびHTTP です。デフォルトではBINARY が選択されます。
- AuthScheme：使用される認証スキーム。有効な入力値はPLAIN、LDAP、NOSASL、およびKERBEROS です。デフォルトではPLAIN が選択されます。
Databricks への接続

Databricks クラスターに接続するには、以下の説明に従ってプロパティを設定します。Note：必要な値は、「クラスター」に移動して目的のクラスターを選択し、「Advanced Options」の下にある「JDBC/ODBC」タブを選択することで、Databricks インスタンスで見つけることができます。
- Server：Databricks クラスターのサーバーのホスト名に設定。
- Port：443
- TransportMode：HTTP
- HTTPPath：Databricks クラスターのHTTP パスに設定。
- UseSSL：True
- AuthScheme：PLAIN
- User：'token' に設定。
- Password：パーソナルアクセストークンに設定（値は、Databricks インスタンスの「ユーザー設定」ページに移動して「アクセストークン」タブを選択することで取得できます）。
「Save & Test」をクリック
Spark 接続の追加ページで「Permissions」タブに移動し、ユーザーベースの権限を更新します。

パーソナルアクセストークンを追加

REST API、OData API、または仮想 SQL Server を通じて Connect AI に接続する場合は、パーソナルアクセストークン（PAT）を使用して認証を行います。アクセス管理を細かく制御するため、サービスごとに個別の PAT を作成することをお勧めします。

Connect AI アプリの右上にある歯車アイコン（）をクリックして設定ページを開きます。
設定ページで「Access Tokens」セクションに移動し、「 Create PAT」をクリックします。
PAT に名前を付けて「Create」をクリックします。
パーソナルアクセストークンは作成時にのみ表示されます。必ずコピーして、今後の利用のために安全に保管してください。

接続の設定と PAT の生成が完了したら、Amazon SageMaker Canvas からSpark のデータに接続する準備は完了です。

Amazon SageMaker Canvas から CData Connect AI に接続

CData Connect AI での接続設定が完了したら、RDS コネクタを使用してSpark のデータを Amazon SageMaker Canvas に統合していきましょう。

Amazon SageMaker Canvas でドメインとユーザープロファイルを選択し、「Open Canvas」をクリックします。
Canvas アプリケーションが開いたら、左側のパネルに移動して「My models」を選択します。
My models 画面で「Create new model」をクリックします。
Create new model ウィンドウでモデル名を入力し、Problem type を選択します。「Create」をクリックします。
モデルバージョンが作成されたら、Select dataset タブで「Create dataset」をクリックします。
Create a tabular dataset ウィンドウで「Dataset name」を入力し、「Create」をクリックします。
「Data Source」ドロップダウンをクリックして RDS コネクタを検索またはナビゲートし、「 Add Connection」をクリックします。
Add a new RDS connection ウィンドウで、以下のプロパティを設定します。
- Connection Name: 任意の接続名
- Engine type を sqlserver-web に設定
- Port を 14333 に設定
- Address を tds.cdata.com に設定
- Username を Connect AI ユーザー（例: [email protected]）に設定
- Password を上記ユーザーの PAT に設定
- Database name を Spark 接続名（例: SparkSQL1）に設定
「Create connection」をクリックします。

Spark を Amazon SageMaker Canvas に統合

RDS で Connect AI への接続が設定できたら、Spark のデータを Amazon SageMaker Canvas のデータセットに統合していきましょう。

Spark のデータで作成した RDS のテーブル形式データセットで、検索バーまたは接続リストから Connect AI で設定した Spark 接続を検索します。
Spark から使用したいテーブルを選択し、右側のキャンバスにドラッグ＆ドロップします。
以下のように、Spark 接続から任意の数のテーブルを結合してワークフローを作成できます。「Create dataset」をクリックします。
データセットが作成されたら、「Select dataset」をクリックしてモデルを構築します。
分析を実行し、予測を生成してモデルをデプロイします。