APOS Live Data Gateway で BigQuery のデータのセマンティックレイヤービューを構築

Dibyendu Datta
Lead Technology Evangelist

CData Connect AI と APOS Live Data Gateway を使用してBigQuery のデータのセマンティックレイヤービューを構築します。

APOS Live Data Gateway（LDG）は、データ接続とデータ変換のソリューションとして機能し、SAP Analytics Cloud やその他の SAP ソリューション向けにライブデータ接続を促進し、データソースの可能性を広げます。CData Connect AI と統合することで、ユーザーはBigQuery のデータにリアルタイムアクセスするためのセマンティックレイヤービューを構築でき、リレーショナルデータベースと同様の方法で BigQuery のリアルタイム分析が可能になります。

CData Connect AI は BigQuery に接続するための専用 SQL Server インターフェースを提供し、ネイティブ対応データベースへのデータレプリケーションを必要とせずに BigQuery から直接データをクエリできます。事前に最適化されたデータ処理機能を備えており、CData Connect AI はフィルタや JOIN を含むサポート対象のすべての SQL 操作を効率的に BigQuery へ直接送信します。サーバーサイド処理を活用することで、要求されたBigQuery のデータを迅速に取得できます。

BigQuery データ連携について

CData は、Google BigQuery のライブデータへのアクセスと統合を簡素化します。お客様は CData の接続機能を以下の目的で活用しています：

OAuth、OAuth JWT、GCP インスタンスなど、すぐに使える幅広い認証スキームのサポートにより、BigQuery へのアクセスを簡素化します。
BigQuery と他のアプリケーション間の双方向データアクセスにより、データワークフローを強化します。
SQL ストアドプロシージャを通じて、ジョブの開始・取得・キャンセル、テーブルの削除、ジョブロードの挿入など、主要な BigQuery アクションを実行できます。

多くの CData のお客様は、Google BigQuery をデータウェアハウスとして使用しており、CData ソリューションを使用して、別々のソースからビジネスデータを BigQuery に移行し、包括的な分析を行っています。また、BigQuery データの分析やレポート作成に当社の接続機能を使用するお客様も多く、両方のソリューションを使用しているお客様も多数います。

CData が Google BigQuery 体験をどのように向上させるかについての詳細は、ブログ記事をご覧ください：https://jp.cdata.com/blog/what-is-bigquery

はじめに

APOS Live Data Gateway 用に BigQuery への接続を設定

APOS Live Data Gateway から BigQuery への接続は CData Connect AI を介して行います。APOS Live Data Gateway でBigQuery のデータを操作するには、まず BigQuery への接続を作成・設定します。

Connect AI にログインして「Sources」をクリック、次に「 Add Connection」をクリック

接続を追加パネルから「BigQuery」を選択

BigQuery に接続するために必要な認証プロパティを入力します。
BigQuery 接続プロパティの取得・設定方法

Google BigQuery はOAuth 認証標準を使用します。個々のユーザーとしてGoogle API にアクセスするには、組み込みクレデンシャルを使うか、OAuth アプリを作成します。

OAuth では、Google Apps ドメインのユーザーとしてサービスアカウントを使ってアクセスすることもできます。サービスカウントでの認証では、OAuth JWT を取得するためのアプリケーションを登録する必要があります。

OAuth 値に加え、DatasetId、ProjectId を設定する必要があります。詳細はヘルプドキュメントの「はじめに」を参照してください。
「Save & Test」をクリック
BigQuery 接続の追加ページで「Permissions」タブに移動し、ユーザーベースのアクセス許可を設定します。

Personal Access Token の作成

REST API、OData API、または Virtual SQL Server を介して Connect AI に接続する場合、Personal Access Token（PAT）を使用して Connect AI への接続を認証します。アクセスの粒度を維持するために、サービスごとに個別の PAT を作成することをお勧めします。

Connect AI アプリの右上にある歯車アイコン（）をクリックして設定ページを開きます。
設定ページで「Access Tokens」セクションに移動し、「 Create PAT」をクリックします。
PAT に名前を付けて「Create」をクリックします。
Personal Access Token は作成時にのみ表示されるため、必ずコピーして安全な場所に保存してください。

接続と PAT が設定できたので、APOS Live Data Gateway からBigQuery のデータに接続する準備が整いました。

BigQuery への接続とセマンティックレイヤービューの作成

CData Connect AI で接続を設定したら、Live Data Gateway Admin ツールで BigQuery に接続し、Live Data Gateway Web UI でセマンティックレイヤービューを構築する準備が整います。

BigQuery への接続を設定

APOS Live Data Gateway Manager にログインします。
まだの場合は、APOS LDG ライセンスファイルを更新します。
1. 「File」→「Configurations」をクリック
2. License の「...」メニューをクリック
3. CData Connect AI ライセンスを含む APOS チームからのライセンスファイルを選択
APOS Live Data Gateway Manager で「Add」をクリックします。
APOS Live Data Gateway の「Connection」タブで接続を設定します。
- Data Source を「Database」に設定
- Database を「JDBC Generic」に設定
- Connection String を以下のような接続文字列に設定（先ほど設定した接続名を使用）:
```
jdbc:sqlserver://tds.cdata.com:14333;databaseName=GoogleBigQuery1
```
- Driver Class を「com.CData.connect.Driver」に設定（デフォルトで設定されています）
「Test Connection」をクリック
「Save」をクリック
接続に一意のプレフィックスを付けます（例: "googlebigquery"）
新しく作成した接続をハイライトし、「File」→「Approve Users For Web UI」をクリックします。
ビューを作成できる適切な DB ユーザーを承認し、「Save」をクリックします。