BigQuery のデータ の PostgreSQL インターフェースを作成(MySQL リモーティング経由の JDBC)
PostgreSQL には多くの対応クライアントがあります。標準のドライバーから BI、アナリティクスツールまで、PostgreSQL はデータ接続の人気のインターフェースです。JDBC ドライバーのリモーティング機能を使用することで、任意の標準クライアントから接続できる PostgreSQL エントリポイントを簡単に作成できます。
BigQuery のデータ に PostgreSQL データベースとしてアクセスするには、CData JDBC Driver for BigQuery のリモーティング機能と、EnterpriseDB の MySQL Foreign Data Wrapper(FDW)を使用します。この記事では、FDW をインストールし、PostgreSQL Server からBigQuery のデータにクエリを実行する方法を説明します。
BigQuery データ連携について
CData は、Google BigQuery のライブデータへのアクセスと統合を簡素化します。お客様は CData の接続機能を以下の目的で活用しています:
- OAuth、OAuth JWT、GCP インスタンスなど、すぐに使える幅広い認証スキームのサポートにより、BigQuery へのアクセスを簡素化します。
- BigQuery と他のアプリケーション間の双方向データアクセスにより、データワークフローを強化します。
- SQL ストアドプロシージャを通じて、ジョブの開始・取得・キャンセル、テーブルの削除、ジョブロードの挿入など、主要な BigQuery アクションを実行できます。
多くの CData のお客様は、Google BigQuery をデータウェアハウスとして使用しており、CData ソリューションを使用して、別々のソースからビジネスデータを BigQuery に移行し、包括的な分析を行っています。また、BigQuery データの分析やレポート作成に当社の接続機能を使用するお客様も多く、両方のソリューションを使用しているお客様も多数います。
CData が Google BigQuery 体験をどのように向上させるかについての詳細は、ブログ記事をご覧ください:https://jp.cdata.com/blog/what-is-bigquery
はじめに
BigQuery への接続を設定
以下の手順に従って、BigQuery への接続に必要な認証情報やその他の接続プロパティをドライバーの MySQL デーモンに設定します。MySQL デーモンは、BigQuery のデータ を CDataGoogleBigQuery という名前の MySQL データベースとして公開します。デーモンの設定ファイル内の databases セクションに接続プロパティを追加します。設定ファイルは、ドライバーのインストールディレクトリの lib サブフォルダにあります。
以下は一般的な接続文字列です:
[databases] bigquery = "DataSetId=MyDataSetId;ProjectId=MyProjectId;"
また、users セクションにユーザーを作成します。
MySQL デーモンのすべての設定オプションについては、ヘルプドキュメントをご参照ください。
リモーティングサービスを開始
以下の手順に従って、CData JDBC Driver for BigQuery の MySQL リモーティング機能を有効にします。
ドライバーはテスト用に適したデフォルト設定を作成します。サービスを開始するだけでBigQuery のデータに接続できます。
- 以下のコマンドで MySQL リモーティングサービスを開始します:
java -jar cdata.jdbc.googlebigquery.jar -f cdata.jdbc.googlebigquery.remoting.ini
MySQL Foreign Data Wrapper をビルドしてインストール
Foreign Data Wrapper は、PostgreSQL を再コンパイルせずに、PostgreSQL の拡張機能としてインストールできます。
お使いの OS で pgxn が利用可能な場合は、以下のコマンドでインストールできます:
pgxn install mysql_fdw USE_PGXS=1
利用できない場合は、以下の手順で自分でビルドしてください:
- MySQL C クライアントライブラリをインストールし、EnterpriseDB の MySQL 用 FDW のソースを取得します(例:GitHub から)。
- FDW をビルドします。pg_config と mysql_config の実行ファイルを PATH に追加してください:
env PATH=/usr/local/pgsql/bin:/usr/local/mysql/bin:$PATH make USE_PGXS=1
-
FDW をインストールします:
make USE_PGXS=1 install
インストールを完了するには、libmysqlclient ライブラリを環境にロードする必要があります(例:パスに追加するなど)。
BigQuery のデータ を PostgreSQL データベースとしてクエリ
拡張機能をインストールした後、以下の手順に従ってBigQuery のデータへのクエリ実行を開始します:
- データベースにログインします。
-
データベースの拡張機能をロードします:
postgres=#CREATE EXTENSION mysql_fdw;
-
BigQuery のデータ 用のサーバーオブジェクトを作成します:
postgres=# CREATE SERVER GoogleBigQuery FOREIGN DATA WRAPPER mysql_fdw OPTIONS (host '127.0.0.1', port '3309');
-
MySQL デーモンに認識されているユーザーのユーザー名とパスワードでユーザーマッピングを作成します:
postgres=# CREATE USER MAPPING for postgres SERVER GoogleBigQuery OPTIONS (username 'admin', password 'test');
-
ローカルスキーマを作成します:
postgres=# CREATE SCHEMA GoogleBigQuery_db;
-
デーモン設定ファイルで定義した BigQuery データベース内のすべてのテーブルをインポートします:
postgres=# IMPORT FOREIGN SCHEMA "GoogleBigQuery" FROM SERVER GoogleBigQuery INTO GoogleBigQuery_db;
これで BigQuery に対して 読み取り/書き込み コマンドを実行できます:
postgres=# SELECT * FROM GoogleBigQuery_db."orders";