R から JDBC 経由でScrapflyののデータを分析

Jerod Johnson
Jerod Johnson
Director, Technology Evangelism
CData JDBC Driver for Scrapfly を使って、お好みの開発環境と標準的な R 関数でScrapfly のデータを分析できます。

R と Java がインストールされている環境であれば、純粋な R スクリプトと標準的な SQL を使用してScrapfly のデータにアクセスできます。CData JDBC Driver for Scrapfly と RJDBC パッケージを使えば、R からリモートのScrapfly のデータを操作できます。CData Driver を使用することで、業界で実績のある標準規格に準拠したドライバーを活用し、人気のオープンソース言語 R でデータにアクセスできます。この記事では、ドライバーを使ってScrapflyに SQL クエリを実行し、標準的な R 関数を呼び出してScrapfly のデータを可視化する方法を説明します。

R のインストール

マルチスレッドとマネージドコードによるドライバーのパフォーマンス向上を最大限に活かすには、マルチスレッド対応の Microsoft R Open を使用するか、BLAS/LAPACK ライブラリとリンクされたオープンソース R を使用します。この記事では Microsoft R Open 3.2.3 を使用しています。このバージョンは、2016年1月1日時点の CRAN リポジトリのスナップショットからパッケージをインストールするように事前設定されており、再現性が確保されています。

RJDBC パッケージの読み込み

ドライバーを使用するには、RJDBC パッケージをダウンロードしてください。 RJDBC パッケージをインストールしたら、以下のコードでパッケージを読み込みます。 

library(RJDBC)

Scrapflyに JDBC データソースとして接続

Scrapflyに JDBC データソースとして接続するには、以下の情報が必要です。

  • Driver Class: cdata.jdbc.api.APIDriver に設定します。
  • Classpath: ドライバー JAR ファイルの場所を設定します。デフォルトでは、インストールフォルダの lib サブフォルダです。

dbConnect や dbSendQuery などの DBI 関数は、R でデータアクセスコードを記述するための統一されたインターフェースを提供します。以下のコードで、CData JDBC Driver for Scrapfly に JDBC リクエストを行う DBI ドライバーを初期化します。 

driver <- JDBC(driverClass = "cdata.jdbc.api.APIDriver", classPath = "MyInstallationDir\lib\cdata.jdbc.api.jar", identifier.quote = "'")

これで DBI 関数を使用してScrapflyに接続し、SQL クエリを実行できます。dbConnect 関数で JDBC 接続を初期化します。

Scrapfly API は API キー認証を使用します。API キーは、すべてのリクエストで key クエリパラメータとして渡されます。

API キー認証の設定

接続を作成するには、Scrapfly の API キーが必要です。API キーを取得するには、以下のステップで進めます：

  1. scrapfly.io で Scrapfly アカウントにログインします。
  2. Dashboard に移動して API Keys を選択します。
  3. API キーをコピーします（本番環境用は scp-live-、テスト環境用は scp-test- で始まります）。

API キーを取得したら、以下の接続プロパティを設定します：

  • AuthScheme：APIKey に設定します。
  • APIKey：Scrapfly の API キーに設定します。

接続文字列の例：

Profile=C:\profiles\Scrapfly.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_api_key';

組み込みの接続文字列デザイナー

JDBC URL の構築には、Scrapfly JDBC Driver に組み込まれている接続文字列デザイナーが便利です。JAR ファイルをダブルクリックするか、コマンドラインから JAR ファイルを実行してください。

java -jar cdata.jdbc.api.jar

接続プロパティを入力し、接続文字列をクリップボードにコピーします。

以下は、一般的な JDBC 接続文字列を含む dbConnect 呼び出しの例です。

conn <- dbConnect(driver,"jdbc:api:Profile=C:\profiles\Scrapfly.apip;AuthScheme=APIKey;ProfileSettings='APIKey=your_api_key';")

スキーマの検出

このドライバーは、Scrapfly API をリレーショナルテーブル、ビュー、ストアドプロシージャとしてモデル化します。以下のコードでテーブルの一覧を取得できます。 

dbListTables(conn)

SQL クエリの実行

dbGetQuery 関数を使用して、Scrapfly API でサポートされている任意の SQL クエリを実行できます。 

account <- dbGetQuery(conn,"SELECT ,  FROM Account WHERE  = ''")

以下のコマンドで、結果をデータビューアウィンドウに表示できます。 

View(account)

Scrapfly のデータのプロット

これで、CRAN リポジトリで利用可能なデータ可視化パッケージを使ってScrapfly のデータを分析できます。組み込みのバープロット関数でシンプルな棒グラフを作成できます。 

par(las=2,ps=10,mar=c(5,15,4,2))
barplot(account$, main="Scrapfly Account", names.arg = account$, horiz=TRUE)

はじめる準備はできましたか？

API Driver で Scrapfly のライブデータに接続

Scrapfly に接続

この記事の内容

関連記事