Reckon Accounts Hosted のデータをPythonのpetlでETL処理する方法｜CData Connect AI

Jerod Johnson
Director, Technology Evangelism

CData Connect AI Python SDKとpetlフレームワークで、リアルタイムのReckon Accounts Hosted のデータを抽出・変換・ロードするETLパイプラインの構築方法を解説。読み取りから書き込みまで対応します。

CData Connect AI の Python SDK と petl フレームワークを使うと、Reckon Accounts Hosted のデータをローカルにドライバーをインストールすることなく、Pythonで直接抽出・変換・ロードするETLパイプラインを構築できます。パーソナルアクセストークンで接続し、数行のコードで設定完了です。

Python は豊富なモジュールのエコシステムを備えているため、素早く作業に取りかかり、システムをより効果的に連携できます。CData Connect AI Python SDK と petl フレームワークを使えば、Reckon Accounts Hosted のデータを抽出・変換して CSV などに出力する Reckon Accounts Hosted 連携のアプリケーションやパイプラインを構築できます。この記事では、Connect AI に接続し、petl を使ってReckon Accounts Hosted のデータを抽出・変換し、CSV ファイルに書き出す方法をご紹介します。

Connect AI Python SDK（cdata-connect-ai）は DB-API 2.0（PEP 249）に準拠したクライアントなので、petl は etl.fromdb を使って SDK の接続から直接読み取れます。ソースごとにドライバーをインストールする必要はありません。パーソナルアクセストークンで接続して、パイプラインを構築しましょう。

Python + petl でできること

Reckon Accounts Hosted データの定期抽出パイプライン構築

SQL クエリで取得した Reckon Accounts Hosted のレコードを petl の etl.fromdb で抽出し、etl.sort などの変換処理をはさんでから CSV に書き出す、軽量な ETL パイプラインを構築できます。

複数データソースとの統合分析

DB-API 2.0 準拠のクライアントなので、同じコードパターンで Reckon Accounts Hosted 以外のデータソースにも接続でき、petl 上で結合・整形してから任意の出力先にロードできます。

Reckon Accounts Hosted への書き戻し処理の自動化

書き込みに対応した権限を持つ PAT で接続していれば、cursor.executemany を使ったバッチ INSERT により、変換済みデータを Reckon Accounts Hosted に自動で書き戻す処理を組み込めます。

Connect AI で Reckon Accounts Hosted に接続する方法は？

CData Connect AI では、直感的なクリック操作ベースのインターフェースでデータソースに接続できます。

Connect AI にログインし、Sources をクリックして、 Add Connection をクリックします

「Add Connection」パネルから「Reckon Accounts Hosted」を選択します

Reckon Accounts Hosted に接続するために必要な認証プロパティを入力します。
CData 製品はOAuth 経由でReckon Accounts Hosted にリクエストを作成します。次の接続プロパティを指定します。
- User： 必須。企業ファイルのユーザー名。
- Password： 必須。企業ファイルのパスワード。
- CompanyFile: 必須。企業ファイルへのパス。
- InitiateOAuth：アクセストークンの処理をドライバーに任せる場合はGETANDREFRESH に設定。
- CountryVersion：デフォルトは、2021.R2.AU です。
カスタムOAuth アプリケーションを作成し、以下の追加の接続プロパティを指定することもできます。
- SubscriptionKey：Azure Platform 上のReckon Portal から取得したAPI キー。
- OAuthClientId：アプリケーション設定のクライアントID に設定。
- OAuthClientSecret：アプリケーション設定のクライアントシークレットに設定。
- CallbackURL：カスタムOAuth アプリのリダイレクトURI。
CData は、OAuth デスクトップ認証を簡略化する埋め込みOAuth アプリケーションを提供します。ほかのOAuth 認証方法（Web、ヘッドレスなど）、カスタムOAuth アプリケーションの作成、その理由などについては、ヘルプドキュメントを参照してください。
「Save & Test」をクリックします
「Permissions」タブに移動し、ユーザーベースの権限を更新します。

パーソナルアクセストークン（PAT）を生成する

Python SDK は、アカウントのメールアドレスとパーソナルアクセストークン（PAT）を使って Connect AI に認証します。アクセスの粒度を保つために、アプリケーションごとに個別の PAT を作成することをおすすめします。

Connect AI アプリの右上にある歯車アイコン（）をクリックして、設定ページを開きます。
設定ページの Access Tokens セクションに移動し、 Create PAT をクリックします。
PAT に名前を付けて Create をクリックします。
パーソナルアクセストークンは作成時にのみ表示されます。必ずコピーして安全な場所に保管してください。

必要なモジュールをインストールする方法は？

pip ユーティリティを使って、SDK と petl フレームワークをインストールします。

pip install cdata-connect-ai
pip install petl

Python で Reckon Accounts Hosted のデータの ETL アプリを構築する方法は？

必要なモジュールをインストールしたら、ETL アプリを構築する準備は完了です。以下にコードスニペットを紹介しますが、完全なソースコードは記事の末尾に掲載しています。

まずモジュールをインポートし、アカウントのメールアドレスと PAT で Connect AI に接続します。

import petl as etl
import cdata_connect_ai

conn = cdata_connect_ai.connect(
    username="[email protected]",
    password="<your_pat>",
)

Reckon Accounts Hosted をクエリする SQL ステートメントを作成する方法は？

SQL を使って、Reckon Accounts Hosted をクエリするステートメントを作成します。この記事では、Accounts エンティティからデータを読み取ります。識別子は <Connection>.<Schema>.<Table> という3つの部分で構成されており、接続名はデフォルトでソース名（例：ReckonAccountsHosted1）になります。

sql = (
    "SELECT Name, Balance "
    "FROM [ReckonAccountsHosted1].[ReckonAccountsHosted].[Accounts] "
    "WHERE IsActive = 'true'"
)

Reckon Accounts Hosted のデータの抽出・変換・ロードを実装する方法は？

接続とクエリが準備できたら、petl を使ってReckon Accounts Hosted のデータを抽出・変換・ロードします。この例では、Reckon Accounts Hosted のデータを抽出し、Balance カラムでデータを並べ替えて、CSV ファイルにロードします。

table1 = etl.fromdb(conn, sql)

table2 = etl.sort(table1, 'Balance')

etl.tocsv(table2, 'accounts_data.csv')

新しい行を Reckon Accounts Hosted に書き戻す方法は？

Reckon Accounts Hosted が書き込みに対応している場合は、バッチ INSERT で行を書き戻せます。SDK の executemany は、@name のプレースホルダーと、1行につき1つのパラメータ辞書のリストを受け取ります。

cur = conn.cursor()
cur.executemany(
    "INSERT INTO [ReckonAccountsHosted1].[ReckonAccountsHosted].[Accounts] (Name, Balance) "
    "VALUES (@val1, @val2)",
    [
        {"@val1": "New value 1", "@val2": "New value 1"},
        {"@val1": "New value 2", "@val2": "New value 2"},
    ],
)
print(f"Rows inserted: {cur.rowcount}")

conn.close()

注意：書き込み可能なソースであっても、読み取り専用の PAT や接続権限では書き込み操作は拒否されます。

CData Connect AI Python SDK を使えば、petl のような ETL パッケージでのデータへの直接アクセスも含め、通常のデータベースと同じようにReckon Accounts Hosted のデータを扱えます。