Spark:
Apache Spark SQL は、分散コンピューティング環境で大規模なデータセットに対して SQL クエリを実行することを可能にする強力なデータ処理エンジンです。Spark のコア機能とシームレスに統合され、ユーザーは複雑なデータ変換、集計、分析を容易に実行することができます。Spark SQL は、さまざまなデータ形式とソースもサポートしています。
Azure Data Lake:
Azure Data Lake は、企業が安全でスケーラブルな環境で大量のデータを保存・分析できるクラウドベースのストレージおよび分析サービスです。構造化データと非構造化データの中央リポジトリを提供し、ユーザーがデータを簡単に処理、分析し、洞察を得ることを可能にします。
CData Sync で Spark と Azure Data Lake を統合
CData Sync を使えば、Apache Spark SQL データをデータベース・データレイク・データウェアハウスに継続的にレプリケーションし、分析・レポート・AI・機械学習にすぐ活用できます。
- Azure Data Lake をはじめ、主要なデータベース・データウェアハウスにノーコードでデータを同期できます。
- Spark データを Azure Data Lake に自動レプリケート。手作業のエクスポートをなくし、BI・分析にすぐ活用できます。
- Azure Data Lake にクエリをオフロードすることで、Spark の API コール制限やパフォーマンス低下を回避できます。
- Spark と BI ツールを連携し、データにもとづく迅速な意思決定を支援します。
- Apache Spark SQL データを Azure Data Lake に自動バックアップ。万一のデータ消失に備えた仕組みを構築できます。
Spark を Azure Data Lake と統合
Spark データ統合機能
シンプルなノーコード Spark データ統合
複雑なコーディングは不要。ドラッグ&ドロップの直感的な操作で、Spark データを任意の宛先に接続できます。
数分で構築できる手間のかからないデータパイプライン
増分更新と自動スキーマ検出で、一度設定すれば手間なし。Azure Data Lake のデータを常に最新の状態に保てます。
行ごとの課金はありません
行数による従量課金はありません。Spark と Azure Data Lake 間のレプリケーション量を気にせず、必要なデータをすべて連携できます。
その他の Spark データ統合ツール
Spark からサポートされている任意のデータストアにデータを統合・レプリケートするデータパイプラインを簡単に作成できます：
