Spark:
バッチ処理・ストリーム処理・機械学習・グラフ処理を単一フレームワークで実行でき、Hadoopの数十倍の処理速度を実現します。AWS EMRやDatabricksなどクラウド環境との連携により、大規模データパイプラインの構築・運用を効率化します。
Azure Data Lake:
Azure Data Lake は、企業が安全でスケーラブルな環境で大量のデータを保存・分析できるクラウドベースのストレージおよび分析サービスです。構造化データと非構造化データの中央リポジトリを提供し、ユーザーがデータを簡単に処理、分析し、洞察を得ることを可能にします。
CData Sync で Spark と Azure Data Lake を統合
CData Sync を使えば、Apache Spark SQL データをデータベース・データレイク・データウェアハウスに継続的にレプリケーションし、分析・レポート・AI・機械学習にすぐ活用できます。
- Azure Data Lake をはじめ、主要なデータベース・データウェアハウスにノーコードでデータを同期できます。
- Spark データを主要なデータベース・データウェアハウスに自動レプリケートし、運用レポートや BI・分析に活用できます。
- Spark へのクエリをオフロードすることで、負荷を軽減しパフォーマンスを向上させます。
- Spark をビジネス分析ツールと連携し、BI や意思決定を支援します。
- Apache Spark SQL データをアーカイブし、ディザスタリカバリに備えます。
Spark を Azure Data Lake と統合
Spark データ統合機能
コード不要の Spark データ統合
複雑なコードやセットアップは不要。短時間でより多くのデータを移動できます。Spark を任意の同期先に簡単に接続できます。
数分で構築できるシンプルなデータパイプライン
増分更新と自動スキーマレプリケーションにより、Spark データ統合の手間が省け、Azure Data Lake には常に最新データが保持されます。
行数課金なし
予測可能で透明性の高い料金体系で、必要なすべてのデータをレプリケート。Spark と Azure Data Lake の間で無制限にレプリケーションできます。
その他の Spark データ統合ツール
Spark からサポートされている任意のデータストアにデータを統合・レプリケートするデータパイプラインを簡単に作成できます：
