HDFS:
Apache HDFS(Hadoop Distributed File System)は、コモディティハードウェア上に構築されるフォールトトレラントな分散ストレージ基盤です。ペタバイト規模のデータをブロック分割してレプリケーションしながら保存し、MapReduceやSpark等のビッグデータ処理フレームワークのストレージ層として機能します。
Google BigQuery:
Google BigQuery は、ユーザーが SQL クエリを使用して大規模なデータセットを迅速かつ簡単に分析できる、完全に管理されたサーバーレスデータウェアハウスです。リアルタイム分析、機械学習の統合、シームレスなスケーラビリティを提供し、複雑なインフラストラクチャ管理を必要とせずにデータから価値ある洞察を抽出しようとする企業に理想的です。
CData Sync で HDFS と Google BigQuery を統合
CData Sync を使えば、Apache HDFS データをデータベース・データレイク・データウェアハウスに継続的にレプリケーションし、分析・レポート・AI・機械学習にすぐ活用できます。
- Google BigQuery をはじめ、主要なデータベース・データウェアハウスにノーコードでデータを同期できます。
- HDFS データを主要なデータベース・データウェアハウスに自動レプリケートし、運用レポートや BI・分析に活用できます。
- HDFS へのクエリをオフロードすることで、負荷を軽減しパフォーマンスを向上させます。
- HDFS をビジネス分析ツールと連携し、BI や意思決定を支援します。
- Apache HDFS データをアーカイブし、ディザスタリカバリに備えます。
HDFS を Google BigQuery と統合
HDFS データ統合機能
複雑なコードやセットアップは不要。短時間でより多くのデータを移動できます。HDFS を任意の同期先に簡単に接続できます。
増分更新と自動スキーマレプリケーションにより、HDFS データ統合の手間が省け、Google BigQuery には常に最新データが保持されます。
予測可能で透明性の高い料金体系で、必要なすべてのデータをレプリケート。HDFS と Google BigQuery の間で無制限にレプリケーションできます。
その他の HDFS データ統合ツール
HDFS からサポートされている任意のデータストアにデータを統合・レプリケートするデータパイプラインを簡単に作成できます: