大量データの処理方式3

「マイクロソフト系技術情報 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

• 戻る

目次 †

概要 †

• RDB
  • インメモリデータベース
  • SSDアプライアンス、インスタンス
  • Elastic DB

• 非RDB
  • DWH
  • Hadoop
  • NoSQL

等を組み合わせた大量データの処理方式についてまとめる予定です。

RDB †

インメモリデータベース †

メモリ最適化データベースエンジン †

SSDアプライアンス、インスタンス †

SQL Server 2014 のバッファー プール拡張のようなテンポラリの領域として如何に使用する。

SQL Server SSD Appliance †

• SQL Server SSD Appliance、まずは6社から一斉に提供開始 - ＠IT
  http://www.atmarkit.co.jp/ait/articles/1212/17/news062.html
• 圧倒的なパフォーマンスを、アプライアンスの手軽さで 200 万円台から [SQL Server SSD Appliance] | MSBC - MSBC
  https://www.microsoft.com/japan/msbc/Express/campaign/SSD/

SSD 付きインスタンス D シリーズ †

• 仮想マシンに SSD 付きインスタンス D シリーズが追加されたのでディスク性能を測定してみました at SE の雑記
  http://blog.engineer-memo.com/2014/09/23/%E4%BB%AE%E6%83%B3%E3%83%9E%E3%82%B7%E3%83%B3%E3%81%AB-ssd-%E4%BB%98%E3%81%8D%E3%82%A4%E3%83%B3%E3%82%B9%E3%82%BF%E3%83%B3%E3%82%B9-d-%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA%E3%81%8C%E8%BF%BD%E5%8A%A0/

Elastic DB †

• RDBには、トランザクション処理の信頼性を保証するために求められる性質（ACID）を実装するためスケールアウトが困難。

• Elastic DBは以下を組み合わせた機能。
  • 複数DBインスタンスのプールを管理する機能
  • 分割キーにより複数DBインスタンスへの水平分散
  • 分散トランザクション

Elastic Scale, Elastic Database Pool †

参考 †

.NETでバッチは書けるか？ †

SQL Server 大量データ処理時の性能問題 †

非RDB †

DWH †

重視するもの †

• 構造化データ
• 非ビッグデータ
• バッチ処理（分析集計）

SSAS †

Hadoop †

重視するもの †

• 非構造化データ
• ビッグデータ
• バッチ処理（分析集計）
  • ペタバイト級のデータを数十台で並列分散する。
  • 事前にファイルを分散ファイルシステムHadoop HDFSに格納する
  • データに対して関数(map関数とreduce関数)を渡して、分散計算する

NoSQL †

重視するもの †

• 非構造化データ
• ビッグデータ
• オンライン処理

Tags: :データアクセス