マイクロソフト系技術情報 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

目次

概要

  • デバイスやセンサーなどからのストリーミングデータを分析するサービス
  • Spark Structured Streamingも少しづつ解ってきているケド、解らない事と言うか、
    ハマり所が多いので、Stream Analyticsでイイかな?などと思い始めたりした。
  • ただし、独自のクエリ言語を覚えるのが、なんと言うか、チョット、アレ。

詳細

BLOBやAzure Event HubsAzure IoT Hubからデータを入力し、

クエリ言語

  • SQLライクなStream Analyticsの独自のクエリ言語でデータ処理
  • 入出力に関して、プログラムを一切書かなくてもイケる。

データ出力

処理データを再度、BLOBやEvent Hubs、SQL Databaseに出力(保存)可能。

関数

以下の関数が使用できる。

ユーザー定義関数

JavaScriptやC#で記述する。

ウィンドウ関数

Group Byで使用する。

  • TumbingWindow?
    指定時間間隔毎(例えば10秒間隔毎)にデータをまとめる。
  • HoppingWindow?
    • 指定時間間隔&指定インターバル毎(例えば5秒毎10秒間隔)にデータをまとめる。
    • インターバルによって、ウィンドウを重ねたり、間を空けることができる。
  • SlidingWindow?
    • 指定時間間隔毎(例えば10秒間隔毎)にデータをまとめる。
    • インターバルではなく、データの到着毎に記録される。
  • SessionWindow?
    • 類似した時刻に到着するイベントをグループ化する
    • Sessionの最大継続時間とタイムアウト時間を設定する。
  • SnapshotWindow?
    • 同じタイムスタンプのデータをまとめる。
    • System.Timestamp() を GROUP BY 句に追加する

地理空間関数

地図を使用したエンリッチメント

Azure Machine Learning

AIの推論を使用したエンリッチメント

その他

  • 集計関数
  • 数学関数
  • 文字列関数

Edgeでの実行

チュートリアル

契約

Azureの契約

Stream Analyticsの契約

  • skuはストリーミング ユニット (SU) のcapacityで決まる。
  • クラスタは専用クラスタで、36SU毎の増分で購入できる。

ジョブの作成

インスタンス的なものは作成不要で、いきなりジョブ的なものを作成できる。

ポータル

  • Stream Analytics ジョブに移動して作成から以下を入力
    • ジョブ名を入力
    • サブスクリプションを選択
    • リソース・グループを選択
    • リージョンを選択
    • ホスティング環境を選択([クラウド] or Edge)
    • ストリーミング ユニット (1 から 396)
    • このジョブに必要なすべての
      プライベート・データ資産を自分のストレージ・アカウントに保管して
      セキュリティで保護する ✔ → ストレージ・アカウントを指定
  • パラメタを設定したら[作成]ボタンを押下。
  • デプロイが完了したら[リソースに移動]ボタンを押下。
  • ジョブの入力、出力、クエリを設定する。
    • 入力は[Add input]を押下して設定
    • 出力は[Add output]を押下して設定
    • クエリは[Write query]を押下して設定

IaC

コチラ

クラスタの作成

複雑で要求の厳しいユース ケースでシングル テナント デプロイも可能。

ポータル

IaC

参考

ナレコムAzureレシピ

について

触ってみた

microsoft.com

Microsoft Azure

Microsoft Docs

クイック スタート

チュートリアル


Tags: :インフラストラクチャ, :クラウド, :ビッグデータ, :Azure


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2022-08-08 (月) 23:31:02 (620d)