Azure Machine Learningのモデルのデプロイ のバックアップ(No.4)

[ トップ ]   [ 新規 | 一覧 | 単語検索 | 最終更新 | ヘルプ ]

• バックアップ一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• Azure Machine Learningのモデルのデプロイ へ行く。
  • 1 (2022-03-11 (金) 10:36:33)
  • 2 (2022-03-11 (金) 13:41:51)
  • 3 (2022-03-11 (金) 17:00:16)
  • 4 (2022-03-11 (金) 20:45:03)
  • 5 (2022-03-14 (月) 16:34:18)
  • 6 (2022-03-14 (月) 18:30:43)

---

「マイクロソフト系技術情報 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

• 戻る
  • Azure Machine Learningチュートリアル
  • Azure Machine Learningのアルゴリズム・モデル
  • Azure Machine Learningのモデルのデプロイ

目次 †

概要 †

Azure Machine Learning（AzML）のモデルのデプロイについて。
（特に、クロスプラットフォームのデプロイについて確認したい。

詳細 †

デプロイ先 †

ローカル †

Compute Instance の Jupyter Notebook から、同じ VM 上へモデルをデプロイ。

ACI †

AKS †

その他 †

• Cognitive Search?
  

• GPU
  ...

• FPGA
  製造後に購入者や設計者が構成を設定できる集積回路
  • TensorFlow? モデルを定義する
  • モデルを ONNX 形式 に変換しコンテナ化
  • FPGA対応マシンを使用して コンピューティング環境を作成
  • Dockerイメージを使用してデプロイ
  • DockerコンテナはgRPC と TensorFlow? Serving の "予測" API をサポート

• 参考
  • FPGA
    https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-fpga-web-service

種類 †

WebAPI †

作成したモデルを ローカル / ACI / AKS のいずれかに。

• 参考
  • 機械学習モデルのデプロイ
    https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-and-where
  • Web サービスとしてデプロイされるモデル用のクライアントを作成する
    https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-consume-web-service
  • デプロイ先
    ・ローカル
    　・https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-local-container-notebook-vm
    　・https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/deploy-to-local/register-model-deploy-local-advanced.ipynb
    ・ACI
    　・https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-azure-container-instance
    　・https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/deploy-to-cloud/model-register-and-deploy.ipynb
    　・https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/deploy-multi-model/multi-model-register-and-deploy.ipynb
    ・AKS
    　・https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-azure-kubernetes-service?tabs=python
    　・https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/production-deploy-to-aks/production-deploy-to-aks.ipynb
    　・https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/production-deploy-to-aks/production-deploy-to-aks-ssl.ipynb
    　・https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/deployment/production-deploy-to-aks-gpu/production-deploy-to-aks-gpu.ipynb

ダウンロード †

• ONNX

Docker †

• 事前構築済み推論用コンテナ
• モデル同梱されたコンテナ

• 参考
  • モデルのパッケージ化
    https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-package-models

開発系の機能 †

Automated ML †

Designer †

• WebAPIにデプロイ
  一度、エクスポートして、インポート。
  • エントリ スクリプト ファイル
  • Conda 依存関係ファイル

• 参考
  • スタジオを使用して、デザイナーでトレーニングされたモデルをデプロイする
    https://docs.microsoft.com/ja-jp/azure/machine-learning/how-to-deploy-model-designer

Notebooks †

• WebAPIにデプロイ
  全部、コード（SDK）で行うことが出来る。

• 参考
  • azure-ml-python-handson/module3 deployment targets.ipynb at main · yomaki/azure-ml-python-handson
    https://github.com/yomaki/azure-ml-python-handson/blob/main/module3%20deployment%20targets.ipynb

参考 †

GitHub †

• Azure Machine Learning で作成した
  モデルの推論を実行する方法について
  Japan Machine Learning Support Blog
  https://jpmlblog.github.io/blog/2021/01/13/AML-model-inference/

Microsoft Docs †

• 概念 > モデルをデプロイする。
  • エンドポイント
    https://docs.microsoft.com/ja-jp/azure/machine-learning/concept-endpoints
  • モデルの移植性（ONNX）
    https://docs.microsoft.com/ja-jp/azure/machine-learning/concept-onnx
  • 事前構築済み Docker イメージ
    https://docs.microsoft.com/ja-jp/azure/machine-learning/concept-prebuilt-docker-images-inference

• MLOps:ML モデル管理
  https://docs.microsoft.com/ja-jp/azure/machine-learning/concept-model-management-and-deployment

---

Tags: :クラウド, :BI/AI, :Azure

     

Site admin: dotNetDevelopmentInfrastructure

PukiWiki 1.4.7 Copyright © 2001-2006 PukiWiki Developers Team. License is GPL.
Based on "PukiWiki" 1.3 by yu-ji. Powered by PHP 5.3.3. HTML convert time: 0.024 sec.