Azure OpenAI ServiceについてAzurePortalでできることまとめ

本記事は、当社オウンドメディア「Doors」に移転しました。

約5秒後に自動的にリダイレクトします。

AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。今回は、前回に続きAzure OpenAI Serviceについて取り上げ、Azure Portalにはどのようなメニューがあり、何ができるのかをご紹介します。

こんにちは。データエンジニアリング本部ソリューション開発部の山下です。

前回に引き続き今回もAzure OpenAI Serviceについての記事になります。

Azure OpenAI Serviceの構成は、Azure Portalでリソースとモデルの管理を行い、Azure Open AI Studioのプレイグラウンドを使ってデプロイしたモデルを評価できることが分かりました。

今回はAzure Portalにはどのようなメニューが用意されているのか、何ができるのかを確認したのでそちらをご紹介したいと思います。

1. 概要
2. アクティビティログ
3. アクセス制御
4. タグ
5. 問題の診断と解決
6. キーとエンドポイント
7. モデルデプロイ
8. 価格レベル
9. ネットワーク
10. ID
11. コスト分析
12. プロパティ
13. ロック
14. 警告
15. メトリック
16. 診断設定
17. ログ
18. タスク（プレビュー）
19. テンプレートのエクスポート
20. リソース正常性
21. 新しいサポートリクエスト
22. まとめ

1. 概要

Azure OpenAI Service のPortalメニューの概要には、「Azure OpenAI Studio」へのリンクとリソースの基本的な情報として「リソースグループ」「状態」「場所」「サブスクリプション」「サブスクリプション ID」「タグ」「APIの種類」「価格レベル」「エンドポイント」などが記載されています。

2. アクティビティログ

アクティビティログでは、Azure OpenAI Service のリソース作成や、モデルの作成、削除などのログが記録されています。

3. アクセス制御

アクセス制御（IAM）ではAzureADによるロールベースのアクセス制御の設定が出来ます。2023年5月現在では「Cognitive Services OpenAI Contributor」と「Cognitive Services OpenAI User」のAzure組み込みロールが存在しています。

4. タグ

タグでは、任意の名前と値のタグを設定することができます。

5. 問題の診断と解決

問題の診断と解決では、トラブルシュートの為に役立つ情報やリンクが記載されています。

6. キーとエンドポイント

キーとエンドポイントではAPIを利用する時に必要なキーとエンドポイントを確認することができます。また、キーの再生成を行うことも出来ます。

7. モデルデプロイ

モデルデプロイでは、モデルをデプロイ、デプロイしたモデルの管理及び削除を行うことができます。モデルデプロイはAzure OpenAI Studioでも行うことができます。

8. 価格レベル

価格レベルでは現在のAzure OpenAI Service リソースの価格レベルを確認することができます。現時点ではS0 Standardのみのようです。

9. ネットワーク

ネットワークでは、APIエンドポイントへの通信制御を行うことができます。選択肢は以下のとおりです。

Firewalls and virtual networks

　◦　全てのネットワーク
　インターネットのどこからでもアクセスできるようにしたい場合はこちらを選択します。

　◦　選択したネットワークとプライベートエンドポイント
　選択したVNetのサービスエンドポイントと選択したグローバルIPアドレスからアクセスを許可する場合はこちらを選択します。

　◦　無効
　プライベートエンドポイントからのみ許可する場合はこちらを選択します。

プライベートエンドポイント接続

　プライベートエンドポイントを作成する場合はこちらからできます。

10. ID

IDでは、マネージドIDの設定ができます。システム割り当て済みとユーザー割り当て済みを選ぶことができます。ただし、調べた限りこちらのIDが使える機能はまだなさそうでした。
ファインチューニングを行う際に利用する学習用データセットをBlobストレージから読み出すことができるのですが、まだマネージドIDはサポートされていないようでした。（SASまたはパブリックアクセスのみ）

11. コスト分析

コスト分析では現在の現在の料金を確認することができると思いますが、私のユーザーアカウントでは権限が不足しており確認することができませんでした。

12. プロパティ

プロパティでは「状態」「価格レベル」「サブスクリプション名」「サブスクリプション ID」「リソースグループ」「リソース ID」「作成日」「場所」が確認できます。

13. ロック

ロックでは、リソースに対して「読み取り専用」と「削除」ロックを実施することができます。モデルのデプロイやモデルの削除に対してもロックにより制御することができます。

14. 警告

警告では、メトリックスやログをAzure Monitorによる監視、アクションの設定を行うことができます。監視できるシグナルは以下のとおりです。

ログ分析

　◦　カスタムログ検索

リソースの正常性

　◦　リソースの正常性

メトリックス

　◦　Availability
　◦　Blocked Calls
　◦　Client Errors
　◦　Data In
　◦　Data Out
　◦　Generated Completion Tokens
　◦　Latency
　◦　Processed FineTuned Training Hours
　◦　Processed Inference Tokens
　◦　Processed Prompt Tokens
　◦　Ratelimit
　◦　Server Errors
　◦　Successful Calls
　◦　Total Calls
　◦　Total Errors

アクティビティログ

　◦　Allow to join CognitiveServices to an given perimeter. (Cognitive Services API )
　◦　Delete API (Cognitive Services API )
　◦　List Keys (Cognitive Services API )
　◦　Regenerate Key (Cognitive Services API )
　◦　Write API (Cognitive Services API )

15. メトリック

メトリックでは、Azure Monitorによりメトリックスを可視化することができます。指標は前述のとおりです。

16. 診断設定

診断設定では以下のログを「Audit Logs」「Request and Response Logs」「Trace Logs」「AllMetrics」を以下の場所に転送する設定ができます。

Log Analytics ワークスペースへの送信
ストレージアカウントへのアーカイブ
イベントハブへのストリーム
パートナーソリューションに送信

17. ログ

ログではLog Analytics ワークスペースの一覧が表示されます。

18. タスク（プレビュー）

タスクでは、プレビュー機能ですが自動化するための機能を追加することができます。Azure OpenAI Service では「Send monthly cost for resource」が用意されていました。

19. テンプレートのエクスポート

テンプレートのエクスポートでは、Azure Resource Managerのテンプレートが表示されます。

20. リソース正常性

リソース正常性ではリソースの正常性の確認とアラートの設定ができます。

21. 新しいサポートリクエスト

新しいサポートリクエストでは、サポートリクエストを発行することができます。

22. まとめ

今回は、Azure OpenAI Serviceについて、Azure Portalの側面からどのようなメニューが用意されており、どのようなことができるのかを確認しました。
他の Azure サービスでも用意されている基本的な項目は、Azure OpenAI Serviceでも用意されていることが分かりました。これからも機能が拡充されていくと思うので引き続きウォッチしていきたいと思います。また、今回はAzureのインフラ面の調査でしたが、プロンプトエンジニアリングもこれからどんどん求められていくと思うのでこちらもそちらもキャッチアップして時代の潮流に乗り遅れないようにしていこうと思います。