筆者：（株）エヴァアビエーション 宮本 茂明
後編では、NIST AI RMFにおけるリスクマネジメントフレームワークの概要を紹介します。
1.AIシステムのリスクマネジメントフレームワーク
NIST AI RMFのフレームワークは、コア（Core）として「ガバナンス（GOVERN）」、「マップ（MAP）」、「測定（MEASURE）」、「マネジメント（MANAGE）」の4つの機能に区分され、各機能はカテゴリ、サブカテゴリとして実施すべき事項が詳細化されています。
このフレームワークを適用する組織は、コアの詳細化された事項から自組織に合った部分を選択し、プロファイル（Profile）にまとめ、適用していきます。自組織の要件、リスク許容度及びリソースに基づき、コアの実装について、プロファイルに現在の状態と目指す目標の状態を記述します。現在の状態と目標の状態を比較し、AIリスクマネジメントの目標を達成するために対処すべきギャップを明らかにし、アクションプランを策定します。
＜NIST AI RMF コア＞
1-1.ガバナンス（GOVERN）
「ガバナンス」機能は、 AIシステムを設計、開発または展開する組織において、リスクマネジメントの文化を醸成します。
強力なガバナンスは、組織のリスクマネジメント能力を促進するために、自組織のAIシステムに関連するプロセス、手順、プラクティスを推進し、強化することができます。
| 「ガバンス（GOVERN）」のカテゴリ | |
| GOVERN 1 | AIリスクの「マップ」、「測定」、「マネジメント」に関する組織全体の方針、プロセス、手順、プラクティスを整備し、透明性をもち、効果的に実装する |
| GOVERN 2 | AIリスクの「マップ」、「測定」、「マネジメント」について、適切なチームと個人に権限と責任を与え、訓練するよう、説明責任体制を整備する |
| GOVERN 3 | ライフサイクル全体に渡るAIリスクの「マップ」、「測定」、「マネジメント」において、従業者の多様性、公平性、包括性、アクセシビリティのプロセスを優先的に取り組む |
| GOVERN 4 | 組織のチームはAIリスクを考慮し、それを伝える文化にコミットする |
| GOVERN 5 | 関連するAIのアクターとの強固なエンゲージメントのためのプロセスを整備する |
| GOVERN 6 | サードパーティのソフトウェアやデータ、その他のサプライチェーンの問題から生じるAIのリスクと利点に対処するための方針と手順を整備する |
1-2.マップ（MAP）
「マップ」機能は、AIシステムに関連するコンテクスト（どういった目的で、どういった対象に、どう利用するか）を確立し、リスクを特定します。
「マップ」機能の実施中に収集された情報は、負のリスクの事前予防を可能にし、モデル管理などのプロセスの意思決定や、AIソリューションの適切性や必要性に関する初期決定に情報を提供します。「マップ」機能の実施結果は、「測定」機能と「マネジメント」機能のベースとなります。
「マップ」機能を実施することで、コンテクストに関する知識、および特定されたコンテクスト内のリスクに関する理解が深まり、組織のリスクマネジメント能力を強化することができます。
「マップ」機能を実施した後、このフレームワークの利用者は、AIシステムのインパクトに関する十分なコンテクストの知識を得て、AIシステムを設計、開発、または展開するかどうかについての最初の続行可否決定を行います。
| 「マップ（MAP）」のカテゴリ | |
| MAP 1 | コンテクストを確立し、理解し、文書化する |
| MAP 2 | AIシステムの区分を行う |
| MAP 3 | AIの能力、目的とする使用方法、目標、及び適切なベンチマークと比較した期待される利点とコストを理解し、文書化する |
| MAP 4 | サードパーティのソフトウェアやデータを含むAIシステムのすべての構成要素について、リスクと利点をマップする |
| MAP 5 | 個人、グループ、コミュニティ、組織、社会へのインパクトを特徴づける |
1-3.測定（MEASURE）
「測定」機能は、定量的、定性的、またはそれらを混合した手法のツール、技術、方法論を用いて、AIリスクと関連するインパクトを分析、アセスメント、ベンチマーク、モニタリングします。「マップ」機能で特定されたAIリスクに関連する知識を使用し、「マネジメント」機能に情報を提供します。AIシステムについて、展開前にテストし、運用中も定期的にテストを行います。AIリスクの測定には、システムの機能性及びトラストワージネスの両側面の評価を含みます。
「測定」機能の結果は「マネジメント」機能で利用され、リスクのモニタリング及び対応に役立てられます。
| 「測定（MEASURE）」のカテゴリ | |
| MEASURE 1 | 適切な方法と測定基準を特定し、適用する |
| MEASURE 2 | AIシステムをトラストワージネスの特性について評価する |
| MEASURE 3 | 特定したAIリスクを長期にわたって追跡する仕組みを整備する |
| MEASURE 4 | 測定の有効性に関するフィードバックを収集し、アセスメントする |
1-4.マネジメント（MANAGE）
「マネジメント」機能は「ガバナンス」機能で定めた事項に従い、「マップ」機能で特定し「測定」機能で測定したAIリスクに対して、優先順位を付け、リソースを割当て、定期的なリスク対応を行います。
「ガバナンス」機能で確立し、「マップ」機能及び「測定」機能で利用している体系的な文書化手法は、AIのリスクマネジメント能力を強化し、透明性と説明責任力を高めます。
「マネジメント」機能を実施した後、リスクの優先順位付け及び定期的なモニタリングと改善に関する計画を整備します。
| 「マネジメント（MANAGE）」のカテゴリ | |
| MANAGE 1 | 「マップ」、「測定」機能からのアセスメントおよびその他の分析結果に基づき、AIリスクを優先順位付け、対応、およびマネジメントする |
| MANAGE 2 | AIのアクターからの情報に基づき、AIの利点を最大化し、負のインパクトを最小化するための戦略を計画し、準備し、実装し、文書化し、情報を提供する |
| MANAGE 3 | サードパーティ・エンティティによるAIのリスクと利点をマネジメントする |
| MANAGE 4 | 特定し、測定したAIリスクについて、対応と復旧を含むリスク処置及びコミュニケーション計画を文書化し、定期的にモニタリングする |
2.PLAYBOOK
「AI RMF PLAYBOOK」として、コアのサブカテゴリの活動を行う際に参考となる
- 解説（About）
- 推奨される活動（Suggested Actions）
- 透明性と文書化（Transparency & Documentation）
- AIの透明性に関するリソース（AI Transparency Resources）
- 参考資料（References）
が、サブカテゴリ毎に提供されています。PLAYBOOKの推奨事項の適用は任意で、組織は業界のユースケースや関心のある推奨事項の情報を活用することができます。
以上が、NIST AI RMFの概要です。
NIST AI RMFは、進化するAI技術、世界の標準化状況、AIコミュニティのフィードバックに基づいて、更新、拡張、改善されていく計画となっています。
現状では、AI特有のリスクに対応するための管理策は示されていませんが、将来、セキュリティ及びプライバシーリスク対応のための管理策カタログ「NIST SP800-53」のような、AIリスク対応のための管理策カタログが提供されることを期待します。
今後も、AIのリスクマネジメントの関連情報を、継続的にフォローしていく予定です。
[参考情報]
