世界経済フォーラムの「AIガバナンス・アライアンス」は1月18日、責任ある生成AI活用で、3つの報告書を発表した。同アライアンスは2023年6月に発足。マイクロソフト、グーグル、メタ・プラットフォームズ、OpenAI、Inflection AI、DeepLearning.AI、IBM、オックスフォード大学、清華大学等の他、ルワンダ通信技術イノベーション相、シンガポール通信情報相、アラブ首長国連邦（UAE）AI担当相がステアリングコミッティ・メンバーとなっている。
【参考】【国際】世界経済フォーラム、生成AIガバナンス・アライアンス発足。ルール形成（2023年6月16日）
同アライアンスは、生成AIの責任ある設計、開発、展開のための実践的な勧告事項を策定することをミッションとしている。特に「安全なシステム及び技術」「持続可能なアプリケーションとトランスフォーメーション」「レジリエントなガバナンスと規制」の3つに焦点を当て、コアワーキンググループが結成された。
AIの安全なシステム及び技術
今回発表された最初の同報告書は、生成AIの安全な開発、利用のためのアプローチ「プレシディオAIフレームワーク」を提唱している。4つのアクターから成るAIの開発プロセスを可視化し、安全性に関するリスクと機会を特定し、より安全性を高めるための方針を示した。
同フレームワークは、「AIライフサイクル」「リスク・ガードレール」「シフトレスト・テスト」の3つで構成。1つ目のAIライフサイクルでは、AIの基礎モデルの開発からユーザーがプロンプトインタフェースを通じてAIを利用するまでのプロセスを可視化した。
上記プロセスに加えて、生成AIモデルを開発する「AIモデル作成者」、開発した生成AIモデルを特定のタスクにあわせた調整を行う「AIモデルアダプター」、生成AIモデルと対話を行う「AIモデルユーザー」、アプリケーションやAPIを利用して生成AIを間接的に利用する「AIアプリケーションユーザー」の4つのアクターを定義し、安全性を高めるために必要なプロセスを網羅した。
（出所）WEF
また、生成AIの提供範囲を5つのタイプに分類。それぞれのセキュリティ的なメリット、デメリットを整理し、必要な対策の方針を示した。
（出所）WEF
2つ目はリスクガード・レール。ガードレールは、生成AIの責任ある開発、利用を保証するために設計されるガイドライン、原則等と定義。ガードレールには、ツールや自動化されたシステムや制御を行う技術的なガードレールと、確立されたプロセスやガイドラインを人が遵守する手続き的なガードレールがあり、セキュリティを高めるためには両方を組み合わせる必要があるとした。
3つ目のシフトレスト・テストは、開発ライフサイクルの早い段階でテストを実行する概念のこと。一般的なソフトウェア開発で用いられる概念をAIモデルに適用し、より重要性が増していると訴えた。
背景として、様々なスキルや技術を持つユーザーのAIモデルへのアクセスの増加、出力された情報の検証無しに情報を活用するユーザーの存在、偽情報キャンペーンやAIモデルへの攻撃等、考慮すべきリスクが増加している。特に重要な3つのフェーズでのシフトレフトの事例を紹介し、各アクターに求められる対策を示した。
（出所）WEF
最後に、業界関係者、政府、組織間のマルチステークホルダーコラボレーションを強化する必要性を強調し、生成AI開発における責任の共有、早期のリスク特定、積極的なリスク管理の実施を訴えた。
持続可能なアプリケーションとトランスフォーメーション
2つ目の報告書では、生成AIが企業に与える影響の事例と責任ある導入のためのベストプラクティスを紹介した。事例の紹介では、業務生産性向上の例としてブレックス、イケア、グーグルを、新サービス等への活用例としてシンセシア、ペプシコ、インシリコ・メディシン、米航空宇宙局（NASA）、IBMを紹介し、幅広い業界と様々な企業規模で活用した事例を紹介した。
（出所）WEF
生成AIの導入のためのベストプラクティスとして、生成AIのユースケースを特定し、ゲート方式での評価を提案した。生成AIのユースケースの特定では、生成AIが組織、従業員、顧客、社会にとってどのような利益があるのかすべての要素を評価する必要があるとした。
具体的な影響評価として、複数の広告パターンを瞬時に作成する等の既存のヒューマンスキルの強化、すべての従業員がコーディング可能とする等の特定のリソースやスキルが必要なテクノロジーのオープン化、プロダクトや広告等を市場へ投入するまでの時間の短縮やユーザー体験の向上、組織ブランドの向上等を紹介した。ゲート方式での評価では、ビジネスインパクト、運用、投資戦略の3つの観点を挙げた。
最後に、リスクを最小化し機会を最大化するための生成AIの導入方法として、生成AIの導入は影響範囲が広大なため、様々な役職、職種の関係者を巻き込むマルチステークホルダー型の意思決定が重要だと主張。特に、各組織への説明責任への対応、透明性の確保、組織全体への拡大、従業員へのサポートの4つの要素が連動することが組織全体での利用拡大につながるとした。
レジリエントなガバナンスと規制
3つ目の報告書では、各国で議論されているAI規制に関してまとめた。まず、各国の現状の規制をアプローチ別に、EU等のリスク型、生成AIの規制を制定した中国等のルール型、カナダ等の原則やガイドラインを定め解釈等は各組織に委ねるプリンシパル型、そして日本等の具体的なプロセスや行動は定義せずAI関連の成果を重視するアウトカム型の4タイプに分類し、それぞれのメリットや課題を報告した。
（出所）WEF
政府による規制検討だけではなく、それに応じた業界団体のアクションも紹介。米バイデン大統領は2023年10月、AIの開発と利用での安全性確保に関する大統領令に署名した。これを受けて、米国国立標準技術研究所（NIST）はAIの安全に関するコンソーシアムを設立しベストプラクティス等を提供。官民が連携する重要性を訴えた。
【参考】【アメリカ】バイデン大統領、責任あるAIに関する大統領令に署名。8原則で具体的政策立案指示（2023年11月1日）
次に、AIガバナンスに関する国際協力の状況を報告。米国と欧州は貿易技術評議会（TTC）を通じて、欧州とAIガバナンスに関して協力体制を構築し、チリ、ニュージーランド、シンガポールはデジタル経済パートナーシップ協定を締結。また、英政府は2023年11月、「AI安全サミット」を開催し、ブレッチリー宣言に28ヶ国・地域が署名している。
【参考】【国際】英政府、ブレッチリー宣言発表。28ヶ国・地域署名。AI安全性での国際協調（2023年11月2日）
最後に、公平なアクセスと包括的なグローバルAIガバナンスの実現に向けて、グローバル・サウスの役割の重要性を説いた。
発展途上国では、医療、教育、食料安全保障等の分野が優先され、長期的なデジタルインフラへの投資が進まないことが多い。生成AIの開発に必要なインフラや物理的なデーターセンター等のコストが高く、データ、人材、ガバナンスが不足していることから生成AIの格差が拡大しており、国家AI戦略を策定している割合は、ラテンアメリカでは5.7%、アフリカでは2.4%しかない。グローバル・サウスがAIガバナンス構築に関与できるような役割の再構築が必要とした。
まとめでは、AIのグローバル・ガバナンスの策定状況は、複雑かつ断片的に急速に進化を遂げており、生成AIの登場の機会を効果的に活用する必要があるとした。政府だけではなく、市民社会、企業等を含むマルチステークホルダーによる協力が必要不可欠であり、グローバル・サウスを含む全ての国々でAIの公平性とインクルージョンを高める必要性を訴えた。
まとめ
今回の3つの報告書で共通していたことは、様々な関係者が関与するマルチステークホルダー型での意思決定の重要性。社内の職種や役職だけではなく、官民の連携、先進国と新興国の連携とあらゆるステークホルダーが議論に参加することを求めた。
2024年は、インド、ロシア、米国、英国を含め、世界人口の50%が投票に行く可能性がある「超選挙の年」となる。サイバーセキュリティを含めたAIのガバナンス構築に関する議論がますます活発になる。
【参照ページ】AI Governance Alliance Calls for Inclusive Access to Advanced Artificial Intelligence
ここから先は登録ユーザー限定のコンテンツとなります。ログインまたはユーザー登録を行って下さい。
世界経済フォーラムの「AIガバナンス・アライアンス」は1月18日、責任ある生成AI活用で、3つの報告書を発表した。同アライアンスは2023年6月に発足。マイクロソフト、グーグル、メタ・プラットフォームズ、OpenAI、Inflection AI、DeepLearning.AI、IBM、オックスフォード大学、清華大学等の他、ルワンダ通信技術イノベーション相、シンガポール通信情報相、アラブ首長国連邦（UAE）AI担当相がステアリングコミッティ・メンバーとなっている。
【参考】【国際】世界経済フォーラム、生成AIガバナンス・アライアンス発足。ルール形成（2023年6月16日）
同アライアンスは、
ここから先は登録ユーザー限定のコンテンツとなります。ログインまたはユーザー登録を行って下さい。
世界経済フォーラムの「AIガバナンス・アライアンス」は1月18日、責任ある生成AI活用で、3つの報告書を発表した。同アライアンスは2023年6月に発足。マイクロソフト、グーグル、メタ・プラットフォームズ、OpenAI、Inflection AI、DeepLearning.AI、IBM、オックスフォード大学、清華大学等の他、ルワンダ通信技術イノベーション相、シンガポール通信情報相、アラブ首長国連邦（UAE）AI担当相がステアリングコミッティ・メンバーとなっている。
【参考】【国際】世界経済フォーラム、生成AIガバナンス・アライアンス発足。ルール形成（2023年6月16日）
同アライアンスは、
ここから先は登録ユーザー限定のコンテンツとなります。ログインまたはユーザー登録を行って下さい。
ここから先は有料登録会員限定のコンテンツとなります。有料登録会員へのアップグレードを行って下さい。
世界経済フォーラムの「AIガバナンス・アライアンス」は1月18日、責任ある生成AI活用で、3つの報告書を発表した。同アライアンスは2023年6月に発足。マイクロソフト、グーグル、メタ・プラットフォームズ、OpenAI、Inflection AI、DeepLearning.AI、IBM、オックスフォード大学、清華大学等の他、ルワンダ通信技術イノベーション相、シンガポール通信情報相、アラブ首長国連邦（UAE）AI担当相がステアリングコミッティ・メンバーとなっている。
【参考】【国際】世界経済フォーラム、生成AIガバナンス・アライアンス発足。ルール形成（2023年6月16日）
同アライアンスは、生成AIの責任ある設計、開発、展開のための実践的な勧告事項を策定することをミッションとしている。特に「安全なシステム及び技術」「持続可能なアプリケーションとトランスフォーメーション」「レジリエントなガバナンスと規制」の3つに焦点を当て、コアワーキンググループが結成された。
AIの安全なシステム及び技術
今回発表された最初の同報告書は、生成AIの安全な開発、利用のためのアプローチ「プレシディオAIフレームワーク」を提唱している。4つのアクターから成るAIの開発プロセスを可視化し、安全性に関するリスクと機会を特定し、より安全性を高めるための方針を示した。
同フレームワークは、「AIライフサイクル」「リスク・ガードレール」「シフトレスト・テスト」の3つで構成。1つ目のAIライフサイクルでは、AIの基礎モデルの開発からユーザーがプロンプトインタフェースを通じてAIを利用するまでのプロセスを可視化した。
上記プロセスに加えて、生成AIモデルを開発する「AIモデル作成者」、開発した生成AIモデルを特定のタスクにあわせた調整を行う「AIモデルアダプター」、生成AIモデルと対話を行う「AIモデルユーザー」、アプリケーションやAPIを利用して生成AIを間接的に利用する「AIアプリケーションユーザー」の4つのアクターを定義し、安全性を高めるために必要なプロセスを網羅した。
（出所）WEF
また、生成AIの提供範囲を5つのタイプに分類。それぞれのセキュリティ的なメリット、デメリットを整理し、必要な対策の方針を示した。
（出所）WEF
2つ目はリスクガード・レール。ガードレールは、生成AIの責任ある開発、利用を保証するために設計されるガイドライン、原則等と定義。ガードレールには、ツールや自動化されたシステムや制御を行う技術的なガードレールと、確立されたプロセスやガイドラインを人が遵守する手続き的なガードレールがあり、セキュリティを高めるためには両方を組み合わせる必要があるとした。
3つ目のシフトレスト・テストは、開発ライフサイクルの早い段階でテストを実行する概念のこと。一般的なソフトウェア開発で用いられる概念をAIモデルに適用し、より重要性が増していると訴えた。
背景として、様々なスキルや技術を持つユーザーのAIモデルへのアクセスの増加、出力された情報の検証無しに情報を活用するユーザーの存在、偽情報キャンペーンやAIモデルへの攻撃等、考慮すべきリスクが増加している。特に重要な3つのフェーズでのシフトレフトの事例を紹介し、各アクターに求められる対策を示した。
（出所）WEF
最後に、業界関係者、政府、組織間のマルチステークホルダーコラボレーションを強化する必要性を強調し、生成AI開発における責任の共有、早期のリスク特定、積極的なリスク管理の実施を訴えた。
持続可能なアプリケーションとトランスフォーメーション
2つ目の報告書では、生成AIが企業に与える影響の事例と責任ある導入のためのベストプラクティスを紹介した。事例の紹介では、業務生産性向上の例としてブレックス、イケア、グーグルを、新サービス等への活用例としてシンセシア、ペプシコ、インシリコ・メディシン、米航空宇宙局（NASA）、IBMを紹介し、幅広い業界と様々な企業規模で活用した事例を紹介した。
（出所）WEF
生成AIの導入のためのベストプラクティスとして、生成AIのユースケースを特定し、ゲート方式での評価を提案した。生成AIのユースケースの特定では、生成AIが組織、従業員、顧客、社会にとってどのような利益があるのかすべての要素を評価する必要があるとした。
具体的な影響評価として、複数の広告パターンを瞬時に作成する等の既存のヒューマンスキルの強化、すべての従業員がコーディング可能とする等の特定のリソースやスキルが必要なテクノロジーのオープン化、プロダクトや広告等を市場へ投入するまでの時間の短縮やユーザー体験の向上、組織ブランドの向上等を紹介した。ゲート方式での評価では、ビジネスインパクト、運用、投資戦略の3つの観点を挙げた。
最後に、リスクを最小化し機会を最大化するための生成AIの導入方法として、生成AIの導入は影響範囲が広大なため、様々な役職、職種の関係者を巻き込むマルチステークホルダー型の意思決定が重要だと主張。特に、各組織への説明責任への対応、透明性の確保、組織全体への拡大、従業員へのサポートの4つの要素が連動することが組織全体での利用拡大につながるとした。
レジリエントなガバナンスと規制
3つ目の報告書では、各国で議論されているAI規制に関してまとめた。まず、各国の現状の規制をアプローチ別に、EU等のリスク型、生成AIの規制を制定した中国等のルール型、カナダ等の原則やガイドラインを定め解釈等は各組織に委ねるプリンシパル型、そして日本等の具体的なプロセスや行動は定義せずAI関連の成果を重視するアウトカム型の4タイプに分類し、それぞれのメリットや課題を報告した。
（出所）WEF
政府による規制検討だけではなく、それに応じた業界団体のアクションも紹介。米バイデン大統領は2023年10月、AIの開発と利用での安全性確保に関する大統領令に署名した。これを受けて、米国国立標準技術研究所（NIST）はAIの安全に関するコンソーシアムを設立しベストプラクティス等を提供。官民が連携する重要性を訴えた。
【参考】【アメリカ】バイデン大統領、責任あるAIに関する大統領令に署名。8原則で具体的政策立案指示（2023年11月1日）
次に、AIガバナンスに関する国際協力の状況を報告。米国と欧州は貿易技術評議会（TTC）を通じて、欧州とAIガバナンスに関して協力体制を構築し、チリ、ニュージーランド、シンガポールはデジタル経済パートナーシップ協定を締結。また、英政府は2023年11月、「AI安全サミット」を開催し、ブレッチリー宣言に28ヶ国・地域が署名している。
【参考】【国際】英政府、ブレッチリー宣言発表。28ヶ国・地域署名。AI安全性での国際協調（2023年11月2日）
最後に、公平なアクセスと包括的なグローバルAIガバナンスの実現に向けて、グローバル・サウスの役割の重要性を説いた。
発展途上国では、医療、教育、食料安全保障等の分野が優先され、長期的なデジタルインフラへの投資が進まないことが多い。生成AIの開発に必要なインフラや物理的なデーターセンター等のコストが高く、データ、人材、ガバナンスが不足していることから生成AIの格差が拡大しており、国家AI戦略を策定している割合は、ラテンアメリカでは5.7%、アフリカでは2.4%しかない。グローバル・サウスがAIガバナンス構築に関与できるような役割の再構築が必要とした。
まとめでは、AIのグローバル・ガバナンスの策定状況は、複雑かつ断片的に急速に進化を遂げており、生成AIの登場の機会を効果的に活用する必要があるとした。政府だけではなく、市民社会、企業等を含むマルチステークホルダーによる協力が必要不可欠であり、グローバル・サウスを含む全ての国々でAIの公平性とインクルージョンを高める必要性を訴えた。
まとめ
今回の3つの報告書で共通していたことは、様々な関係者が関与するマルチステークホルダー型での意思決定の重要性。社内の職種や役職だけではなく、官民の連携、先進国と新興国の連携とあらゆるステークホルダーが議論に参加することを求めた。
2024年は、インド、ロシア、米国、英国を含め、世界人口の50%が投票に行く可能性がある「超選挙の年」となる。サイバーセキュリティを含めたAIのガバナンス構築に関する議論がますます活発になる。
【参照ページ】AI Governance Alliance Calls for Inclusive Access to Advanced Artificial Intelligence
ここから先は登録ユーザー限定のコンテンツとなります。ログインまたはユーザー登録を行って下さい。