【EU】EU理事会と欧州議会、AI法案で政治的合意。高リスクには厳格規制。一定用途ではAI活用禁止も

　EU上院の役割を担うEU加盟国閣僚級のEU理事会とEU下院の役割を担う欧州議会は12月9日、欧州委員会が2021年4月に提案したAI法（EU規則）案について、政治的合意に達した。今後、双方での立法手続きに入る。成立すると、EU規則としての性格上、EU加盟国毎の立法を待たず、直接加盟国に適用される。

　同規則では、リスクアプローチに基づき、AIに関するリスクを「最小リスク」と「高リスク」に分類。大半のAIシステムは「最小リスク」に分類され、AIを活用したレコメンデーションシステムやスパムフィルター等のアプリケーションには、特段の規制は課されない。但し、企業には自主的な行動規範の遵守は推奨される。

　一方、水道、ガス、電力分野の重要インフラ、医療機器、教育機関へのアクセスや人材採用に関するシステムや、法執行、国境管理、司法行政、民主主義プロセスの分野で使用される特定のシステム等でのAI活用は「高いリスク」とみなされる。また、生体認証、分類、感情認識でのAI活用も「高リスク」とみなされる。高リスクと認定されたAIシステムは、リスク軽減、高品質のデータセット、活動のログ管理、詳細な文書化、明確なユーザー情報の把握、人間による監視、高水準の堅牢性、正確性、サイバーセキュリティ等、厳格な要件が課せられる。欧州委員会で規制サンドボックス制度を設け、イノベーションを促進する努力も続ける。

　さらに人々の基本的権利を明らかに脅かすと考えられるAIシステムは「許容できないリスク」とみなされ全面禁止となる。例えば、未成年者の危険な行動を促す音声アシストを使った玩具、政府や企業による「ソーシャル・スコアリング」を可能にするシステム、予測的取締の特定のアプリケーション、ユーザーの自由意志を回避するために人間の行動を操作するAIシステムやアプリケーション等が対象となる。バイオメトリクス分野でも、職場で使用される感情認識システム、人を分類するための一部のシステム、公共のアクセス可能な空間における法執行目的のリアルタイム遠隔バイオメトリクス識別等は禁止される。

　チャットボット等のAIシステムを活用する場合には、「特定の透明性リスク」があると認識され、ユーザーに対し、AIとやりとりしていることを通知することを義務化。ディープフェイクやその他のAIが生成したコンテンツには、ラベル付けが義務化される。バイオメトリクス分類や感情認識システムが使用されている場合には、ユーザー通知が義務化される。さらに、プロバイダーは、合成音声、合成映像、合成テキスト、合成画像のコンテンツが、機械可読形式でマークされ、人工的に生成または操作されたものであることを検出できるようにシステム開発しなければならない。

　これらに違反した企業には、罰金が科される。

　同規則は、汎用AIモデルに関しても、規制をかける方針。システミックリスクを引き起こす可能性のある非常に強力なアルゴリズムモデルに対しては、リスクマネジメントと重大インシデントの監視、モデル評価と敵対的テストの実施を法定義務化する考え。具体的なルール策定では、マルチステークホルダー型で幅広く意見を聞きながら、欧州委員会が策定する。

　政府機構面では、欧州委員会内に「欧州AI室」を新設。欧州地域での調整を図るとともに、汎用AIモデルに関する新ルールの策定と執行を監督する。成立すると、AIに関する法律を施行する世界初の機関となる。

　AI法は、成立した後、一定の猶予期間が設けられ、その間に事業者への対応を求めていく方針。但し、適用前に「AI協定（AI Pact）」を策定し、法定義務発生前から、事業者に任意に規範遵守を求めていく考え。さらに、AIルールの国際調整のため、G7、経済協力開発機構（OECD）、欧州評議会、G20、国連等にも働きかけていく。

【参照ページ】Commission welcomes political agreement on Artificial Intelligence Act

株式会社ニューラル サステナビリティ研究所