【EU】AI法成立。リスクアプローチに基づく義務確立。課徴金は最大グローバル売上7%

　EU上院の役割を担うEU加盟国閣僚級のEU理事会は5月21日、AI法案を可決した。同EU規則はすでに欧州議会で可決されており、同EU規則が成立した。EU官報掲載の20日後に発効するが、多くの内容は2年後から適用される。

【参考】【EU】EU理事会と欧州議会、AI法案で政治的合意。高リスクには厳格規制。一定用途ではAI活用禁止も（2023年12月10日）

　同規則では、リスクアプローチに基づき、AIに関するリスクを「最小リスク」と「高リスク」に分類。大半のAIシステムは「最小リスク」に分類され、AIを活用したレコメンデーションシステムやスパムフィルター等のアプリケーションには、特段の規制は課されない。但し、企業には自主的な行動規範の遵守は推奨される。軍事、防衛、研究目的でのみ使用されるAIに対しては、AI法は適用されない。

　一方、水道、ガス、電力分野の重要インフラ、医療機器、教育機関へのアクセスや人材採用に関するシステムや、法執行、国境管理、司法行政、民主主義プロセスの分野で使用される特定のシステム等でのAI活用は「高いリスク」とみなされる。公共機関へのAI導入では、基本的権利への影響評価が義務化されるとともに、EUの高リスクAIシステム用データベースに登録することも必須となる。感情認識システムを利用する場合には、ユーザーに通知することも義務化される。

　また、生体認証、分類、感情認識でのAI活用も「高リスク」とみなされる。高リスクと認定されたAIシステムは、リスク軽減、高品質のデータセット、活動のログ管理、詳細な文書化、明確なユーザー情報の把握、人間による監視、高水準の堅牢性、正確性、サイバーセキュリティ等、厳格な要件が課せられる。欧州委員会で規制サンドボックス制度を設け、イノベーションを促進する努力も続ける。

　さらに人々の基本的権利を明らかに脅かすと考えられるAIシステムは「許容できないリスク」とみなされ全面禁止となる。例えば、未成年者の危険な行動を促す音声アシストを使った玩具、政府や企業による「ソーシャル・スコアリング」を可能にするシステム、予測的取締の特定のアプリケーション、ユーザーの自由意志を回避するために人間の行動を操作するAIシステムやアプリケーション等が対象となる。バイオメトリクス分野でも、職場で使用される感情認識システム、人を分類するための一部のシステム、公共のアクセス可能な空間における法執行目的のリアルタイム遠隔バイオメトリクス識別等は禁止される。

　チャットボット等のAIを活用する場合には、「特定の透明性リスク」があると認識され、ユーザーに対し、AIとやりとりしていることを通知することを義務化。ディープフェイクやその他のAIが生成したコンテンツには、ラベル付けが義務化される。バイオメトリクス分類や感情認識システムが使用されている場合には、ユーザー通知が義務化される。さらに、プロバイダーは、合成音声、合成映像、合成テキスト、合成画像のコンテンツが、機械可読形式でマークされ、人工的に生成または操作されたものであることを検出できるようにシステム開発しなければならない。

　汎用AI（GPAI）モデルに関しても、規制をかける方針。システミックリスクを引き起こす可能性のある非常に強力なアルゴリズムモデルに対しては、リスクマネジメントと重大インシデントの監視、モデル評価と敵対的テストの実施を法定義務化する考え。具体的なルール策定では、マルチステークホルダー型で幅広く意見を聞きながら、欧州委員会が策定する。

　政府機構面では、欧州委員会内に「欧州AI室」を新設。AIに関する法律を施行する世界初の行政機関となる。さらに、外部有識者で構成する「科学委員会」も設置される。欧州委員会とEU加盟国への助言機関として「AI委員会」が、欧州委員会AI委員会の諮問機関として諮問機関も設置される。

　AI法違反に対しては、基本的権利リスクに関する禁止行為に反した場合、違反企業の前年度のグローバルでの年間売上の7%もしくは3,500万ユーロのいずれか高い金額の課徴金が科される。それ以外の内容に違反した場合には、違反企業の前年度のグローバルでの年間売上の3%もしくは1,500万ユーロのいずれか高い金額の課徴金が科される。行政機関に虚偽の報告をした場合や情報提供を怠った場合には、前年度のグローバルでの年間売上の1%もしくは750万ユーロのいずれか高い金額の課徴金が科される。中小企業及びスタートアップ企業には、上記のうち「いずれか低い金額」が科される。

【参照ページ】Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI

株式会社ニューラル サステナビリティ研究所