【アメリカ】カリフォルニア州、AI州法制定。フロンティア開発者に枠組み作成や報告の義務

　米カリフォルニア州のギャビン・ニューサム知事は9月29日、フロンティアAI透明性法（TFAIA；SB53）案に署名。同州法が成立した。2026年1月1日に施行される。包括的なAI関連州法は今回が全米初。

　同州法では、フロンティア開発者が開発する定義済み基盤モデルの安全性を確保するため、特に大規模なフロンティア開発者に対し、国家標準、国際標準、業界合意のベストプラクティスを組み込むためのアプローチを記載した「フロンティアAIフレームワーク」の作成・実装・公開と年1回以上のレビューを義務化。また、大規模なフロンティア開発者に対し、指定されたフロンティアモデルの内部使用に起因する定義済みの壊滅的リスクの評価概要を緊急事態サービス局に提出することも義務化している。

　フロンティア開発者に対しては、新たなフロンティアモデルまたは既存のフロンティアモデルを大幅に改修したバージョンの導入前もしくは導入時に、透明性レポートを自社のホームページで公表することも義務化している。透明性レポートには、フロンティアモデルの目的やフロンティアモデルの使用に関して一般的に適用される制限または条件等を掲載しなければならない。

　同州法は、「フロンティアモデル」を、10^26を超える整数演算または浮動小数点演算の計算能力を使用してトレーニングされた基礎モデルと定義。また「フロンティア開発者」を、フロンティアモデルのトレーニングを行った者と定義。「大規模フロンティア開発者」は、関連会社と合わせて前年度に年間売上5億米ドルを超えるフロンティア開発者と定義した。

　さらに「壊滅的リスク」は、フロンティア開発者がフロンティアモデルを開発、保管、使用、第三者に利用させたことで、大量破壊兵器の製造・流通やサイバー攻撃、詐欺による窃盗を含む殺人、暴行、恐喝、窃盗の犯罪を構成することになる行為により、単一事故で50人以上の死亡または重傷、もしくは10億米ドルを超える損害が発生するという予見可能かつ重大なリスクと定義した。

　加えて、同州の緊急事態サービス局に対し、フロンティア開発者と一般市民が重大な安全上の事故に関する通報メカニズムを確立することも命じている。さらに、大規模フロンティア開発者がフロンティアモデルの内部使用から生じる壊滅的リスクの評価概要を提出するためのメカニズムの確立も命じた。フロンティアモデルがもたらす重大な健康・安全リスクを内部告発した者は保護され、保護違反に対しては民事罰を科す制度も構築した。

　一方、AIの活用では、同州内に新たなコンソーシアム「CalCompute」を創設し、公共の利益となる研究とイノベーションを促進する。

【参照ページ】Governor Newsom signs SB 53, advancing California’s world-leading artificial intelligence industry

株式会社ニューラル サステナビリティ研究所