米AIスタートアップAnthropicは2月24日、AIに関する自主枠組み「責任ある拡大方針（RSP）」の第3版を公表した。また2月26日、米国防総省が契約先のAI企業に対して要求していた事項を拒否する姿勢も明確にした。これにより、米トランプ大統領は2月28日、Anthropicの経営陣を「左翼狂信者」を呼び、米連邦政府機関に対し、同社の技術使用を即時停止するよう指示すると発言した。
責任あるAI
同社は、同社のAIサービスの活用による悪影響を抑止するため、AI安全性レベル（ASL）を「1」から「4」までの4段階で設定。その上で、RSPでASLの分類結果を定めている。レベル3（ASL-3）に指定されると、導入対策とセキュリティ対策の2つの観点で基準が適用され、導入対策では、脱獄（ジェイルブレイク）を阻止・検知をするための特別措置や「合成脱獄データの生成」による迅速修復対応、セキュリティ対策では、モデル重み（侵害されるとユーザーがデプロイ保護を迂回してモデルにアクセス可能となる重大な数値パラメータ）の保護のために「出口帯域幅制御（Egress bandwidth controls）」を導入すること等が規定されている。
今回発表されたRSP第3版では、…
Sustainable Japanの特長
Sustainable Japanは、サステナビリティ・ESGに関する
様々な情報収集を効率化できる専門メディアです。
- 時価総額上位100社の96%が登録済
- 業界第一人者が編集長
- 7記事/日程度追加、合計11,000以上の記事を読める
- 重要ニュースをウェビナーで分かりやすく解説※1
さらに詳しく
※1：重要ニュース解説ウェビナー「SJダイジェスト」。詳細はこちら
Skip navigation