【イギリス】NVIDIA、エージェントAIの安全性・セキュリティ研究支援で400億円拠出。アカデミア

　半導体設計世界大手米NVIDIAは10月13日、英国におけるエージェントAIの安全性およびセキュリティ研究を支援するため、5年間で総額2.5億米ドル（約400億円）相当のコンピューティングリソースを無償提供すると発表した。英国の幅広い研究コミュニティを支援する。

　今回のプログラムでは、英国全土におけるエージェントAIの安全性・セキュリティ研究を支援するため、まず、年間5,000万米ドル相当のコンピューティングリソースを提供する。コンピューティングリソースへのアクセスは、英国を拠点とするNVIDIAのクラウドパートナーを通じて提供される。

　提供されるリソースの大部分は、英国のAI安全性・セキュリティ研究コミュニティ全体を支援するために充てられ、一部がオックスフォード大学が主導するBritish Open-Ended Learning and Discovery Lab（BOLD）、ユニバーシティ・カレッジ・ロンドンが主導するScience of Fundamental AI Research Lab（SOFAIR）、インペリアル・カレッジ・ロンドンに配分される。

　また、英国に拠点を置くNVIDIA Cloud Partnersを通じ、英国国内にホストされたインフラによるコンピューティングリソースへのアクセスを資金面でも支援する。これにより、英国のコンピューティングエコシステムが支援され、研究のための国内プラットフォームが提供されることになる。プロバイダーの選定、技術アーキテクチャ、および商業条件については今後合意される予定。

　こちらでは、セキュアエージェント、オープンモデルのセキュリティ、および実世界における脅威の軽減に焦点を当てる。対象には、セキュアなサンドボックス、再現可能な研究、安全性評価ベンチマークで、NVIDIA OpenShell（オープンでセキュアなランタイムソフトウェア）やNVIDIA Sentryリファレンスデザインを用いた研究も含まれる。得られた知見は、より広範なコンピューティングエコシステム全体の安全対策に活かす。

　同社は英国ではすでに、NVIDIA Grace Hopperスーパーチップを搭載したブリストル大学のIsambard-AIスーパーコンピューターでの協業等の実績があり、今回英国の研究コミュニティとの協力関係を拡大することとなった。

　同社のジェンセン・フアンCEOは14日、ブルームバーグのインタビューの中で、「もし、どこかのAI研究所（企業）が非常に危険な開発を行っており、あなたがそれを『危険すぎる』と感じた場合、エヌビディアはその企業への半導体の販売を停止しますか」と聞かれたことに対し、他社が当社の技術をどのように利用するかについて判断を下すことには限界があるが、あくまで仮定の話として、もし同社の技術の応用が人々に危害を加えていると確信できるなら、もちろん対処（販売を停止する）」と答えた。 　 【参照ページ】NVIDIA Commits $250 Million to Advance UK Agentic Safety and Security Research Over the Next Five Years 【参照ページ】Nvidia CEO Jensen Huang Says He Would Stop Selling To Buyers Building Unsafe AI

株式会社ニューラル サステナビリティ研究所