【イギリス】AI安全研究所、サンフランシスコ事務所開設へ。生成AI安全性テストの進捗結果も公表

　英科学・イノベーション・技術省所管のAI安全研究所は5月20日、今夏に海外初の事務所を米サンフランシスコに開設すると発表した。ロンドンの本部と連携させ、海外への影響力を高める。

　英政府は、2023年10月にAIの安全性に関する研究機関として「AI安全研究所」の創設を表明。11月2日にロンドンで正式発足した。ロンドン本部のエンジニア職員はすでに30人を超えており、さらに組織を拡大中。AIリスクを評価できる体制を整えている。

【参考】【イギリス】オンライン安全法成立。AI安全では大手7社がポリシー制定。市場リード狙う（2023年10月31日） 【参考】【国際】英政府、AI安全研究所発足。米国とシンガポールと安全テストで協働。科学報告書発行も（2023年11月4日）

　サンフランシスコ事務所は、ロンドン本部を補完する役割を担う。米国とのパートナーシップを強化し、世界の中で確固たる地位を目指す。

　英政府は2023年11月、AIの安全性に焦点をあてた世界初のサミット「AI安全サミット」を開催。「ブレッチリー宣言」の発表を成功させている。その場で、第2回サミットを韓国ソウル特別市で開催することが決定し、5月に英政府と韓国政府が共催で「AIソウル・サミット」が開催される。

　AI安全研究所は同日、第4次進捗報告書を発表。公開されている5つの生成AIの安全性テストの結果を伝えた。内容では、化学や生物学の博士号水準に近い知識を有していつつも、人間が監督しなければ、より複雑で時間のかかるタスクを完了することができなかったことや、基本的な「ジェイル・ブレイク」に対して非常に脆弱であり、安全装置を回避するための特別な試みがなくても、有害な出力を生成することが可能であることもわかった。サイバーセキュリティ上の課題も残っていることも記載されている。

　AI安全研究所は、すでに米国とシンガポールの研究機関との協働を始めている。さらにカナダ政府との間でも安全性テストで協力していくことで合意したことも今回明らかとなった。

【参照ページ】Government's trailblazing Institute for AI Safety to open doors in San Francisco

株式会社ニューラル サステナビリティ研究所