主要なAI企業は、監視の強まる中で独立した安全評価者を組み込む動きを進めている

AnthropicとOpenAIは、METR、Apollo Research、Transluceなどの小規模な第三者評価グループからの支援を求めており、AIモデルのリスクを評価させようとしています。これは、内部での議論と外部からの圧力を受けてのことです。両社は外部評価者を組み込む計画ですが、資金調達、アクセス、報告構造についてはまだ疑問が残っています。OpenAIは先週、3人の従業員を解雇しました。そのうち2人は、評価者との通信が原因で解雇されたと主張しています。