Frontier AI governance and safety verification

フロンティアモデルがより強力になるにつれて、Ban Artificial Superintelligence Actのような法律は最もリスクの高い開発を制限しようとしており、一方Independent Verification Organizationsは第三者による事前展開評価を実施してシステムカードに記載された安全性主張をチェックし、AI Safety Indexのようなツールを通じてスコア付けしています。Secure-enclave model evaluationは、これらの評価がゲーム化されたり漏洩されたりできないようにする技術的セーフガードであり、ポリシー制限と技術的検証の間のループを閉じています。