Concept  ·  用語集

Catastrophic risk threshold (pre-mitigation capability)

AI研究所がモデルをリリースする前にテストする特定の危険レベル(例えば、誰かが兵器を作成するのを有意義に支援する能力)であり、安全トレーニング(「軽減」)で抑制しようとするもの。フロンティア研究所は最近、公開で初めて、出荷されたモデルの1つが軽減措置が適用される前にこの閾値を越える可能性を完全に排除できないことを認めた。
これはAI安全透明性における分岐点である:これは、主要な研究所であっても、モデルが公開に到達する前に安全措置が機能することを必ずしも証明できないことを示しており、これは義務的なリリース前評価をめぐる議論の中心である。
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →