Definisi
Sebuah temuan yang telah terbukti secara matematis oleh NIST bahwa tidak ada rangkaian aturan keselamatan yang terbatas yang diterapkan pada sistem AI yang dapat memblokir setiap kemungkinan input atau output berbahaya—akan selalu ada beberapa kasus tepi yang dapat dimanfaatkan penyerang untuk membypassnya. Ini berarti guardrail keselamatan AI harus diperlakukan sebagai pertahanan yang terus diperbarui, bukan perbaikan satu kali.
Mengapa penting
Dewan dan regulator kadang-kadang mengasumsikan bahwa setelah sistem AI lulus evaluasi keselamatan, sistem tersebut selamanya aman. Bukti NIST menunjukkan bahwa asumsi tersebut salah: keselamatan adalah proses berkelanjutan yang memerlukan pemantauan berkelanjutan, red-teaming, dan pembaruan—bukan sertifikasi yang tetap berlaku selamanya.