Definisi
Serangan di mana instruksi tersembunyi menyebabkan agen AI menambahkan opsi atau flag tersembunyi ekstra ke perintah yang sudah diotorisasi untuk dijalankan, mengubah perilakunya dengan cara yang berbahaya. Ini adalah cara untuk menyelinap melewati filter yang hanya memeriksa perintah yang jelas-jelas berbahaya, bukan kombinasi opsi yang berbahaya.
Mengapa penting
Ini mengalahkan penjaga gaya 'safe command allow-list' yang banyak alat AI-ke-infrastruktur andalkan, menunjukkan bahwa penyaringan tingkat permukaan tidak cukup untuk menghentikan agen yang dikompromikan dari mengambil alih sistem kritis seperti klaster Kubernetes.