Definisi
Komponen kontrol khusus yang memutuskan, secara real-time, apakah panggilan alat tertentu yang ingin dilakukan oleh agen AI diizinkan — titik pemeriksaan keamanan untuk setiap tindakan agen. Komponen ini mengevaluasi setiap panggilan terhadap kebijakan dan memblokir apa pun yang tidak diizinkan, serta dapat memverifikasi secara kriptografis dari mana permintaan berasal. Kelemahan dalam cara gerbang semacam itu memverifikasi permintaan atau tanda tangan dapat memungkinkan tindakan tidak sah lolos.
Mengapa penting
Ini adalah otot penegakan di balik 'guardrails'; gerbang kebijakan yang rusak berarti batasan yang dijanjikan agen (misalnya, 'tidak dapat membatalkan pesanan') sebenarnya tidak nyata.