Attack  ·  Glosarium

Compositional exploit (autonomous coding agents)

Serangan yang merangkai beberapa kelemahan kecil secara individual sehingga, jika digabungkan, memungkinkan aktor jahat mengambil alih agen pengkodean otonom. Setiap pemeriksaan atau log audit secara terpisah terlihat baik-baik saja, tetapi rantai celah kecil tersebut mengalahkan model yang digunakan auditor untuk meninjau tindakan agen.
Karena tidak ada satu pun cacat yang terlihat serius, audit standar dan tinjauan keamanan agen dapat menyatakan agen aman padahal sebenarnya sepenuhnya dapat dikendalikan — sehingga tinjauan itu sendiri memberikan keyakinan palsu.
MITRE ATLAS
Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →