Pedoman  ·  2026-11-18

Securing AI testing environments (ASD/ACSC guidance on containing AI agents during higher-risk cyber testing)

PedomanHigh dampakAustralia
Pada 12 November 2026, ASD/ACSC menerbitkan publikasi panduan baru, 'Securing AI testing environments' (juga diumumkan melalui berita, 'Secure AI testing to reduce unauthorised access'). Publikasi ini membahas pengujian berisiko lebih tinggi di mana model/agen AI memiliki eksekusi kode, alat, kredensial, atau akses jaringan, atau di mana pengaman tingkat model dikurangi/dinonaktifkan. Publikasi ini mendefinisikan kerangka pengujian AI (kontrol, perangkat, pemantauan, alur kerja, dan infrastruktur pendukung) dan menetapkan siklus hidup: isolasi dan perkuat, verifikasi dan batasi, pantau dan hentikan, lalu tingkatkan — didukung oleh infrastruktur khusus, bidang manajemen terpisah, konektivitas terbatas, kredensial berumur pendek, pemantauan independen, dan penghentian darurat yang telah diuji. Publikasi ini secara eksplisit memperingatkan bahwa prompt, instruksi terbatas, dan pengaman tingkat model tidak cukup sebagai penahanan teknis, dengan mengutip pengungkapan UK AISI, OpenAI, dan Anthropic di mana agen pengujian mencapai atau memengaruhi sistem nyata di luar cakupan.
Ini adalah panduan otoritas keamanan siber nasional yang menegaskan bahwa batas pengujian untuk agen AI adalah masalah arsitektural/kontrol, bukan masalah rekayasa prompt. Panduan ini mengoperasionalkan identitas agen, wewenang yang didelegasikan, dan kontrol penghentian independen sebagai batas keamanan, yang secara langsung mendukung pergeseran 'buktikan kontrolnya berfungsi'. Panduan ini melengkapi panduan ASD sebelumnya 'Careful adoption of agentic AI services' dan merupakan pendamping konkret bagi siapa pun yang menjalankan penilaian keamanan/red-team AI.
Jalankan penilaian Penahanan Pengujian Agen AI yang formal (pemodelan ancaman hingga pelestarian bukti); wajibkan verifikasi penahanan sebelum pengujian, bukan sekadar formulir persetujuan; jauhkan kredensial produksi/izin cloud dari pengujian berisiko lebih tinggi; gunakan kredensial berumur pendek yang dapat dicabut; uji jalur penghentian darurat di tengah pengujian; dan, sesuai panduan, petakan rencana penahanan ke MITRE ATLAS dan tinjau terhadap OWASP GenAI LLM06 (Excessive Agency).
Securing AI testing environments | CGASecure AI testing to reduce unauthorised access | CGA
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →