Penjelasan teknis
Audit menunjukkan prompt injection hadir dalam 73% dari deployment AI produksi; injection tidak langsung (berbasis data) kini menyumbang >80% dari percobaan serangan enterprise yang terdokumentasi. OpenAI secara publik telah mengakui bahwa masalah ini tidak mungkin sepenuhnya dieliminasi.
Vektor serangan
Manipulasi prompt langsung dan injection tidak langsung melalui dokumen beracun, halaman web, dan output tool yang dikonsumsi sebagai data terpercaya oleh agent.
Sistem yang terdampak
Semua aplikasi dan agent berbasis LLM; sangat kritis untuk agentic AI dengan akses tool yang luas.
Mitigasi
Terapkan batasan instruksi/data; sandbox invokasi tool; terapkan least-privilege ke scope tool; monitor untuk anomali perilaku; red-team secara berkelanjutan.