Apa yang terjadi
Noma Labs menerbitkan penelitian pada 9 September 2026 yang mendeskripsikan 'Workflow Identity Hijacking,' authorization-pattern flaw dalam static enterprise AI workflows di mana identitas peminta dan identitas yang digunakan untuk mengeksekusi downstream actions terpisah. Contoh mereka menunjukkan external support-inbox sender menyebabkan workflow untuk mencari email Finance Director dan mengembalikan quarterly sales data — seluruhnya melalui legitimate model behavior, tidak ada jailbreak yang terlibat.
Mengapa penting
Ini adalah novel, product-agnostic attack class yang berbeda dari prompt injection: karena model tidak dimanipulasi, standard prompt-injection defenses (input filtering, guardrail models) tidak menguranginya. Organisasi mana pun yang menjalankan externally-triggered AI workflows dengan high-privilege service accounts terekspos terhadap unauthenticated data exfiltration atau unauthorized actions.
Vektor serangan
Penyerang mengirimkan ordinary-looking request melalui unauthenticated entry point (support inbox, GitHub issue, web form, shared document, chat message). AI workflow dengan benar menginterpretasi dan menjalankan request, tetapi melakukannya menggunakan otoritas workflow creator atau service account daripada requester — tidak perlu prompt injection atau model manipulation, karena model berperilaku persis seperti yang dirancang.
Sistem yang terdampak
Static enterprise AI workflow/automation platforms secara umum (pattern-level flaw, bukan single product); confirmed instance di Google Workflows
Mitigasi
Propagate authenticated requester identity melalui short-lived, scoped delegation tokens; tambahkan explicit authorization checks antara model output dan tool/data call apa pun; perlakukan model output sebagai untrusted input; pisahkan sensitive data retrieval dari automated external-response paths.