Kedua istilah berpusat pada pengungkapan tidak disengaja informasi AI internal yang sensitif: kebocoran data telemetri AI mencakup eksposur melalui kebocoran system prompt dan saluran telemetri, sementara serangan overthinking dapat secara serupa menyebabkan kebocoran system prompt melalui jejak reasoning yang dimanipulasi. Ini menunjukkan bagaimana data monitoring operasional dan proses reasoning dapat menjadi vektor untuk membocorkan informasi sistem AI rahasia.
Topik glosarium
Data & Prompt Leakage in AI Systems
Istilah dalam topik ini
Pantau di umpan langsung
Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.
Buka umpan →