Definisi
Ini adalah teknik di mana penyerang membandingkan model AI standar dengan versi 'reasoning' yang dilatih darinya, menggunakan perbedaan dalam cara model reasoning 'berpikir' untuk mengekstrak informasi tersembunyi yang seharusnya tidak pernah diungkapkan model — hingga 10 kali lebih efektif daripada metode sebelumnya. Teknik ini memanfaatkan langkah-langkah reasoning internal tambahan yang membuat model AI modern lebih cerdas sebagai sumber kebocoran informasi yang baru.
Mengapa penting
Seiring perusahaan terburu-buru untuk menerapkan model AI 'reasoning' yang lebih canggih, hal ini menunjukkan bahwa kecerdasan tambahan dapat hadir dengan risiko kebocoran data yang baru, lebih sulit diantisipasi, yang mungkin terlewatkan oleh pengujian keamanan standar.