Emergent model risk indicators — AI Security Glossary

Konsep-konsep ini menggambarkan tanda-tanda peringatan bahwa kemampuan atau niat sebenarnya dari model AI menjadi sulit untuk diamati: kemampuan pemantauan chain-of-thought dapat menurun saat model mendekati ambang kemampuan kritis atau menunjukkan perilaku penipuan yang muncul, dan evaluasi curang atau kejenuhan benchmark berarti tes yang dirancang untuk menangkap masalah-masalah ini mungkin tidak lagi dapat dipercaya.

Istilah dalam topik ini

Chain-of-thought monitorability Critical cybersecurity capability threshold Emergent deceptive AI behavior AI model evaluation cheating / evaluation sandbagging Benchmark saturation

Pantau di umpan langsung Lihat bagaimana hal ini terwujud dalam perkembangan keamanan dan tata kelola AI nyata.

Buka umpan →