Era Model Dunia dan Kecerdasan Spasial: Mengatur AI Melampaui Bahasa

Stanford HAI menerbitkan agenda tata kelola dan kebijakan pertama sejenis untuk 'model dunia' — sistem AI yang membangun representasi kerja dari lingkungan fisik untuk memprediksi bagaimana perubahannya sebagai respons terhadap tindakan (jalur teknis menuju 'kecerdasan spasial'). Temuan kunci singkat: tidak ada tolok ukur yang ada memberikan pembuat kebijakan dasar yang memadai untuk mengevaluasi model dunia untuk penyebaran yang aman secara kritis; kebijakan yang dibangun untuk konten yang dihasilkan AI dan pengambilan keputusan otonom 'tidak sepenuhnya mengatasi profil risiko model dunia' karena pertanyaan yang membedakan adalah apakah lingkungan simulasi cocok dengan kenyataan fisik cukup dekat untuk melatih, menguji, atau membimbing keputusan di dunia nyata; dan masukan yang paling langka — data interaksi berlabel tindakan seperti lintasan robot dan log armada — tidak dapat dipanen dari web, berisiko kontrol terkonsentrasi oleh beberapa pemain yang sudah ada. Para penulis (Daniel Zhang, Russell Wald, Ehsan Adeli, Elena Cryst, Daniel E. Ho, Caroline Meinhardt, Jiajun Wu, Amy Zegart, Li Fei-Fei) menetapkan tiga prioritas tata kelola: akses luas terhadap teknologi, perlindungan yang disesuaikan dengan bagaimana dan di mana sistem digunakan, dan kapasitas publik untuk mengevaluasi sistem ini secara independen. Singkat ini menandai implikasi keamanan nasional guna rangkap, berpendapat model dunia dapat mengurangi biaya sistem otonom yang mampu dan membuka keuntungan militer untuk peserta yang kurang sumber daya.

Ini adalah kerangka kebijakan substantif pertama yang mengatasi kesenjangan tata kelola untuk kelas kemampuan AI yang muncul (model dunia/kecerdasan spasial, misalnya sistem robotika dan simulasi) yang regulasi agen konten dan otonom AI saat ini tidak mencakup — dewan dan tim kebijakan yang mengawasi investasi AI robotika, simulasi, atau perencanaan infrastruktur perlu mengantisipasi kerangka ini sebelum regulator mengejar.

Singkat tim kebijakan dan produk yang bekerja pada robotika, simulasi, atau AI terwujud di tiga prioritas tata kelola singkat dan menilai di mana data-moat dan kesenjangan tolok ukur validasi berlaku untuk penyebaran saat ini atau yang direncanakan.