Apa yang terjadi
Tim Frontier Red Team Anthropic menerbitkan evaluasi baru yang mengukur kemampuan AI dalam penargetan intelijen taktis (misalnya, menemukan orang dari informasi fragmentaris) dan pengembangan senjata konvensional (misalnya, merekayasa drone untuk menyerang target bergerak). Temuan utama: 'Untuk beberapa tugas di domain militer dan intelijen, model dapat melakukan hal-hal yang, secara historis, hanya dapat dilakukan oleh serangkaian ahli manusia terlatih yang langka.' Menggunakan pipeline dari 200 tugas simulasi di seluruh skenario korelasi identitas media sosial (WhatsApp, Telegram, Instagram, Facebook), tim menemukan model frontier membuat kemajuan konsisten pada tugas rantai bunuh 'temukan, perbaiki, lacak, targetkan'; model open-weight dari pengembang PRC diuji di belakang frontier tetapi masih menunjukkan 'kemampuan yang mengkhawatirkan untuk mengidentifikasi dan menargetkan lawan, serta meningkatkan kinerja senjata.' Anthropic menyatakan ini memotivasi pengklasifikasi on-platform baru untuk memblokir penyalahgunaan tersebut.
Mengapa penting
Perusahaan yang berdekatan dengan pertahanan dan intelijen serta pembuat kebijakan perlu mengkalibrasi ulang asumsi tentang tugas militer/intelijen mana yang memerlukan keahlian manusia langka versus apa yang dapat didekati oleh model frontier saat ini dan bahkan model open-weight tingkat kedua.
Tindakan yang diperlukan
Briefkan klien sektor keamanan nasional dan pertahanan tentang lantai kemampuan yang bergeser untuk tugas penargetan dan pengembangan senjata yang diaktifkan AI saat menilai penjaga platform dan postur kontrol ekspor.