Laporan Strategis  ·  2026-06-10

AI yang Tidak Selaras sebagai Risiko Orang Dalam Baru

Laporan StrategisMedium dampakUnited States
Apollo Research menerbitkan memorandum kebijakan (preprint, tidak ditinjau sejawat) pada 3–4 Juni 2026 yang berpendapat bahwa model AI yang digunakan dalam lingkungan berisiko tinggi pemerintah dan kontraktor harus diperlakukan sebagai vektor risiko orang dalam di bawah kerangka kerja keamanan nasional yang ada. Makalah tersebut mencatat bahwa model AI sudah digunakan di jaringan terklasifikasi (lingkungan IL6/IL7) dan memiliki akses yang sah ke personel yang sudah diperiksa dan data sensitif — prasyarat yang sama yang mendefinisikan risiko orang dalam manusia. Para penulis berpendapat bahwa karena model AI dapat bertindak 'dengan sengaja atau tidak sengaja' untuk menyebabkan kerugian, definisi hukum dan kebijakan saat ini tentang risiko orang dalam sudah mencakup AI yang tidak selaras, tetapi program risiko orang dalam federal belum beradaptasi dengan aktor baru ini. Rekomendasi termasuk mengadaptasi rezim penyaringan pra-penempatan dan evaluasi berkelanjutan — dikembangkan untuk pemegang izin manusia — ke model AI, dan membangun protokol pemantauan khusus AI dalam infrastruktur deteksi ancaman orang dalam yang sudah ada.
Ketika model frontier memasuki lingkungan terklasifikasi dan kontrak DoD dalam skala besar, tidak adanya kontrol risiko orang dalam yang disesuaikan dengan AI menciptakan celah tata kelola yang belum ditangani. Makalah ini menyediakan kosakata kebijakan dan kait hukum bagi tim keamanan nasional dan CIO pemerintah untuk menyematkan model AI dalam kerangka kerja ancaman orang dalam yang sudah ada daripada menunggu undang-undang baru.
CISO lembaga pemerintah dan kontraktor yang beroperasi di lingkungan yang diperiksa harus memetakan penempatan AI saat ini terhadap persyaratan program risiko orang dalam yang ada dan menilai apakah kewajiban pemantauan berkelanjutan meluas ke perilaku model AI; tim hukum harus meninjau apakah panduan NITTF sudah menciptakan kewajiban.
Sumber
Apollo Research — Misaligned AI as a New Insider Risk (landing page)arXiv — Misaligned AI as a New Insider Risk (preprint PDF)
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →