何が起きたか
RANDのAI、セキュリティ、および技術センターは、最先端のオープンウェイトLLMが悪意のある生物学的目的で改変可能かどうかをテストし、抗拒否改ざん、機能強化、および公開されている無修正モデルバリエーションを検査しました。主要な調査結果：LLMの安全性トレーニングを削除することは「非常に実行可能」であり、LLMの生物学的機能をベースラインを超えて強化することはより困難です。カスタム生物防御評価は、機能向上なしで安全性削除だけでも、現実的なバイオウェポンズの脅威経路を支援できることを示唆しています。
なぜ重要か
オープンウェイトと閉じたウェイトのAIリリースポリシーの議論と輸出管理の議論に直接情報を提供します。セキュリティおよびポリシーリーダーは、モデルリリースセーフガードに関する決定のためにこの証拠ベースが必要です。
必要な対応
オープンウェイトモデルのリリースまたはデプロイメントについて、抗改ざんセーフガードに関する国家安全保障および信頼とセーフティチームをブリーフしてください。