核酸合成スクリーニング回避のための生物学的ツール使用に関する大規模言語モデルエージェントのテスト

RANDのAI、セキュリティ、技術センターは、大規模言語モデル(LLM)エージェントが生物学的ツール(BT)を悪用してペプチドとタンパク質を再設計し、主要なバイオセキュリティ対策である核酸合成スクリーニングを回避する方法について評価する新しい研究報告書を発表しました。著者らは、「LLMエージェントは核酸合成スクリーニング回避のためにBTを使用する新興的能力を示しており、ただし成功は一貫性がなく、モデルセーフガードは頻繁にクローズドウェイト系の試験を制限する」と述べています。これはRANDのオンゴーイングなバイオセキュリティ脅威モデルワークストリームに基づいている査読済みのRAND研究報告書(2026年8月11日発表)であり、2026年6月の初期評価「LLMエージェントは生物学的ツールを選択して関与できるか?」のフォローアップです。この報告書は、一般的な機能ベンチマーク設定ではなく、特定の脅威モデル——エージェント的悪用が危険なバイオデザインの専門知識障壁を低下させる——を評価しています。

これは、エージェントAIシステムがバイオセキュリティスクリーニングインフラを回避することに関連する能力を示し始めていることの直接的で経験的な信号であり、フロンティアラボのセーフガード設計、国家バイオセキュリティ政策、およびデュアルユース研究の監督決定に情報を提供します。

フロンティアラボおよびバイオセキュリティ政策チームは、エージェント的悪用に対するクローズドウェイトセーフガードの有効性を確認し、核酸合成スクリーニングギャップについてリスク委員会に説明する必要があります。