フロンティアAIエージェントと生物学的ツール：予備的リスクと考慮事項

Frontier Model Forumは、ますます自律的になるフロンティアAIエージェントとAI対応生物学的ツール（生物学的基盤モデル、専門的分析ツール、自動化ラボワークフロー）の組み合わせが、いずれかの技術単独では存在しない新規の生物防御リスクをどのように導入する可能性があるかを検討する新しいイシューブリーフを公開しました。このブリーフでは、懸念の2つの予備的カテゴリー（高度な生物学的能力への参入障壁の低下と、悪意のある行為者が達成可能な危害の上限の引き上げ）の概要を示し、エージェント型AI-生物の組み合わせに固有の評価方法論、技術的対策、監視に関する予備的考慮事項を提示しています。これはFMFメンバー企業の議論とより広い生物安全性/生物防御専門家コミュニティから得られており、FMFの既存のAI-生物悪用タクソノミーの研究に続くものです。

フロンティアラボがエージェント型システムを専門的な生物学的AIツールとともにますますデプロイするにつれて、このブリーフは、リスク、安全性、および生物防御チームに、既存のほとんどのフロンティア安全フレームワークが単独でのみ対処する脅威の組み合わせを評価するための初期フレームワークを提供します。

組織のAIリスクタクソノミーにおけるエージェント型AI+生物学的ツールの組み合わせをマップし、内部評価実践をFMFの提案された考慮事項と比較検討してください。