何が起きたか
Microsoftは2026年5月20日に、AI エージェント安全性を継続的なエンジニアリング分野として実装するために設計された2つのオープンソースツールをリリースしました。RAMPARTはPyRITに基づいて構築されたテストフレームワークで、レッドチーム調査とAIインシデントを、CI/CDパイプラインで実行される反復可能な安全性テストに変換します。ドキュメント、メール、または他のデータソースから潜在的に汚染されたコンテンツを処理するエージェント向けのクロスプロンプトインジェクション攻撃の成熟したカバレッジを備えています。Clarityは構造化された設計レビューツールで、デスクトップアプリ、ウェブインターフェース、またはコーディングエージェントに組み込まれて実行され、実装開始前にエージェント動作、権限、ツールアクセス、信頼境界に関する仮定を検証するよう開発者に促します。両方のツールはGitHubで利用可能であり、安全性を定期的なチェックポイントから継続的なプロセスへと転換するために設計されています。
なぜ重要か
エージェント型AIシステムはデータを取得し、メールにアクセスし、コードを作成し、接続されたツールを使用するようになりました。これにより、従来のアプリケーションセキュリティが対応するために設計されなかった新しい攻撃面（プロンプトインジェクション、安全でないツール使用、権限昇格）が導入されます。Microsoftのリリースは、AI エージェント向けのソフトウェア開発ライフサイクルに安全性テストを直接組み込むことを目的とした、Tier 1ラボからの初のオープンソースフレームワークであり、ほとんどの現在の安全性作業が哲学的またはフレームワーク指向のままで、運用的に実行可能ではないギャップに対処しています。
必要な対応
エージェント型システムを構築するエンジニアリングリーダーは、既存のCI/CDパイプラインへの統合を評価する際にRAMPARTを検討し、クロスプロンプトインジェクションカバレッジを優先すべきです。CISOは、内部AI レッドチーム調査がリグレッションを防ぐためにRAMPARTテストとしてコード化できるかどうかを評価する必要があります。ガバナンスチームは、Clarityの構造化された設計レビュープロセスが既存のAIリスクレビューチェックポイントとどのように比較されるかをレビューする必要があります。