何が起きたか
2026年11月12日、ASD/ACSCは新しいガイダンス出版物『Securing AI testing environments』を公開しました(ニュース項目『Secure AI testing to reduce unauthorised access』でも発表)。これは、AIモデル/エージェントがコード実行、ツール、認証情報、ネットワークアクセスを持つ場合、またはモデルレベルの保護が軽減/無効化されている場合の、より高リスクなテストに対処しています。AIテストハーネス(統制、ツール、監視、ワークフロー、支援インフラ)を定義し、ライフサイクルを設定しています:隔離と強化、検証と制約、監視と停止、そして改善——専用インフラ、分離された管理プレーン、制限された接続、短命な認証情報、独立した監視、テスト済みの緊急シャットダウンに支えられています。また、プロンプト、範囲指定された指示、モデルレベルの保護は技術的な封じ込めとして十分ではないと明示的に警告し、テストエージェントが範囲外の実システムに到達または影響を与えたUK AISI、OpenAI、Anthropicの開示を引用しています。
なぜ重要か
これは、AIエージェントのテスト境界がプロンプトエンジニアリングの問題ではなく、アーキテクチャ/統制の問題であることを確認する、権威ある国家サイバー当局のガイダンスです。エージェントのアイデンティティ、委任された権限、独立した停止統制をセキュリティ境界として具体化し、『統制が機能することを証明する』シフトを直接支援します。ASDの以前の『Careful adoption of agentic AI services』を補完し、AIレッドチーム/セキュリティ評価を実施するすべての人にとって具体的な伴走者です。
必要な対応
正式なAIエージェントテスト封じ込め評価(脅威モデリングから証拠保存まで)を実施する。承認フォームではなく、テスト前の封じ込め検証を要求する。高リスクテストでは本番認証情報/クラウド権限を保持しない。短命で取り消し可能な認証情報を使用する。テスト中に緊急シャットダウンパスをテストする。また、ガイダンスに従い、封じ込め計画をMITRE ATLASにマッピングし、OWASP GenAI LLM06(Excessive Agency)に対してレビューする。