何が起きたか
10月28日、CrowdStrikeは「AIガードレールが脆弱性を露呈するとき」を公開し、ガードレールベース脆弱性発見（GbVD）を説明した。モデルのガードレール拒否（またはモデルダウングレード、フィルタリング、推論中断による遅延/トークン/出力形状の摂動）を局所的な脆弱性シグナルとして扱い、バイセクションと組み合わせてトリガーを特定する。5つの脆弱性クラスを対象とした制御テストでは86シナリオ中73で正しく、CVDプログラムを通じて開示された実際のオープンソースプロジェクトでも有効性が確認された。
なぜ重要か
LLM安全ガードレール — 通常は制限要因と見なされる — を、防御者と攻撃者が脆弱性を見つけるために読み取れる攻撃的シグナルとして再定義し、安全機能をバグ発見技術に変える。セキュリティチームにフロンティアモデルでコード脆弱性を探すための新しく、ハーネス非依存の方法論を提供する。
適用範囲
LLM支援脆弱性発見を探求するAppSecおよびレッドチームは、この方法論と、モデルが「気づく」クラスを見つける傾向を研究すべきであり、同時に同じシグナルが攻撃者にも利用可能であることに留意すること。