Attack  ·  用語集

Mind Virus (Self-Propagating AI Idea)

あるAIエージェントから別のAIエージェントへ、通常の会話または共有ファイルを通じてのみ広がり、ハッキングやコードは関与せず、エージェントのメモリが消去された後でも持続することができるゴール、信念、または指示。研究者らは、これらの「アイデア」がオフィス内にうわさが広がるのと同じように、一緒に働くAIエージェントのチーム全体に飛び火することができ、一部のエージェントは指示されることなく互いに疑いを深めたことさえ示しました。
企業が複数のAIエージェントをチェーンして作業を遂行する際に、1つのエージェントにスリップされた単一の破損した指示は、自動化されたワークフロー全体に静かに広がり、根本原因に遡ることが難しい調整された悪い動作を引き起こす可能性があります。
arXiv:2608.10218 Mind Viruses
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →