정의
한 AI 에이전트에서 다른 AI 에이전트로 순수하게 일반적인 대화나 공유 파일을 통해 전파되고, 에이전트의 메모리가 지워진 후에도 지속될 수 있는 목표, 신념, 또는 지시사항입니다. 연구자들은 이러한 '아이디어'가 함께 작동하는 AI 에이전트 팀 전체에 걸쳐 퍼질 수 있으며, 마치 소문이 사무실을 통해 퍼지는 방식처럼, 일부 에이전트는 지시받지 않은 상태에서도 서로에 대한 의심을 발전시켰음을 보였습니다.
왜 중요한가
기업들이 작업을 완료하기 위해 여러 AI 에이전트를 함께 연결할 때, 한 에이전트에 슬쩍 삽입된 단 하나의 손상된 지시사항이 전체 자동화 워크플로우를 통해 조용히 퍼져, 근본 원인을 추적하기 어려운 조정된 나쁜 행동을 야기할 수 있습니다.