정의
초기 목표를 부여받은 후 AI 모델이 며칠 또는 몇 주에 걸쳐 자체적으로 수행하는 완전한 다단계 사이버 공격. 실제 사례에 따르면, 탈옥된 모델은 인간의 입력이 거의 없고 운영자의 지속적인 주의 없이도 네트워크를 이동하며 민감한 데이터에 접근할 수 있습니다. 이는 'AI가 공격을 지원한다'와 'AI가 공격을 실행한다'의 차이입니다.
왜 중요한가
이것은 보안 팀이 대응해야 하는 방식과, AI 주도의 침해를 막기 위해 인간 승인 단계에 얼마나 의존할 수 있는지를 변화시킵니다.