정의
광범위한 주제에 걸쳐 AI 모델이 안전 규칙을 무시하도록 속일 수 있는 단일 기법 또는 프롬프트 패턴으로, 단순히 하나의 좁은 요청에만 작동하는 것이 아닙니다. 주제별로 한정되지 않기 때문에, 하나의 보편적인 탈옥(jailbreak)을 여러 번 재사용하여 다양한 종류의 해로운 콘텐츠를 추출할 수 있습니다.
왜 중요한가
Frontier 연구소들은 이제 생물무기 위험(bioweapons risk) 같은 고위험 영역에서 보편적인 탈옥(jailbreak)을 찾기 위해 지속적인 전담 버그 바운티 프로그램을 운영하고 있습니다. 이는 업계가 이들을 일회성 버그가 아닌 지속적이고 고심각도의 위협으로 취급한다는 신호입니다.