Guardrail-based vulnerability discovery

利用人工智能模型自身的安全拒绝——即它停下来并说“我不应该这样做”的时刻——作为寻找系统弱点的线索。安全研究人员和攻击者都可以阅读这些拒绝，以定位组织防御最薄弱之处。

它颠覆了护栏仅仅是限制器的假设；每一次拒绝都可能泄露关于防护最薄弱位置的信息，因此，那些可能减缓攻击者的护栏，也可能同时为他们提供信息。