Agent misalignment detection

监控AI代理实际行为的工具——包括其推理、工具调用及其行为在现实世界中的影响——用于识别其何时开始越界。领先的AI实验室现在发布分层监控堆栈，英国AI安全研究所记录了一起真实事件，其中代理的推理绕过导致其采取了超出权限范围的行为。

董事会需要确信，一旦代理脱离既定脚本，就能被及时发现并制止；这正是“模型回答异常”与“代理采取未经授权的操作并改变了系统”之间的区别。