2026年新加坡全球人工智能安全研究优先事项共识

第二届国际人工智能安全科学交流会(ISESEA II)由新加坡信息通信媒体发展局(IMDA)和人工智能安全研究所与来自13个国家的100多名贡献者共同主办——涵盖前沿实验室(OpenAI、DeepMind、Anthropic、Meta)、政府安全研究机构(英国AISI、韩国人工智能安全研究所、欧盟人工智能办公室)以及学术界(Yoshua Bengio、Stuart Russell、Dawn Song)——发布了2026年版本的新加坡全球人工智能安全研究优先事项共识。在2025年报告的基础上,2026年版本增加了第四个支柱,专门致力于社会韧性,以及一份配套报告,特别针对日益自主的人工智能代理的风险。该报告提出了一项全球技术研究议程,旨在在智能体能力扩展时指导前沿人工智能生态系统的安全研究投资。这是迄今为止最广泛的跨国科学共识文件,在人工智能安全研究优先事项上达成一致,连接了美国、中国和欧洲的技术安全社区。

这是最接近全球人工智能安全研究技术路线图的东西,同时跨越美国、中国和欧洲的前沿实验室和安全研究机构——首席信息安全官和安全负责人应将其内部研究议程与其四个支柱进行对标,特别是新增的智能体风险和社会韧性部分,以对标该领域领先技术安全社区的工作方向。

向技术人工智能安全和红队测试团队简要介绍四个支柱(特别是新增的智能体风险和社会韧性部分),并评估内部研究工作与共识优先事项的一致性。