AI加速时代安全正在掉队吗?一文告诉你答案!(3)

2026-09-07 13:44  第一财经

帕乔基写道,目前没有任何实验室将AI的对齐和监控做到足够可靠,以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前,各家实验室能够自愿放慢发展速度,并呼吁各国政府把国际协调提升为优先事项。

这份担忧并非针对某一个具体漏洞,而是针对一个更加根本的速度差:模型能力正在快速提升,但人类理解、监控和约束这些系统的能力未必同步。

这与OpenAI6日公布的研究加速数据形成直接呼应。公司一方面正在用Agent加快AI研发,同时承认无法假设对齐和安全能力一定能够追上模型能力,且更强大的系统可能更难监控。如果未来AI能够参与设计、训练和改进下一代AI,这个差距还可能进一步扩大。

基于此,帕乔基认为,随着机器智能进入新的发展阶段,仅依靠单个AI公司的内部机制可能不足以解决风险,需要更广泛的制度性干预,包括共同的安全标准和国际协调。