从助手到攻击与战争的放大器:AI已越过安全临界点了吗?(3)

2026-09-15 09:19  人工智能学家

真正的竞赛是治理速度

更棘手的是,AI安全正在形成递归竞争。

攻击者用AI寻找漏洞和绕过机制,防御者再用AI识别异常、生成补丁和改进监控,双方速度都在提高。

这种"AI对AI"的局面意味着,仅靠更强模型无法自动解决风险。技术防线必须与责任制度、第三方评估、行业情报共享和跨国协调同步,否则能力增长会持续跑在规则前面。

是否应该放慢最前沿模型的开发、如何测试高风险能力、如何防止安全规则变成竞争壁垒,正在成为新的全球分歧。

真正决定AI时代走向的,未必是某个模型何时达到AGI,而是社会能否建立一套足够快的治理机制,让能力扩张与责任扩张同步。

AI的"iPhone时刻"也许仍在前方,但它的安全临界点已经到来。下一阶段最重要的问题,不再只是AI还能做什么,而是哪些能力应该被释放、由谁决定、出了问题又由谁承担后果。