当AI巨头开始要求减速:安全背后,权力与责任正在重新配对(6)

2026-09-15 09:13  虎嗅APP

这可能正是今天AI争论里仍然薄弱的一环。减速可以买到时间,但时间本身不是安全架构。一年之后模型继续变强怎么办,五年之后呢?如果每一次能力跳跃之后唯一能想到的办法都是再次要求全行业放慢,那么缺的不是时间,而是独立于能力增长之外的Boundary、Verification、Accountability与Liability。Sacks主张用产品责任而不是审批制约束AI,本质上也在讨论这一层,只是他更相信事后追责,Amodei更相信事前验证。

八、他们在回答三个不同的问题

回头看Amodei、Sacks与Trump,他们看起来在争论同一件事,实际不是。Amodei问的是系统性风险:能力推进快于安全能力,出了事故谁负责。Sacks问的是市场与监管结构:企业把风险控制成本转移给整个行业、并借监管形成竞争壁垒,谁负责。Trump问的是国家竞争:美国因为谨慎而失去相对中国的技术优势,谁负责。

还有一些同样合理、但暂时没有发言位置的问题。创业者可以问:由在位者参与制定的安全标准让我根本无法进入市场,谁负责。劳动者可以问:所有企业继续加速,而我的工作在两年内消失,谁负责。患者可以问:过度谨慎让一种本可更早出现的疗法晚了五年,谁负责。

这些问题无法用"支持加速"或"支持减速"来回答,因为它们讨论的并不是同一个变量。它们共同指向一次社会契约的重新谈判。

结语:从技术竞争进入制度竞争

1975年的分子生物学家遇到过这个问题,1945年之后的核科学家遇到过,2008年的金融体系为它付出过巨大代价。今天轮到AI。

这一次值得记录的,既不是"AI巨头自己也害怕AI了",也不是"他们在借安全修护城河"。真正的变化更结构性:过去由企业单独持有的技术能力、商业收益与决定权,正在因为公共后果的扩大而承受责任重新配对的压力。Responsibility is catching up with Authority。

但这句话必须双向成立。一旦社会开始重新分配责任,也就必然重新分配决定权;而当政府或公众获得更多刹车权之后,它们同样要为踩错刹车负责。这不是一次单纯的监管扩张,而是Authority、Responsibility、Risk与Benefit之间的重新组合--四者过去在同一个主体内部闭合,现在正被拆开。

过去几年我们一直在问AI还能变得多聪明,接下来的问题会变成:谁有资格决定这种能力何时出现、以什么方式进入社会、又能获得多大的现实权力。

AI并没有因此慢下来,它只是跨过了另一条边界--从技术竞争进入制度竞争。而制度竞争最终要回答的,始终是三个更古老的问题:谁有权踩下油门,谁有权踩下刹车,以及方向错了的时候,谁来负责。