当AI巨头开始要求减速:安全背后,权力与责任正在重新配对(4)

2026-09-15 09:13  虎嗅APP

三、1945年之后:决定权如何离开实验室

原子能提供了一条更剧烈的路径,但需要把两件事分开看。

对内,权力转移真实发生了。1946年8月1日,杜鲁门签署《原子能法》(McMahon法案),自1947年1月1日起,原子能的控制权从军方移交给新设立的原子能委员会,曼哈顿计划留下的工厂、实验室与人员被整体纳入一个文官机构。科学家在立法过程中影响很大--正是他们反对军方主导的方案--但法案通过后,决定权落在了委员会,而不是实验室。

对外,尝试失败了。1946年3月的Acheson-Lilienthal报告建议设立国际"原子能开发署",垄断从铀钍开采到裂变材料生产的全部危险环节;同年6月14日,Bernard Baruch在联合国原子能委员会提出修改后的版本。苏联认为该方案会长期固化美国的核垄断,年底明确拒绝,国际共管从未建立起来。

把这段历史用于AI需要收窄而不是放大。核武器依赖少数国家才能掌握的裂变材料与庞大工业设施,可以在物理上被计数和封锁;AI的能力分散在算法、权重、算力与大量商业部署之中,绝大部分用途良性。二者不是同类技术,可比的只是治理结构的演化方向:当一种能力的后果超出创造它的主体所能承担的范围,决定权会从创造者向国家转移,而向国际层面的转移要困难得多。

Amodei的三步结构大致重复了这条路径,难度依次递增,他自己也承认第三层最不可能在短期内实现。更关键的是,他把"民主国家能减速多少"与"美国相对中国的领先幅度"直接挂钩,并主张继续限制先进芯片流向中国、打击未经授权的模型蒸馏、加强模型权重安全。在这份方案里,AI Safety从一开始就不是孤立的安全议题,它同时是产业政策与国家安全议程的一部分。Trump的反对因此不难理解:他的目标函数不是模型安全,而是美国的国家能力。于是两个方向都有责任问题--不减速而出事,谁负责;减速而失去战略位置,又是谁负责。

四、2008年之后:私人失败如何变成公共后果

金融危机提供了第三面镜子。危机之前,金融机构自行决定杠杆水平、资产结构与贷款标准,收益归公司与股东;危机之后人们发现,某些机构的失败无法只由自己承担。

"Too Big To Fail"由此进入公共讨论。其中的结构性矛盾常被概括为"收益私人化、损失社会化"--这是后来对整段历史的归纳,而非当年某个人的原话,但它准确描述了道德风险的形态:一家相信自己最终会被救助的机构,不会充分承担自身行为的社会成本,还获得了相对中小机构的不公平优势。2010年《多德-弗兰克法案》的回应不是让所有机构一起变慢,而是按系统重要性分配义务:识别系统重要性机构,施加更高的资本与压力测试要求,并建立有序清算机制。

把AI公司直接类比银行没有意义,两者的资产负债表和失败模式完全不同。可以提炼的是另一件事:Too Consequential to Self-Govern。当一家企业的决定足以影响就业市场、金融系统、国家网络安全与关键基础设施,它还在多大程度上只是一个普通的产品提供商?

如果答案是"仍然是",Sacks的逻辑相当有力:你的产品,你自己负责;你认为危险,你自己慢;产品责任与市场会完成剩下的惩罚,不需要整个社会替你承担协调成本。如果答案是"已经不完全是",Amodei的问题同样无法回避:一家企业为安全推迟半年,竞争者用这半年取得决定性优势,市场究竟是在奖励谨慎还是惩罚谨慎?这是标准的集体行动困境,每一家企业的选择都可以是理性的,系统仍然可能滑向没有人希望看到的结果。

所以真正的分歧并不在"监管还是自由市场",而在两个约束如何同时满足:让制造风险的人承担足够责任,同时不让"安全"本身变成重新定义行业准入条件的工具。