
五、如果减速本身错了,谁负责
安全讨论有一个惯常的偏差:我们非常习惯追问"继续加速、出了事故怎么办",却很少同样认真地追问,如果减速本身是错的怎么办。
假设AI能够更早发现癌症疗法、加速新药研发、提高生产率。如果一个治理体系出于风险规避把这些能力整体推迟五年,那些没有发生的收益同样是成本,只是不会在第二天出现在新闻标题上。一场因AI引发的事故很容易被统计;一个因为疗法晚到两年而没能等到的人,进不了任何统计表。这就是Cost of Action与Cost of Inaction的不对称。
Amodei并不回避这一点:他认为AI可能在五到十年内治愈大多数重大疾病,也认为建设得太快是鲁莽的,而完全不建设会把技术优势让给威权国家。他的答案是慢下来但用好争取到的时间,并强调pacing如果不换来对齐、可解释性与运营能力的实质进展,就是一次空转。这个限定条件意味着减速本身并不自动获得道德豁免:一套负责任的制度不能只有刹车,它还必须回答谁有权踩刹车、踩多深、踩多久,以及踩错了由谁承担。速度从来不只是技术参数,它也是一种资源配置。
六、同样的半年,对不同主体并不相等
假设监管要求所有frontier AI公司增加半年安全测试,表面上完全公平:所有人都等半年。
实际并非如此。一家拥有数百亿美元现金与成熟基础设施的企业可以承受半年;一支融资尚未完成、现金只够运行十二个月的团队可能因此消失。一套价值数千万美元的合规与评估体系,对大型企业是成本,对新进入者接近准入禁令。embedded evaluators也带有这种性质:能为外部团队提供工位、门禁、法务安排与长期配合的企业,本来就只有那么几家。所以政治经济学关心的从来不是规则是否平等,而是相同的规则作用在不平等的主体上会产生什么结果。
这并不意味着安全主张出于垄断动机。把它写成"AI巨头借安全建立护城河"既不准确,也没有分析价值。更准确的表述是:一个安全主张完全可能是真诚的,同时它所形成的制度安排也可能客观改变市场进入成本与竞争结构,两者之间没有逻辑冲突。Sacks对反垄断豁免的抵触触及的正是这一层--当安全标准由已经领先的企业参与制定,它同时也是竞争规则。成熟的分析不该靠猜测动机,而应该问:这套制度最后改变了谁的权力,成本落在谁身上。
七、航空业的经验不是"飞机发展得更慢"
Amodei在文章中提到商业航空,作为复杂系统可以被反复安全运行的例证。这个类比成立,但它指向的结论比减速更具体。今天全球每天有数万架次航班起降,这不是靠让飞机技术永远发展得更慢换来的,也不来自某一个戏剧性的转折点,而是半个多世纪里一层层叠加出来的:1926年《航空商务法》要求联邦调查航空事故;1958年《联邦航空法》设立联邦航空局,统一空域与适航管理;1967年国家运输安全委员会成立,作为独立机构置于新设的运输部之内;1974年国会再次立法把它彻底移出运输部,理由是负责调查的机构必须与负责监管和推广的机构完全分离,否则无法客观地指出制度本身的缺陷。
值得注意的是,NTSB至今没有监管权,它只调查、只发布原因认定与建议,改不改由监管机构和产业决定。安全体系的力量不在于能否叫停技术,而在于事故原因能否被独立查清并公开。围绕这一点,行业逐步建立起适航认证、维修周期、空管体系、飞行员资质、冗余设计、强制报告机制与清晰的责任追溯链条--它们约束的不是能力上限,而是能力进入现实的方式。










