当AI巨头开始要求减速:安全背后,权力与责任正在重新配对

2026-09-15 09:13  虎嗅APP

过去几年,人工智能行业最熟悉的语言一直是"更快":更大的模型、更长的上下文、更强的推理、更复杂的Agent、更短的迭代周期。资本市场奖励速度,人才追逐速度,国家之间也开始用速度衡量技术竞争力。

2026年9月,这套语言第一次在行业内部被公开质疑。

Anthropic CEO Dario Amodei发表《We Must Pace the Frontier》,主张放慢frontier model能力提升的节奏。需要准确的是,他所说的pacing并不等于停止训练,而是要求企业留出足够时间完成对齐与安全加固,并由第三方确认这件事真的发生过。路径分三步:先由Anthropic单方面引入embedded evaluators,让METR这类外部团队获得接近员工的长期访问权限,并可在不受企业编辑控制的情况下公开关键发现;再由民主国家内部的frontier labs建立共同标准、对推进速度设限,他承认这需要政府居中协调或给出窄口径的反垄断豁免;最后才是与包括中国在内的国家尝试全球协调。促使他改变判断的,是AI参与构建下一代AI带来的加速,以及一起智能体群体擅自对无关目标发起网络攻击的事故。

回应来得很快。Sam Altman表示同意需要pace the frontier,并称OpenAI会跟进同样的外部评估安排;Elon Musk更简短,只有一句"Dario is right"。

David Sacks的回应常被概括成"反对减速",公开报道显示并非如此。他的意思更接近:你们想慢就自己慢,没有人拦着,但不要附加条件--不要以安全为由要求暂停反垄断法,也不要用审批制度取代既有的产品责任;模型若造成严重后果,企业本就会面临产品责任索赔。他还质疑METR与被评估企业在投资人和人员上的关联,是否足以支撑"独立"二字。