当AI巨头开始要求减速:安全背后,权力与责任正在重新配对(3)

2026-09-15 09:13  虎嗅APP

二、1975年Asilomar:知识如何变成规则制定权

1974年7月,Paul Berg领导的美国国家科学院重组DNA分子委员会发表了一封公开信,后来常被称为"暂停信"。准确地说,它并没有要求停止重组DNA研究:信中明确指出大量实验可以继续,只把几类风险不明的实验列为应当自愿推迟的对象,并呼吁召开一次国际会议。Berg本人后来也强调,他们从未要求全面中止。

1975年2月下旬,约140名专业人士(以生物学家为主,也包括律师和医生)与十余名记者在加州Asilomar会议中心讨论了四天。产出不是禁令,而是一套按风险分级、匹配不同物理与生物隔离措施的原则,研究随后在更严格的条件下恢复。1976年6月,美国国立卫生研究院据此发布了重组DNA研究指南。这里有一个很少被提起的细节:该指南的强制力来自经费,它约束接受联邦资助的研究,对不依赖联邦经费的私营部门并无同等效力。规则的边界由资金杠杆决定,而不是由风险的边界决定。

Asilomar常被赞美为科学家自律的典范,它更值得注意的是另一重含义:当时最有能力判断风险的人,恰恰是创造风险的人。政府不了解重组DNA,公众更不了解,社会要建立规则,首先必须请教科学家危险在哪里、哪些实验应当停下。知识由此变成了另一种东西:Epistemic Power--谁最早理解风险,谁就最先获得定义风险的能力,也就在事实上参与了规则的起草。

今天的结构相似,规模不同。1975年站在信息高地上的还是学术共同体,今天掌握最前沿能力细节的,是拥有巨额资本与国家战略价值的私人企业。embedded evaluators正是对这个问题的回应,Sacks质疑METR的独立性则是同一问题的另一面。Asilomar没有替今天解决的是:当监管者必须依赖被监管者才能知道该监管什么,社会如何使用这种知识,又不把定义规则的权力整体交还给技术的制造者。